https://docs.google.com/presentation/d/e/2PACX-1vTbAnM8Ny4POb1QK0QGdBbhRm1zFsdrZumCS3mBPclYH1UforQ_e1zLEc_B1wAp0Q/pubembed?start=false&loop=false&delayms=3000

Grad-CAM (Gradient-weighted Class Activation Mapping)

O Grad-CAM é uma das técnicas mais populares e amplamente utilizadas para explicar CNNs78. Funciona através do cálculo dos gradientes da saída de interesse em relação aos mapas de características da última camada convolucional, efetivamente revelando quais partes da imagem o modelo "observa" ao fazer uma predição7.

Processo do Grad-CAM:

  1. Forward Pass: Passa a imagem pela CNN para obter mapas de características e saídas brutas
  2. Seleção da Classe Alvo: Escolhe a classe para explicar (geralmente a classe predita)
  3. Cálculo dos Gradientes: Computa o gradiente da pontuação da classe alvo em relação aos mapas de características
  4. Geração do Mapa de Calor: Combina os gradientes com os mapas de características para criar visualizações interpretáveis8

image.png

Integrated Gradients

O Integrated Gradients é um método de atribuição baseado em gradientes que satisfaz axiomas importantes como completude e sensibilidade910. Ao invés de computar gradientes individuais, ele calcula a média dos gradientes ao longo de um caminho reto de uma linha de base até a entrada real911.

Vantagens:

Saliency Maps e Layer-wise Relevance Propagation (LRP)

Saliency Maps destacam regiões de entrada que são mais importantes para a decisão do modelo, fornecendo uma visão geral das áreas salientes da imagem1213. O LRP propagada pontuações de relevância camada por camada, preservando a propriedade de conservação análoga às leis de Kirchhoff em circuitos elétricos1415.

Métodos Baseados em Perturbação

Occlusion Sensitivity

A Análise de Sensibilidade por Oclusão funciona ocluindo sistematicamente diferentes regiões da imagem e observando como isso afeta a predição do modelo1617. Regiões cuja oclusão causa maior mudança na saída são consideradas mais críticas para a classificação.