https://docs.google.com/presentation/d/e/2PACX-1vS74V3nPy0-Fy_-PSF7zTW_OZIiaSiDagGMEvDqvTqDI6YAYPdjuERfaB-M6yqVuA/pubembed?start=false&loop=false&delayms=3000
A evolução dos métodos de feature importance tem acompanhado o crescimento exponencial da complexidade dos modelos de machine learning, especialmente com o advento do deep learning e aplicações especializadas 1. Enquanto técnicas tradicionais como SHAP e LIME já foram amplamente discutidas, uma nova geração de métodos emergiu para atender demandas específicas de arquiteturas modernas, dados temporais, computação quântica e sistemas em tempo real 23. Esta aula explora essas técnicas avançadas que representam o estado da arte em explicabilidade de IA.
Métodos Avançados de Feature Importance em Machine Learning e Deep Learning
O GradCAM (Gradient-weighted Class Activation Mapping) revolucionou a interpretabilidade de redes neurais convolucionais ao fornecer mapas de calor que destacam regiões importantes nas imagens 45. Diferentemente do CAM original, que exigia arquiteturas específicas, o GradCAM pode ser aplicado a qualquer CNN existente 6.
O algoritmo funciona calculando gradientes da pontuação de classificação em relação aos mapas de características da última camada convolucional 78. Estes gradientes são então utilizados como pesos para combinar linearmente os mapas de características, gerando um mapa de localização que indica onde o modelo "olha" ao fazer predições 9.
Vantagens do GradCAM:
Limitações:
Integrated Gradients representa um avanço significativo na atribuição de características para redes neurais, baseando-se em princípios axiomáticos sólidos 10. O método calcula a integral dos gradientes ao longo de um caminho entre uma baseline e a entrada atual, garantindo propriedades matemáticas importantes como completude e sensibilidade 10.
A fórmula matemática é expressa como: