https://docs.google.com/presentation/d/e/2PACX-1vQKiWrWbjs-bctw9ix4P5insk6HEeqr1fQ89nzLbUkabYBsraHymN2VkToHapHS7w/pubembed?start=false&loop=false&delayms=3000

O que é XAI (Explainable AI)?

A Inteligência Artificial Explicável (XAI) é uma área emergente da IA que foca na interpretabilidade e compreensibilidade dos modelos de aprendizado de máquina 1. O objetivo principal é tornar os sistemas de IA mais transparentes, permitindo que desenvolvedores e usuários finais compreendam como os modelos chegam às suas decisões 23.

Por que XAI é importante em NLP?

No contexto do Processamento de Linguagem Natural, os modelos modernos como redes neurais profundas e transformers são frequentemente considerados "caixas-pretas" 2. Isso significa que, embora esses modelos possam fazer previsões muito precisas em tarefas como análise de sentimentos, classificação de texto ou tradução, é difícil entender por que uma determinada decisão foi tomada 34.

A explicabilidade em NLP é crucial para:

• Confiança: Permitir que usuários confiem nas decisões do modelo 5
• Debugging: Identificar e corrigir problemas no modelo 3
• Detecção de viés: Descobrir se o modelo está fazendo decisões baseadas em preconceitos 4
• Aplicações críticas: Áreas como medicina e finanças onde é essencial entender o raciocínio 2

Principais Técnicas de XAI para NLP

1. LIME (Local Interpretable Model-agnostic Explanations)

O LIME é uma técnica que explica as previsões de qualquer classificador criando um modelo interpretável localmente ao redor da previsão 6. Para textos, o LIME funciona:

• Gerando versões perturbadas do texto original (removendo palavras)
• Observando como essas mudanças afetam a previsão do modelo
• Criando um modelo linear simples que aproxima o comportamento do modelo original 78

2. SHAP (SHapley Additive exPlanations)

O SHAP utiliza conceitos da teoria dos jogos para quantificar a contribuição de cada característica (palavra, no caso de texto) para a previsão final 69. As principais vantagens do SHAP incluem:

• Aditividade: As contribuições podem ser somadas para explicar a previsão completa
• Consistência: Fornece explicações robustas independente do modelo usado