O que é explainability?
Conjunto de ferramentas e práticas para entender por que o sistema tomou cada decisão, em vez de aceitar respostas de uma caixa-preta.
Também chamado de: explicabilidade, interpretabilidade, xai.
Uma analogia
O consigliere não aceita 'porque sim': toda decisão tem que ser explicada na mesa, item por item, como no livro-caixa da Família.
Esta verbete ainda não tem exemplo prático revisado, e por isso não está publicado nos buscadores. A definição e a analogia acima vêm do glossário do curso.
Onde isso aparece no curso
- Algoritmos clássicos (algoritmos)
- Ensembles (algoritmos)
- PCA (algoritmos)