Informações administrativas
| Titulo | Introdução à IA explicável geral |
| Duração | 60 mins |
| Módulo | B |
| Tipo de aula | Palestra |
| Foco | Ética — Inteligência Artificial de confiança |
| Tópico | Inteligência artificial explicável em geral |
Palavras-chave
Inteligência artificial explicável, Aprendizagem Máquina, Aprendizagem Aprofundada,Interpretabilidade, Compreensibilidade, Transparência,Privacidade, Justidade, Contabilidade, Inteligência Artificial Responsável,
Objetivos de aprendizagem
- Compreender, analisar e aprofundar a importância do XAI no mundo moderno.
- Diferenciar entre modelos de aprendizagem automática transparentes e opacos.
- Categorizar e discutir abordagens para a explicabilidade XAI com base no escopo do modelo, agnosticidade, tipos de dados e técnicas de explicação.
- Discernir, investigar e discutir o compromisso entre precisão e interpretabilidade.
- Resumir e compreender os princípios de trabalho e modelagem matemática de técnicas XAI como LIME, SHAP, DiCE, LRP, explicações contrafactual e contrastiva.
- Expanda as possíveis aplicações de técnicas XAI como LIME, SHAP, DiCE, LRP para gerar explicações para modelos black-box para conjuntos de dados tabulares, textuais e de imagem.
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Nenhuma.
Obrigatório para os Estudantes
- Fundamentos da Programação Python
- Fundamentos da aprendizagem de máquinas
Facultativo para Estudantes
- Inteligência artificial explicável: Uma Introdução à Aprendizagem Automática Interpretável (1ª ed. Edição 2021) por Uday Kamath (Autor), John Liu (Autor)
Referências e antecedentes para estudantes
Recomendado para professores
- Belle V., Papantonis I. Princípios e Prática de Aprendizagem de Máquina explicável
- Arrieta, A. B. et al., Explainable Artificial Intelligence (XAI): Conceitos, taxonomias, oportunidades e desafios para uma IA responsável
- Inteligência artificial explicável: Uma Introdução à Aprendizagem Automática Interpretável (1ª ed. Edição 2021) por Uday Kamath (Autor), John Liu (Autor)
Materiais das aulas
Instruções para os professores
Esta palestra fornece informações gerais sobre o campo da Inteligência Artificial explicável (XAI). A nossa dependência de modelos de inteligência artificial é discutida de forma mais aprofundada. Os professores podem enfatizar que leis recentes também causaram a urgência em explicar e defender as decisões tomadas pelos sistemas de IA. Esta palestra discute ferramentas e técnicas para visualizar, explicar e construir sistemas de IA confiáveis.
Esboço
| Duração | Tópico | Descrição |
|---|---|---|
| 5 minutos | Introdução | Definição de XAI. Por que XAI é importante e que problemas resolve? |
| 5 minutos | Dimensões da Explicabilidade | O que significa a explanabilidade. Quais critérios têm que responder? |
| 20 mins | Abordagens à explanabilidade | Modelos transparentes e modelos opacos. |
| 20 mins | Técnicas de explicabilidade | Aproximando-se da explanabilidade com técnicas de modelo-específica e modelo-agnóstico. |
| 10 minutos | Observações de encerramento | Discussão com os estudantes. Perguntas e respostas. |
Agradecimentos
Esta apresentação foi desenvolvida por Christina Todorova e Dr. George Sharkov no Instituto Europeu de Software — Centro da Europa Oriental.
A apresentação baseia-se fortemente em e utiliza materiais e estrutura do trabalho de Belle V., Papantonis I., «Princípios e Prática de Aprendizagem de Máquina Explicavel» e Arrieta, A. B. et al., «Explainable Artificial Intelligence (XAI): Conceitos, taxonomias, oportunidades e desafios para uma IA responsável». Por favor, considere ler a sua investigação original.
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.