Informações administrativas
| Titulo | Confiança, Normatividade e Modelo Drift |
| Duração | 45-60 |
| Módulo | C |
| Tipo de aula | Palestra |
| Foco | Técnico — Futura IA |
| Tópico | Problemas e Desafios Abertos |
Palavras-chave
Confiança, Normatividade, Modelo Drift,
Objetivos de aprendizagem
- Compreender a necessidade de medir a confiança na IA
- Compreender o conceito de Normatividade no contexto da IA do Futuro
- Explicar vários tipos de desvio do modelo e recomendar medidas atempadas para futuros sistemas de IA para abordar a deriva do modelo
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Obrigatório para os Estudantes
- Conteúdo de ética do módulo A
- Conteúdo de ética do módulo B
Facultativo para Estudantes
- Introdução à aprendizagem automática e conceitos de aprendizagem profunda dadas em palestras anteriores
Referências e antecedentes para estudantes
- Confiança e Inteligência Artificial
- Um inquérito sobre a avaliação da confiança baseada na aprendizagem automática
- O Valor de Medir a Confiança na IA — Uma Perspetiva de Sistema Sociotécnico
- Quando a confiança encontra a precisão: Explorar os efeitos de múltiplos indicadores de desempenho na confiança nos modelos de aprendizagem automática
- Na IA, confiamos Incrementalmente: um modelo de confiança multicamadas para analisar as interações humano-artificial de inteligência
- A confiança e a ética da IA
- Diretrizes éticas para uma IA fiável
- Agência explicável, normativa e justificada
- Modelo Drift na Aprendizagem de Máquinas
- Uma visão unificadora da mudança do conjunto de dados na classificação
- ODIN: Deteção e Recuperação Automatizada de Drift em Video Analytics
- Aprendizagem em Conceito Drift: Uma revisão
- Por que a deteção de deriva de dados é importante e como automatizá-la em 5 passos simples
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
Esta palestra deve centrar-se no conceito de confiança sobre sistemas que empregam IA e aprendizagem automática para tomar decisões. Deve definir a confiança e as características da confiança juntamente com a confiança dos agentes. A conferência deve fornecer uma ligação prática ao quadro de confiança da UE proposto para a IA. A palestra deve também introduzir o conceito de normatividade digital e o problema da deriva do modelo, medição e monitorização da deriva do modelo no contexto da IA de confiança e da aprendizagem automática.
O objetivo desta palestra é discutir o conceito de confiança no contexto dos sistemas de IA. A palestra deve responder à pergunta: O que significa confiar e como podemos criar confiança nos sistemas de IA? A palestra também deve discutir o conceito de normatividade no contexto da IA e sistemas automatizados de tomada de decisão, acrescentando peso à importância da confiança. Finalmente, a palestra discutirá a deriva do modelo, os tipos de deriva do modelo, as métricas para medir a deriva do modelo e como lidar com a deriva do modelo, o que deve demonstrar que a confiança deve ser constantemente monitorada.
Esboço
| Duração | Descrição | Conceitos | Atividade | Materiais |
|---|---|---|---|---|
| 5 min | O que é confiança? | Filosofia da confiança, caracterização da confiança, agentes e doentes de confiança, ecossistema sociotécnico, papel da confiança no conhecimento | Sessão ensinada e exemplos | Material para palestras |
| 15 min | Tarefa de investigação Confiança na IA |
Perguntas abertas e revisão de um artigo | Material para palestras | |
| 10 min | O advento da normatividade digital | Subjetivação, dessubjetivação, agência justificada, agência explicável e normativa | Sessão ensinada e exemplos | Material para palestras |
| 15 min | Modelo Drift | O que é desvio do modelo, tipos de desvio modelo/conceito (previsão, conceito, dados, a montante), métricas de Drift (Índice de Estabilidade da População, Divergência KL, Distância de Wasserstein), Lidar com a deriva do modelo (monitorização, qualidade dos dados, reciclagem, ajuste de parâmetros) | Sessão ensinada e exemplos | Material para palestras |
| 5 min | Conclusão | Sumário | Conclusões | Material para palestras |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.