Informações administrativas
| Titulo | Risco & Mitigação de Riscos na Prática |
| Duração | 60 mins |
| Módulo | B |
| Tipo de aula | Prático |
| Foco | Ética — Inteligência Artificial de confiança |
| Tópico | Risco |
Palavras-chave
Risco, mitigação de riscos,
Objetivos de aprendizagem
- Aprendente obtém experiência prática com quadros de risco
- O aluno obtém experiência prática com padrões relevantes.
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Obrigatório para os Estudantes
- Conceitos de riscos e sua mitigação
Facultativo para Estudantes
Nenhuma.
Referências e antecedentes para estudantes
Nenhuma.
Recomendado para professores
- Leia o projeto de norma por si mesmo
Materiais das aulas
- Lei relativa à inteligência artificial (legislação não desenvolvida pelo consórcio HCAIM)
- Norma IEEE 7000 -2021 (normas não desenvolvidas pelo consórcio HCAIM)
Instruções para os professores
- Esta atividade baseia-se no processo de modelo padrão IEEE 7000-2021 para abordar preocupações éticas durante o projeto de sistema.
- Espera-se que esta norma seja aprovada pelo Regulamento Inteligência Artificial da UE com uma personalização específica
Esta norma vem com uma abordagem baseada no risco
- Para cada equipa de 4-6 alunos, especifique um sistema de IA imaginário que os alunos precisam desenvolver. *A ideia aqui é dar a cada grupo algo diferente (de acordo com as categorias de risco do Regulamento IA da UE). Exemplos:
- vigilância com reconhecimento facial para um aeroporto (dica: isto é proibido, exceto em casos muito bem definidos)
- sistema automático de classificação de ensaios (dica: provavelmente de alto risco, humano excesso de altura necessária)
- sistema de recomendação para séries de televisão (baixo risco, mas existem disposições para crianças)
- chat bot no jogo AI para um MMORPG (baixo risco)
- Peça-lhes que leiam o capítulo relativo à categorização dos riscos do ato relativo à IA (título II e título III)
IEEE 7000-2021 no IEEE eXplore
Guia do Professor
- Esta atividade baseia-se no processo de modelo padrão IEEE 7000-2021 para abordar preocupações éticas durante o projeto de sistema.
- Espera-se que esta norma seja aprovada pelo Regulamento Inteligência Artificial da UE com uma personalização específica
- Esta norma vem com uma abordagem baseada no risco
- Para cada equipa de 4-6 alunos, especifique um sistema de IA imaginário que os alunos precisam desenvolver. A ideia aqui é dar a cada grupo algo diferente (de acordo com as categorias de risco do Regulamento IA da UE). Exemplos:
- vigilância com reconhecimento facial para um aeroporto (dica: isto é proibido, exceto em casos muito bem definidos)
- sistema automático de classificação de ensaios (dica: provavelmente de alto risco, humano excesso de altura necessária)
- sistema de recomendação para séries de televisão (baixo risco, mas existem disposições para crianças)
- chat bot no jogo AI para um MMORPG (baixo risco)
- Peça-lhes que leiam o capítulo relativo à categorização dos riscos do ato relativo à IA (título II e título III)
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.