Informações administrativas
| Titulo | Riscos de IA e gestão de riscos |
| Duração | 90 |
| Módulo | B |
| Tipo de aula | Sessão Interativa |
| Foco | Ética — Inteligência Artificial de confiança |
| Tópico | Risco |
Palavras-chave
Risco de IA, Gestão de Risco, Gestão de Resiliência, Inteligência Artificial explicável, Inteligência Artificial Interpretável, Segurança, Resiliência, Transparência, Contabilidade,
Objetivos de aprendizagem
- Reconhecer, analisar e discutir a necessidade e o papel dos testes de segurança na IA.
- Empregar documentos, como o AI Act, para classificar os casos de utilização em categorias de risco.
- Debater em profundidade e com o vocabulário europeu comum sobre o risco de IA e como pode a IA ser concebida de forma segura e benevolente, de forma a não expor os seres humanos a riscos inaceitáveis de danos, mesmo quando um comportamento arriscado possa fazer avançar um objetivo do sistema.
- Classificar as obrigações dos fornecedores e utilizadores em relação à gestão dos riscos de IA.
- Debater os requisitos aplicáveis aos sistemas de IA de risco elevado, em conformidade com o Regulamento Inteligência Artificial.
- Elaborar e reconhecer riscos específicos e taxonomias de risco, relevantes ao longo das diferentes fases do ciclo de vida da IA.
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Nenhuma.
Obrigatório para os Estudantes
- Grupo de Peritos de Alto Nível sobre Inteligência Artificial (GANAI). (Abr. 8 de 2019). Comissão Europeia. «Orientações éticas para uma IA fiável.
- HCAIM Lecture on Risk and Risk Mitigation
Facultativo para Estudantes
- Webinar HCAIM sobre a abordagem europeia para uma IA fiável, segura e fiável (disponível no YouTube)
- Webinar HCAIM sobre o papel da segurança e da privacidade na aprendizagem automática (disponível no YouTube)
Referências e antecedentes para estudantes
- Grupo de Peritos de Alto Nível sobre Inteligência Artificial (GANAI). (Abr. 8 de 2019). Comissão Europeia. «Orientações éticas para uma IA fiável.
- HCAIM Lecture on Risk and Risk Mitigation
Recomendado para professores
- Comissão Europeia: Proposta de regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial), 2021
- Agência da União Europeia para a Cibersegurança, Malatras, A., Dede, G., «AI Cyber Challenges»: panorama das ameaças para a inteligência artificial, Agência Europeia para a Segurança das Redes e da Informação, 2020
- Grupo de Peritos de Alto Nível sobre Inteligência Artificial (GANAI). (Abr. 8 de 2019). Comissão Europeia. «Orientações éticas para uma IA fiável.»
- Utilizações maliciosas e abusos da inteligência artificial 2020, publicação da Europol
Materiais das aulas
Instruções para os professores
Esta sessão interativa visa criar um vocabulário comum para os estudantes discutirem a gestão dos riscos e dos riscos relacionados com a IA, especificamente através da abordagem da UE baseada no risco em relação à IA. Os materiais fornecidos, bem como o esboço geral e o cronograma da sessão interativa são indicativos e apresentados de forma a orientar melhor uma discussão com os alunos. Desde que os objetivos de aprendizagem sejam atingidos, os instrutores são encorajados a seguir o fluxo natural da discussão.
Esboço e cronograma da Sessão Interativa:
| Duração | Tópico | Descrição |
|---|---|---|
| 15 mins | Introdução | Definição do risco. A abordagem da UE em relação à gestão dos riscos de IA. Estratégias de gestão de riscos ao longo de todo o ciclo de vida da IA. |
| 30 minutos | Classificação do risco | Ativos de IA e quadros de taxonomia de ameaças e de gestão de riscos para descrever as características técnicas de conceção da IA. |
| 30 minutos | Redução do risco | Abordar a mitigação de riscos utilizando casos de uso e vocabulário comum, e modelos de referência para alavancar a discussão. |
| 15mins | Observações de encerramento | Discussão com os estudantes. Perguntas e respostas. |
Dois Webinars HCAIM são particularmente relevantes para esta sessão interativa. Estes podem ser mostrados antes da discussão ou partes deles podem ser tocadas para facilitar os temas e gerir o silêncio.
Agradecimentos
Esta apresentação foi desenvolvida pelo Dr. George Sharkov e Christina Todorova no Instituto Europeu de Software — Centro da Europa Oriental.
A apresentação utiliza diapositivos de uma apresentação do Dr. Mihály Héder na Universidade de Tecnologia e Economia de Budapeste. Por favor, considere seguir o seu trabalho.
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.