Informações administrativas
| Titulo | Privacidade na aprendizagem automática |
| Duração | 90 min |
| Módulo | B |
| Tipo de aula | Palestra |
| Foco | Ética — Inteligência Artificial de confiança |
| Tópico | Privacidade |
Palavras-chave
Modelos adversários, Formação de extração de dados, ataque de membro, extração do modelo,
Objetivos de aprendizagem
- Compreensão dos riscos de privacidade na aprendizagem automática
- Distinguir os dados de treino e as extrações de modelos de ataques/ameaças
- Aprender a modelagem adversa e a análise de ameaças na IA
- Conheça os princípios da auditoria de privacidade da IA
- Distinguir os ataques de adesão e reconstrução
- Distinguir o ataque de associação e a inversão do modelo
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
- Palestra: Introdução à privacidade e ao risco
- Palestra: Encaixe e otimização do modelo
- Palestra: Mitigação dos riscos e dos riscos
- Palestra: Privacidade
- Palestra: Análise exploratória dos dados
- Palestra: Inferência e previsão
- Palestra: Avaliação do modelo
- Palestra: Redes neurais
- Palestra: Compreender os dados
Obrigatório para os Estudantes
- princípios básicos da aprendizagem automática,
- álgebra linear básica,
- análise básica da função
Facultativo para Estudantes
Nenhuma.
Referências e antecedentes para estudantes
- Uma visão geral da privacidade na aprendizagem automática
- Privacidade de dados e aprendizagem de máquinas de confiança
- Ataques de inferência de adesão contra modelos de aprendizagem automática
- Análise de privacidade abrangente da aprendizagem profunda: Ataques passivos e ativos de inferência de caixa branca contra a aprendizagem centralizada e federada
- Extração de dados de formação a partir de grandes modelos linguísticos
- Aprendizagem automática com privacidade de membro utilizando regularização adversa
- A partilha secreta: Avaliar e testar memorização não intencional em redes neurais
Recomendado para professores
Materiais das aulas
Instruções para os professores
Este curso fornece uma introdução geral a diferentes questões de confidencialidade da aprendizagem de máquinas. Recomenda-se aos professores que usem exemplos da vida real para demonstrar a relevância prática destas vulnerabilidades, especialmente para questões relacionadas com a privacidade, cuja relevância prática é frequentemente debatida e considerada como um obstáculo ao desenvolvimento humano. Os alunos devem compreender que os riscos para a privacidade também podem retardar o progresso (as partes que enfrentam riscos de confidencialidade podem estar relutantes em partilhar os seus dados). Centra-se na compreensão básica necessária para reconhecer ameaças à privacidade com a finalidade de auditar modelos de aprendizagem automática. As competências práticas conexas podem ser desenvolvidas em eventos de aprendizagem mais práticos:
- Prática: Aplicar e avaliar técnicas de preservação da privacidade
- Prática: Quadros de auditoria da privacidade e da proteção de dados
Esboço
| Duração (min) | Descrição | Conceitos |
|---|---|---|
| 20 | Aprendizagem automática: Recapitulação | Algoritmo de aprendizagem, Classificação, Redes neuronais, Descendência de Gradient, pontuações de confiança |
| 5 | Modelos de adversários | White-box, ataques Black-box |
| 20 | Ataque de filiação | Modelo-alvo, Modelo Attacker, Privacidade Diferente |
| 20 | Inversão do Modell | Descida do gradiente em relação aos dados de entrada, reconstrução da média da classe |
| 20 | Extração de modelos | Reciclagem, reconstrução de parâmetros, mitigação |
| 5 | Conclusões |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.