Información administrativa
| Título | Privacidad en Machine Learning |
| Duración | 90 min |
| Módulo | B |
| Tipo de lección | Conferencia |
| Enfoque | Ética — IA confiable |
| Tema | Privacidad |
Keywords
Modelos adversarios, Extracción de datos de entrenamiento,Ataque de membresía, Extracción de modelos,
Objetivos de aprendizaje
- Comprensión de los riesgos de privacidad en el aprendizaje automático
- Distinguir los datos de entrenamiento y modelar los ataques/amenazas de extracciones
- Aprenda modelos contradictorios y análisis de amenazas en IA
- Conozca los principios de la auditoría de privacidad de IA
- Distinguir los ataques de membresía y reconstrucción
- Distinguir el ataque de membresía y la inversión del modelo
Preparación prevista
Eventos de aprendizaje que se completarán antes
- Conferencia: Introducción a la privacidad y al riesgo
- Conferencia: Montaje y optimización del modelo
- Conferencia: Reducción del riesgo y la reducción del riesgo
- Conferencia: Privacidad
- Conferencia: Análisis de datos exploratorios
- Conferencia: Inferencia y predicción
- Conferencia: Evaluación del modelo
- Conferencia: Redes neuronales
- Conferencia: Comprensión de los datos
Obligatorio para los estudiantes
- conceptos básicos del aprendizaje automático,
- álgebra lineal básica,
- análisis de funciones básicas
Opcional para estudiantes
Ninguno.
Referencias y antecedentes para estudiantes
- Una visión general de la privacidad en el aprendizaje automático
- Privacidad de datos y aprendizaje automático confiable
- Ataques de inferencia de membresía contra modelos de aprendizaje automático
- Análisis integral de la privacidad del aprendizaje profundo: Ataques pasivos y activos de inferencia de caja blanca contra el aprendizaje centralizado y federado
- Extracción de datos de formación de grandes modelos lingüísticos
- Aprendizaje automático con privacidad de membresía utilizando la regularización adversarial
- El copartícipe secreto: Evaluar y probar la memorización involuntaria en redes neuronales
Recomendado para profesores
Material didáctico
Instrucciones para profesores
Este curso proporciona una introducción general a diferentes problemas de confidencialidad del aprendizaje automático. Se recomienda a los maestros que utilicen ejemplos de la vida real para demostrar la relevancia práctica de estas vulnerabilidades, especialmente para cuestiones relacionadas con la privacidad cuya relevancia práctica a menudo se debate y se considera un obstáculo para el desarrollo humano. Los estudiantes deben entender que los riesgos de privacidad también pueden ralentizar el progreso (las partes que enfrentan riesgos de confidencialidad pueden ser reacias a compartir sus datos). Se centra en la comprensión básica necesaria para reconocer las amenazas a la privacidad con el fin de auditar modelos de aprendizaje automático. Las habilidades prácticas relacionadas pueden seguir desarrollándose en eventos de aprendizaje más prácticos:
- Práctica: Aplicación y evaluación de técnicas de preservación de la privacidad
- Práctica: Marcos de auditoría de privacidad y protección de datos
Esquema
| Duración (min) | Descripción | Conceptos |
|---|---|---|
| 20 | Aprendizaje automático: Recapitulación | Algoritmo de aprendizaje, Clasificación, Redes neuronales, descenso gradual, puntuaciones de confianza |
| 5 | Modelos adversarios | White-box, Black-box Attacks |
| 20 | Ataque de membresía | Modelo objetivo, Modelo atacante, Privacidad diferencial |
| 20 | Inversión de Modell | Descenso de gradiente con respecto a los datos de entrada, reconstrucción del promedio de clase |
| 20 | Extracción del modelo | Re-entrenamiento, reconstrucción de parámetros, mitigaciones |
| 5 | Conclusiones |
Reconocimientos
El programa de maestría en IA centrada en el ser humano fue cofinanciado por el Mecanismo «Conectar Europa» de la Unión Europea en virtud de la subvención «CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068».