Informazioni amministrative
| Titolo | Privacy nell'apprendimento automatico |
| Durata | 90 min |
| Modulo | B |
| Tipo di lezione | Lezione |
| Focus | Etico — AI affidabile |
| Argomento | Privacy |
Parole chiave
Modelli avversari, estrazione dati di formazione, attacco Membership, estrazione di modelli,
Obiettivi di apprendimento
- Comprensione dei rischi per la privacy nell'apprendimento automatico
- Distinguere i dati di allenamento e le estrazioni dei modelli attacchi/minacce
- Impara la modellazione avversaria e l'analisi delle minacce nell'IA
- Scopri i principi dell'AI Privacy Auditing
- Distinguere gli attacchi di appartenenza e ricostruzione
- Distinguere l'attacco di appartenenza e l'inversione del modello
Preparazione prevista
Eventi di apprendimento da completare prima
- Lezione: Introduzione alla privacy e al rischio
- Lezione: Montaggio e ottimizzazione del modello
- Lezione: Attenuazione del rischio e del rischio
- Lezione: Privacy
- Lezione: Analisi esplorativa dei dati
- Lezione: Inferenza e previsione
- Lezione: Modello di valutazione
- Lezione: Reti neurali
- Lezione: Comprensione dei dati
Obbligatorio per gli studenti
- basi dell'apprendimento automatico,
- algebra lineare di base,
- analisi delle funzioni di base
Facoltativo per gli studenti
Nessuno.
Referenze e background per gli studenti
- Una panoramica della privacy nell'apprendimento automatico
- Privacy dei dati e apprendimento automatico affidabile
- Attacchi di inferenza associativa contro i modelli di apprendimento automatico
- Analisi completa della privacy del deep learning: Attacchi passivi e attivi di inferenza white-box contro l'apprendimento centralizzato e federato
- Estrazione dei dati di allenamento da grandi modelli linguistici
- Apprendimento automatico con privacy dei membri utilizzando la regolarizzazione contraddittoria
- Lo sharer segreto: Valutazione e test di memorizzazione non intenzionale nelle reti neurali
Consigliato per gli insegnanti
Materiale didattico
Istruzioni per gli insegnanti
Questo corso fornisce un'introduzione generale alle diverse questioni di riservatezza dell'apprendimento automatico. Si raccomanda agli insegnanti di utilizzare esempi di vita reale per dimostrare la rilevanza pratica di queste vulnerabilità, in particolare per le questioni relative alla privacy, la cui rilevanza pratica è spesso discussa e considerata un ostacolo allo sviluppo umano. Gli studenti devono capire che i rischi per la privacy possono anche rallentare i progressi (le parti che affrontano rischi di riservatezza possono essere riluttanti a condividere i loro dati). Si concentra sulla comprensione di base necessaria per riconoscere le minacce alla privacy allo scopo di controllare i modelli di apprendimento automatico. Le relative competenze pratiche possono essere ulteriormente sviluppate in eventi di apprendimento più pratici:
- Pratico: Applicare e valutare le tecniche di tutela della privacy
- Pratico: Quadri di audit in materia di privacy e protezione dei dati
Contorno
| Durata (min) | Descrizione | Concetti |
|---|---|---|
| 20 | Apprendimento automatico: Riepilogo | Algoritmo di apprendimento, Classificazione, Reti neurali, discesa gradiente, punteggi di confidenza |
| 5 | Modelli avversari | White-box, attacchi Black-box |
| 20 | Attacco di adesione | Modello target, Modello attaccante, Privacy differenziale |
| 20 | Inversione di modello | Discesa del gradiente rispetto ai dati di input, ricostruzione della media di classe |
| 20 | Estrazione del modello | Riqualificazione, ricostruzione dei parametri, mitigazione |
| 5 | Conclusioni |
Riconoscimenti
Il programma Human-Centered AI Masters è stato co-finanziato dal meccanismo per collegare l'Europa dell'Unione europea nell'ambito della sovvenzione CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.