Adminisztratív információk
| Cím | Adatvédelem a gépi tanulásban |
| Időtartam | 90 perc |
| Modul | B |
| Lecke típusa | Előadás |
| Fókusz | Etikus – megbízható mesterséges intelligencia |
| Téma | Adatvédelem |
Kulcsszó
Ellenség modellek,Kiképzési adatok kinyerése,tagsági támadás,Modellextrakció,
Tanulási célok
- Az adatvédelmi kockázatok megértése a gépi tanulásban
- A képzési adatok és a modellek kivonása támadások/fenyegetések megkülönböztetése
- Ismerje meg az ellenséges modellezést és a fenyegetéselemzést a mesterséges intelligenciában
- Ismerje meg az AI adatvédelmi audit alapelveit
- A tagsági és újjáépítési támadások megkülönböztetése
- Megkülönböztetni a tagsági támadást és a modell inverziót
Várható előkészítés
Az előtt befejezendő tanulási események
Kötelező a diákok számára
- a gépi tanulás alapjai,
- alapvető lineáris algebra,
- alapvető funkcióelemzés
Választható diákok számára
Egy sem.
Referenciák és háttér a diákok számára
- Az adatvédelem áttekintése a gépi tanulásban
- Adatvédelem és megbízható gépi tanulás
- Tagsági következtetések a gépi tanulási modellek ellen
- A mélytanulás átfogó adatvédelmi elemzése: Passzív és aktív fehér dobozos támadások a központosított és föderált tanulás ellen
- Képzési adatok kinyerése nagy nyelvi modellekből
- Gépi tanulás tagsági titoktartással kontradiktórius rendezéssel
- A titkos osztó: Nem szándékolt memorizáció értékelése és tesztelése neurális hálózatokban
Ajánlott tanároknak
Leckeanyagok
Utasítások tanároknak
Ez a kurzus általános bevezetést nyújt a gépi tanulás különböző titoktartási kérdéseihez. Javasoljuk, hogy a tanárok valós példákat használjanak e sebezhetőségek gyakorlati jelentőségének bizonyítására, különösen a magánélet védelmével kapcsolatos kérdésekben, amelyek gyakorlati relevanciáját gyakran vitatják és akadályozzák az emberi fejlődést. A diákoknak meg kell érteniük, hogy az adatvédelmi kockázatok is lassíthatják a haladást (a titoktartási kockázatokkal szembesülő felek vonakodhatnak megosztani adataikat). A gépi tanulási modellek auditálása céljából az adatvédelmi fenyegetések felismeréséhez szükséges alapvető megértésre összpontosít. A kapcsolódó gyakorlati készségek továbbfejleszthetők gyakorlati tanulási eseményeken:
- Gyakorlati: Magánélet-megőrzési technikák alkalmazása és értékelése
- Gyakorlati: A magánélet és az adatvédelem ellenőrzési keretrendszerei
Vázlat
| Időtartam (perc) | Leírás | Fogalmak |
|---|---|---|
| 20 | Gépi tanulás: Összefoglaló | Tanulási algoritmus, Osztályozás, Neurális hálózatok, Gradient leereszkedés, konfidencia pontszámok |
| 5 | Kontradiktórius modellek | White-box, Black-box támadások |
| 20 | Tagsági támadás | Célmodell, Attacker modell, Differenciál Adatvédelem |
| 20 | Modell inverzió | Gradiens leereszkedés a bemeneti adatok tekintetében, osztályátlag rekonstruálása |
| 20 | Modell extrakció | Átképzés, paraméterrekonstrukció, mérséklés |
| 5 | Következtetések |
Visszaigazolások
A Human-Centered AI Masters programot az Európai Unió Európai Hálózatfinanszírozási Eszköze (CEF-TC-2020–1 Digitális készségek 2020 EU-IA-0068) társfinanszírozta.