Administrativne informacije
| Naslov | Privatnost u strojnom učenju |
| Trajanje | 90 min |
| Modul | B |
| Vrsta lekcija | Predavanje |
| Fokus | Etika – pouzdana umjetna inteligencija |
| Tema | Privatnost |
Ključne riječi
Modeli protivnika, izvlačenje podataka o osposobljavanju, napad članstva, ekstrakcija modela,
Ciljevi učenja
- Razumijevanje rizika za privatnost u strojnom učenju
- Razlikovati podatke o vježbanju i izvlačenje modela napada/prijetnji
- Saznajte kontradiktorno modeliranje i analizu prijetnji u području umjetne inteligencije
- Saznajte načela revizije privatnosti umjetne inteligencije
- Razlikovati članstvo i napade rekonstrukcije
- Razlikovati napad članstva i inverziju modela
Očekivana priprema
Edukativni događaji koji će biti završeni prije
- Predavanje: Uvod u privatnost i rizik
- Predavanje: Model montaže i optimizacije
- Predavanje: Smanjenje rizika i rizika
- Predavanje: Privatnost
- Predavanje: Istraživačka analiza podataka
- Predavanje: Zaključak i predviđanje
- Predavanje: Procjena modela
- Predavanje: Neuronske mreže
- Predavanje: Razumijevanje podataka
Obvezno za studente
- osnove strojnog učenja,
- osnovna linearna algebra,
- osnovna analiza funkcija
Neobvezno za studente
Nijedan.
Preporuke i pozadina za studente
- Pregled privatnosti u strojnom učenju
- Privatnost podataka i pouzdano strojno učenje
- Napadi zaključaka o članstvu na modele strojnog učenja
- Sveobuhvatna analiza privatnosti dubokog učenja: Pasivni i aktivni napadi na centralizirano i udruženo učenje
- Izdvajanje podataka o osposobljavanju iz velikih jezičnih modela
- Strojno učenje uz privatnost članstva pomoću kontradiktorne regularizacije
- Tajni razdjelnik: Procjena i testiranje nenamjernog pamćenja u neuronskim mrežama
Preporučeno nastavnicima
Nastavni materijali
Upute za učitelje
Ovaj tečaj pruža opći uvod u različita pitanja povjerljivosti strojnog učenja. Nastavnicima se preporučuje da koriste primjere iz stvarnog života kako bi dokazali praktičnu važnost tih ranjivosti, posebno za pitanja povezana s privatnošću o kojima se često raspravlja u praksi i smatra se preprekom ljudskom razvoju. Studenti moraju shvatiti da rizici za privatnost također mogu usporiti napredak (stranke koje se suočavaju s rizicima povjerljivosti mogu biti nesklone dijeliti svoje podatke). Naglasak je na osnovnom razumijevanju potrebnom za prepoznavanje prijetnji privatnosti u svrhu revizije modela strojnog učenja. Povezane praktične vještine mogu se dodatno razviti na praktičnijim događanjima za učenje:
- Praktično: Primjena i ocjenjivanje tehnika očuvanja privatnosti
- Praktično: Revizija okvira privatnosti i zaštite podataka
Nacrt
| Trajanje (min) | Opis | Koncepti |
|---|---|---|
| 20 | Strojno učenje: Recap | Algoritam učenja, Klasifikacija, neuronske mreže, gradijent podrijetla, ocjene pouzdanosti |
| 5 | Modeli protivnika | Bijela kutija, Black-box napadi |
| 20 | Napad na članstvo | Ciljni model, Napadač model, Diferencijalna privatnost |
| 20 | Inverzija modela | Spuštanje gradijenta s obzirom na ulazne podatke, rekonstrukcija prosjeka razreda |
| 20 | Ekstrakcija modela | Ponovno osposobljavanje, rekonstrukcija parametara, ublažavanje |
| 5 | Zaključci |
Priznanja
Diplomski studij umjetne inteligencije usmjeren na čovjeka sufinanciran je Instrumentom za povezivanje Europe Europske unije u okviru bespovratnih sredstava CEF-TC-2020 – 1 Digital Skills 2020-EU-IA-0068.