Administratívne informácie
| Názov | Súkromie v strojovom učení |
| Trvanie | 90 minút |
| Modul | B |
| Druh lekcie | Prednáška |
| Zameranie | Etika – dôveryhodná umelá inteligencia |
| Téma | Súkromie |
Kľúčové slová
Protivníkov modely,Tréning dát extrakcie, Členstvo útok, Výber modelu,
Vzdelávacie ciele
- Pochopenie rizík týkajúcich sa súkromia v strojovom učení
- Rozlišovať tréningové dáta a model extrakcie útoky/hrozby
- Naučte sa kontradiktórne modelovanie a analýzu hrozieb v umelej inteligencii
- Naučte sa zásady auditu ochrany súkromia umelej inteligencie
- Rozlišovanie členstva a rekonštrukčných útokov
- Rozlišujte členský útok a inverziu modelu
Očakávaná príprava
Naučte sa udalosti, ktoré treba dokončiť predtým
Povinné pre študentov
- základy strojového učenia,
- základná lineárna algebra,
- analýza základných funkcií
Voliteľné pre študentov
Žiadne.
Referencie a zázemie pre študentov
- Prehľad súkromia v strojovom učení
- Ochrana osobných údajov a dôveryhodné strojové učenie
- Účastnícke útoky proti modelom strojového učenia
- Komplexná analýza súkromia hĺbkového učenia: Pasívne a aktívne inferenčné útoky bielej skrinky proti centralizovanému a federovanému učeniu
- Extrahovanie tréningových dát z veľkých jazykových modelov
- Strojové učenie so súkromím členstva pomocou kontradiktórnej regularizácie
- Tajný spoločník: Hodnotenie a testovanie neúmyselného zapamätania v neurónových sieťach
Odporúčané pre učiteľov
Učebné materiály
Pokyny pre učiteľov
Tento kurz poskytuje všeobecný úvod k rôznym otázkam dôvernosti strojového učenia. Učiteľom sa odporúča, aby používali príklady z reálneho života na preukázanie praktického významu týchto zraniteľných miest, najmä pokiaľ ide o otázky týkajúce sa súkromia, o ktorých praktickom význame sa často diskutuje a považuje sa za prekážku ľudského rozvoja. Študenti musia pochopiť, že riziká ochrany súkromia môžu tiež spomaliť pokrok (strany, ktoré čelia rizikám dôvernosti, sa môžu zdráhať zdieľať svoje údaje). Zameriava sa na základné chápanie potrebné na rozpoznanie hrozieb ochrany súkromia na účely auditu modelov strojového učenia. Súvisiace praktické zručnosti možno ďalej rozvíjať na praktickejších vzdelávacích podujatiach:
- Praktické: Uplatňovanie a hodnotenie techník na zachovanie súkromia
- Praktické: Audit rámcov ochrany súkromia a údajov
Obrysy
| Trvanie (min) | Popis | Koncepty |
|---|---|---|
| 20 | Strojové učenie: Clanok | Algoritmus učenia, Klasifikácia, Neurálne siete, Gradient zostup, skóre spoľahlivosti |
| 5 | Protivnícke modely | Biela skrinka, útoky Black-box |
| 20 | Útok na členstvo | Cieľový model, Útočník model, Diferenčné súkromie |
| 20 | Inverzia modelu | Klesanie s ohľadom na vstupné údaje, rekonštrukcia priemeru triedy |
| 20 | Extrakcia modelu | Rekvalifikácia, rekonštrukcia parametrov, zmierňovanie |
| 5 | Závery |
Uznania
Program Masters umelej inteligencie zameraný na človeka bol spolufinancovaný z Nástroja Európskej únie na prepájanie Európy v rámci grantu CEF-TC-2020 – 1 Digitálne zručnosti 2020-EU-IA-0068.