Administrativní informace
| Název | Soukromí ve strojovém učení |
| Trvání | 90 min |
| Modul | B |
| Typ lekce | Přednáška |
| Soustředění | Etika – důvěryhodná umělá inteligence |
| Téma | Soukromí |
Klíčová slova
Nepřátelské modely,Trénink extrakce dat,Členský útok, Vytěžování modelů,
Vzdělávací cíle
- Pochopení rizik pro ochranu soukromí při strojovém učení
- Rozlišujte tréninková data a extrakce modelů útoků/hrozeb
- Naučte se kontradiktorní modelování a analýzu hrozeb v AI
- Seznamte se s principy auditu ochrany soukromí AI
- Rozlišujte členské a rekonstrukční útoky
- Rozlišujte členský útok a modelovou inverzi
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Povinné pro studenty
- základy strojového učení,
- základní lineární algebra,
- základní funkční analýza
Volitelné pro studenty
Žádné.
Reference a zázemí pro studenty
- Přehled soukromí ve strojovém učení
- Ochrana osobních údajů a důvěryhodné strojové učení
- Členské inferenční útoky proti modelům strojového učení
- Komplexní analýza soukromí hlubokého učení: Pasivní a aktivní white-box inferenční útoky proti centralizovanému a federovanému učení
- Extrahování tréninkových dat z velkých jazykových modelů
- Strojové učení se soukromím členství pomocí adversarial regularization
- Tajný podílník: Vyhodnocení a testování nezamýšleného zapamatování v neuronových sítích
Doporučeno pro učitele
Materiály pro výuku
Pokyny pro učitele
Tento kurz poskytuje obecný úvod do různých otázek důvěrnosti strojového učení. Učitelům se doporučuje, aby použili příklady z reálného života k prokázání praktického významu těchto zranitelností, zejména pokud jde o otázky týkající se soukromí, jejichž praktický význam je často diskutován a považován za překážku lidského rozvoje. Studenti musí pochopit, že rizika ochrany soukromí mohou také zpomalit pokrok (strany, které čelí riziku důvěrnosti, se mohou zdráhat sdílet svá data). Zaměřuje se na základní porozumění potřebné k rozpoznání ohrožení soukromí pro účely auditu modelů strojového učení. Související praktické dovednosti mohou být dále rozvíjeny na více praktických vzdělávacích akcích:
- Praktické: Uplatňování a hodnocení technik ochrany soukromí
- Praktické: Auditní rámce pro ochranu soukromí a údajů
Obrys
| Doba trvání (min) | Popis | Koncepty |
|---|---|---|
| 20 | Strojové učení: Rekapitulace | Algoritmus učení, klasifikace, neuronové sítě, přechodový sestup, skóre spolehlivosti |
| 5 | Modely protivníků | White-box, Black-box útoky |
| 20 | Útok na členství | Cílový model, Model útočníka, Diferenciální soukromí |
| 20 | Modelová inverze | Sestup gradientu s ohledem na vstupní data, rekonstrukce průměru třídy |
| 20 | Extrakce modelu | Rekvalifikace, rekonstrukce parametrů, zmírnění dopadů |
| 5 | Závěry |
Potvrzení
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.