Informacje administracyjne
| Tytuł | Prywatność w nauczaniu maszynowym |
| Czas trwania | 90 min |
| Moduł | B |
| Rodzaj lekcji | Wykład |
| Skupienie | Etyczne – godne zaufania AI |
| Temat | Prywatność |
Słowa kluczowe
Modele przeciwnika, ekstrakcja danych szkoleniowych, atak członkowski, ekstrakcja modelu,
Cele w zakresie uczenia się
- Zrozumienie zagrożeń związanych z prywatnością w uczeniu maszynowym
- Rozróżnianie danych treningowych i ekstrakcji modeli ataków/zagrożeń
- Naucz się modelowania kontradyktoryjnego i analizy zagrożeń w sztucznej inteligencji
- Poznaj zasady audytu prywatności AI
- Wyróżnić ataki członkostwa i rekonstrukcji
- Wyróżnić atak członkowski i odwrócenie modelu
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Obowiązkowe dla studentów
- podstawy uczenia maszynowego,
- podstawowa algebra liniowa,
- podstawowa analiza funkcji
Opcjonalne dla studentów
Brak.
Referencje i tło dla studentów
- Przegląd prywatności w uczeniu maszynowym
- Prywatność danych i godne zaufania uczenie maszynowe
- Ataki wnioskowania o członkostwo przeciwko modelom uczenia maszynowego
- Kompleksowa analiza prywatności głębokiego uczenia się: Pasywne i aktywne ataki typu white-box przeciwko scentralizowanemu i federacyjnemu uczeniu się
- Pobieranie danych szkoleniowych z dużych modeli językowych
- Uczenie maszynowe z prywatnością członkostwa za pomocą kontradyktoryjnego uregulowania
- Tajny współdzielacz: Ocena i testowanie niezamierzonego zapamiętywania w sieciach neuronowych
Zalecane dla nauczycieli
Materiały do lekcji
Instrukcje dla nauczycieli
Ten kurs zapewnia ogólne wprowadzenie do różnych kwestii poufności uczenia maszynowego. Nauczycielom zaleca się stosowanie przykładów rzeczywistych w celu wykazania praktycznego znaczenia tych podatności, zwłaszcza w odniesieniu do kwestii związanych z prywatnością, których praktyczne znaczenie jest często dyskutowane i uważane za przeszkodę w rozwoju człowieka. Studenci muszą zrozumieć, że zagrożenia prywatności mogą również spowolnić postęp (strony narażone na ryzyko poufności mogą niechętnie udostępniać swoje dane). Koncentruje się na podstawowym zrozumieniu niezbędnym do rozpoznawania zagrożeń dla prywatności w celu audytu modeli uczenia maszynowego. Powiązane umiejętności praktyczne można dalej rozwijać w bardziej praktycznych wydarzeniach edukacyjnych:
- Praktyczne: Stosowanie i ocena technik ochrony prywatności
- Praktyczne: Ramy audytu w zakresie prywatności i ochrony danych
Zarys
| Czas trwania (min) | Opis | Koncepcje |
|---|---|---|
| 20 | Uczenie maszynowe: Podsumowanie | Algorytm uczenia się, klasyfikacja, sieci neuronowe, zejście gradientu, ocena ufności |
| 5 | Modele przeciwników | Biała skrzynka, ataki Black-box |
| 20 | Atak członkowski | Model docelowy, model atakujący, prywatność różnicowa |
| 20 | Odwrócenie modelu | Zniżanie gradientu w odniesieniu do danych wejściowych, rekonstrukcja średniej klasy |
| 20 | Model ekstrakcji | Przekwalifikowanie, rekonstrukcja parametrów, środki łagodzące |
| 5 | Wnioski |
Potwierdzenia
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.