Административна информация
| Дял | Поверителност в машинното обучение |
| Продължителност | 90 мин. |
| Модул | Б |
| Вид на урока | Лекция |
| Фокус | Етичен — надежден ИИ |
| Тема | Уединение |
Ключови думи
Модели на противника, извличане на данни за обучение, Пристъп на членство, Извличане на модели,
Учебни цели
- Разбиране на рисковете за неприкосновеността на личния живот в машинното обучение
- Разграничаване на данните от обучението и екстракциите на модели на атаки/заплахи
- Научете се на състезателно моделиране и анализ на заплахите в ИИ
- Научете принципите на одита на поверителността на ИИ
- Разграничаване на атаките за членство и възстановяване
- Разграничаване на атаката на членството и инверсията на модела
Очаквана подготовка
Обучение на събития, които трябва да бъдат завършени преди
Задължително за студентите
- основи на машинното самообучение,
- основна линейна алгебра,
- основен анализ на функциите
Незадължително за студенти
Няма.
Референции и фон за студенти
- Преглед на неприкосновеността на личния живот в машинното обучение
- Поверителност на данните и надеждно машинно обучение
- Атаки срещу модели за машинно самообучение
- Цялостен анализ на неприкосновеността на личния живот на задълбоченото учене: Пасивни и активни атаки срещу централизираното и федерираното учене
- Извличане на данни от обучение от големи езикови модели
- Машинно обучение с поверителност на членството с използване на състезателно узаконяване
- Тайният споделник: Оценка и тестване на непреднамерено запаметяване в невронните мрежи
Препоръчва се за учители
Материали за уроци
Инструкции за учители
Този курс осигурява общо въведение към различни въпроси, свързани с поверителността на машинното обучение. На учителите се препоръчва да използват примери от реалния живот, за да покажат практическото значение на тези уязвимости, особено по въпроси, свързани с неприкосновеността на личния живот, чието практическо значение често се обсъжда и счита за пречка за човешкото развитие. Студентите трябва да разберат, че рисковете за неприкосновеността на личния живот също могат да забавят напредъка (страните, изправени пред рискове за поверителността, може да не са склонни да споделят своите данни). Тя се фокусира върху основното разбиране, необходимо за разпознаване на заплахите за неприкосновеността на личния живот за целите на одита на модели за машинно обучение. Съответните практически умения могат да бъдат допълнително развити в по-практични учебни събития:
- Практически: Прилагане и оценка на техники за запазване на неприкосновеността на личния живот
- Практически: Рамки за одит на неприкосновеността на личния живот и защитата на данните
Очертаване
| Продължителност (мин) | Описание | Концепции |
|---|---|---|
| 20 | Машинно обучение: Обобщим | Алгоритъм за обучение, Класификация, невронни мрежи, Спускане на градиент, резултати на доверие |
| 5 | Модели на противници | White-box, Black-box атаки |
| 20 | Атака на членството | Целеви модел, Attacker модел, Диференциална поверителност |
| 20 | Моделна инверсия | Снижаване на градиента по отношение на входящите данни, реконструкция на средната стойност за класа |
| 20 | Извличане на модел | Преквалификация, реконструкция на параметри, смекчаване на последиците |
| 5 | Изводи |
Потвърждения
Магистърската програма по ИИ, насочена към човека, беше съфинансирана от Механизма за свързване на Европа на Европейския съюз под формата на безвъзмездни средства № CEF-TC-2020—1 Digital Skills 2020-EU-IA-0068.