Административна информация
| Дял | Въведение в общия обясним ИИ |
| Продължителност | 60 минути |
| Модул | Б |
| Вид на урока | Лекция |
| Фокус | Етичен — надежден ИИ |
| Тема | Общ обясним ИИ |
Ключови думи
Обясними изкуствен интелект, машинно обучение, задълбочено обучение, интерпретативност, пълнота, прозрачност, неприкосновеност на личния живот, честност, отчетност, отговорен изкуствен интелект,
Учебни цели
- Разбиране, анализиране и разработване на значението на XAI в съвременния свят.
- Разграничаване между прозрачни и непрозрачни модели за машинно обучение.
- Категоризирайте и обсъждайте подходите за обяснимост въз основа на обхвата на модела, агностичността, типовете данни и техниките за обяснение.
- Разграничаване, разследване и обсъждане на компромиса между точност и интерпретативност.
- Обобщете и разберете работните принципи и математическо моделиране на XAI техники като LIME, SHAP, DiCE, LRP, съпоставителни и контрастни обяснения.
- Разширете възможните приложения на XAI техники като LIME, SHAP, DiCE, LRP, за да генерирате обяснения за модели от черна кутия за таблични, текстови и графични набори от данни.
Очаквана подготовка
Обучение на събития, които трябва да бъдат завършени преди
Няма.
Задължително за студентите
- Основи на програмирането на Python
- Основи на машинното обучение
Незадължително за студенти
- Обясним изкуствен интелект: Въведение в интерпретабилното машинно обучение (1-ви ред. Издание за 2021 г.) от Удай Камат (автор), Джон Лиу (автор)
Референции и фон за студенти
Препоръчва се за учители
- Belle V., Papantonis I., Принципи и практика на обяснимо машинно обучение
- Arrieta, A. B. et al., Обясним изкуствен интелект (XAI): Концепции, таксономии, възможности и предизвикателства пред отговорния ИИ
- Обясним изкуствен интелект: Въведение в интерпретабилното машинно обучение (1-ви ред. Издание за 2021 г.) от Удай Камат (автор), Джон Лиу (автор)
Материали за уроци
Инструкции за учители
Тази лекция предоставя общи прозрения в областта на обяснимия изкуствен интелект (XAI). Допълнително се обсъжда зависимостта ни от моделите на изкуствения интелект. Учителите могат да подчертаят, че неотдавнашните закони също предизвикаха спешната необходимост от разясняване и защита на решенията, взети от системите с ИИ. Тази лекция обсъжда инструменти и техники за визуализиране, обяснение и изграждане на надеждни системи с ИИ.
Очертаване
| Продължителност | Тема | Описание |
|---|---|---|
| 5 минути | Въведение | Определение на XAI. Защо XAI е важен и какви проблеми решава. |
| 5 минути | Размери на обяснимостта | Какво означава обяснимост. На какви критерии трябва да отговори. |
| 20 минути | Подходи към обяснимостта | Прозрачни модели и непрозрачни модели. |
| 20 минути | Техники за обяснимост | Приближаване до обяснимост с модел-специфични и модел-агностични техники. |
| 10 минути | Заключителни бележки | Дискусия със студентите. Въпроси и отговори. |
Потвърждения
Презентацията е разработена от Кристина Тодорова и д-р Георги Шарков в Европейския софтуерен институт — Център Източна Европа.
Презентацията е силно базирана и използва материали и структура от работата на Belle V., Papantonis I., „Принципи и практика на обяснимо машинно обучение„и Arrieta, A. B. et al., „Обясним изкуствен интелект (XAI): Концепции, таксономии, възможности и предизвикателства пред отговорния ИИ“. Моля, помислете да прочетете техните оригинални изследвания.
Магистърската програма по ИИ, насочена към човека, беше съфинансирана от Механизма за свързване на Европа на Европейския съюз под формата на безвъзмездни средства № CEF-TC-2020—1 Digital Skills 2020-EU-IA-0068.