Административна информация
| Дял | Рискове, свързани с ИИ, и управление на риска |
| Продължителност | 90 |
| Модул | Б |
| Вид на урока | Интерактивна сесия |
| Фокус | Етичен — надежден ИИ |
| Тема | Риск |
Ключови думи
Риск за ИИ, управление на риска, управление на устойчивостта, обясним ИИ, тълкуваем ИИ, сигурност, устойчивост, прозрачност, отчетност,
Учебни цели
- Признаване, анализиране и обсъждане на необходимостта и ролята на тестването на сигурността в ИИ.
- Да използват документи, като например Закона за ИИ, за да класифицират случаите на употреба в рискови категории.
- Обсъдете задълбочено и с общ европейски речник относно риска от ИИ и как ИИ може да бъде проектиран безопасно и благосклонно по начин, който няма да изложи хората на неприемливи рискове от вреда, дори когато рисковото поведение може да допринесе за постигането на системна цел.
- Да класифицира задълженията на доставчиците и ползвателите във връзка с управлението на риска с ИИ.
- Обсъждане на изискванията за високорискови системи с ИИ съгласно Закона за ИИ.
- Разработване и признаване на специфични рискове и рискови таксономии, които са от значение през различните етапи от жизнения цикъл на ИИ.
Очаквана подготовка
Обучение на събития, които трябва да бъдат завършени преди
Няма.
Задължително за студентите
- Експертна група на високо равнище по въпросите на изкуствения интелект (AI HLEG). (8 април 2019 г.). Европейска комисия. „Етични насоки за надежден ИИ.
- HCAIM лекция за намаляване на риска и намаляване на риска
Незадължително за студенти
- Уебинар на HCAIM относно европейския подход към надежден, безопасен и надежден ИИ (наличен в YouTube)
- HCAIM Webinar за ролята на сигурността и неприкосновеността на личния живот в машинното обучение (наличен в YouTube)
Референции и фон за студенти
- Експертна група на високо равнище по въпросите на изкуствения интелект (AI HLEG). (8 април 2019 г.). Европейска комисия. „Етични насоки за надежден ИИ.
- HCAIM лекция за намаляване на риска и намаляване на риска
Препоръчва се за учители
- Европейска комисия: Предложение за регламент на Европейския парламент и на Съвета за установяване на хармонизирани правила относно изкуствения интелект (Законодателен акт за изкуствения интелект), 2021 г.
- Агенция на Европейския съюз за киберсигурност, Malatras, A., Dede, G., F.,IAI предизвикателства в областта на киберсигурността: пейзаж на заплахите за изкуствения интелект, Европейска агенция за мрежова и информационна сигурност, 2020 г.
- Експертна група на високо равнище по въпросите на изкуствения интелект (AI HLEG). (8 април 2019 г.). Европейска комисия. „Етични насоки за надежден ИИ.“
- Злонамерени употреби и злоупотреби с изкуствен интелект 2020 г., публикация на Европол
Материали за уроци
Инструкции за учители
Тази интерактивна сесия има за цел да изгради общ речник за студентите, за да обсъдят риска и управлението на риска, свързани с ИИ, по-специално чрез основан на риска подход на ЕС към ИИ. Предоставените материали, както и цялостното описание и график на интерактивната сесия са ориентировъчни и представени с цел по-добро насочване на дискусията с учениците. Докато целите на обучението са изпълнени, инструкторите се насърчават да следват естествения поток на дискусията.
Описание и график на интерактивната сесия:
| Продължителност | Тема | Описание |
|---|---|---|
| 15 минути | Въведение | Определяне на риска. Подходът на ЕС към управлението на риска, свързан с ИИ. Стратегии за управление на риска през целия жизнен цикъл на ИИ. |
| 30 минути | Класифициране на риска | Активи с ИИ и таксономия на заплахите и рамки за управление на риска, за да се опишат техническите характеристики на дизайна на ИИ. |
| 30 минути | Намаляване на риска | Подход към намаляване на риска, като се използват случаи на употреба и общ речник, както и референтни модели, за да се използва дискусията. |
| 15 минути | Заключителни бележки | Дискусия със студентите. Въпроси и отговори. |
Два уебинара HCAIM са от особено значение за тази интерактивна сесия. Те могат да бъдат показани преди обсъждането или части от тях могат да се играят за улесняване на темите и управление на мълчанието.
Потвърждения
Презентацията е разработена от д-р Георги Шарков и Кристина Тодорова в Европейския софтуерен институт — Център Източна Европа.
Презентацията използва слайдове от презентация на д-р Михали Хедер в Будапещенския университет по технологии и икономика. Моля, помислете да следите работата му.
Магистърската програма по ИИ, насочена към човека, беше съфинансирана от Механизма за свързване на Европа на Европейския съюз под формата на безвъзмездни средства № CEF-TC-2020—1 Digital Skills 2020-EU-IA-0068.