Административна информация
| Дял | Доверие, нормативност и модел дрифт |
| Продължителност | 45—60 |
| Модул | В |
| Вид на урока | Лекция |
| Фокус | Технически — бъдещ ИИ |
| Тема | Откриване на проблеми и предизвикателства |
Ключови думи
Доверие, Норматичност, Модел Drift,
Учебни цели
- Разбиране на необходимостта от измерване на доверието в ИИ
- Разбиране на концепцията за нормативност в контекста на бъдещия ИИ
- Обяснете различните видове отклонение на модела и препоръчайте навременни мерки за бъдещите системи с ИИ за справяне с отклонението на модела
Очаквана подготовка
Обучение на събития, които трябва да бъдат завършени преди
Задължително за студентите
- Етично съдържание от модул А
- Етично съдържание от модул Б
Незадължително за студенти
- Въведение в концепциите за машинно обучение и задълбочено обучение, дадени в предишни лекции
Референции и фон за студенти
- Доверие и изкуствен интелект
- Проучване за оценка на доверието въз основа на машинно обучение
- Стойността на измерването на доверието в ИИ — социално-техническа перспектива
- Когато увереността отговаря на точността: Проучване на ефектите от множеството показатели за ефективност върху доверието в моделите за машинно обучение
- В AI ние се доверяваме в по-голяма степен: многослоен модел на доверие за анализ на взаимодействията между човека и изкуствения интелект
- Доверието и етиката на ИИ
- Етични насоки за надежден ИИ
- Обяснима, нормативна и оправдана агенция
- Модел дрифт в машинното обучение
- Обединяващ поглед върху промяната на набора от данни в класификацията
- ОДИН: Автоматизирано откриване и възстановяване на дрифт във видео анализи
- Обучение по концепция Drift: Преглед
- Защо откриването на дрейф на данни е важно и как да го автоматизирате в 5 прости стъпки
Препоръчва се за учители
Няма.
Материали за уроци
Инструкции за учители
Тази лекция трябва да се съсредоточи върху концепцията за доверие за системи, които използват изкуствен интелект и машинно обучение за вземане на решения. Тя следва да определя доверието и характеристиките на доверието заедно с доверието на агентите. Лекцията следва да предостави практическа връзка с предложената рамка за доверие на ЕС за ИИ. В лекцията следва да се въведе и концепцията за цифрова нормативност и проблемът за дрейф на модела, измерване и наблюдение на дрейф на модела в контекста на надежден ИИ и машинно самообучение.
Целта на тази лекция е да се обсъди концепцията за доверие в контекста на системите с ИИ. Лекцията трябва да отговори на въпроса: Какво означава да вярваме и как можем да изградим доверие в системите с ИИ? В лекцията трябва да се обсъди и концепцията за нормативност в контекста на ИИ и автоматизираните системи за вземане на решения, като се добави тежест към значението на доверието. И накрая, в лекцията ще бъдат обсъдени дрейфът на модела, видовете дрейф на модела, показателите за измерване на дрейф на модела и как да се справим с дрейф на модела, което трябва да покаже, че доверието трябва да се наблюдава постоянно.
Очертаване
| Продължителност | Описание | Концепции | Дейност | Материал |
|---|---|---|---|---|
| 5 мин. | Какво е доверие? | Философия на доверието, характеризираща доверието, агенти и пациенти на доверие, социално-техническа екосистема, роля на доверието в знанието | Преподавана сесия и примери | Материали за лекции |
| 15 мин. | Научноизследователска задача Доверие в ИИ |
Отворени въпроси и преглед на статия | Материали за лекции | |
| 10 мин. | Появата на дигиталната нормативност | Субективиране, десубективност, оправдано представителство, обяснима и нормативна агенция | Преподавана сесия и примери | Материали за лекции |
| 15 мин. | Модел Drift | Какво представлява дрейфът на модела, видовете дрейф на модела/концепцията (прогноза, концепция, данни, нагоре по веригата), показателите за Drift (Индекс за стабилност на населението, отклонение на KL, разстояние на Васерщайн), справяне с дрейф на модела (мониторинг, качество на данните, преквалификация, настройка на параметрите) | Преподавана сесия и примери | Материали за лекции |
| 5 мин. | Извод | Обобщение | Изводи | Материали за лекции |
Потвърждения
Магистърската програма по ИИ, насочена към човека, беше съфинансирана от Механизма за свързване на Европа на Европейския съюз под формата на безвъзмездни средства № CEF-TC-2020—1 Digital Skills 2020-EU-IA-0068.