Административна информация
| Дял | Законодателство на ЕС в областта на правата на човека |
| Продължителност | 60 минути |
| Модул | В |
| Вид на урока | Лекция |
| Фокус | Етика — съответствие, законност и хуманност |
| Тема | Европейско и международно законодателство/Рамки относно данните, ИИ, правата на човека и равенството |
Ключови думи
правата на човека, неприкосновеността на личния живот, борбата с дискриминацията,
Учебни цели
- Рационално и обсъждане на темите, свързани с ИИ и правата на човека
Очаквана подготовка
Обучение на събития, които трябва да бъдат завършени преди
Няма.
Задължително за студентите
Няма.
Незадължително за студенти
- Frederik J. Zuiderveen Borgesius (2020 г.) Укрепване на правната защита срещу дискриминация чрез алгоритми и изкуствен интелект, The International Journal of Human Rights; Frederik J. Zuiderveen Borgesius (2018 г.) Дискриминация, изкуствен интелект и алгоритмични, Съвет на Европа; Philipp Hacker (2021 г.) Първи принципи на Закона за изкуствения интелект, правото, иновациите и технологиите; Агенция на Европейския съюз за основните права (2018 г.) #BigData: Дискриминация при вземането на решения, подкрепяни от данни
Референции и фон за студенти
Няма.
Препоръчва се за учители
Няма.
Материали за уроци
Инструкции за учители
Учителят следва да обхваща следните теми:
- Обща осведоменост относно основните права и правните рамки в контекста на ИИ
- Борба с дискриминацията
- Уединение
- Човешко достойнство
- Достъп до правосъдие
Изкуственият интелект (ИИ) има потенциала да окаже значително въздействие върху правата на човека в различни аспекти на обществото. С напредването на технологиите в областта на ИИ тя поражда редица регулаторни предизвикателства и съображения, за да се гарантира, че този напредък съответства на основните права на човека и ги зачита. Няколко ключови регулаторни въпроса в областта на правата на човека, свързани с ИИ, включват:
1. Поверителност и защита на данните: Брой: Системите с ИИ често изискват достъп до големи количества лични данни, за да функционират ефективно. Това поражда опасения относно нарушения на поверителността и неразрешено използване на данни. Регулаторни мерки: Закони за защита на данните като Общия регламент за защита на данните (GDPR) в Европа и подобни разпоредби в световен мащаб определят стандарти за събиране, обработка и съхранение на лични данни. Разработчиците на ИИ трябва да се придържат към строги принципи за защита на данните и да получават информирано съгласие от потребителите.
2. Дискриминация и пречки: Брой: Алгоритмите на ИИ могат да наследят пристрастия, присъстващи в данните за обучение, което води до дискриминационни резултати в области като наемане, кредитиране и правоприлагане. Регулаторни мерки: Регламентите могат да изискват прозрачност в процесите на вземане на решения в алгоритмите на ИИ. Одитите на предубежденията и оценките на въздействието могат да помогнат за идентифицирането и смекчаването на дискриминационните последици. Съществуващите закони за борба с дискриминацията могат да се прилагат и за системите с ИИ.
3. Свобода на изразяване и информация: Брой: Способността на ИИ да манипулира и генерира съдържание поражда опасения относно дезинформацията, фалшивите новини и цензурата. Регулаторни мерки: Регламентите могат да се съсредоточат върху прозрачността по отношение на произхода на генерираното от ИИ съдържание и върху механизмите за проверка на автентичността. Постигането на баланс между правото на свобода на изразяване и необходимостта от предотвратяване на вредната дезинформация е предизвикателство. 4. Трудови и трудови права:
Брой: Автоматизацията, задвижвана от ИИ, може да доведе до съкращаване на работни места и да окаже въздействие върху правата на работниците и сигурността на работните места. Регулаторни мерки: Трудовото законодателство може да се наложи да бъде актуализирано, за да се отговори на въпроси като преквалификацията на съкратените работници, потенциалните промени в трудовите договори, дължащи се на сътрудничеството между хората и ИИ, и гарантирането на справедливо третиране на работниците, засегнати от промени, предизвикани от ИИ.
5. Право на справедлив съдебен процес: Брой: Участието на ИИ в правни процеси, като например алгоритми за прогнозиране на полицейската дейност и осъждане, повдига въпроси относно справедливия процес и правото на справедлив съдебен процес. Регулаторни мерки: Правните рамки следва да гарантират прозрачност и обяснимост на ИИ, използван в съдебните решения. Те следва също така да предоставят механизми за отчетност и способност за оспорване на генерираните от ИИ резултати.
6. Наблюдение и свобода на събранията: Брой: Технологиите за наблюдение, задвижвани с ИИ, могат да нарушат правата на гражданите на неприкосновеност на личния живот и свободата на събранията. Регулаторни мерки: Постигането на баланс между нуждите от сигурност и индивидуалните права е от решаващо значение. Регламентите могат да ограничат използването на наблюдение с ИИ в определени контексти, да изискват строг надзор и да гарантират ограничения на запазването на данни.
7. Достъп до основни услуги: Брой: Системите, задвижвани с ИИ, могат да се използват за разпределяне на ресурси и услуги, като потенциално се изключват маргинализираните групи от населението. Регулаторни мерки: Осигуряването на равен достъп до основни услуги, като същевременно се предотвратява цифровото изключване, изисква разпоредби, които предвиждат прозрачност, справедливост и отчитане на социалното въздействие при проектирането на системи с ИИ.
Очертаване
| Продължителност (мин) | Описание |
|---|---|
| 15 | Дискриминация и неравновесие |
| 15 | Свобода на изразяване и информация и право на справедлив съдебен процес |
| 15 | Наблюдение и свобода на събранията |
| 15 | Достъп до основни услуги |
Потвърждения
Магистърската програма по ИИ, насочена към човека, беше съфинансирана от Механизма за свързване на Европа на Европейския съюз под формата на безвъзмездни средства № CEF-TC-2020—1 Digital Skills 2020-EU-IA-0068.