Administratívne informácie
| Názov | Právne predpisy EÚ v oblasti ľudských práv |
| Trvanie | 60 minút |
| Modul | C |
| Druh lekcie | Prednáška |
| Zameranie | Etika – dodržiavanie, legálnosť a ľudskosť |
| Téma | Právne predpisy EÚ a medzinárodné právne predpisy/rámcové práce o údajoch, umelej inteligencii, ľudských právach a rovnosti |
Kľúčové slová
ľudské práva, súkromie, antidiskriminácia,
Vzdelávacie ciele
- Racionalizovať a diskutovať o témach súvisiacich s umelou inteligenciou a ľudskými právami
Očakávaná príprava
Naučte sa udalosti, ktoré treba dokončiť predtým
Žiadne.
Povinné pre študentov
Žiadne.
Voliteľné pre študentov
- Odkazy Frederik J. Zuiderveen Borgesius (2020) Posilnenie právnej ochrany pred diskrimináciou algoritmami a umelou inteligenciou, Medzinárodný vestník ľudských práv; Frederik J. Zuiderveen Borgesius (2018) Diskriminácia, umelá inteligencia a algoritmické, Rada Európy; Philipp Hacker (2021) First Principles to the Artificial Intelligence Act, Law, Innovation and Technology (Prvé zásady zákona o umelej inteligencii, práva, inovácie a technológie); Agentúra Európskej únie pre základné práva (2018) #BigData: Diskriminácia pri rozhodovaní podporovanom údajmi
Referencie a zázemie pre študentov
Žiadne.
Odporúčané pre učiteľov
Žiadne.
Učebné materiály
Pokyny pre učiteľov
Učiteľ by sa mal zaoberať nasledujúcimi témami:
- Všeobecné povedomie o základných právach a právnych rámcoch v kontexte umelej inteligencie
- Antidiskriminácia
- Súkromie
- Ľudská dôstojnosť
- Prístup k spravodlivosti
Umelá inteligencia má potenciál významne ovplyvniť ľudské práva v rôznych aspektoch spoločnosti. Keďže technológia umelej inteligencie napreduje, prináša celý rad regulačných výziev a úvah s cieľom zabezpečiť, aby tieto pokroky boli v súlade so základnými ľudskými právami a rešpektovali ich. Niekoľko kľúčových regulačných otázok v oblasti ľudských práv súvisiacich s umelou inteligenciou zahŕňa:
1. Ochrana súkromia a údajov: Otázka: Systémy umelej inteligencie si často vyžadujú prístup k veľkému množstvu osobných údajov, aby mohli účinne fungovať. To vyvoláva obavy v súvislosti s narušením ochrany osobných údajov a neoprávneným používaním údajov. Regulačná reakcia: Zákony o ochrane údajov, ako je všeobecné nariadenie o ochrane údajov (GDPR) v Európe a podobné nariadenia na celom svete stanovujú normy pre zhromažďovanie, spracovanie a uchovávanie osobných údajov. Vývojári umelej inteligencie musia dodržiavať prísne zásady ochrany údajov a získať informovaný súhlas od používateľov.
2. Diskriminácia a zaujatosť: Otázka: Algoritmy umelej inteligencie môžu zdediť predsudky prítomné v trénovacích údajoch, čo vedie k diskriminačným výsledkom v oblastiach, ako je nábor, požičiavanie a presadzovanie práva. Regulačná reakcia: Nariadenia si môžu vyžadovať transparentnosť v rozhodovacích procesoch algoritmov umelej inteligencie. Audity zaujatosti a posúdenia vplyvu môžu pomôcť identifikovať a zmierniť diskriminačné účinky. Existujúce antidiskriminačné zákony sa môžu vzťahovať aj na systémy umelej inteligencie.
3. Sloboda prejavu a informácií: Otázka: Schopnosť umelej inteligencie manipulovať a vytvárať obsah vyvoláva obavy z dezinformácií, falošných správ a cenzúry. Regulačná reakcia: Nariadenia by sa mohli zamerať na transparentnosť, pokiaľ ide o pôvod obsahu vytvoreného umelou inteligenciou, a mechanizmy na overenie pravosti. Rovnováha medzi právom na slobodu prejavu a potrebou predchádzať škodlivým dezinformáciám je výzvou. 4. Pracovné a pracovné práva:
Otázka: Automatizácia poháňaná umelou inteligenciou môže viesť k presunu pracovných miest a ovplyvniť práva pracovníkov a istotu zamestnania. Regulačná reakcia: Môže byť potrebné aktualizovať pracovné zákony s cieľom riešiť otázky, ako je rekvalifikácia prepustených pracovníkov, potenciálne zmeny v pracovných zmluvách v dôsledku spolupráce medzi ľuďmi a umelou inteligenciou a zabezpečenie spravodlivého zaobchádzania s pracovníkmi, ktorých sa týkajú zmeny založené na umelej inteligencii.
5. Právo na spravodlivý proces: Otázka: Zapojenie umelej inteligencie do právnych procesov, ako je prediktívne policajné a odsúdenie algoritmov, vyvoláva otázky týkajúce sa riadneho procesu a práva na spravodlivý proces. Regulačná reakcia: Právne rámce by mali zabezpečiť transparentnosť a vysvetliteľnosť umelej inteligencie používanej v súdnych rozhodnutiach. Mali by tiež poskytnúť mechanizmy na zodpovednosť a schopnosť spochybňovať výsledky generované umelou inteligenciou.
6. Dohľad a sloboda zhromažďovania: Otázka: Sledovacie technológie využívajúce umelú inteligenciu môžu porušovať práva občanov na súkromie a slobodu zhromažďovania. Regulačná reakcia: Dosiahnutie rovnováhy medzi bezpečnostnými potrebami a právami jednotlivcov má zásadný význam. Nariadenia by mohli obmedziť používanie dohľadu nad umelou inteligenciou v určitých kontextoch, vyžadovať prísny dohľad a zabezpečiť obmedzenia uchovávania údajov.
7. Prístup k základným službám: Otázka: Systémy založené na umelej inteligencii sa môžu použiť na prideľovanie zdrojov a služieb, potenciálne s vylúčením marginalizovaných skupín obyvateľstva. Regulačná reakcia: Zabezpečenie rovnakého prístupu k základným službám a zároveň predchádzanie digitálnemu vylúčeniu si vyžaduje predpisy, ktorými sa vyžaduje transparentnosť, spravodlivosť a zohľadnenie sociálneho vplyvu pri navrhovaní systémov umelej inteligencie.
Obrysy
| Trvanie (min) | Popis |
|---|---|
| 15 | Diskriminácia a zaujatosť |
| 15 | Sloboda prejavu a informácií a právo na spravodlivé súdne konanie |
| 15 | Dohľad a sloboda zhromažďovania |
| 15 | Prístup k základným službám |
Uznania
Program Masters umelej inteligencie zameraný na človeka bol spolufinancovaný z Nástroja Európskej únie na prepájanie Európy v rámci grantu CEF-TC-2020 – 1 Digitálne zručnosti 2020-EU-IA-0068.