Administrativní informace
| Název | Právní předpisy EU v oblasti lidských práv |
| Trvání | 60 minut |
| Modul | C |
| Typ lekce | Přednáška |
| Soustředění | Etika – dodržování, zákonnost a humanita |
| Téma | Právní předpisy EU a mezinárodní právní předpisy/rámce týkající se údajů, umělé inteligence, lidských práv a rovnosti |
Klíčová slova
lidská práva, soukromí, antidiskriminace,
Vzdělávací cíle
- Racionální a diskutovat o tématech souvisejících s umělou inteligencí a lidskými právy
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Žádné.
Povinné pro studenty
Žádné.
Volitelné pro studenty
- Odkazy Frederik J. Zuiderveen Borgesius (2020) Posílení právní ochrany před diskriminací pomocí algoritmů a umělé inteligence, The International Journal of Human Rights; Zuiderveen Borgesius (2018) Discrimination, umělá inteligence a algoritmy, Rada Evropy; Philipp Hacker (2021) První zásady zákona o umělé inteligenci, právo, inovace a technologie; Agentura Evropské unie pro základní práva (2018) #BigData: Diskriminace v rozhodování podporovaném daty
Reference a zázemí pro studenty
Žádné.
Doporučeno pro učitele
Žádné.
Materiály pro výuku
Pokyny pro učitele
Učitel by se měl zabývat následujícími tématy:
- Obecné povědomí o základních právech a právních rámcích v souvislosti s umělou inteligencí
- Boj proti diskriminaci
- Soukromí
- Lidská důstojnost
- Přístup ke spravedlnosti
Umělá inteligence má potenciál významně ovlivnit lidská práva v různých aspektech společnosti. S tím, jak technologie umělé inteligence postupuje, přináší řadu regulačních výzev a úvah s cílem zajistit, aby tento pokrok byl v souladu se základními lidskými právy a dodržoval je. Mezi hlavní regulační otázky v oblasti lidských práv související s umělou inteligencí patří:
1. Ochrana soukromí a údajů: Otázka: Systémy UI často vyžadují přístup k velkému množství osobních údajů, aby mohly účinně fungovat. To vyvolává obavy ohledně narušení soukromí a neoprávněného používání údajů. Regulační reakce: Zákony o ochraně osobních údajů, jako je obecné nařízení o ochraně osobních údajů (GDPR) v Evropě a podobné předpisy globálně stanovují standardy pro shromažďování, zpracování a uchovávání osobních údajů. Vývojáři umělé inteligence musí dodržovat přísné zásady ochrany údajů a získat od uživatelů informovaný souhlas.
2. Diskriminace a předpojatost: Otázka: Algoritmy umělé inteligence mohou dědit zkreslení přítomné v tréninkových datech, což vede k diskriminačním výsledkům v oblastech, jako je nábor, půjčování a vymáhání práva. Regulační reakce: Předpisy mohou vyžadovat transparentnost rozhodovacích procesů algoritmů umělé inteligence. Audity předpojatosti a posouzení dopadů mohou pomoci určit a zmírnit diskriminační účinky. Stávající antidiskriminační zákony se mohou vztahovat i na systémy UI.
3. Svoboda projevu a informací: Otázka: Schopnost umělé inteligence manipulovat a vytvářet obsah vyvolává obavy ohledně dezinformací, falešných zpráv a cenzury. Regulační reakce: Nařízení by se mohla zaměřit na transparentnost, pokud jde o původ obsahu vytvořeného umělou inteligencí, a mechanismy ověřování pravosti. Vyvážení práva na svobodu projevu s potřebou předcházet škodlivým dezinformacím je výzvou. 4. Pracovní a zaměstnanecká práva:
Otázka: Automatizace řízená umělou inteligencí může vést k vysídlování pracovních míst a mít dopad na práva pracovníků a jistotu zaměstnání. Regulační reakce: Může být nutné aktualizovat pracovní zákony, aby se řešily otázky, jako je rekvalifikace propuštěných pracovníků, možné změny pracovních smluv v důsledku spolupráce mezi člověkem a umělou inteligencí a zajištění spravedlivého zacházení s pracovníky, kteří jsou ovlivněni změnami řízenými umělou inteligencí.
5. Právo na spravedlivý proces: Otázka: Zapojení umělé inteligence do právních procesů, jako jsou prediktivní policejní a odsuzující algoritmy, vyvolává otázky týkající se řádného procesu a práva na spravedlivý proces. Regulační reakce: Právní rámce by měly zajistit transparentnost a vysvětlitelnost umělé inteligence používané v soudních rozhodnutích. Měly by rovněž poskytnout mechanismy pro odpovědnost a schopnost zpochybňovat výsledky generované umělou inteligencí.
6. Dohled a svoboda shromažďování: Otázka: Technologie sledování založené na umělé inteligenci mohou porušovat práva občanů na soukromí a svobodu shromažďování. Regulační reakce: Zásadní význam má nalezení rovnováhy mezi bezpečnostními potřebami a právy jednotlivců. Předpisy mohou v určitých souvislostech omezit používání dohledu nad umělou inteligencí, vyžadovat přísný dohled a zajistit omezení uchovávání údajů.
7. Přístup k základním službám: Otázka: Systémy založené na umělé inteligenci mohou být použity k přidělování zdrojů a služeb, případně s vyloučením marginalizovaných skupin obyvatelstva. Regulační reakce: Zajištění rovného přístupu k základním službám při současném předcházení digitálnímu vyloučení vyžaduje předpisy, které stanoví transparentnost, spravedlnost a zohlednění sociálního dopadu při navrhování systémů UI.
Obrys
| Doba trvání (min) | Popis |
|---|---|
| 15 | Diskriminace a předpojatost |
| 15 | Svoboda projevu a informací a právo na spravedlivý proces |
| 15 | Dohled a svoboda shromažďování |
| 15 | Přístup k základním službám |
Potvrzení
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.