Administrativne informacije
| Naslov | Zakonodavstvo EU-a o ljudskim pravima |
| Trajanje | 60 minuta |
| Modul | C |
| Vrsta lekcija | Predavanje |
| Fokus | Etika – usklađenost, zakonitost i humanost |
| Tema | Zakonodavstvo EU-a i međunarodni okviri za podatke, umjetnu inteligenciju, ljudska prava i jednakost |
Ključne riječi
ljudska prava, privatnost, borba protiv diskriminacije,
Ciljevi učenja
- Racionalizirati i raspravljati o temama povezanima s umjetnom inteligencijom i ljudskim pravima
Očekivana priprema
Edukativni događaji koji će biti završeni prije
Nijedan.
Obvezno za studente
Nijedan.
Neobvezno za studente
- Reference Frederik J. Zuiderveen Borgesius (2020.) Jačanje pravne zaštite od diskriminacije algoritmima i umjetnom inteligencijom, Međunarodni časopis za ljudska prava; Frederik J. Zuiderveen Borgesius (2018.), Diskriminacija, umjetna inteligencija i algoritam, Vijeće Europe; Philipp Hacker (2021.), First Principles to the artificial Intelligence Act, Law, Innovation and Technology (Prva načela Zakona o umjetnoj inteligenciji, prava, inovacija i tehnologije); Agencija Europske unije za temeljna prava (2018.) #BigData: Diskriminacija u donošenju odluka uz potporu podataka
Preporuke i pozadina za studente
Nijedan.
Preporučeno nastavnicima
Nijedan.
Nastavni materijali
Upute za učitelje
Nastavnik bi trebao obuhvatiti sljedeće teme:
- Opća svijest o temeljnim pravima i pravnim okvirima u kontekstu umjetne inteligencije
- Borba protiv diskriminacije
- Privatnost
- Ljudsko dostojanstvo
- Pristup pravosuđu
Umjetna inteligencija može znatno utjecati na ljudska prava u različitim aspektima društva. Kako tehnologija umjetne inteligencije napreduje, ona donosi niz regulatornih izazova i razmatranja kako bi se osiguralo da su ti napredak usklađeni s temeljnim ljudskim pravima i da ih se poštuje. Nekoliko ključnih regulatornih pitanja u području ljudskih prava povezanih s umjetnom inteligencijom uključuje:
1. Privatnost i zaštita podataka: Izdanje: UI sustavi često zahtijevaju pristup velikim količinama osobnih podataka kako bi učinkovito funkcionirali. To izaziva zabrinutost zbog kršenja privatnosti i neovlaštene uporabe podataka. Regulatorni odgovor: Zakoni o zaštiti podataka kao što je Opća uredba o zaštiti podataka (GDPR) u Europi i slični propisi na globalnoj razini postavljaju standarde za prikupljanje, obradu i pohranu osobnih podataka. Razvojni programeri umjetne inteligencije moraju se pridržavati strogih načela zaštite podataka i dobiti informirani pristanak korisnika.
2. Diskriminacija i pristranost: Izdanje: Algoritmi umjetne inteligencije mogu naslijediti predrasude prisutne u podacima za osposobljavanje, što dovodi do diskriminirajućih ishoda u područjima kao što su zapošljavanje, pozajmljivanje i izvršavanje zakonodavstva. Regulatorni odgovor: Propisi mogu zahtijevati transparentnost u postupcima donošenja odluka algoritama umjetne inteligencije. Revizije pristranosti i procjene učinka mogu pomoći u utvrđivanju i ublažavanju diskriminirajućih učinaka. Postojeći zakoni o suzbijanju diskriminacije mogu se primjenjivati i na sustave umjetne inteligencije.
3. Sloboda izražavanja i informiranja: Izdanje: Sposobnost umjetne inteligencije da manipulira i stvara sadržaj izaziva zabrinutost zbog dezinformacija, lažnih vijesti i cenzure. Regulatorni odgovor: Propisi bi mogli biti usmjereni na transparentnost u pogledu podrijetla sadržaja stvorenog umjetnom inteligencijom i mehanizama za provjeru autentičnosti. Uspostavljanje ravnoteže između prava na slobodu izražavanja i potrebe za sprečavanjem štetnih dezinformacija predstavlja izazov. 4. Radna i radna prava:
Izdanje: Automatizacija potaknuta umjetnom inteligencijom može dovesti do raseljavanja radnih mjesta i utjecati na prava radnika i sigurnost radnih mjesta. Regulatorni odgovor: Možda će biti potrebno ažurirati zakone o radu kako bi se riješila pitanja kao što su prekvalifikacija radnika koji su proglašeni viškom, moguće promjene u ugovorima o radu zbog suradnje između ljudi i umjetne inteligencije te osiguravanje pravednog postupanja prema radnicima koji su pogođeni promjenama uzrokovanima umjetnom inteligencijom.
5. Pravo na pošteno suđenje: Izdanje: Sudjelovanje umjetne inteligencije u pravnim procesima, kao što su prediktivni policijski postupci i algoritmi za izricanje kazni, otvara pitanja o pravičnom postupku i pravu na pošteno suđenje. Regulatorni odgovor: Pravnim okvirima trebala bi se osigurati transparentnost i objašnjivost umjetne inteligencije koja se upotrebljava u sudskim odlukama. Njima bi se trebali osigurati i mehanizmi za odgovornost i sposobnost osporavanja ishoda stvorenih umjetnom inteligencijom.
6. Nadzor i sloboda okupljanja: Izdanje: Tehnologije nadzora koje se temelje na umjetnoj inteligenciji mogu kršiti prava građana na privatnost i slobodu okupljanja. Regulatorni odgovor: Od ključne je važnosti postići ravnotežu između sigurnosnih potreba i prava pojedinaca. Propisima bi se mogla ograničiti primjena nadzora umjetne inteligencije u određenim kontekstima, zahtijevati strog nadzor i osigurati ograničenja zadržavanja podataka.
7. Pristup osnovnim uslugama: Izdanje: Sustavi koji se temelje na umjetnoj inteligenciji mogu se upotrebljavati za dodjelu resursa i usluga, potencijalno isključujući marginalizirano stanovništvo. Regulatorni odgovor: Za osiguravanje jednakog pristupa osnovnim uslugama uz istodobno sprečavanje digitalne isključenosti potrebni su propisi kojima se zahtijeva transparentnost, pravednost i razmatranje društvenog učinka u dizajnu UI sustava.
Nacrt
| Trajanje (min) | Opis |
|---|---|
| 15 | Diskriminacija i pristranost |
| 15 | Sloboda izražavanja i informiranja i pravo na pošteno suđenje |
| 15 | Nadzor i sloboda okupljanja |
| 15 | Pristup osnovnim uslugama |
Priznanja
Diplomski studij umjetne inteligencije usmjeren na čovjeka sufinanciran je Instrumentom za povezivanje Europe Europske unije u okviru bespovratnih sredstava CEF-TC-2020 – 1 Digital Skills 2020-EU-IA-0068.