Hallinnolliset tiedot
| Otsikko | EU:n ihmisoikeuslainsäädäntö |
| Kesto | 60 minuuttia |
| Moduuli | C |
| Oppitunnin tyyppi | Luento |
| Keskittyminen | Eettinen – vaatimustenmukaisuus, laillisuus ja ihmisyys |
| Aihe | Dataa, tekoälyä, ihmisoikeuksia ja tasa-arvoa koskevat EU:n ja kansainvälisen lainsäädännön puitteet |
Avainsanoja
ihmisoikeudet, yksityisyys, syrjinnän torjunta,
Oppimistavoitteet
- Järkiperäistää ja keskustella tekoälyyn ja ihmisoikeuksiin liittyvistä aiheista
Odotettu valmistelu
Oppimistapahtumat valmistuvat ennen
Ei mitään.
Pakollinen opiskelijoille
Ei mitään.
Valinnainen opiskelijoille
- Frederik J. Zuiderveen Borgesius (2020): Oikeudellisen suojan vahvistaminen algoritmien ja tekoälyn aiheuttamaa syrjintää vastaan, International Journal of Human Rights; Frederik J. Zuiderveen Borgesius (2018) Syrjintä, tekoäly ja algoritminen, Euroopan neuvosto; Philipp Hacker (2021) Tekoälylain, lain, innovoinnin ja teknologian ensimmäiset periaatteet; Euroopan unionin perusoikeusvirasto (2018) #BigData: Syrjintä datan tukemassa päätöksenteossa
Referenssejä ja taustaa opiskelijoille
Ei mitään.
Suositellaan opettajille
Ei mitään.
Oppituntimateriaalit
Ohjeita opettajille
Opettajan tulee käsitellä seuraavia aiheita:
- Yleinen tietoisuus perusoikeuksista ja oikeudellisista kehyksistä tekoälyn yhteydessä
- Syrjinnän torjunta
- Yksityisyys
- Ihmisarvo
- Oikeussuojan saatavuus
Tekoäly voi vaikuttaa merkittävästi ihmisoikeuksiin yhteiskunnan eri osa-alueilla. Tekoälyteknologian kehittyessä se tuo esiin erilaisia sääntelyyn liittyviä haasteita ja näkökohtia sen varmistamiseksi, että nämä edistysaskeleet ovat sopusoinnussa perusihmisoikeuksien kanssa ja kunnioittavat niitä. Tekoälyyn liittyviä keskeisiä ihmisoikeussääntelyyn liittyviä kysymyksiä ovat muun muassa seuraavat:
1. Yksityisyys ja tietosuoja: Kysymys: Tekoälyjärjestelmät edellyttävät usein pääsyä suuriin henkilötietomääriin, jotta ne toimisivat tehokkaasti. Tämä herättää huolta yksityisyyden loukkauksista ja luvattomasta tietojen käytöstä. Sääntelytoimet: Tietosuojalait, kuten yleinen tietosuoja-asetus (GDPR) Euroopassa ja vastaavat säädökset maailmanlaajuisesti asettavat standardit henkilötietojen keräämiselle, käsittelylle ja säilyttämiselle. Tekoälyn kehittäjien on noudatettava tiukkoja tietosuojaperiaatteita ja hankittava käyttäjien tietoon perustuva suostumus.
2. Syrjintä ja syrjintä: Kysymys: Tekoälyalgoritmit voivat periä koulutustiedoissa esiintyviä vinoutumia, mikä johtaa syrjiviin tuloksiin esimerkiksi palkkaamisen, lainanannon ja lainvalvonnan aloilla. Sääntelytoimet: Sääntely voi edellyttää avoimuutta tekoälyalgoritmien päätöksentekoprosesseissa. Puolueellisuustarkastukset ja vaikutustenarvioinnit voivat auttaa tunnistamaan ja lieventämään syrjiviä vaikutuksia. Olemassa olevia syrjinnän vastaisia lakeja voidaan soveltaa myös tekoälyjärjestelmiin.
3. Sananvapaus ja tiedonvälityksen vapaus: Kysymys: Tekoälyn kyky manipuloida ja tuottaa sisältöä herättää huolta disinformaatiosta, valeuutisista ja sensuurista. Sääntelytoimet: Asetuksissa voitaisiin keskittyä tekoälyn tuottaman sisällön alkuperää koskevaan avoimuuteen ja mekanismeihin aitouden todentamiseksi. Sananvapauden ja haitallisen väärän tiedon ehkäisemisen tarpeen tasapainottaminen on haasteellista. 4. Työ- ja työelämän oikeudet:
Kysymys: Tekoälyn ohjaama automaatio voi johtaa työpaikkojen siirtymiseen ja vaikuttaa työntekijöiden oikeuksiin ja työsuhdeturvaan. Sääntelytoimet: Työlainsäädäntöä saatetaan joutua päivittämään, jotta voidaan käsitellä esimerkiksi työttömiksi jääneiden työntekijöiden uudelleenkoulutusta, mahdollisia muutoksia työsopimuksissa, jotka johtuvat ihmisen ja tekoälyn välisestä yhteistyöstä, ja sen varmistamista, että tekoälyyn perustuvista muutoksista kärsiviä työntekijöitä kohdellaan oikeudenmukaisesti.
5. Oikeus oikeudenmukaiseen oikeudenkäyntiin: Kysymys: Tekoälyn osallistuminen oikeudellisiin prosesseihin, kuten ennakoivaan poliisitoimintaan ja tuomioalgoritmeihin, herättää kysymyksiä oikeudenmukaisesta menettelystä ja oikeudesta oikeudenmukaiseen oikeudenkäyntiin. Sääntelytoimet: Oikeudellisilla kehyksillä olisi varmistettava oikeudellisissa päätöksissä käytetyn tekoälyn avoimuus ja selitettävyys. Niiden olisi myös tarjottava mekanismeja vastuuvelvollisuudelle ja kyvylle haastaa tekoälyn aikaansaamia tuloksia.
6. Valvonta ja kokoontumisvapaus: Kysymys: Tekoälyyn perustuva valvontateknologia voi loukata kansalaisten oikeutta yksityisyyteen ja kokoontumisvapauteen. Sääntelytoimet: On ratkaisevan tärkeää löytää tasapaino turvallisuustarpeiden ja yksilön oikeuksien välillä. Sääntely voi rajoittaa tekoälyn valvonnan käyttöä tietyissä yhteyksissä, edellyttää tiukkaa valvontaa ja varmistaa tietojen säilyttämisen rajoitukset.
7. Pääsy peruspalveluihin: Kysymys: Tekoälyyn perustuvia järjestelmiä voidaan käyttää resurssien ja palvelujen kohdentamiseen, mahdollisesti syrjäytyneitä väestöryhmiä lukuun ottamatta. Sääntelytoimet: Keskeisten palvelujen yhdenvertaisen saatavuuden varmistaminen ja digitaalisen syrjäytymisen estäminen edellyttävät sääntelyä, jossa edellytetään avoimuutta, oikeudenmukaisuutta ja sosiaalisten vaikutusten huomioon ottamista tekoälyjärjestelmien suunnittelussa.
Hahmotella
| Kesto (min) | Kuvaus |
|---|---|
| 15 | Syrjintä ja bias |
| 15 | Sananvapaus ja tiedonvälityksen vapaus ja oikeus oikeudenmukaiseen oikeudenkäyntiin |
| 15 | Valvonta ja kokoontumisvapaus |
| 15 | Pääsy peruspalveluihin |
Tunnustukset
Human-Centered AI Masters -ohjelmaa rahoitettiin Euroopan unionin Verkkojen Eurooppa -välineestä (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).