Administratieve informatie
| Titel | EU-mensenrechtenwetgeving |
| Looptijd | 60 minuten |
| Module | C |
| Type les | Lezing |
| Focus | Ethisch — Naleving, legaliteit en menselijkheid |
| Onderwerp | EU- en internationale wetgeving/kaders inzake gegevens, AI, mensenrechten en gelijkheid |
Sleutelwoorden
mensenrechten, privacy, antidiscriminatie,
Leerdoelen
- Om de onderwerpen met betrekking tot AI en mensenrechten te rationaliseren en te bespreken
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Geen.
Verplicht voor studenten
Geen.
Optioneel voor studenten
- Referenties Frederik J. Zuiderveen Borgesius (2020) Versterking van de rechtsbescherming tegen discriminatie door algoritmen en kunstmatige intelligentie, The International Journal of Human Rights; Frederik J. Zuiderveen Borgesius (2018) Discriminatie, kunstmatige intelligentie en algoritmisch, Raad van Europa; Philipp Hacker (2021) Eerste beginselen voor de wet op artificiële intelligentie, wet, innovatie en technologie; Bureau van de Europese Unie voor de grondrechten (2018) #BigData: Discriminatie in dataondersteunde besluitvorming
Referenties en achtergronden voor studenten
Geen.
Aanbevolen voor docenten
Geen.
Lesmateriaal
Instructies voor docenten
De docent moet de volgende onderwerpen behandelen:
- Algemeen bewustzijn van de grondrechten en rechtskaders in de KI-context
- Antidiscriminatie
- Privacy
- Menselijke waardigheid
- Toegang tot de rechter
Kunstmatige intelligentie (AI) heeft het potentieel om de mensenrechten in verschillende aspecten van de samenleving aanzienlijk te beïnvloeden. Naarmate de AI-technologie vordert, brengt het een reeks regelgevingsuitdagingen en -overwegingen naar voren om ervoor te zorgen dat deze vooruitgang aansluit bij en respecteert voor de fundamentele mensenrechten. Verschillende belangrijke regelgevingskwesties op het gebied van de mensenrechten in verband met AI zijn onder meer:
1. Privacy en gegevensbescherming: Kwestie: AI-systemen vereisen vaak toegang tot grote hoeveelheden persoonsgegevens om effectief te kunnen functioneren. Dit geeft aanleiding tot bezorgdheid over inbreuken op de privacy en onbevoegd gebruik van gegevens. Reactie van de regelgeving: Gegevensbeschermingswetten zoals de Algemene Verordening Gegevensbescherming (AVG) in Europa en soortgelijke regelgeving stellen wereldwijd normen vast voor het verzamelen, verwerken en opslaan van persoonsgegevens. AI-ontwikkelaars moeten zich houden aan strikte beginselen inzake gegevensbescherming en geïnformeerde toestemming van gebruikers verkrijgen.
2. Discriminatie en bias: Kwestie: AI-algoritmen kunnen vooroordelen erven die aanwezig zijn in trainingsgegevens, wat leidt tot discriminerende resultaten op gebieden zoals inhuren, uitlenen en rechtshandhaving. Reactie van de regelgeving: Regelgeving kan transparantie vereisen in de besluitvormingsprocessen van AI-algoritmen. Bias audits en effectbeoordelingen kunnen helpen bij het identificeren en beperken van discriminerende effecten. De bestaande antidiscriminatiewetten kunnen ook van toepassing zijn op AI-systemen.
3. Vrijheid van meningsuiting en informatie: Kwestie: Het vermogen van AI om inhoud te manipuleren en te genereren roept bezorgdheid op over desinformatie, nepnieuws en censuur. Reactie van de regelgeving: De regelgeving kan gericht zijn op transparantie met betrekking tot de oorsprong van door AI gegenereerde inhoud en mechanismen om de authenticiteit te verifiëren. Het is een uitdaging om het recht op vrijheid van meningsuiting in evenwicht te brengen met de noodzaak schadelijke desinformatie te voorkomen. 4. Arbeids- en arbeidsrechten:
Kwestie: Automatisering gedreven door AI kan leiden tot ontslagen en gevolgen hebben voor de rechten van werknemers en werkzekerheid. Reactie van de regelgeving: Arbeidswetten moeten mogelijk worden bijgewerkt om kwesties aan te pakken, zoals de omscholing van ontslagen werknemers, mogelijke veranderingen in arbeidsovereenkomsten als gevolg van samenwerking tussen mens en AI en het waarborgen van een eerlijke behandeling van werknemers die door AI-gedreven veranderingen worden getroffen.
5. Recht op een eerlijk proces: Kwestie: De betrokkenheid van AI bij juridische processen, zoals voorspellende politie- en veroordelingsalgoritmen, roept vragen op over een eerlijk proces en het recht op een eerlijk proces. Reactie van de regelgeving: Rechtskaders moeten zorgen voor transparantie en verklaarbaarheid van AI die in rechterlijke beslissingen wordt gebruikt. Zij moeten ook voorzien in mechanismen voor verantwoordingsplicht en het vermogen om AI-gegenereerde resultaten aan te vechten.
6. Toezicht en vrijheid van vergadering: Kwestie: Op AI gebaseerde surveillancetechnologieën kunnen inbreuk maken op het recht van burgers op privacy en vrijheid van vergadering. Reactie van de regelgeving: Het is van cruciaal belang om een evenwicht te vinden tussen veiligheidsbehoeften en individuele rechten. Regelgeving kan het gebruik van AI-surveillance in bepaalde contexten beperken, strikt toezicht vereisen en beperkingen inzake gegevensbewaring waarborgen.
7. Toegang tot basisdiensten: Kwestie: AI-gestuurde systemen kunnen worden gebruikt om middelen en diensten toe te wijzen, mogelijk met uitsluiting van gemarginaliseerde bevolkingsgroepen. Reactie van de regelgeving: Het waarborgen van gelijke toegang tot essentiële diensten en het voorkomen van digitale uitsluiting vereist regelgeving die transparantie, billijkheid en sociale impact bij het ontwerpen van AI-systemen verplicht stelt.
Omtrek
| Duur (min) | Omschrijving |
|---|---|
| 15 | Discriminatie en bias |
| 15 | Vrijheid van meningsuiting en informatie en recht op eerlijk proces |
| 15 | Toezicht en vrijheid van vergadering |
| 15 | Toegang tot basisdiensten |
Erkenningen
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.