Administratieve informatie
| Titel | Risico- en risicobeperking in de praktijk |
| Looptijd | 60 mins |
| Module | B |
| Type les | Praktisch |
| Focus | Ethisch — betrouwbare AI |
| Onderwerp | Risico |
Sleutelwoorden
Risico, risicobeperking,
Leerdoelen
- Leerling krijgt praktische ervaring met risicokaders
- De leerling krijgt hands-on ervaring met relevante normen.
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Verplicht voor studenten
- Concepten van risico’s en de beperking daarvan
Optioneel voor studenten
Geen.
Referenties en achtergronden voor studenten
Geen.
Aanbevolen voor docenten
- Lees zelf de conceptstandaard
Lesmateriaal
- Wet op artificiële intelligentie (niet ontwikkeld door het HCAIM-consortium)
- IEEE 7000-2021 Standaard (standaarden die niet zijn ontwikkeld door het HCAIM-consortium)
Instructies voor docenten
- Deze activiteit is gebaseerd op het IEEE 7000-2021 Standard Model Process for Addressing Ethical Concerns tijdens System Design.
- Deze norm zal naar verwachting worden bekrachtigd door de AI-wet van de EU met specifieke aanpassingen.
Deze standaard wordt geleverd met een op risico’s gebaseerde aanpak
- Geef voor elk team van 4-6 studenten een denkbeeldig AI-systeem op dat de studenten moeten ontwikkelen. *Het idee hier is om elke groep iets anders te geven (volgens de risicocategorieën van de EU AI-wet). Voorbeelden:
- bewaking met gezichtsherkenning voor een luchthaven (hint: dit is verboden, behalve in zeer duidelijk omschreven gevallen)
- geautomatiseerd essay grading systeem (hint: waarschijnlijk hoog risico, menselijke overshight nodig)
- aanbevelingssysteem voor tv-series (laag risico, maar er zijn voorzieningen voor kinderen)
- in-game chat bot AI voor een MMORPG (laag risico)
- Laat ze het hoofdstuk risicocategorisatie van de AI-wet lezen (titel II en titel III)
IEEE 7000-2021 op de IEEE eXplore
Gids voor docenten
- Deze activiteit is gebaseerd op het IEEE 7000-2021 Standard Model Process for Addressing Ethical Concerns tijdens System Design.
- Deze norm zal naar verwachting worden bekrachtigd door de AI-wet van de EU met specifieke aanpassingen.
- Deze standaard wordt geleverd met een op risico’s gebaseerde aanpak
- Geef voor elk team van 4-6 studenten een denkbeeldig AI-systeem op dat de studenten moeten ontwikkelen. Het idee is om elke groep iets anders te geven (volgens de risicocategorieën van de EU-wet AI). Voorbeelden:
- bewaking met gezichtsherkenning voor een luchthaven (hint: dit is verboden, behalve in zeer duidelijk omschreven gevallen)
- geautomatiseerd essay grading systeem (hint: waarschijnlijk hoog risico, menselijke overshight nodig)
- aanbevelingssysteem voor tv-series (laag risico, maar er zijn voorzieningen voor kinderen)
- in-game chat bot AI voor een MMORPG (laag risico)
- Laat ze het hoofdstuk risicocategorisatie van de AI-wet lezen (titel II en titel III)
Erkenningen
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.