Administratieve informatie
| Titel | Vertrouwen, Normativiteit en Model Drift |
| Looptijd | 45-60 |
| Module | C |
| Type les | Lezing |
| Focus | Technisch — Toekomstige AI |
| Onderwerp | Open problemen en uitdagingen |
Sleutelwoorden
Vertrouwen, Normativiteit, Model Drift,
Leerdoelen
- Begrijp de noodzaak om vertrouwen in AI te meten
- Inzicht in het concept van Normativiteit in context met Future AI
- Leg verschillende soorten modeldrift uit en adviseer tijdige maatregelen voor toekomstige AI-systemen om modeldrift aan te pakken
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Verplicht voor studenten
- Ethische inhoud van module A
- Ethische inhoud van module B
Optioneel voor studenten
- Inleiding tot machine learning en deep learning concepten gegeven in eerdere lezingen
Referenties en achtergronden voor studenten
- Vertrouwen en kunstmatige intelligentie
- Een enquête over vertrouwensevaluatie op basis van machine learning
- De waarde van het meten van vertrouwen in AI — Een sociaal-technisch systeemperspectief
- Wanneer vertrouwen voldoet aan nauwkeurigheid: Het verkennen van de effecten van meerdere prestatie-indicatoren op vertrouwen in machinaal leren modellen
- In AI vertrouwen we Incrementally: een meerlagig vertrouwensmodel om menselijk-kunstmatige intelligentie-interacties te analyseren
- Vertrouwen en de ethiek van AI
- Ethische richtlijnen voor betrouwbare AI
- Verklaarbaar, Normatief en Gerechtvaardigd Agentschap
- Model Drift in Machine Learning
- Een verenigende kijk op datasetverschuiving in classificatie
- ODIN: Geautomatiseerde Driftdetectie en Herstel in Video Analytics
- Leren onder concept Drift: Een review
- Waarom detectie van gegevensdrift belangrijk is en hoe u deze in 5 eenvoudige stappen automatiseert
Aanbevolen voor docenten
Geen.
Lesmateriaal
Instructies voor docenten
Deze lezing moet zich richten op het concept van vertrouwen over systemen die AI en machine learning gebruiken om beslissingen te nemen. Het moet vertrouwen en de kenmerken van vertrouwen definiëren, samen met de vertrouwenspersoon. De lezing moet een praktische koppeling vormen met het voorgestelde EU-trustkader voor AI. De lezing moet ook het concept van digitale normativiteit en het probleem van modeldrift, meting en monitoring van modeldrift introduceren in de context van betrouwbare AI en machine learning.
Het doel van deze lezing is om het concept van vertrouwen in de context van AI-systemen te bespreken. De lezing moet een antwoord geven op de vraag: Wat betekent het om te vertrouwen en hoe kunnen we vertrouwen opbouwen in AI-systemen? De lezing moet ook het concept van normativiteit in de context van AI en geautomatiseerde besluitvormingssystemen bespreken, waardoor het belang van vertrouwen wordt vergroot. Tot slot zal de lezing modeldrift bespreken, de soorten modeldrift, metrics om modeldrift te meten en hoe om te gaan met modeldrift, wat moet aantonen dat vertrouwen voortdurend moet worden gecontroleerd.
Omtrek
| Looptijd | Omschrijving | Concepten | Activiteit | Materiaal |
|---|---|---|---|---|
| 5 min. | Wat is vertrouwen? | Filosofie van vertrouwen, karakteriseren van vertrouwen, agenten en patiënten van vertrouwen, sociaal-technisch ecosysteem, rol van vertrouwen in kennis | Geleerde sessie en voorbeelden | Lesmateriaal |
| 15 min | Onderzoekstaak Vertrouwen in AI |
Open vragen en review van een artikel | Lesmateriaal | |
| 10 min. | De komst van digitale Normativiteit | Onderwerping, onderwerping, gerechtvaardigde instantie, verklaarbare en normatieve instantie | Geleerde sessie en voorbeelden | Lesmateriaal |
| 15 min | Model Drift | Wat is model drift, soorten model/concept drift (voorspelling, concept, data, upstream), Drift metrics (Population Stability Index, KL divergence, Wasserstein’s Distance), Omgaan met model drift (monitoring, data kwaliteit, omscholing, parameter tuning) | Geleerde sessie en voorbeelden | Lesmateriaal |
| 5 min. | Conclusie | Samenvatting | Conclusies | Lesmateriaal |
Erkenningen
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.