Administrative oplysninger
| Titel | Tillid, Normativity og Model Drift |
| Varighed | 45-60 |
| Modul | C |
| Lektionstype | Forelæsning |
| Fokus | Teknisk — fremtidig kunstig intelligens |
| Emne | Åbne problemer og udfordringer |
Nøgleord
Tillid,Normatitet,Model Drift,
Læringsmål
- Forstå behovet for at måle tilliden til AI
- Forståelse af begrebet Normativity i sammenhæng med fremtidig AI
- Forklare forskellige former for modeldrift og anbefale rettidige foranstaltninger til fremtidige AI-systemer til håndtering af modeldrift
Forventet forberedelse
Læringsbegivenheder, der skal fuldføres før
Obligatorisk for studerende
- Etisk indhold fra modul A
- Etisk indhold fra modul B
Valgfrit for studerende
- Introduktion til machine learning og deep learning koncepter givet i tidligere foredrag
Referencer og baggrund for studerende
- Tillid og kunstig intelligens
- En undersøgelse om tillidsvurdering baseret på maskinlæring
- Værdien af at måle tillid til AI — et socio-teknisk systemperspektiv
- Når tillid møder nøjagtighed: Undersøge virkningerne af flere præstationsindikatorer på tillid til maskinlæringsmodeller
- I AI vi stoler på Incrementally: en multi-lags model af tillid til at analysere menneskelig-kunstig intelligens interaktioner
- Tillid og etik af AI
- Etiske retningslinjer for pålidelig kunstig intelligens
- Forklarligt, normativt og retfærdigt agentur
- Model Drift i Machine Learning
- Et samlende syn på datasætskift i klassifikation
- ODIN: Automatiseret Drift Detection og Recovery i Video Analytics
- Læring under koncept Drift: En gennemgang
- Hvorfor detektering af datadrift er vigtigt, og hvordan automatiserer du det i 5 enkle trin
Anbefalet til lærerne
Ingen.
Undervisningsmaterialer
Instruktioner til lærerne
Dette foredrag bør fokusere på begrebet tillid om systemer, der anvender AI og maskinlæring til at træffe beslutninger. Det bør definere tillid og karakteristik af tillid sammen med agenternes tillid. Foredraget skal give et praktisk link til den foreslåede EU-trustramme for kunstig intelligens. Foredraget skal også introducere begrebet digital normativitet og problemet med modeldrift, måling og overvågning af modeldrift i forbindelse med pålidelig AI og maskinlæring.
Formålet med dette foredrag er at diskutere begrebet tillid i forbindelse med AI-systemer. Forelæsningen skal besvare spørgsmålet: Hvad betyder det at stole på, og hvordan kan vi opbygge tillid til AI-systemer? Foredraget bør også diskutere begrebet normativitet i forbindelse med AI og automatiserede beslutningssystemer, der lægger vægt på betydningen af tillid. Endelig vil foredraget diskutere modeldrift, typer af modeldrift, målinger til måling af modeldrift, og hvordan man skal håndtere modeldrift, som skal vise, at tilliden skal overvåges konstant.
Omrids
| Varighed | Beskrivelse | Koncepter | Aktivitet | Materiale |
|---|---|---|---|---|
| 5 min. | Hvad er tillid? | Tillidsfilosofi, karakterisering af tillid, agenter og patienter af tillid, socioteknisk økosystem, tillidens rolle i viden | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 15 min. | Forskningsopgave Tillid til AI |
Åbne spørgsmål og gennemgang af en artikel | Forelæsningsmaterialer | |
| 10 min. | Fremkomsten af digital Normativity | Subjektivisering, afsubjektering, berettiget agentur, forklarligt og normativt agentur | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 15 min. | Model Drift | Hvad er modeldrift, typer af model/konceptdrift (forudsigelse, koncept, data, opstrøms), Driftsmålinger (Population Stability Index, KL divergens, Wassersteins afstand), Håndtering af modeldrift (overvågning, datakvalitet, omskoling, parameterjustering) | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 5 min. | Konklusion | Sammendrag | Konklusioner | Forelæsningsmaterialer |
Anerkendelser
Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.