Administrativ information
| Titel | Förtroende, normativitet och modelldrift |
| Varaktighet | 45–60 |
| Modul | C |
| Typ av lektion | Föreläsning |
| Fokus | Teknik – Framtida AI |
| Ämne | Öppna problem och utmaningar |
Nyckelord
Förtroende, Normativitet,Model Drift,
Lärandemål
- Förstå behovet av att mäta tillit till AI
- Förstå begreppet normativitet i kontext med framtida AI
- Förklara olika typer av modelldrift och rekommendera snabba åtgärder för framtida AI-system för att hantera modelldrift
Förväntad förberedelse
Lärande händelser som ska slutföras innan
Obligatoriskt för studenter
- Etikinnehåll från modul A
- Etikinnehåll från modul B
Valfritt för studenter
- Introduktion till maskininlärning och djupinlärningskoncept som ges i tidigare föreläsningar
Referenser och bakgrund för studenter
- Förtroende och artificiell intelligens
- En undersökning om förtroendeutvärdering baserad på maskininlärning
- Värdet av att mäta förtroende i AI – ett sociotekniskt systemperspektiv
- När förtroende möter noggrannhet: Utforska effekterna av flera prestandaindikatorer på förtroende i maskininlärningsmodeller
- I AI vi litar stegvis: en flerskiktsmodell av förtroende för att analysera mänskliga-konstificiella intelligensinteraktioner
- Tillit och etik inom AI
- Etiska riktlinjer för tillförlitlig AI
- Förklarbar, Normativ och Justified Agency
- Modell Drift i maskininlärning
- En enhetlig vy över datamängdsskiftet i klassificeringen
- ODEN: Automatiserad Drift Detection och Recovery i Video Analytics
- Lärande under koncept Drift: En översyn
- Varför datadriftsdetektering är viktigt och hur automatiserar du det i 5 enkla steg
Rekommenderas för lärare
Ingen.
Lektionsmaterial
Instruktioner för lärare
Denna föreläsning ska fokusera på begreppet Trust om system som använder AI och maskininlärning för att fatta beslut. Det bör definiera förtroende och egenskaperna hos förtroende tillsammans med agenternas förtroende. Föreläsningen bör ge en praktisk koppling till EU:s föreslagna förtroenderam för AI. Föreläsningen ska också introducera begreppet digital normativitet och problemet med modelldrift, mätning och övervakning av modelldrift i samband med tillförlitlig AI och maskininlärning.
Syftet med föreläsningen är att diskutera begreppet förtroende i samband med AI-system. Föreläsningen ska svara på frågan: Vad innebär det att lita på och hur kan vi bygga förtroende för AI-system? Föreläsningen ska också diskutera begreppet normativitet i samband med AI och automatiserade beslutssystem, vilket lägger vikt vid vikten av förtroende. Slutligen kommer föreläsningen att diskutera modelldrift, typ av modelldrift, mått för att mäta modelldrift, och hur man hanterar modelldrift, vilket bör visa att förtroendet ständigt bör övervakas.
Konturer
| Varaktighet | Beskrivning | Begrepp | Verksamhet | Material |
|---|---|---|---|---|
| 5 min | Vad är förtroende? | Förtroendefilosofi, karaktärisering av förtroende, agenter och patienter av förtroende, sociotekniskt ekosystem, förtroenderoll i kunskap | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 15 min | Forskningsuppgift Förtroende för AI |
Öppna frågor och granskning av en artikel | Föreläsningsmaterial | |
| 10 min | Tillkomsten av digital normativitet | Subjektivitet, desubjectivation, motiverad byrå, förklarbar och normativ myndighet | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 15 min | Modell Drift | Vad är modelldrift, typer av modell/konceptdrift (förutsättning, koncept, data, uppströms), Driftmått (Folkstabilitetsindex, KL-avvikelse, Wassersteins avstånd), hantering av modelldrift (övervakning, datakvalitet, omskolning, parameterinställning) | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 5 min | Slutsats | Sammanfattning | Slutsatser | Föreläsningsmaterial |
Erkännanden
Masterprogrammet Human-Centered AI har samfinansierats av Fonden för ett sammanlänkat Europa i Europeiska unionen inom ramen för Grant CEF-TC-2020–1 Digital Skills 2020 EU-IA-0068.