Hallinnolliset tiedot
| Otsikko | Luottamus, Normativity ja Model Drift |
| Kesto | 45–60 |
| Moduuli | C |
| Oppitunnin tyyppi | Luento |
| Keskittyminen | Tekninen – Tulevaisuuden tekoäly |
| Aihe | Avoimet ongelmat ja haasteet |
Avainsanoja
Luota,Normativity, Malli Drift,
Oppimistavoitteet
- Ymmärtää tarvetta mitata luottamusta tekoälyyn
- Normativity-käsitteen ymmärtäminen tulevaisuuden tekoälyn yhteydessä
- Selitä erilaisia mallipoikkeamia ja suosittele oikea-aikaisia toimenpiteitä tuleville tekoälyjärjestelmille mallin ajautumisen käsittelemiseksi
Odotettu valmistelu
Oppimistapahtumat valmistuvat ennen
Pakollinen opiskelijoille
- Eettinen sisältö moduulista A
- Moduulin B etiikkasisältö
Valinnainen opiskelijoille
- Koneoppimisen ja syväoppimisen käsitteiden esittely aiemmissa luennoissa
Referenssejä ja taustaa opiskelijoille
- Luottamus ja tekoäly
- Luottamusarviointia koskeva kysely, joka perustuu koneoppimiseen
- Luottamuksen mittaamisen arvo tekoälyyn – sosiotekninen järjestelmä
- Kun luottamus saavuttaa tarkkuuden: Useiden suorituskykyindikaattorien vaikutusten tutkiminen luotettavuuteen koneoppimismalleissa
- Tekoälyssä luotamme yhä enemmän: monikerroksinen luottamusmalli ihmisen ja tekoälyn vuorovaikutuksen analysoimiseksi
- Luottamus ja tekoälyn etiikka
- Luotettavaa tekoälyä koskevat eettiset ohjeet
- Selitettävissä, normatiivisissa ja perustelluissa virastoissa
- Malli Drift koneoppimisessa
- Yhdistävä näkymä data-aineiston muutokseen luokituksessa
- ODIN: Automaattinen Drift-tunnistus ja palautus Video Analyticsissa
- Oppiminen konseptin Drift: Uudelleentarkastelu
- Miksi datan ajelehtimisen havaitseminen on tärkeää ja miten automatisoit sen viidessä yksinkertaisessa vaiheessa
Suositellaan opettajille
Ei mitään.
Oppituntimateriaalit
Ohjeita opettajille
Tämän luennon tulisi keskittyä luottamuksen käsitteeseen järjestelmistä, jotka käyttävät tekoälyä ja koneoppimista päätösten tekemiseen. Sen tulisi määritellä luottamus ja luottamuksen ominaisuudet yhdessä asiamiesten luottamuksen kanssa. Luennolla olisi oltava käytännön yhteys ehdotettuun tekoälyä koskevaan EU:n luottamuskehykseen. Luennossa tulisi myös esitellä digitaalisen normatiivisuuden käsite sekä mallin ajautumisen, mittaamisen ja seurannan ongelma luotettavan tekoälyn ja koneoppimisen yhteydessä.
Luennon tavoitteena on keskustella luottamuksen käsitteestä tekoälyjärjestelmien kontekstissa. Luennon pitäisi vastata kysymykseen: Mitä tarkoittaa luottamus ja miten voimme rakentaa luottamusta tekoälyjärjestelmiin? Luennossa tulisi myös keskustella normatiivisuuden käsitteestä tekoälyn ja automatisoitujen päätöksentekojärjestelmien yhteydessä ja lisätä painoarvoa luottamuksen tärkeydelle. Lopuksi luennossa keskustellaan mallin ajautumisesta, mallin ajautumisen tyypeistä, mallin ajautumista mittaavista mittareista ja siitä, miten käsitellä mallin ajautumista, jonka pitäisi osoittaa, että luottamusta olisi seurattava jatkuvasti.
Hahmotella
| Kesto | Kuvaus | Käsitteet | Aktiivisuus | Materiaali |
|---|---|---|---|---|
| 5 min | Mitä on luottamus? | Luottamusfilosofia, luottamuksen luonnehdinta, luottamushenkilöt ja -potilaat, sosiotekninen ekosysteemi, luottamuksen rooli osaamisessa | Opetettu istunto ja esimerkkejä | Luentomateriaalit |
| 15 min | Tutkimustehtävä Luottamus tekoälyyn |
Avoimet kysymykset ja artikkelin tarkastelu | Luentomateriaalit | |
| 10 min | Digitaalisen normaaliteetin syntyminen | Subjektiivinen, desubjectivation, perusteltu virasto, selittävä ja normatiivinen virasto | Opetettu istunto ja esimerkkejä | Luentomateriaalit |
| 15 min | Malli Drift | Mikä on mallin drift, mallin/konseptin ajelehtimisen tyypit (ennustus, käsite, data, ylävirta), Drift-mittarit (Väkilukuvakausindeksi, KL-ero, Wassersteinin etäisyys), mallin ajautumisen käsittely (seuranta, tietojen laatu, uudelleenkoulutus, parametrien viritys) | Opetettu istunto ja esimerkkejä | Luentomateriaalit |
| 5 min | Johtopäätös | Yhteenveto | Päätelmät | Luentomateriaalit |
Tunnustukset
Human-Centered AI Masters -ohjelmaa rahoitettiin Euroopan unionin Verkkojen Eurooppa -välineestä (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).