Administrativne informacije
| Naslov | Povjerenje, Normativnost i model Drift |
| Trajanje | 45 – 60 |
| Modul | C |
| Vrsta lekcija | Predavanje |
| Fokus | Tehnička – buduća umjetna inteligencija |
| Tema | Otvoreni problemi i izazovi |
Ključne riječi
Povjerenje, Normativnost, Model Drift,
Ciljevi učenja
- Razumjeti potrebu za mjerenjem povjerenja u umjetnu inteligenciju
- Razumijevanje koncepta normalnosti u kontekstu buduće umjetne inteligencije
- Objasniti različite vrste pomaka modela i preporučiti pravodobne mjere za buduće sustave umjetne inteligencije kako bi se riješio problem pomaka modela
Očekivana priprema
Edukativni događaji koji će biti završeni prije
Obvezno za studente
- Etički sadržaj iz modula A
- Etički sadržaj iz modula B
Neobvezno za studente
- Uvod u koncepte strojnog učenja i dubokog učenja dane u prethodnim predavanjima
Preporuke i pozadina za studente
- Povjerenje i umjetna inteligencija
- Istraživanje o procjeni povjerenja na temelju strojnog učenja
- Vrijednost mjerenja povjerenja u umjetnu inteligenciju – društveno-tehnička perspektiva sustava
- Kada povjerenje upoznaje točnost: Istraživanje učinaka višestrukih pokazatelja uspješnosti na povjerenje u modele strojnog učenja
- U području umjetne inteligencije sve više vjerujemo: višeslojni model povjerenja za analizu međudjelovanja ljudske i umjetne inteligencije
- Povjerenje i etika umjetne inteligencije
- Etičke smjernice za pouzdanu umjetnu inteligenciju
- Objašnjiva, Normativna i opravdana agencija
- Model Drift u strojnom učenju
- Ujedinjujući prikaz promjene skupa podataka u klasifikaciji
- ODIN: Automatsko otkrivanje i oporavak pogona u Video Analyticsu
- Učenje u okviru konceptnog pogona: A Recenzija
- Zašto je otkrivanje pomaka podataka važno i kako ga automatizirati u 5 jednostavnih koraka
Preporučeno nastavnicima
Nijedan.
Nastavni materijali
Upute za učitelje
Ovo predavanje trebalo bi se usredotočiti na koncept povjerenja o sustavima koji koriste umjetnu inteligenciju i strojno učenje za donošenje odluka. Trebala bi definirati povjerenje i značajke povjerenja zajedno s povjerenjem agenata. Predavanje bi trebalo pružiti praktičnu poveznicu s predloženim okvirom povjerenja EU-a za umjetnu inteligenciju. Predavanje bi također trebalo predstaviti koncept digitalne normativnosti i problem pomaka modela, mjerenja i praćenja modela u kontekstu pouzdane umjetne inteligencije i strojnog učenja.
Cilj ovog predavanja je raspravljati o konceptu povjerenja u kontekstu UI sustava. Predavanje bi trebalo odgovoriti na pitanje: Što znači povjerenje i kako možemo izgraditi povjerenje u sustave umjetne inteligencije? Na predavanju bi trebalo raspravljati i o konceptu normativnosti u kontekstu umjetne inteligencije i automatiziranih sustava donošenja odluka, dodajući važnost povjerenja. Konačno, u predavanju će se raspravljati o modelnom zanošenju, vrstama pomaka modela, parametrima za mjerenje pomaka modela i načinu postupanja s nanošenjem modela, što bi trebalo pokazati da povjerenje treba stalno pratiti.
Nacrt
| Trajanje | Opis | Koncepti | Aktivnost | Materijal |
|---|---|---|---|---|
| 5 min | Što je povjerenje? | Filozofija povjerenja, karakterizacija povjerenja, agenti i pacijenti povjerenja, socio-tehnički ekosustav, uloga povjerenja u znanje | Podučavanje sesije i primjeri | Materijali za predavanja |
| 15 min | Istraživački zadatak Povjerenje u umjetnu inteligenciju |
Otvorena pitanja i osvrt na članak | Materijali za predavanja | |
| 10 min | Pojavljivanje digitalne normalnosti | Subjektivacija, desubjectivacija, opravdana agencija, objašnjiva i normativna agencija | Podučavanje sesije i primjeri | Materijali za predavanja |
| 15 min | Model Drift | Što je pomak modela, vrste pomaka modela/koncepta (predviđanje, koncept, podaci, uzvodno), parametri pogona (indeks stabilnosti populacije, divergencija KL-a, Wassersteinova udaljenost), postupanje s pomakom modela (praćenje, kvaliteta podataka, ponovno osposobljavanje, ugađanje parametara) | Podučavanje sesije i primjeri | Materijali za predavanja |
| 5 min | Zaključak | Sažetak | Zaključci | Materijali za predavanja |
Priznanja
Diplomski studij umjetne inteligencije usmjeren na čovjeka sufinanciran je Instrumentom za povezivanje Europe Europske unije u okviru bespovratnih sredstava CEF-TC-2020 – 1 Digital Skills 2020-EU-IA-0068.