Administratívne informácie
| Názov | Dôvera, normativity a model Drift |
| Trvanie | 45 – 60 |
| Modul | C |
| Druh lekcie | Prednáška |
| Zameranie | Technická – Budúca umelá inteligencia |
| Téma | Otvorené problémy a výzvy |
Kľúčové slová
Dôvera,Normativity,Model Drift,
Vzdelávacie ciele
- Pochopiť potrebu merať dôveru v umelú inteligenciu
- Pochopenie konceptu normativity v kontexte budúcej umelej inteligencie
- Vysvetlite rôzne druhy modelového driftu a odporúčajte včasné opatrenia pre budúce systémy umelej inteligencie na riešenie modelového driftu
Očakávaná príprava
Naučte sa udalosti, ktoré treba dokončiť predtým
Povinné pre študentov
- Etický obsah z modulu A
- Etický obsah z modulu B
Voliteľné pre študentov
- Úvod do konceptov strojového učenia a hlbokého učenia uvedených v predchádzajúcich prednáškach
Referencie a zázemie pre študentov
- Dôvera a umelá inteligencia
- Prieskum o vyhodnocovaní dôvery na základe strojového učenia
- Hodnota merania dôvery v umelú inteligenciu – perspektíva sociálno-technického systému
- Keď dôvera dosiahne presnosť: Skúmanie účinkov viacerých ukazovateľov výkonnosti na dôveru v modeloch strojového učenia
- In AI Incrementally dôverujeme: viacvrstvový model dôvery na analýzu interakcií medzi človekom a umelou inteligenciou
- Dôvera a etika umelej inteligencie
- Etické usmernenia pre dôveryhodnú umelú inteligenciu
- Vysvetliteľná, normatívna a oprávnená agentúra
- Model Drift v strojovom učení
- Zjednocujúci pohľad na zmenu súboru údajov v klasifikácii
- ODIN: Automatická detekcia a zotavenie Drift vo video Analytics
- Vzdelávanie v rámci konceptu Drift: Preskúmanie
- Prečo je detekcia dátového driftu dôležitá a ako ju automatizujete v 5 jednoduchých krokoch
Odporúčané pre učiteľov
Žiadne.
Učebné materiály
Pokyny pre učiteľov
Táto prednáška by sa mala zamerať na koncepciu dôvery v systémy, ktoré využívajú umelú inteligenciu a strojové učenie na rozhodovanie. Mala by definovať dôveru a charakteristiky dôvery spolu s trustovými agentmi. Prednáška by mala poskytnúť praktické prepojenie s navrhovaným rámcom dôvery EÚ pre umelú inteligenciu. Prednáška by mala tiež predstaviť koncepciu digitálnej normativity a problém modelového driftu, merania a monitorovania modelového driftu v kontexte dôveryhodnej umelej inteligencie a strojového učenia.
Cieľom tejto prednášky je diskutovať o koncepcii dôvery v kontexte systémov umelej inteligencie. Prednáška by mala odpovedať na otázku: Čo to znamená dôverovať a ako môžeme vybudovať dôveru v systémy umelej inteligencie? Prednáška by mala tiež diskutovať o koncepcii normativity v kontexte umelej inteligencie a automatizovaných systémov rozhodovania, čím sa zvýši dôležitosť dôvery. Na záver sa prednáška bude zaoberať modelovým driftom, typmi model driftu, metrikami na meranie posunu modelu a ako sa vysporiadať s modelovým driftom, čo by malo preukázať, že dôvera by sa mala neustále monitorovať.
Obrysy
| Trvanie | Popis | Koncepty | Činnosť | Materiál |
|---|---|---|---|---|
| 5 minút | Čo je dôvera? | Filozofia dôvery, charakterizácia dôvery, agentov a pacientov dôvery, sociálno-technický ekosystém, úloha dôvery vo vedomostiach | Vyučovanie a príklady | Prednáškové materiály |
| 15 minút | Výskumná úloha Dôvera v umelú inteligenciu |
Otvorené otázky a preskúmanie článku | Prednáškové materiály | |
| 10 minút | Príchod digitálnej normativity | Subjektivácia, desubjektivácia, odôvodnená agentúra, vysvetliteľná a normatívna agentúra | Vyučovanie a príklady | Prednáškové materiály |
| 15 minút | Model Drift | Čo je to model drift, typy modelu/koncepcie drift (predikcia, koncept, dáta, proti prúdu), Drift metriky (Population Stability Index, KL diver, Wassersteinova vzdialenosť), riešenie s model drift (monitorovanie, kvalita dát, rekvalifikácia, ladenie parametrov) | Vyučovanie a príklady | Prednáškové materiály |
| 5 minút | Záver | Zhrnutie | Závery | Prednáškové materiály |
Uznania
Program Masters umelej inteligencie zameraný na človeka bol spolufinancovaný z Nástroja Európskej únie na prepájanie Európy v rámci grantu CEF-TC-2020 – 1 Digitálne zručnosti 2020-EU-IA-0068.