Administrativní informace
| Název | Důvěra, Normativita a Model Drift |
| Trvání | 45–60 |
| Modul | C |
| Typ lekce | Přednáška |
| Soustředění | Technické – Budoucí UI |
| Téma | Otevřené problémy a výzvy |
Klíčová slova
Důvěra,Normativita, Model Drift,
Vzdělávací cíle
- Pochopit potřebu měřit důvěru v umělou inteligenci
- Pochopení konceptu normality v kontextu s budoucí umělou inteligencí
- Vysvětlit různé druhy modelového driftu a doporučit včasná opatření pro budoucí systémy UI k řešení modelového driftu
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Povinné pro studenty
- Etický obsah z modulu A
- Etický obsah modulu B
Volitelné pro studenty
- Úvod do strojového učení a konceptů hlubokého učení uvedených v předchozích přednáškách
Reference a zázemí pro studenty
- Důvěra a umělá inteligence
- Průzkum hodnocení důvěry na základě strojového učení
- Hodnota měření důvěry v umělou inteligenci – perspektiva sociálně-technického systému
- Když se důvěra setká s přesností: Zkoumání účinků více ukazatelů výkonnosti na důvěru v modely strojového učení
- V AI věříme stále více: vícevrstvý model důvěry k analýze interakcí mezi člověkem a umělou inteligencí
- Důvěra a etika umělé inteligence
- Etické pokyny pro důvěryhodnou umělou inteligenci
- Vysvětlitelná, normativní a odůvodněná agentura
- Model Drift ve strojovém učení
- Sjednocující pohled na posun datového souboru v klasifikaci
- ODIN: Automatická detekce a obnova driftu ve video Analytics
- Učení v konceptu Drift: Přezkum
- Proč je detekce driftu dat důležitá a jak ji automatizujete v 5 jednoduchých krocích
Doporučeno pro učitele
Žádné.
Materiály pro výuku
Pokyny pro učitele
Tato přednáška by se měla zaměřit na koncept důvěry o systémech, které používají umělou inteligenci a strojové učení k rozhodování. Měl by definovat důvěru a charakteristiky důvěry spolu s agenty trustu. Přednáška by měla poskytnout praktickou vazbu na navrhovaný rámec důvěry EU pro umělou inteligenci. Přednáška by měla také představit koncept digitální normativity a problém modelového driftu, měření a sledování modelového driftu v kontextu důvěryhodné UI a strojového učení.
Cílem této přednášky je diskutovat o konceptu důvěry v kontextu systémů UI. Přednáška by měla odpovědět na otázku: Co to znamená důvěřovat a jak můžeme budovat důvěru v systémy UI? Přednáška by měla také diskutovat o konceptu normativity v souvislosti s umělou inteligencí a automatizovanými rozhodovacími systémy a přidávat váhu důležitosti důvěry. V neposlední řadě bude přednáška diskutovat o modelovém driftu, typech modelového driftu, metrikách pro měření modelového driftu a o tom, jak se vypořádat s modelovým driftem, což by mělo demonstrovat, že důvěra by měla být neustále sledována.
Obrys
| Trvání | Popis | Koncepty | Aktivity | Materiál |
|---|---|---|---|---|
| 5 min | Co je to důvěra? | Filozofie důvěry, charakterizace důvěry, agentů a pacientů důvěry, socio-technického ekosystému, role důvěry ve znalostech | Vyučování a příklady | Přednáškové materiály |
| 15 min | Výzkumný úkol Důvěra v umělou inteligenci |
Otevřené otázky a recenze článku | Přednáškové materiály | |
| 10 min | Nástup digitální normality | Subjektivace, desubjektivace, odůvodněná agentura, vysvětlitelná a normativní agentura | Vyučování a příklady | Přednáškové materiály |
| 15 min | Model Drift | Co je model drift, typy modelu/konceptu driftu (předpověď, koncept, data, proti proudu), metriky Drift (index stability obyvatelstva, KL divergence, Wassersteinova vzdálenost), řešení modelového driftu (monitorování, kvalita dat, rekvalifikace, ladění parametrů) | Vyučování a příklady | Přednáškové materiály |
| 5 min | Závěr | Shrnutí | Závěry | Přednáškové materiály |
Potvrzení
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.