Administrativní informace
| Název | Úvod do obecně vysvětlitelné AI |
| Trvání | 60 minut |
| Modul | B |
| Typ lekce | Přednáška |
| Soustředění | Etika – důvěryhodná umělá inteligence |
| Téma | Všeobecná vysvětlitelná umělá inteligence |
Klíčová slova
Vysvětlitelná umělá inteligence, strojové učení, hluboké učení, interpretovatelnost, srozumitelnost, transparentnost, soukromí, spravedlnost, odpovědnost, odpovědná umělá inteligence,
Vzdělávací cíle
- Pochopte, analyzujte a rozpracujte význam XAI v moderním světě.
- Rozdíl mezi transparentními a neprůhlednými modely strojového učení.
- Kategorizovat a diskutovat přístupy k vysvětlitelnosti XAI na základě rozsahu modelu, agnosticity, datových typů a technik vysvětlení.
- Rozlišujte, prozkoumejte a diskutujte o kompromisu mezi přesností a interpretabilitou.
- Shrňte a porozumějte pracovním principům a matematickému modelování technik XAI, jako jsou LIME, SHAP, DiCE, LRP, kontrafaktuální a kontrastní vysvětlení.
- Rozšiřte možné aplikace XAI technik jako LIME, SHAP, DiCE, LRP a generujte vysvětlení pro modely black-box pro tabulkové, textové a obrazové datové sady.
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Žádné.
Povinné pro studenty
- Základy programování Pythonu
- Základy strojového učení
Volitelné pro studenty
- Vysvětlitelná umělá inteligence: Úvod do interpretovatelného strojového učení (1. ed. Vydání 2021), kterou předložil Uday Kamath (autor), John Liu (autor)
Reference a zázemí pro studenty
Doporučeno pro učitele
- Belle V., Papantonis I., Zásady a praxe vysvětlitelného strojového učení
- Arrieta, A. B. et al., Vysvětlitelná umělá inteligence (XAI): Koncepty, taxonomie, příležitosti a výzvy k odpovědné UI
- Vysvětlitelná umělá inteligence: Úvod do interpretovatelného strojového učení (1. ed. Vydání 2021), kterou předložil Uday Kamath (autor), John Liu (autor)
Materiály pro výuku
Pokyny pro učitele
Tato přednáška poskytuje obecné vhledy do oblasti vysvětlitelné umělé inteligence (XAI). Dále je diskutována naše závislost na modelech umělé inteligence. Učitelé mohou zdůraznit, že nedávné zákony také způsobily naléhavost vysvětlování a obhajoby rozhodnutí učiněných systémy UI. Tato přednáška pojednává o nástrojích a technikách pro vizualizaci, vysvětlení a budování důvěryhodných systémů UI.
Obrys
| Trvání | Téma | Popis |
|---|---|---|
| 5 minut | Úvod | Definice XAI. Proč je XAI důležitá a jaké problémy řeší? |
| 5 minut | Rozměry vysvětlitelnosti | Co znamená vysvětlitelnost? Na jaká kritéria musí odpovědět. |
| 20 minut | Přístupy k vysvětlitelnosti | Transparentní modely a neprůhledné modely. |
| 20 minut | Techniky vysvětlitelnosti | Přibližovat se vysvětlitelnosti pomocí modelových a modelově-agnostických technik. |
| 10 minut | Závěrečné poznámky | Diskuse se studenty. Otázky a odpovědi. |
Potvrzení
Tuto prezentaci vypracovali Christina Todorová a Dr. George Sharkov v Evropském softwarovém institutu – Centrum východní Evropy.
Prezentace je silně založena na materiálech a struktuře z práce Belle V., Papantonis I., „Principles and Practice of Explainable Machine Learning“ a Arrieta, A. B. et al., „Explainable Artificial Intelligence (XAI): Koncepty, taxonomie, příležitosti a výzvy k odpovědné umělé inteligenci“. Prosím, přečtěte si jejich původní výzkum.
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.