Administratívne informácie
| Názov | Úvod do všeobecne vysvetliteľnej umelej inteligencie |
| Trvanie | 60 minút |
| Modul | B |
| Druh lekcie | Prednáška |
| Zameranie | Etika – dôveryhodná umelá inteligencia |
| Téma | Všeobecne vysvetliteľná umelá inteligencia |
Kľúčové slová
Vysvetliteľná umelá inteligencia, strojové učenie, hlboké učenie, interpretovateľnosť, zrozumiteľnosť, transparentnosť, súkromie, spravodlivosť, zodpovednosť, zodpovedná umelá inteligencia,
Vzdelávacie ciele
- Pochopiť, analyzovať a rozpracovať význam XAI v modernom svete.
- Rozdiel medzi transparentnými a nepriehľadnými modelmi strojového učenia.
- Kategorizujte a diskutujte o prístupoch k vysvetliteľnosti XAI na základe rozsahu modelu, agnosticity, typov údajov a techník vysvetlenia.
- Rozlišujte, vyšetrujte a diskutujte o kompromise medzi presnosťou a interpretovateľnosťou.
- Zhrňte a pochopte pracovné princípy a matematické modelovanie techník XAI, ako sú LIME, SHAP, DiCE, LRP, kontrafaktuálne a kontrastné vysvetlenia.
- Rozšírte možnosti použitia XAI techník, ako sú LIME, SHAP, DiCE, LRP, aby ste vytvorili vysvetlenia pre modely black-box pre tabuľkové, textové a obrazové dátové súbory.
Očakávaná príprava
Naučte sa udalosti, ktoré treba dokončiť predtým
Žiadne.
Povinné pre študentov
- Základy Python programovania
- Základy strojového učenia
Voliteľné pre študentov
- Vysvetliteľná umelá inteligencia: Úvod do interpretovateľného strojového učenia (1. ed. Vydanie 2021), ktorú predkladá Uday Kamath (autor), John Liu (autor)
Referencie a zázemie pre študentov
Odporúčané pre učiteľov
- Belle V., Papantonis I., Princípy a prax vysvetliteľného strojového učenia
- Arrieta, A. B. a kol., Explainable Artificial Intelligence (XAI): Koncepcie, taxonómie, príležitosti a výzvy pre zodpovednú umelú inteligenciu
- Vysvetliteľná umelá inteligencia: Úvod do interpretovateľného strojového učenia (1. ed. Vydanie 2021), ktorú predkladá Uday Kamath (autor), John Liu (autor)
Učebné materiály
Pokyny pre učiteľov
Táto prednáška poskytuje všeobecné poznatky o oblasti vysvetliteľnej umelej inteligencie (XAI). Ďalej sa diskutuje o našej závislosti na modeloch umelej inteligencie. Učitelia môžu zdôrazniť, že nedávne zákony spôsobili aj naliehavosť vysvetľovania a obhajovania rozhodnutí, ktoré prijali systémy umelej inteligencie. Táto prednáška sa zaoberá nástrojmi a technikami na vizualizáciu, vysvetlenie a budovanie dôveryhodných systémov umelej inteligencie.
Obrysy
| Trvanie | Téma | Popis |
|---|---|---|
| 5 minút | Úvod | Definícia XAI. Prečo je XAI dôležitý a aké problémy rieši? |
| 5 minút | Rozmery vysvetliteľnosti | Čo znamená vysvetliteľnosť. Na aké kritériá musí odpovedať. |
| 20 minút | Prístupy k vysvetliteľnosti | Transparentné modely a nepriehľadné modely. |
| 20 minút | Techniky vysvetliteľnosti | Prístup k vysvetliteľnosti s model-špecifické a model-Agnostické techniky. |
| 10 minút | Záverečné poznámky | Diskusia so študentmi. Otázky a odpovede. |
Uznania
Túto prezentáciu vypracovali Christina Todorova a Dr. George Sharkov v Európskom softvérovom inštitúte – Center Eastern Europe.
Prezentácia je silne založená na materiáloch a štruktúre z práce Belle V., Papantonis I., „Princípy a prax vysvetliteľného strojového učenia“ a Arrieta, A. B. et al., „Explainable Artificial Intelligence (XAI): Koncepcie, taxonómie, príležitosti a výzvy smerujúce k zodpovednej umelej inteligencii. Prosím, zvážte prečítanie ich pôvodného výskumu.
Program Masters umelej inteligencie zameraný na človeka bol spolufinancovaný z Nástroja Európskej únie na prepájanie Európy v rámci grantu CEF-TC-2020 – 1 Digitálne zručnosti 2020-EU-IA-0068.