Informacje administracyjne
| Tytuł | Wprowadzenie do General Explainable AI |
| Czas trwania | 60 minut |
| Moduł | B |
| Rodzaj lekcji | Wykład |
| Skupienie | Etyczne – godne zaufania AI |
| Temat | Ogólna wytłumaczalna sztuczna inteligencja |
Słowa kluczowe
Wytłumaczalna sztuczna inteligencja, uczenie się maszyn, głębokie uczenie się, interpretacja, zrozumiałość, przejrzystość, prywatność, sprawiedliwość, rozliczalność, odpowiedzialna sztuczna inteligencja,
Cele w zakresie uczenia się
- Zrozumieć, przeanalizować i rozwinąć znaczenie XAI we współczesnym świecie.
- Rozróżnienie między przejrzystymi i nieprzejrzystymi modelami uczenia maszynowego.
- Kategoryzowanie i omawianie podejść do wyjaśnialności XAI w oparciu o zakres modelu, agnostyczność, typy danych i techniki wyjaśniania.
- Rozpoznawać, badać i omawiać kompromis między dokładnością a zdolnością interpretacyjną.
- Podsumuj i zrozum zasady pracy i modelowanie matematyczne technik XAI, takich jak LIME, SHAP, DiCE, LRP, kontrfaktyczne i kontrastowe wyjaśnienia.
- Rozwiń możliwe zastosowania technik XAI, takich jak LIME, SHAP, DiCE, LRP, aby generować wyjaśnienia dla modeli czarnych skrzynek dla zestawów danych tabelarycznych, tekstowych i obrazów.
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Brak.
Obowiązkowe dla studentów
- Podstawy programowania Python
- Podstawy uczenia maszynowego
Opcjonalne dla studentów
- Wytłumaczalna sztuczna inteligencja: Wprowadzenie do Interpretable Machine Learning (1st ed. Wydanie 2021), którą złożył Uday Kamath (autor), John Liu (autor)
Referencje i tło dla studentów
Zalecane dla nauczycieli
- Belle V., Papantonis I., Zasady i praktyka wyjaśniającego uczenia maszynowego
- Arrieta, A. B. i in., Explainable Artificial Intelligence (XAI): Koncepcje, taksonomie, szanse i wyzwania związane z odpowiedzialną sztuczną inteligencją
- Wytłumaczalna sztuczna inteligencja: Wprowadzenie do Interpretable Machine Learning (1st ed. Wydanie 2021), którą złożył Uday Kamath (autor), John Liu (autor)
Materiały do lekcji
Instrukcje dla nauczycieli
Ten wykład zapewnia ogólny wgląd w dziedzinę Explainable Artificial Intelligence (XAI). Nasza zależność od modeli sztucznej inteligencji jest dalej dyskutowana. Nauczyciele mogą podkreślić, że ostatnie przepisy spowodowały również pilną potrzebę wyjaśnienia i obrony decyzji podejmowanych przez systemy sztucznej inteligencji. W tym wykładzie omówiono narzędzia i techniki wizualizacji, wyjaśniania i budowania godnych zaufania systemów sztucznej inteligencji.
Zarys
| Czas trwania | Temat | Opis |
|---|---|---|
| 5 minut | Wprowadzenie | Definicja XAI. Dlaczego XAI jest ważne i jakie problemy rozwiązuje? |
| 5 minut | Wymiary wyjaśnienia | Co oznacza wyjaśnienie? Jakie kryteria musi odpowiedzieć? |
| 20 minut | Podejścia do wyjaśnienia | Przezroczyste modele i Opaque Models. |
| 20 minut | Techniki wyjaśnialności | Zbliżanie się do wyjaśnialności z technikami specyficznymi dla modelu i modelowo-agnostycznymi. |
| 10 minut | Uwagi zamykające | Dyskusja ze studentami. Pytania i odpowiedzi. |
Potwierdzenia
Prezentację opracowali Christina Todorova i dr George Sharkov w European Software Institute – Center Eastern Europe.
Prezentacja jest w dużej mierze oparta na materiałach i strukturze z prac Belle V., Papantonis I., „Zasady i praktyka wyjaśniającego uczenia maszynowego” i Arrieta, A. B. i in., „Explainable Artificial Intelligence (XAI): Koncepcje, taksonomie, szanse i wyzwania związane z odpowiedzialną sztuczną inteligencją”. Proszę rozważyć przeczytanie ich oryginalnych badań.
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.