Administrativ information
| Titel | Introduktion till Allmänt Förklarbar AI |
| Varaktighet | 60 minuter |
| Modul | B |
| Typ av lektion | Föreläsning |
| Fokus | Etiskt – tillförlitlig AI |
| Ämne | Allmänt förklarande AI |
Nyckelord
Förklarbar artificiell intelligens, maskininlärning, djupt lärande, tolkning, begriplighet, transparens, integritet, rättvisa, ansvar, ansvarsfull artificiell intelligens,
Lärandemål
- Förstå, analysera och utveckla vikten av XAI i den moderna världen.
- Skilja mellan transparenta och ogenomskinliga maskininlärningsmodeller.
- Kategorisera och diskutera tillvägagångssätt för förklarbarhet XAI baserat på modellomfattning, agnosticitet, datatyper och förklaringstekniker.
- Urskilja, undersöka och diskutera avvägningen mellan noggrannhet och tolkning.
- Sammanfatta och förstå arbetsprinciperna och matematisk modellering av XAI-tekniker som LIME, SHAP, DiCE, LRP, kontrafaktiska och kontrastiva förklaringar.
- Expandera på möjliga tillämpningar av XAI-tekniker som LIME, SHAP, DiCE, LRP för att generera förklaringar för black-box-modeller för tabell-, text- och bilddatauppsättningar.
Förväntad förberedelse
Lärande händelser som ska slutföras innan
Ingen.
Obligatoriskt för studenter
- Grunderna för Python-programmering
- Grunderna för maskininlärning
Valfritt för studenter
- Förklarande artificiell intelligens: En introduktion till tolkningsbar maskininlärning (1st ed. Utgåva 2021 av Uday Kamath (författare), John Liu (författare)
Referenser och bakgrund för studenter
Rekommenderas för lärare
- Belle V., Papantonis I., Principles and Practice of Explainable Machine Learning
- Arrieta, A. B. et al., Explainable Artificial Intelligence (XAI): Begrepp, taxonomier, möjligheter och utmaningar mot ansvarsfull AI
- Förklarande artificiell intelligens: En introduktion till tolkningsbar maskininlärning (1st ed. Utgåva 2021 av Uday Kamath (författare), John Liu (författare)
Lektionsmaterial
Instruktioner för lärare
Denna föreläsning ger allmänna insikter inom området Explainable Artificial Intelligence (XAI). Vårt beroende av artificiell intelligens diskuteras ytterligare. Lärare kan betona att den senaste tidens lagar också har orsakat det brådskande med att förklara och försvara de beslut som fattas av AI-system. Denna föreläsning diskuterar verktyg och tekniker för att visualisera, förklara och bygga pålitliga AI-system.
Konturer
| Varaktighet | Ämne | Beskrivning |
|---|---|---|
| 5 minuter | Inledning | Definitionen av XAI. Varför är XAI viktigt och vilka problem löser det? |
| 5 minuter | Förklarbarhetens dimensioner | Vad innebär Förklarbarhet? Vilka kriterier har den att svara på. |
| 20 minuter | Förhållningssätt till Förklarbarhet | Transparenta modeller och opakmodeller. |
| 20 minuter | Förklarbarhetstekniker | Närmar sig Förklarbarhet med Model-Specific och Model-Agnostic Techniques. |
| 10 minuter | Avslutande anmärkningar | Diskussion med eleverna. Frågor och svar. |
Erkännanden
Denna presentation utvecklades av Christina Todorova och Dr George Sharkov vid European Software Institute – Center Eastern Europe.
Presentationen är starkt baserad på och använder material och struktur från arbetet av Belle V., Papantonis I., ”Principer och praxis för förklarande maskininlärning” och Arrieta, A.B. et al., ”Explainable Artificial Intelligence (XAI): Begrepp, taxonomier, möjligheter och utmaningar mot ansvarsfull AI. Tänk på att läsa deras ursprungliga forskning.
Masterprogrammet Human-Centered AI har samfinansierats av Fonden för ett sammanlänkat Europa i Europeiska unionen inom ramen för Grant CEF-TC-2020–1 Digital Skills 2020 EU-IA-0068.