Informations administratives
| Titre | Introduction à l’IA générale explicable |
| Durée | 60 minutes |
| Module | B |
| Type de leçon | Conférence |
| Focus | Éthique — IA digne de confiance |
| Sujet | IA générale explicable |
Mots-clés
Intelligence artificielle explicable,Apprentissage en machine, Apprentissage profond,Interprétabilité, Comprétabilité,Transparence, Confidentialité,Fairness,Responsabilité,Intelligence Artificielle Responsable,
Objectifs d’apprentissage
- Comprendre, analyser et développer l’importance de la XAI dans le monde moderne.
- Différencier les modèles d’apprentissage automatique transparents et opaques.
- Catégoriser et discuter des approches d’explicabilité XAI basées sur la portée du modèle, l’agnosticité, les types de données et les techniques d’explication.
- Discerner, enquêter et discuter du compromis entre l’exactitude et l’interprétabilité.
- Résumez et comprenez les principes de travail et la modélisation mathématique des techniques XAI comme LIME, SHAP, DiCE, LRP, explications contrefactuelles et contrastées.
- Développez les applications possibles des techniques XAI telles que LIME, SHAP, DiCE, LRP pour générer des explications pour les modèles de boîtes noires pour les jeux de données tabulaires, textuels et d’images.
Préparation prévue
Événements d’apprentissage à compléter avant
Aucun.
Obligatoire pour les étudiants
- Principes fondamentaux de la programmation Python
- Principes fondamentaux de l’apprentissage automatique
Optionnel pour les étudiants
- Intelligence artificielle explicable: Une introduction à l’apprentissage automatique interprétable (1ère éd. Édition 2021) par Uday Kamath (Auteur), John Liu (Auteur)
Références et antécédents pour les étudiants
Recommandé pour les enseignants
- Belle V., Papantonis I., Principes et pratiques de l’apprentissage automatique explicable
- Arrieta, A. B. et al., Explainable Artificial Intelligence (XAI): Concepts, taxinomies, opportunités et défis vers une IA responsable
- Intelligence artificielle explicable: Une introduction à l’apprentissage automatique interprétable (1ère éd. Édition 2021) par Uday Kamath (Auteur), John Liu (Auteur)
Matériel de leçon
Instructions pour les enseignants
Cette conférence fournit des informations générales sur le domaine de l’intelligence artificielle explicable (XAI). Notre dépendance à l’égard des modèles d’intelligence artificielle est discutée plus en détail. Les enseignants peuvent souligner que les lois récentes ont également causé l’urgence d’expliquer et de défendre les décisions prises par les systèmes d’IA. Cette conférence traite des outils et des techniques pour visualiser, expliquer et construire des systèmes d’IA fiables.
Esquisse
| Durée | Sujet | Description |
|---|---|---|
| 5 minutes | Introduction | Définition de XAI. Pourquoi XAI est-il important et quels problèmes résout-il? |
| 5 minutes | Dimensions de l’explicabilité | Qu’est-ce que l’explicabilité signifie. Quels critères a-t-il à répondre? |
| 20 minutes | Approches de l’explicabilité | Modèles transparents et modèles d’opaque. |
| 20 minutes | Techniques d’explicabilité | Approche de l’explicabilité avec des techniques spécifiques aux modèles et aux modèles-agnostiques. |
| 10 minutes | Remarques de clôture | Discussion avec les étudiants. Questions et réponses. |
Remerciements
Cette présentation a été développée par Christina Todorova et Dr George Sharkov au European Software Institute — Center Eastern Europe.
La présentation est fortement basée sur les matériaux et la structure des travaux de Belle V., Papantonis I., «Principles and Practice of Explainable Machine Learning» et Arrieta, A. B. et al., «Explainable Artificial Intelligence (XAI): Concepts, taxinomies, opportunités et défis vers une IA responsable». S’il vous plaît, envisagez de lire leurs recherches originales.
Le programme de master IA centré sur l’humain a été cofinancé par le mécanisme pour l’interconnexion en Europe de l’Union européenne dans le cadre de la subvention CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.