Informations administratives
| Titre | Confiance, Normativité et Modèle Drift |
| Durée | 45-60 |
| Module | C |
| Type de leçon | Conférence |
| Focus | Technique — IA future |
| Sujet | Problèmes et défis ouverts |
Mots-clés
Confiance,Normativité, Drift modèle,
Objectifs d’apprentissage
- Comprendre la nécessité de mesurer la confiance dans l’IA
- Comprendre le concept de Normativité dans le contexte de l’IA future
- Expliquer différents types de dérive du modèle et recommander des mesures opportunes pour les futurs systèmes d’IA pour lutter contre la dérive du modèle
Préparation prévue
Événements d’apprentissage à compléter avant
Obligatoire pour les étudiants
- Contenu éthique du module A
- Contenu éthique du module B
Optionnel pour les étudiants
- Introduction aux concepts d’apprentissage automatique et d’apprentissage profond donnés dans les conférences précédentes
Références et antécédents pour les étudiants
- Confiance et intelligence artificielle
- Une enquête sur l’évaluation de la confiance basée sur l’apprentissage automatique
- La valeur de la mesure de la confiance dans l’IA — Une perspective de système sociotechnique
- Quand la confiance rencontre l’exactitude: Explorer les effets de plusieurs indicateurs de performance sur la confiance dans les modèles d’apprentissage automatique
- Dans l’IA, nous faisons confiance de manière incrémentale: un modèle de confiance multicouche pour analyser les interactions entre l’intelligence humaine et artificielle
- La confiance et l’éthique de l’IA
- Lignes directrices en matière d’éthique pour une IA digne de confiance
- Agence explicable, normative et justifiée
- Modèle Drift dans l’apprentissage automatique
- Une vue unificatrice sur l’évolution des ensembles de données dans la classification
- ODIN: Détection et récupération automatisées de Drift dans l’analyse vidéo
- Apprentissage dans le cadre du concept Drift: Une revue
- Pourquoi la détection de dérive de données est importante et comment l’automatiser en 5 étapes simples
Recommandé pour les enseignants
Aucun.
Matériel de leçon
Instructions pour les enseignants
Cette conférence devrait se concentrer sur le concept de confiance sur les systèmes qui utilisent l’IA et l’apprentissage automatique pour prendre des décisions. Il devrait définir la confiance et les caractéristiques de la confiance ainsi que la confiance des agents. La conférence devrait fournir un lien pratique avec le cadre de confiance de l’UE proposé pour l’IA. La conférence devrait également introduire le concept de normativité numérique et le problème de la dérive du modèle, de la mesure et du suivi de la dérive des modèles dans le contexte de l’IA et de l’apprentissage automatique dignes de confiance.
L’objectif de cette conférence est de discuter du concept de confiance dans le contexte des systèmes d’IA. La conférence devrait répondre à la question: Qu’est-ce que cela signifie de faire confiance, et comment pouvons-nous bâtir la confiance dans les systèmes d’IA? La conférence devrait également discuter du concept de normativité dans le contexte de l’IA et des systèmes de prise de décision automatisés, en ajoutant du poids à l’importance de la confiance. Enfin, la conférence discutera de la dérive du modèle, des types de dérive du modèle, des métriques pour mesurer la dérive du modèle et de la façon de traiter la dérive du modèle, ce qui devrait démontrer que la confiance doit être surveillée en permanence.
Esquisse
| Durée | Description | Concepts | Activité | Matériel |
|---|---|---|---|---|
| 5 min | Qu’est-ce que la confiance? | Philosophie de la confiance, caractérisation de la confiance, agents et patients de confiance, écosystème sociotechnique, rôle de la confiance dans la connaissance | Session enseignée et exemples | Matériel de conférence |
| 15 min | Tâche de recherche Confiance dans l’IA |
Questions ouvertes et révision d’un article | Matériel de conférence | |
| 10 min | L’avènement de la Normativité Numérique | Subjectivation, désubjectivation, agence justifiée, agence explicable et normative | Session enseignée et exemples | Matériel de conférence |
| 15 min | Modèle Drift | Qu’est-ce que la dérive du modèle, les types de dérive de modèle/concept (prédiction, concept, données, amont), les métriques de chute (indice de stabilité de la population, divergence KL, distance de Wasserstein), le traitement de la dérive du modèle (surveillance, qualité des données, recyclage, réglage des paramètres) | Session enseignée et exemples | Matériel de conférence |
| 5 min | Conclusion | Résumé | Conclusions | Matériel de conférence |
Remerciements
Le programme de master IA centré sur l’humain a été cofinancé par le mécanisme pour l’interconnexion en Europe de l’Union européenne dans le cadre de la subvention CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.