Programme Preview (FR)

Aperçu du programme

Dans notre objectif de créer un programme de Master IA centré sur l’humain, le Consortium HCAIM suit la définition de AI HLEG: «L’approche centrée sur l’humain de l’IA vise à faire en sorte que les valeurs humaines soient au cœur de la manière dont les systèmes d’IA sont développés, déployés, utilisés et surveillés, en garantissant le respect des droits fondamentaux.»

Pour répondre aux exigences de cette définition, le programme couvre les éléments techniques, éthiques et pratiques de l’intelligence artificielle. Nous avons conçu notre contenu autour des trois phases du cycle de vie des MLOps — développement, déploiement et maintenance de modèles d’apprentissage automatique, produisant ainsi trois modules de base en adéquation avec les phases ML-Ops susmentionnées: Modélisation (module A), déploiement (module B) et évaluation (module C). Nous avons ajouté un quatrième module (D) Graduation, pour permettre aux étudiants de montrer qu’ils peuvent résoudre indépendamment les défis proposés par l’industrie en fonction des besoins actuels et des exigences liées au domaine de l’intelligence artificielle centrée sur l’homme.

Ceci est visualisé dans le tableau ci-dessous.

	Module A	Module B	Module C	Module D
Technique	Fondements de l’IA	IA avancée: Apprentissage profond	L’IA future	Projet de thèse de master
Pratique	Modélisation de l’IA	L’IA en action: IA organisationnelle	Une IA socialement responsable
Éthique	Principes de l’éthique	IA digne de confiance	Conformité, Légalité & Humanité

Cette page contient la brève description des modules définis dans le Human Centered Artificial Intelligence Master. Tous les événements d’apprentissage, y compris leur matériel d’étude d’accompagnement, sont disponibles sur le site Web HCAIM de wikiwijs.

Les descriptions des événements d’apprentissage ont été traduites dans les 24 langues officielles de l’UE à l’aide de l’outil eTranslation de l’Union européenne et sont disponibles à partir des listes attribuées aux langues. Notez que les traductions ne sont pas examinées par des conférenciers.

Tous les documents sont disponibles sous une licence Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

Accéder au contenu du programme

Accéder aux descriptions d’événements d’apprentissage traduit

Modélisation (module A)

Le premier module, à savoir Modélisation (Module A), se concentre sur la première phase du cycle de vie des MLOps et est lié au niveau de maturité le plus bas de l’application du Machine Learning (ML) dans les organisations: données de modélisation. Il comprend les activités qui constituent la base de l’application de la LM, telles que l’extraction de données, l’analyse des données, la préparation des données, la formation sur les modèles et (principalement manuel) la validation et l’évaluation des modèles.

Dans cette phase, l’accent est mis sur l’analyse et la modélisation correctes des données pour atteindre les objectifs de l’entreprise et l’automatisation est peu utilisée (par exemple, CI/CD), qui n’est ajoutée que dans la deuxième phase des MLOps(déploiement — Module B). Les activités de modélisation sont souvent caractérisées par la méthode manuelle, scénarisée et interactive par laquelle sont effectuées l’analyse des données, la préparation, la formation sur les modèles et la validation. Pour maintenir une vue d’ensemble des différents modèles, paramètres et choix qui sont en cours d’expérimentation, le suivi des expériences est utilisé.

D’un point de vue éthique, il est important, dans la phase de modélisation, de consacrer suffisamment de temps et d’attention à la détermination des objectifs du client, à la cartographie des parties prenantes et à l’exploration de la façon dont les valeurs individuelles de ces parties prenantes sont affectées (et de reconnaître les éventuels conflits entre elles). Des aspects tels que la transparence, l’inclusion, la sécurité et la vie privée sont d’une grande importance à cet égard. Naturellement, il faut aussi prêter attention à l’opportunité sociale et morale des objectifs du client. En outre, il est important d’avoir (en temps opportun) conscience des éventuels préjugés/préjugés dans les données disponibles, de reconnaître les conséquences possibles de ces préjugés et de trouver des mesures d’atténuation pour faire face à ces préjugés.

Résultats d’apprentissage

L’étudiant évalue différentes techniques de ML pour faire un choix bien fondé, correspondant aux exigences acquises du client et mettant en œuvre un prototype de la technique ML choisie pour conseiller sur la résolution d’un problème de modélisation de données donné.
Résultat d’apprentissage 1

L’étudiant soutient, en utilisant des cadres éthiques fondamentaux, comment les dilemmes moraux peuvent être résolus et évalue les conséquences possibles des biais existants dans les données et l’influence des mesures d’atténuation conçues pour contrer les conséquences de ces biais.
Résultat d’apprentissage 2

L’étudiant applique des méthodes de recherche quantitatives et qualitatives pour justifier scientifiquement leurs choix lors de la ou des considérations éthiques et de la réalisation du prototype.
Résultat d’apprentissage 3

Déploiement (module B)

Le module Déploiement (module B) se concentre sur la deuxième phase du cycle de développement des MLOps; le déploiement. Après la phase exploratoire des données de modélisation (voir Module A — Modélisation), vient l’intégration de la solution ML dans les systèmes métier. Il est maintenant important de commencer à penser à l’architecture ML et à la façon dont elle joue avec les systèmes existants (héritage). Pour bénéficier réellement de solutions automatisées de LM, il convient d’introduire des pipelines; D’une part, être en mesure de traiter des données en continu et en direct (traitement de flux), et d’autre part, de relier les résultats du modèle ML à d’autres systèmes.

En outre, le module B améliore la complexité de la technologie de l’IA en s’orientant vers (l’utilisation) des réseaux neuronaux et de l’apprentissage profond. Un avantage majeur de ces modèles plus complexes est qu’ils sont plus flexibles et polyvalents que les techniques introduites dans le module A — Modélisation. Cependant, les inconvénients importants de ces techniques sont qu’elles sont plus complexes (pour comprendre et configurer) et opaques. Il s’agit là d’un important dilemme éthique dans l’utilisation des techniques d’IA (avancées): comment comprenez-vous encore ce que la solution d’IA calcule et si cela se fait de la bonne manière? Rendre le déploiement des solutions d’IA plus transparent et être en mesure de déterminer les risques possibles et d’atténuer ces risques sont des thèmes (sociaux) importants dans ce module.

Résultats d’apprentissage

L’étudiant évalue les choix possibles pour l’intégration d’une technique d’IA avancée, telle que Deep and/ou Reinforcement Learning, et écrit un rapport d’une page basé sur un prototype qui a été développé en tenant compte des limites et des influences sur les systèmes TIC existants et les installations de données du client, qui ont été obtenus en collaboration avec, par exemple, des architectes ou des développeurs TIC.
Résultat d’apprentissage 1

L’étudiant évalue le risque potentiel impliqué et teste le degré de transparence (y compris l’interprétation, la reproductibilité et l’explicabilité) d’un choix de solutions de mise en œuvre et de conception d’IA/ML en utilisant des techniques qui augmentent la perspicacité et la transparence parmi les parties prenantes (techniques dites d’IA explicable) pour remédier aux lacunes à cet égard par rapport aux exigences sociales et spécifiques au client.
Résultat d’apprentissage 2

L’étudiant formule une conception de recherche pour un projet de recherche scientifiquement solide (orienté sur la pratique) lié à un cas d’entreprise en formulant une question de recherche pertinente, cohérente et fonctionnelle, en considérant les méthodes de recherche appliquées à utiliser et en établissant un cadre théorique précis, pertinent et critique.
Résultat d’apprentissage 3

Évaluation (module C)

Le module d’évaluation (module C) se concentre sur les aspects d’évaluation du développement de l’IA, y compris à la fois les aspects sociétaux d’un produit d’IA et le développement d’une appréciation des orientations futures potentielles que l’IA pourrait prendre, en examinant les tendances technologiques; une IA socialement responsable; conformité, tout en veillant à ce que l’élément humain soit toujours présent dans la conception, le développement et l’évaluation des systèmes d’IA.

Dans le cadre de l’avenir de l’IA, une exploration du niveau d’adoption de l’IA dans différentes industries est discutée, ainsi que de la manière dont l’IA est adaptée à différents domaines. L’analyse de l’IA socialement responsable inclut la façon dont l’IA affecte les individus et les différents groupes de la société. Et en tant que partie essentielle du module, l’accent est mis sur les lois, les politiques et les codes de conduite liés à l’IA (en mettant l’accent sur des questions telles que l’explicabilité et la confiance), ainsi que sur les processus de contrôle de la qualité et de gestion de la qualité, afin d’évaluer les résultats des initiatives en matière d’IA.

Résultats d’apprentissage

L’étudiant développe une appréciation des approches de pointe de l’IA et de l’apprentissage automatique, ainsi qu’une compréhension de la façon dont l’intelligence artificielle est utilisée dans différents domaines, et comment évaluer les directions potentielles de l’intelligence artificielle à l’avenir.
Résultat d’apprentissage 1

L’étudiant montre une approche bien définie de l’analyse des conséquences, en tenant compte de questions telles que l’évaluation de l’impact potentiel que les nouvelles technologies pourraient avoir sur les individus et la société, en se concentrant spécifiquement sur les minorités et les groupes marginalisés, ainsi que sur les impacts environnementaux potentiels.
Résultat d’apprentissage 2

L’étudiant démontre la capacité d’utiliser une méthodologie de recherche entièrement articulée avec une éthique intégrée à toutes les étapes, avec une prise de conscience de la nature contextuelle des approches spécifiques qui devraient être utilisées et qui seront éclairées par les études de cas couvertes dans ce module.
Résultat d’apprentissage 3

Graduation (module D)

Le module d’obtention du diplôme (module D) reflète le principe de base du programme HCAIM qui s’appuie sur le concept d’apprentissage par projet (PBL). L’objectif de ce module est de positionner le projet d’obtention du diplôme (fabriquer un produit professionnel) au centre de la trajectoire d’apprentissage de l’étudiant. Dans le cadre de leur projet d’obtention du diplôme (la thèse de maîtrise), les étudiants montrent qu’ils peuvent résoudre de manière indépendante les défis proposés par l’industrie en fonction des besoins et des exigences actuelles, en tenant compte à la fois des aspects techniques et éthiques de la question en cause.

Chaque thèse est considérée localement, avec un superviseur interne (professeur de l’Université dans lequel l’étudiant poursuit le diplôme) et un superviseur externe appartenant à la partie proposant la thèse (le cas échéant). Ce dernier aspect, bien qu’il ne soit pas obligatoire, est rigoureusement poursuivi. La partie proposante peut être une PME, un centre d’excellence ou une autre université, tant au niveau national qu’international. On s’attend à ce que les parties proposantes fournissent une thèse à la fois nationale et internationale (c’est-à-dire une thèse organisée avec une université du même pays ou d’une université étrangère).

Résultats d’apprentissage

L’étudiant reconnaît et réfléchit au cycle de vie de l’IA dans un contexte réaliste, éclairé par l’industrie, et dans divers endroits, scénarios et cas d’utilisation.
Résultat d’apprentissage 1

L’étudiant démontre une attitude de recherche robuste et valide à travers un projet avec une approche interdisciplinaire bien définie produisant des solutions pertinentes et technologiquement compétentes, tout en évaluant l’impact potentiel de leur travail sur les individus et la société.
Résultat d’apprentissage 2

L’étudiant fait preuve d’une attitude professionnelle vis-à-vis de la communication avec les parties prenantes concernées (par exemple, mentors, conseillers, pairs et clients), d’une attitude analytique, d’une éthique de travail, de la compétence en planification, de la proactivité et de la conscience de soi.
Résultat d’apprentissage 3

Lignes directrices pour la thèse

Lignes directrices sur les propositions de thèse de HCAIM

Ces lignes directrices sont destinées à soutenir les parties qui ont l’intention de proposer une nouvelle thèse.

Modèle de thèse HCAIM

Voir le modèle de thèse HCAIM ici.

Lignes directrices éthiques pour les thèses HCAIM

Plagiat, fabrication de données et manipulation d’images

Le plagiat n’est pas acceptable. Le plagiat comprend la copie de texte, d’idées, d’images ou de données provenant d’une autre source, y compris vos propres publications, sans donner de crédit à la source originale.

La réutilisation du texte copié à partir d’une autre source doit se faire entre guillemets et la source originale doit être citée. Si des études antérieures ont inspiré la conception d’une étude ou la structure ou le langage du manuscrit, ces études doivent être explicitement citées.

Les fichiers image ne doivent pas être manipulés ou ajustés de quelque manière que ce soit qui pourrait conduire à une interprétation erronée des informations fournies par l’image originale. La manipulation irrégulière comprend 1) l’introduction, l’amélioration, le déplacement ou la suppression des caractéristiques de l’image originale, 2) le regroupement d’images qui devraient être présentées séparément ou 3) la modification du contraste, de la luminosité ou de l’équilibre des couleurs pour obscurcir, éliminer ou améliorer certaines informations.

Les résultats présentés ne doivent pas être sélectionnés, manipulés, améliorés ou fabriqués de manière inappropriée. Cela inclut 1) l’exclusion des points de données pour renforcer l’importance des conclusions, 2) la fabrication de données, 3) la sélection des résultats qui appuient une conclusion particulière au détriment de données contradictoires, 4) la sélection délibérée d’outils ou de méthodes d’analyse pour soutenir une conclusion particulière (y compris le p-hacking).

Recherche sur des sujets humains, des animaux ou des plantes

Lorsqu’elle rend compte de recherches impliquant des sujets humains, du matériel humain, des tissus humains ou des données humaines, la partie proposante doit s’assurer que les enquêtes ont été menées conformément aux règles de la Déclaration d’Helsinki de 1975, révisée en 2013. Toute conséquence associée à la violation de cet aspect sera totalement imputée à la partie proposante et ni au consortium HCAIM ni à l’étudiant.

Les thèses, travaillant avec des lignées cellulaires devraient indiquer l’origine de toutes les lignées cellulaires. Pour les lignées cellulaires établies, la provenance doit être indiquée et des références doivent également être données à un article publié ou à une source commerciale. Si des lignées cellulaires de novo non publiées auparavant ont été utilisées, y compris celles provenant d’un autre laboratoire, les détails de l’approbation du comité d’examen institutionnel ou du comité d’éthique doivent être donnés, et la confirmation du consentement éclairé écrit doit être fournie si la lignée est d’origine humaine.

Tous les sujets potentiellement dérivés de toute recherche causant des dommages aux animaux sont interdits. Toutes les lignes directrices appliquées aux humains doivent également être suivies (dans la mesure du possible) pour les animaux.

La recherche expérimentale sur les plantes (cultures ou sauvages), y compris la collecte de matériel végétal, doit être conforme aux directives institutionnelles, nationales ou internationales. Nous recommandons que ces thèses respectent la Convention sur la diversité biologique et la Convention sur le commerce des espèces de faune et de flore sauvages menacées d’extinction.

Le sexe, le genre, l’ethnie, la religion et d’autres préjugés dans la recherche

Il est encouragé à suivre les lignes directrices sur l’équité entre le sexe et le genre dans la recherche — SAGER — et à inclure, le cas échéant, des considérations liées au sexe et au genre. Les termes sexe (attribut biologique) et genre (formés par les circonstances sociales et culturelles) devraient être utilisés avec soin pour éviter toute confusion entre les deux termes. La thèse doit également décrire (en «contexte») si des différences de sexe et/ou de genre peuvent être attendues; indiquer comment le sexe et/ou le sexe ont été pris en compte dans la conception de l’étude; fournir des données ventilées par sexe et/ou sexe, le cas échéant; et discuter des résultats respectifs. Si une analyse du sexe et/ou du genre n’a pas été effectuée, la raison d’être devrait être donnée dans la discussion.

Des considérations similaires s’appliquent à toutes les autres formes de préjugés, y compris l’ethnicité et la religion (et sans s’y limiter). Pour les premiers, nous rappelons que les humains n’ont pas de races, mais seulement d’origine ethnique.

Si la thèse est axée sur le biais, la raison d’être de celle-ci doit être clarifiée dès le début.

Conflits d’intérêts

Les étudiants doivent éviter de conclure des accords avec des promoteurs d’études, à but lucratif et à but non lucratif, qui interfèrent avec l’accès à toutes les données de l’étude ou qui interfèrent avec leur capacité d’analyser et d’interpréter les données et de préparer la thèse indépendamment quand et où ils le souhaitent.

Les étudiants doivent identifier et déclarer toute situation personnelle ou intérêt qui pourrait être perçu comme influençant de manière inappropriée la représentation ou l’interprétation des résultats de recherche rapportés. Parmi les exemples de conflits d’intérêts potentiels figurent, sans s’y limiter, les intérêts financiers (tels que l’adhésion, l’emploi, les consultants, la propriété d’actions/actions, les honoraires, les subventions ou autres financements, les témoignages d’experts rémunérés et les accords de licence de brevet) et les intérêts non financiers (tels que les relations personnelles ou professionnelles, les affiliations, les convictions personnelles).

Tout rôle des promoteurs de financement dans la conception de l’étude, dans la collecte, l’analyse ou l’interprétation des données, dans la rédaction du manuscrit ou dans la décision de publier les résultats doit être déclaré à l’avance.

Politiques de citation

Les étudiants doivent s’assurer que lorsque le matériel est tiré d’autres sources (y compris leurs propres écrits publiés), la source est clairement citée et lorsque l’autorisation appropriée est obtenue.
Les étudiants ne devraient pas s’engager dans une auto-citation excessive de leur propre travail.
Les étudiants ne doivent pas copier les références d’autres publications s’ils n’ont pas lu l’œuvre citée.
Les étudiants ne doivent pas citer de préférence leurs propres publications ou celles de leurs amis, de leurs pairs ou de leur établissement.
Les étudiants ne doivent pas citer de publicités ou de matériel publicitaire.

Lignes directrices éthiques à l’intention des examinateurs

Conflits d’intérêts potentiels

Les évaluateurs sont priés d’informer le conseil d’administration du HCAIM s’ils sont en situation de conflit d’intérêts susceptible de nuire au rapport d’examen, que ce soit de manière positive ou négative. Le jury vérifiera le plus précisément possible avant d’inviter des examinateurs; néanmoins, la coopération des examinateurs dans ce domaine est attendue et appréciée.

Confidentialité et anonymat

Les examinateurs doivent garder le contenu de la thèse, y compris l’abstrait, confidentiel. Ils doivent informer le conseil d’administration du HCAIM s’ils souhaitent qu’un collègue termine l’examen en leur nom.

Matrice des risques et plan d’atténuation pour les thèses HCAIM

Ce modèle permet au superviseur d’aider l’étudiant à identifier et à traiter les problèmes. Dans le même temps, une partie proposante de thèse sera invitée à compiler ce modèle.

Tous les jalons et les éléments livrables pour l’achèvement du projet de recherche proposé devraient être inclus dans la proposition de projet. Les étudiants sont également tenus de préparer une matrice de risque qui comprend les risques qui pourraient mettre en danger d’atteindre ces livrables et de fournir des plans d’urgence pour atténuer les risques décrits. Un exemple de matrice de risque et de plan d’atténuation est présenté ci-dessous. Veuillez inclure des risques supplémentaires si nécessaire:

Risque	Gravité	Probabilité	Atténuation
Impossible de collecter les données cibles dans le temps	Haut	Faible	Le projet commencera à examiner les ressources ouvertement disponibles. Étudier les options permettant d’acquérir des données publiques synthétiques ou pré-disponibles similaires aux données cibles.
Financement insuffisant des ressources	Moyen	Moyen	D’autres sources de financement seront recherchées.
Objectifs de recherche/projets trop ambitieux	Moyen	Faible	Examiner régulièrement les objectifs du projet et régulariser les résultats du projet en fonction du processus d’examen.
(Trop) De grandes quantités de formation supplémentaire requise	Moyen	Faible	Une approbation préalable sera accordée. Les objectifs du projet seront mis à jour en fonction du temps et des ressources consacrés à cette formation supplémentaire.
Perte de données	Moyen	Faible	L’étudiant suivra les procédures de sauvegarde appropriées pour minimiser les risques.

Exemples de sujets de thèse

Aller au contenu