Informations administratives
| Titre | Modèles génératifs, transformation de l’apprentissage profond et modèles d’apprentissage hybride |
| Durée | 45-60 |
| Module | C |
| Type de leçon | Conférence |
| Focus | Technique — IA future |
| Sujet | Progrès dans les modèles ML à travers une lentille HC — Une étude axée sur les résultats |
Mots-clés
Modèles génératifs, Détection d’Attention,Query-Key-Value, Modèles Transformés, Modèles hybrides,
Objectifs d’apprentissage
- Comprendre la classe des modèles générateurs et explorer ses principales caractéristiques.
- Expliquer le concept et la conception de Transformer Architectures
- Élaborer la configuration des modèles hybrides
Préparation prévue
Événements d’apprentissage à compléter avant
Obligatoire pour les étudiants
- Introduction aux concepts d’apprentissage automatique et d’apprentissage profond donnés dans les conférences précédentes
Optionnel pour les étudiants
Références et antécédents pour les étudiants
- Modèles génératifs
- Modèle de transformateur
- Qu’est-ce que l’attention?
- Mécanisme d’attention du transformateur
- Approcheshybrides d’apprentissage automatique: Une méthode pour améliorer la production attendue de données séquentielles semi-structurées
- Utilisation de modèles hybrides d’apprentissage automatique
- MLxtend
Recommandé pour les enseignants
Aucun.
Matériel de leçon
Instructions pour les enseignants
Dans cette conférence, nos objectifs principaux sont triples. Tout d’abord, nous visons à une compréhension globale des modèles générateurs, en nous concentrant sur leurs mécanismes sous-jacents et leurs caractéristiques fondamentales. Deuxièmement, nous discuterons de l’importance des architectures transformatrices, en particulier dans le contexte du traitement du langage naturel (NLP). Enfin, la conférence développera les différentes configurations des modèles hybrides, en mettant l’accent sur la fusion de divers éléments pour améliorer les performances de l’apprentissage automatique.
Esquisse
| Durée | Description | Concepts |
|---|---|---|
| 15 min | Introduction aux modèles générateurs, classification des modèles générateurs | Quels sont les modèles génératifs?Pourquoi sont-ils importants? À quoi peuvent-ils servir? Classification, Caractéristiques clés, Exemples |
| 20 min | Introduction aux architectures Transformer | Architecture des transformateurs, transformateurs de pointe tels que BERT et GTP |
| 10 min | Introduction à l’apprentissage hybride | Qu’est-ce que l’apprentissage hybride?Pourquoi est-ce important?À quoi peuvent-ils être utilisés? |
| 5 min | Conclusion, questions et réponses | Résumé |
Remerciements
Le programme de master IA centré sur l’humain a été cofinancé par le mécanisme pour l’interconnexion en Europe de l’Union européenne dans le cadre de la subvention CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.