Informations administratives
| Titre | Servir les modèles de production |
| Durée | 60 minutes |
| Module | B |
| Type de leçon | Conférence |
| Focus | Pratique — IA organisationnelle |
| Sujet | Servir un modèle de production |
Mots-clés
condensation,
Objectifs d’apprentissage
- Vue d’ensemble de la conteneurisation
- Introduction au service TFX
- Servir les modèles localement et servir sur les instances Azure Container
Préparation prévue
Événements d’apprentissage à compléter avant
Aucun.
Obligatoire pour les étudiants
Optionnel pour les étudiants
Aucun.
Références et antécédents pour les étudiants
Aucun.
Recommandé pour les enseignants
Aucun.
Matériel de leçon
Instructions pour les enseignants
Cette conférence fournira une vue d’ensemble/fondation pour servir les modèles Tensorflow. La conférence fournira quelques bases et arrière-plan (y compris quelques extraits de code) qui seront nécessaires pour le tutoriel suivant qui mettra en pratique le processus MLOps de servir un modèle à des fins de production. Plus précisément, la conférence portera sur:
- Le développement d’un modèle exemplaire utilisant le jeu de données Stanford Dogs
- Sauvegarde du modèle et du format du modèle sauvegardé
- TensorFlow TFX Vue d’ensemble du service
- Les APIs TFX Serving utilisent (gRPC et Restful)
- Conteneurisation
- Vue d’ensemble des conteneurs Docker
- TensorFlow servant Docker Image
- Servir un modèle à une adresse IP locale
- Prendre une image Docker et créer et exécuter un conteneur Docker liant le modèle Tensorflow en transit
- Servir un modèle en utilisant Azure Container Instances (ACI)
- Prendre une image Docker et créer et exécuter un conteneur Docker, et lier un modèle Tensorflow.
- Engager le conteneur Docker avec le modèle enregistré sous la forme d’une nouvelle image Docker.
- Exécution de la nouvelle image en tant que conteneur Docker dans ACI — en utilisant le CLI Docker.
Esquisse
| Durée (min) | Description |
|---|---|
| 10 | Introduction au modèle exemplaire utilisé dans la conférence et le tutoriel |
| 15 | Sauvegarde du modèle et aperçu de la boîte à outils de service TFX et des API utilisées par TFX |
| 10 | Une vue d’ensemble de la conteneurisation |
| 10 | Servir le modèle localement |
| 15 | Servir le modèle sur ACI |
Remerciements
Le programme de master IA centré sur l’humain a été cofinancé par le mécanisme pour l’interconnexion en Europe de l’Union européenne dans le cadre de la subvention CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.