Información administrativa
| Título | Modelos de producción de servicio |
| Duración | 60 minutos |
| Módulo | B |
| Tipo de lección | Conferencia |
| Enfoque | Práctica — IA organizativa |
| Tema | Servir a un modelo de producción |
Keywords
contenerarización,
Objetivos de aprendizaje
- Descripción general de la Containerización
- Introducción al servicio de TFX
- Servir modelos localmente y servir en instancias de contenedores de Azure
Preparación prevista
Eventos de aprendizaje que se completarán antes
Ninguno.
Obligatorio para los estudiantes
Opcional para estudiantes
Ninguno.
Referencias y antecedentes para estudiantes
Ninguno.
Recomendado para profesores
Ninguno.
Material didáctico
Instrucciones para profesores
Esta conferencia proporcionará una visión general/fundación para los modelos Serving Tensorflow. La conferencia proporcionará algunos fundamentos y antecedentes (incluidos algunos fragmentos de código) que se requerirán para el siguiente tutorial que pondrá en práctica el proceso MLOps de Servir un modelo para fines de producción. Específicamente, la conferencia cubrirá:
- El desarrollo de un modelo ejemplar utilizando el conjunto de datos de Stanford Dogs
- Guardar el modelo y el formato del modelo guardado
- Descripción general del servicio de TensorFlow TFX
- Las API que utiliza TFX Serving (gRPC y Restful)
- Contenedorización
- Descripción general de los contenedores Docker
- TensorFlow Serving Docker Imagen
- Servir un modelo a una dirección IP local
- Tomar una imagen de Docker y crear y ejecutar un contenedor Docker que une el modelo Tensorflow en tránsito
- Servir un modelo usando Azure Container Instances (ACI)
- Tomar una imagen Docker y crear y ejecutar un contenedor Docker, y unir un modelo Tensorflow.
- Comprometiendo el Docker Container con el modelo guardado como una nueva imagen Docker.
- Ejecución de la nueva imagen como contenedor Docker en ACI — usando el Docker CLI.
Esquema
| Duración (Min) | Descripción |
|---|---|
| 10 | Introducción al modelo ejemplar utilizado en la conferencia y el tutorial |
| 15 | Guardar el modelo y la descripción general del kit de herramientas de servicio TFX y las API que utiliza TFX |
| 10 | Una visión general de la Containerización |
| 10 | Sirviendo al modelo localmente |
| 15 | Sirviendo al modelo en ACI |
Reconocimientos
El programa de maestría en IA centrada en el ser humano fue cofinanciado por el Mecanismo «Conectar Europa» de la Unión Europea en virtud de la subvención «CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068».