Informações administrativas
| Titulo | Servir modelos de produção |
| Duração | 60 minutos |
| Módulo | B |
| Tipo de aula | Palestra |
| Foco | Prático — Inteligência Artificial Organizacional |
| Tópico | Servir um modelo de produção |
Palavras-chave
confinarização,
Objetivos de aprendizagem
- Visão geral da contentorização
- Introdução ao TFX Serving
- Servir modelos localmente e servir em instâncias de contentores do Azure
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Nenhuma.
Obrigatório para os Estudantes
Facultativo para Estudantes
Nenhuma.
Referências e antecedentes para estudantes
Nenhuma.
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
Esta palestra fornecerá uma visão geral/fundamentação para os modelos Serving Tensorflow. A palestra fornecerá algumas fundações e antecedentes (incluindo alguns snippets de código) que serão necessários para o seguinte tutorial que colocará em prática o processo MLOps de Servir um modelo para fins de produção. Especificamente, a palestra abrangerá:
- O desenvolvimento de um modelo exemplar utilizando o conjunto de dados da Stanford Dogs
- Guardar o modelo e o formato do modelo salvo
- TensorFlow TFX Serve Visão geral
- As APIs que o TFX Serving usa (gRPC e Restful)
- Contentorização
- Visão geral dos contentores Docker
- TensorFlow Serving Docker Imagem
- Servir um modelo para um endereço IP local
- Tirar uma imagem Docker e criar e executar um contêiner Docker que liga o modelo Tensorflow em trânsito
- Servir um Modelo utilizando instâncias de contentores do Azure (ACI)
- Tirar uma imagem Docker e criar e executar um contêiner Docker, e ligar um modelo Tensorflow.
- Comprometer o Docker Container com o modelo salvo como uma nova Imagem Docker.
- Executar a nova imagem como um Docker Container no ACI — usando o Docker CLI.
Esboço
| Duração (Min) | Descrição |
|---|---|
| 10 | Introdução ao modelo exemplar utilizado na palestra e no tutorial |
| 15 | Salvar o modelo e a visão geral do conjunto de ferramentas de serviço TFX e as APIs que o TFX serve usa |
| 10 | Uma visão geral da contentorização |
| 10 | Servir o modelo localmente |
| 15 | Servir o modelo no ACI |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.