Informazioni amministrative
| Titolo | Servire modelli di produzione |
| Durata | 60 minuti |
| Modulo | B |
| Tipo di lezione | Lezione |
| Focus | Pratiche — AI organizzativa |
| Argomento | Servire un modello di produzione |
Parole chiave
contenimento,
Obiettivi di apprendimento
- Panoramica della containerizzazione
- Introduzione al servizio di TFX
- Servire i modelli localmente e servire su istanze di contenitore di Azure
Preparazione prevista
Eventi di apprendimento da completare prima
Nessuno.
Obbligatorio per gli studenti
Facoltativo per gli studenti
Nessuno.
Referenze e background per gli studenti
Nessuno.
Consigliato per gli insegnanti
Nessuno.
Materiale didattico
Istruzioni per gli insegnanti
Questa lezione fornirà una panoramica/fondazione per i modelli di Serving Tensorflow. La lezione fornirà alcune basi e background (tra cui alcuni snippet di codice) che saranno necessari per il seguente tutorial che metterà in pratica il processo MLOps di servire un modello per scopi produttivi. In particolare, la lezione riguarderà:
- Lo sviluppo di un modello esemplare utilizzando il dataset Stanford Dogs
- Salvataggio del modello e del formato del modello salvato
- Alla scoperta di TensorFlow TFX
- Le API TFX Serving utilizza (gRPC e Restful)
- Containerizzazione
- Alla scoperta di container Docker
- TensorFlow serve l'immagine Docker
- Servire un modello a un indirizzo IP locale
- Scattare un'immagine Docker e creare ed eseguire un contenitore Docker che lega il modello Tensorflow in transito
- Servire un modello utilizzando istanze di contenitori di Azure (ACI)
- Prendendo un'immagine Docker, creando ed eseguendo un contenitore Docker e legando un modello Tensorflow.
- Impegnare il Contenitore Docker con il modello salvato come nuova immagine Docker.
- Eseguire la nuova immagine come contenitore Docker in ACI — utilizzando il Docker CLI.
Contorno
| Durata (min) | Descrizione |
|---|---|
| 10 | Introduzione al modello esemplare utilizzato nella lezione e nel tutorial |
| 15 | Salvataggio del modello e panoramica del toolkit di servizio di TFX e delle API utilizzate dal servizio TFX |
| 10 | Una panoramica di Containerization |
| 10 | Servire il modello localmente |
| 15 | Servire il modello su ACI |
Riconoscimenti
Il programma Human-Centered AI Masters è stato co-finanziato dal meccanismo per collegare l'Europa dell'Unione europea nell'ambito della sovvenzione CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.