Informații administrative
| Titlu | Servirea modelelor de producție |
| Durată | 60 de minute |
| Modulul | B |
| Tipul lecției | Prelegere |
| Focalizare | Practică – IA organizațională |
| Subiect | Servirea unui model de producție |
Cuvinte cheie
izolarea,
Obiective de învățare
- Prezentare generală a containerelor
- Introducere în serviciul TFX
- Servind modele la nivel local și în serviciul instanțelor Azure Container
Pregătirea preconizată
Evenimente de învățare care urmează să fie finalizate înainte
Nici unul.
Obligatoriu pentru studenți
Opțional pentru studenți
Nici unul.
Referințe și context pentru studenți
Nici unul.
Recomandat pentru profesori
Nici unul.
Materiale de lecție
Instrucțiuni pentru profesori
Această prelegere va oferi o imagine de ansamblu/fundație pentru modelele Serving Tensorflow. Cursul va oferi unele fundații și fundal (inclusiv unele fragmente de cod) care vor fi necesare pentru următorul tutorial care va pune în practică procesul MLOps de servire a unui model în scopuri de producție. În mod specific, prelegerea va acoperi:
- Dezvoltarea unui model exemplar folosind setul de date Stanford Dogs
- Salvarea modelului și a formatului modelului salvat
- TensorFlow TFX Prezentare generală a serviciilor
- API-urile TFX Serving utilizează (gRPC și Restful)
- Containerizare
- Prezentare generală a containerelor Docker
- TensorFlow Servirea Docker Imagine
- Servirea unui model la o adresă IP locală
- Realizarea unei imagini Docker și crearea și rularea unui container Docker care leagă modelul Tensorflow în tranzit
- Servirea unui model folosind Azure Container Instances (ACI)
- Luarea unei imagini Docker și crearea și rularea unui container Docker și legarea unui model Tensorflow.
- Angajarea Containerului Docker cu modelul salvat ca o nouă imagine Docker.
- Rularea noii imagini ca Docker Container în ACI – folosind Docker CLI.
Contur
| Durată (min) | Descriere |
|---|---|
| 10 | Introducere în modelul exemplar utilizat în prelegere și tutorial |
| 15 | Salvarea modelului și prezentarea generală a setului de instrumente de servire TFX și a API-urilor pe care le utilizează TFX |
| 10 | O privire de ansamblu asupra Containerizării |
| 10 | Servirea modelului la nivel local |
| 15 | Servirea modelului pe ACI |
Confirmări
Programul de masterat AI centrat pe om a fost cofinantat de Mecanismul pentru interconectarea Europei al Uniunii Europene sub Grantul CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.