Administrativ information
| Titel | Betjäna produktionsmodeller |
| Varaktighet | 60 minuter |
| Modul | B |
| Typ av lektion | Föreläsning |
| Fokus | Praktiskt – Organisatorisk AI |
| Ämne | Betjänar en produktionsmodell |
Nyckelord
inneslutning,
Lärandemål
- Översikt över Containerization
- Introduktion till TFX Servering
- Servera modeller lokalt och servera på Azure Container Instances
Förväntad förberedelse
Lärande händelser som ska slutföras innan
Ingen.
Obligatoriskt för studenter
Valfritt för studenter
Ingen.
Referenser och bakgrund för studenter
Ingen.
Rekommenderas för lärare
Ingen.
Lektionsmaterial
Instruktioner för lärare
Denna föreläsning ger en översikt/grund för Serving Tensorflow-modeller. Föreläsningen kommer att ge några grunder och bakgrund (inklusive några kodavsnitt) som kommer att krävas för följande handledning som kommer att omsätta MLOps processen att tjäna en modell för produktionsändamål. Särskilt föreläsningen kommer att omfatta:
- Utveckling av en modell med hjälp av Stanford Dogs dataset
- Spara modellen och formatet för den sparade modellen
- TensorFlow TFX Serving Översikt
- API:erna TFX Servering använder (gRPC och Restful)
- Containerisering
- Docker-containrar: Översikt
- TensorFlow Serving Docker Image
- Betjänar en modell till en lokal IP-adress
- Ta en Docker-bild och skapa och köra en Docker-behållare som binder Tensorflow-modellen i transit
- Servera en modell med Azure Container Instances (ACI)
- Ta en Docker-bild och skapa och köra en Docker-behållare och binda en Tensorflow-modell.
- Använda Docker Container med modellen sparad som en ny Docker-bild.
- Kör den nya bilden som en Docker Container i ACI – med Docker CLI.
Konturer
| Varaktighet (min) | Beskrivning |
|---|---|
| 10 | Introduktion till den modell som används i föreläsningen och handledningen |
| 15 | Spara modellen och översikten av TFX serveringsverktygslåda och de API:er som TFX-servering använder |
| 10 | En översikt över Containerization |
| 10 | Betjänar modellen lokalt |
| 15 | Betjänar modellen på ACI |
Erkännanden
Masterprogrammet Human-Centered AI har samfinansierats av Fonden för ett sammanlänkat Europa i Europeiska unionen inom ramen för Grant CEF-TC-2020–1 Digital Skills 2020 EU-IA-0068.