Administrative oplysninger
| Titel | Betjener produktionsmodeller |
| Varighed | 60 minutter |
| Modul | B |
| Lektionstype | Forelæsning |
| Fokus | Praktisk — Organisationel kunstig intelligens |
| Emne | Betjener en produktionsmodel |
Nøgleord
indeslutning
Læringsmål
- Oversigt over Containerization
- Introduktion til TFX Servering
- Servering af modeller lokalt og servering på Azure Container Instances
Forventet forberedelse
Læringsbegivenheder, der skal fuldføres før
Ingen.
Obligatorisk for studerende
Valgfrit for studerende
Ingen.
Referencer og baggrund for studerende
Ingen.
Anbefalet til lærerne
Ingen.
Undervisningsmaterialer
Instruktioner til lærerne
Dette foredrag vil give et overblik/fundament for Serving Tensorflow-modeller. Foredraget vil give nogle fundamenter og baggrund (herunder nogle kode uddrag), der vil være påkrævet for følgende tutorial, der vil sætte i praksis MLOps processen med at Servere en model til produktionsformål. Forelæsningen vil specifikt dække:
- Udviklingen af en eksemplarisk model ved hjælp af Stanford Dogs datasæt
- Lagring af modellen og formatet for den gemte model
- TensorFlow TFX Serverer oversigt
- API'erne TFX Servering bruger (gRPC og Restful)
- Containerisering
- Oversigt over Docker containere
- TensorFlow betjener Docker Image
- Servering af en model til en lokal IP-adresse
- At tage et Docker-billede og oprette og køre en Docker-container, der binder Tensorflow-modellen i transit
- Servering af en model ved hjælp af Azure Container Instances (ACI)
- Tage et Docker-billede og oprette og køre en Docker-container og binde en Tensorflow-model.
- Forpligte Docker Container med modellen gemt som et nyt Docker Image.
- Kører det nye billede som en Docker Container i ACI — ved hjælp af Docker CLI.
Omrids
| Varighed (min.) | Beskrivelse |
|---|---|
| 10 | Introduktion til den eksemplariske model, der anvendes i foredraget og tutorial |
| 15 | Gem modellen og overblik over TFX serveringsværktøjssæt og de API'er, som TFX-servering bruger |
| 10 | En oversigt over Containerization |
| 10 | Servicering af modellen lokalt |
| 15 | Servicering af modellen på ACI |
Anerkendelser
Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.