Administratívne informácie
| Názov | Servisné výrobné modely |
| Trvanie | 60 minút |
| Modul | B |
| Druh lekcie | Prednáška |
| Zameranie | Praktická – Organizačná umelá inteligencia |
| Téma | Slúžiť výrobnému modelu |
Kľúčové slová
izolácia,
Vzdelávacie ciele
- Prehľad Kontajnerizácie
- Úvod do TFX Serving
- Slúžiť modely lokálne a slúžiť na Azure Container inštancie
Očakávaná príprava
Naučte sa udalosti, ktoré treba dokončiť predtým
Žiadne.
Povinné pre študentov
Voliteľné pre študentov
Žiadne.
Referencie a zázemie pre študentov
Žiadne.
Odporúčané pre učiteľov
Žiadne.
Učebné materiály
Pokyny pre učiteľov
Táto prednáška poskytne prehľad/základ pre servírovanie Tensorflow modelov. Prednáška poskytne niektoré základy a pozadie (vrátane niektorých úryvkov kódu), ktoré budú potrebné pre nasledujúci tutoriál, ktorý uvedie do praxe MLOps proces Serving model pre výrobné účely. Konkrétne sa prednáška bude týkať:
- Vývoj vzorového modelu pomocou súboru údajov Stanford Dogs
- Uloženie modelu a formátu uloženého modelu
- Prehľad destinácie TensorFlow TFX Serving
- Používa API TFX Serving (gRPC a Restful)
- Kontajnerizácia
- Prehľad kontajnerov Docker
- TensorFlow slúži Docker obrázok
- Použitie modelu na miestnu IP adresu
- Vytvorenie Dockerovho obrazu a vytvorenie a spustenie kontajnera Docker, ktorý viaže model Tensorflow v tranzite
- Použitie modelu Azure Container Inštancie (ACI)
- Vytvorenie Dockerovho obrazu a vytvorenie a spustenie kontajnera Docker a viazanie modelu Tensorflow.
- Odovzdanie kontajnera Docker s modelom uloženým ako nový Docker Image.
- Spustenie nového obrázka ako Docker Container v ACI – pomocou Docker CLI.
Obrysy
| Trvanie (Min) | Popis |
|---|---|
| 10 | Úvod do príkladného modelu použitého v prednáške a tutoriálu |
| 15 | Uloženie modelu a prehľad sady nástrojov TFX a API, ktoré TFX Servis používa |
| 10 | Prehľad Kontajnerizácie |
| 10 | Slúžiť modelu lokálne |
| 15 | Použitie modelu na ACI |
Uznania
Program Masters umelej inteligencie zameraný na človeka bol spolufinancovaný z Nástroja Európskej únie na prepájanie Európy v rámci grantu CEF-TC-2020 – 1 Digitálne zručnosti 2020-EU-IA-0068.