Administrativní informace
| Název | Servírování výrobních modelů |
| Trvání | 60 minut |
| Modul | B |
| Typ lekce | Přednáška |
| Soustředění | Praktické – Organizační AI |
| Téma | Servírování výrobního modelu |
Klíčová slova
intainarizace,
Vzdělávací cíle
- Přehled kontejnerů
- Úvod do služby TFX
- Lokálně a služby v instancích Azure Container
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Žádné.
Povinné pro studenty
Volitelné pro studenty
Žádné.
Reference a zázemí pro studenty
Žádné.
Doporučeno pro učitele
Žádné.
Materiály pro výuku
Pokyny pro učitele
Tato přednáška poskytne přehled/základ pro modely Serving Tensorflow. Přednáška poskytne některé základy a zázemí (včetně některých úryvků kódu), které budou potřebné pro následující výukový program, který uvede do praxe proces MLOps sloužící modelu pro výrobní účely. Konkrétně se přednáška bude týkat:
- Vývoj příkladného modelu využívajícího datovou sadu Stanford Dogs
- Uložení modelu a formátu uloženého modelu
- TensorFlow TFX – přehled služeb
- APIs TFX Serving používá (gRPC a Restful)
- Kontejnerizace
- Přehled kontejnerů Docker
- TensorFlow sloužící Docker Image
- Poskytování modelu na lokální IP adresu
- Pořízení snímku Docker a vytvoření a spuštění kontejneru Docker, který váže model Tensorflow při tranzitu
- Služba modelu pomocí Azure Container Instances (ACI)
- Pořízení Docker obrázku, vytvoření a spuštění kontejneru Docker a vázání modelu Tensorflow.
- Odevzdání Docker Containeru s modelem uloženým jako nový Docker Image.
- Spuštění nového obrázku jako Docker Container v ACI – pomocí Docker CLI.
Obrys
| Doba trvání (Min) | Popis |
|---|---|
| 10 | Úvod do příkladného modelu použitého v přednášce a tutoriálu |
| 15 | Uložení modelu a přehled servírovacích souborů TFX a API, která slouží TFX |
| 10 | Přehled kontejnerů |
| 10 | Servírovat model lokálně |
| 15 | Servírování modelu na ACI |
Potvrzení
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.