Adminisztratív információk
| Cím | Termelési modellek kiszolgálása |
| Időtartam | 60 perc |
| Modul | B |
| Lecke típusa | Előadás |
| Fókusz | Gyakorlati – Szervezeti MI |
| Téma | Termelési modell kiszolgálása |
Kulcsszó
visszafogottság,
Tanulási célok
- A kontainerizáció áttekintése
- Bevezetés a TFX szolgáltatásba
- Az Azure Container-példányok helyi kiszolgálása és kiszolgálása
Várható előkészítés
Az előtt befejezendő tanulási események
Egy sem.
Kötelező a diákok számára
Választható diákok számára
Egy sem.
Referenciák és háttér a diákok számára
Egy sem.
Ajánlott tanároknak
Egy sem.
Leckeanyagok
Utasítások tanároknak
Ez az előadás áttekintést/alapítványt nyújt a Tensorflow modellek kiszolgálásához. Az előadás olyan alapokat és hátteret (többek között kódrészleteket) biztosít, amelyek szükségesek a következő bemutatóhoz, amely átülteti a gyakorlatba a modell kiszolgálásának MLOps folyamatát termelési célokra. Az előadás a következőkre terjed ki:
- Példaértékű modell kidolgozása a Stanford Dogs adatbázis segítségével
- A modell és a mentett modell formátumának mentése
- TensorFlow TFX Szolgáltatás áttekintése
- Az API-k TFX Serving használata (gRPC és Restful)
- Konténerezés
- Docker konténerek áttekintése
- TensorFlow Docker kép
- Modell kézbesítése helyi IP-címre
- Docker-kép készítése, valamint a Tensorflow modellt összekötő Docker konténer létrehozása és futtatása tranzit közben
- Modell kiszolgálása Azure Container Instances (ACI) használatával
- Docker-kép készítése, Docker-konténer létrehozása és futtatása, valamint Tensorflow modell kötése.
- A Docker Container használata az új Docker Image-ként mentett modellel.
- Az új kép futtatása Docker Containerként az ACI-ben – a Docker CLI használatával.
Vázlat
| Időtartam (min) | Leírás |
|---|---|
| 10 | Bevezetés az előadásban és a bemutatóban használt példaértékű modellhez |
| 15 | A TFX kiszolgáló eszköztárának és a TFX által kiszolgált API-k modelljének és áttekintésének mentése |
| 10 | A konténerezés áttekintése |
| 10 | A modell helyi szintű kiszolgálása |
| 15 | A modell kiszolgálása az ACI-n |
Visszaigazolások
A Human-Centered AI Masters programot az Európai Unió Európai Hálózatfinanszírozási Eszköze (CEF-TC-2020–1 Digitális készségek 2020 EU-IA-0068) társfinanszírozta.