Administratieve informatie
| Titel | Het dienen van productiemodellen |
| Looptijd | 60 minuten |
| Module | B |
| Type les | Lezing |
| Focus | Praktisch — Organisatie-AI |
| Onderwerp | Het bedienen van een productiemodel |
Sleutelwoorden
containarisatie,
Leerdoelen
- Overzicht van Containerisatie
- Inleiding tot TFX Serving
- Serveren van modellen lokaal en serveren op Azure Container instances
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Geen.
Verplicht voor studenten
Optioneel voor studenten
Geen.
Referenties en achtergronden voor studenten
Geen.
Aanbevolen voor docenten
Geen.
Lesmateriaal
Instructies voor docenten
Deze lezing geeft een overzicht/fundation voor Serving Tensorflow modellen. De lezing biedt enkele fundamenten en achtergronden (waaronder enkele codefragmenten) die nodig zijn voor de volgende tutorial die het MLOps-proces van het dienen van een model voor productiedoeleinden in de praktijk zal brengen. De lezing zal specifiek betrekking hebben op:
- De ontwikkeling van een voorbeeldmodel met behulp van de Stanford Dogs dataset
- Opslaan van het model en het formaat van het opgeslagen model
- TensorFlow TFX Overzicht van TensorFlow
- De API’s die TFX Serving gebruikt (gRPC en Restful)
- Containerisatie
- Overzicht van Docker containers
- TensorFlow dienende Docker afbeelding
- Het serveren van een model naar een lokaal IP-adres
- Het maken van een Docker-afbeelding en het maken en uitvoeren van een Docker-container die het Tensorflow-model in transit bindt
- Een model bedienen met Azure Container Instances (ACI)
- Het maken van een Docker-afbeelding en het maken en uitvoeren van een Docker-container en het binden van een Tensorflow-model.
- Committeren van de Docker Container met het model opgeslagen als een nieuwe Docker Image.
- Het uitvoeren van de nieuwe afbeelding als een Docker Container in ACI — met behulp van de Docker CLI.
Omtrek
| Duur (Min) | Omschrijving |
|---|---|
| 10 | Inleiding tot het voorbeeldmodel dat wordt gebruikt in de lezing en tutorial |
| 15 | Opslaan van het model en overzicht van de TFX-serveertoolkit en de API’s die TFX gebruikt |
| 10 | Een overzicht van Containerisatie |
| 10 | Het model lokaal bedienen |
| 15 | Bedienen van het model op ACI |
Erkenningen
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.