Administrativne informacije
| Naslov | Posluživanje modela proizvodnje |
| Trajanje | 60 minuta |
| Modul | B |
| Vrsta lekcija | Predavanje |
| Fokus | Praktična – Organizacijska umjetna inteligencija |
| Tema | Posluživanje modela proizvodnje |
Ključne riječi
obustava,
Ciljevi učenja
- Pregled kontejnera
- Uvod u TFX Serving
- Posluživanje modela na lokalnoj razini i služenje na Azure kontejnerskim instancama
Očekivana priprema
Edukativni događaji koji će biti završeni prije
Nijedan.
Obvezno za studente
Neobvezno za studente
Nijedan.
Preporuke i pozadina za studente
Nijedan.
Preporučeno nastavnicima
Nijedan.
Nastavni materijali
Upute za učitelje
Ovo predavanje će pružiti pregled/temelj za Serving Tensorflow modele. Predavanje će pružiti neke temelje i pozadinu (uključujući neke kodne isječke) koje će biti potrebne za sljedeći vodič koji će u praksi provesti MLOps proces posluživanja modela u svrhu proizvodnje. Konkretno, predavanje će obuhvatiti:
- Razvoj primjernog modela pomoću skupa podataka Stanford Dogs
- Spremanje modela i formata spremljenog modela
- TensorFlow TFX pregled posluživanja
- API TFX Serving koristi (gRPC i Restful)
- Ambalaža
- Pregled spremnika Docker
- TensorFlow Serving Docker Slika
- Posluživanje modela za lokalnu IP adresu
- Uzimanje Docker slike i stvaranje i pokretanje Docker spremnika vezanje modela Tensorflow u tranzitu
- Posluživanje modela pomoću Azure Container Instances (ACI)
- Uzimanje Docker slike i stvaranje i pokretanje Docker spremnika, i vezanje modela Tensorflow.
- Izrada Docker kontejnera s modelom spremljenim kao novi Docker Image.
- Pokretanje nove slike kao Docker kontejnera u ACI-ju – pomoću Docker CLI-ja.
Nacrt
| Trajanje (min) | Opis |
|---|---|
| 10 | Uvod u primjerni model koji se koristi u predavanju i vodiču |
| 15 | Spremanje modela i pregled TFX alata za posluživanje i API-ja koje TFX posluživanje koristi |
| 10 | Pregled kontejnera |
| 10 | Posluživanje modela na lokalnoj razini |
| 15 | Posluživanje modela na ACI-ju |
Priznanja
Diplomski studij umjetne inteligencije usmjeren na čovjeka sufinanciran je Instrumentom za povezivanje Europe Europske unije u okviru bespovratnih sredstava CEF-TC-2020 – 1 Digital Skills 2020-EU-IA-0068.