Hallinnolliset tiedot
| Otsikko | Palvelevat tuotantomallit |
| Kesto | 60 minuuttia |
| Moduuli | B |
| Oppitunnin tyyppi | Luento |
| Keskittyminen | Käytännönläheinen – organisatorinen tekoäly |
| Aihe | Tuotantomallin palveleminen |
Avainsanoja
eristäminen,
Oppimistavoitteet
- Katsaus kontaktiin
- Johdanto TFX-palveluun
- Palvelevat mallit paikallisesti ja palvelevat Azure Container Instances
Odotettu valmistelu
Oppimistapahtumat valmistuvat ennen
Ei mitään.
Pakollinen opiskelijoille
Valinnainen opiskelijoille
Ei mitään.
Referenssejä ja taustaa opiskelijoille
Ei mitään.
Suositellaan opettajille
Ei mitään.
Oppituntimateriaalit
Ohjeita opettajille
Tässä luennossa esitetään yleiskatsaus/perustaminen Tensorflow-mallien käyttöön. Luento tarjoaa joitakin säätiöitä ja taustaa (mukaan lukien joitakin koodinpätkät), joita tarvitaan seuraavaan opetusohjelmaan, joka käytännössä toteuttaa MLOps-prosessin mallin tuottamista varten. Luento kattaa erityisesti:
- Esimerkkimallin kehittäminen Stanford Dogs -tietoaineistoa käyttäen
- Tallennetun mallin ja tallennetun mallin muodon tallentaminen
- TensorFlow TFX Tarjoukset
- APIs TFX Serving käyttää (gRPC ja Restful)
- Konttien käsittely
- Docker konttien yleiskatsaus
- TensorFlow palvelee Docker Image
- Mallin palveleminen paikalliseen IP-osoitteeseen
- Docker-kuvan ottaminen ja Tensorflow-mallin sitovan Docker-säiliön luominen ja ajaminen passituksessa
- Mallin palveleminen käyttämällä Azure Container Instances (ACI)
- Docker-kuvan ottaminen ja Docker-säiliön luominen ja ajaminen sekä Tensorflow-mallin sitominen.
- Docker Containerin sitominen uutena Docker Image -mallina tallennetulla mallilla.
- Uuden kuvan ajaminen Docker Containerina ACI:ssä – Docker CLI:n avulla.
Hahmotella
| Kesto (Min) | Kuvaus |
|---|---|
| 10 | Johdanto esimerkilliseen malliin, jota käytetään luennossa ja opetusohjelmassa |
| 15 | Mallin ja yleiskuvan tallentaminen TFX-tarjoilutyökalupakista ja TFX-palvelussa käytettävistä API-rajapinnoista |
| 10 | Yleiskatsaus kontainerisaatioon |
| 10 | Palvelee mallia paikallisesti |
| 15 | Mallin palveleminen ACI:ssä |
Tunnustukset
Human-Centered AI Masters -ohjelmaa rahoitettiin Euroopan unionin Verkkojen Eurooppa -välineestä (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).