Informazzjoni Amministrattiva
| Titlu | Jservu Mudelli ta ‘Produzzjoni |
| Tul ta’ żmien | 60 minuta |
| Modulu | B |
| Tip ta’ lezzjoni | Lekċer |
| Fokus | Prattiċi — IA organizzattiva |
| Suġġett | Servizz ta’ mudell ta’ produzzjoni |
Kliem prinċipali
it-trażżin,
Għanijiet ta’ Tagħlim
- Ħarsa ġenerali lejn il-Kontejnerizzazzjoni
- Introduzzjoni għal TFX Serving
- Naqdu l-mudelli fil-lokal u nservu fuq l-istanzi tal-Kontejner ta’ Azure
Preparazzjoni mistennija
Avvenimenti ta’ Tagħlim li għandhom jiġu Mlestija Qabel
Xejn.
Obbligatorju għall-Istudenti
Fakultattiv għall-Istudenti
Xejn.
Referenzi u sfond għall-istudenti
Xejn.
Rakkomandat għall-Għalliema
Xejn.
Materjali tal-lezzjoni
Struzzjonijiet għall-Għalliema
Din il-Lecture se tipprovdi ħarsa ġenerali/fondazzjoni għall Jservu mudelli Tensorflow. Il-lekċer se jipprovdi xi pedamenti u sfond (inklużi xi snippets kodiċi) li se jkunu meħtieġa għall-tutorja li ġejja li se tpoġġi fil-prattika l-proċess MLOps ta ‘servi mudell għal skopijiet ta’ produzzjoni. Speċifikament il-lezzjoni se tkopri:
- l-iżvilupp ta’ mudell eżemplari bl-użu tas-sett tad-data ta’ Stanford Dogs
- Issejvjar tal-mudell u l-format tal-mudell salvat
- TensorFlow TFX Isservi ħarsa ġenerali
- l-APIs TFX Jservu użi (gRPC u Restful)
- Kontejnerizzazzjoni
- Ħarsa ġenerali lejn il-kontenituri Docker
- TensorFlow jservu Docker Image
- Inservu mudell f’indirizz IP lokali
- Teħid ta ‘immaġni Docker u l-ħolqien u t-tmexxija ta’ kontenitur Docker li jorbtu l-mudell Tensorflow fi tranżitu
- Servizz ta’ Mudell bl-użu ta’ Azure Container Instances (ACI)
- Teħid ta ‘immaġni Docker u l-ħolqien u t-tmexxija ta’ kontenitur Docker, u jorbot mudell Tensorflow.
- Jikkommettu l-Kontejner Docker mal-mudell salvati bħala Image Docker ġdid.
- Tmexxija tal-immaġni l-ġdida bħala Kontenitur Docker fl-ACI — bl-użu tas-CLI Docker.
Deskrizzjoni fil-qosor
| Tul ta’ żmien (Min) | Deskrizzjoni |
|---|---|
| 10 | Introduzzjoni għall-mudell eżemplari użat fil-lekċer u t-tutorja |
| 15 | Issejvjar tal-mudell, u ħarsa ġenerali lejn TFX jservu toolkit u l-APIs li TFX jservu użi |
| 10 | Ħarsa ġenerali lejn il-Kontejnerizzazzjoni |
| 10 | Inservu l-mudell lokalment |
| 15 | Inservu l-mudell fuq l-ACI |
Rikonoxximenti
Il-programm Masters tal-IA Ċentrata mill-Bniedem ġie kofinanzjat mill-Faċilità Nikkollegaw l-Ewropa tal-Unjoni Ewropea Taħt l-Għotja CEF-TC-2020–1 Ħiliet Diġitali 2020-EU-IA-0068.