Vadnica: Ml-Ops

Upravne informacije

Naslov	Servisni proizvodni modeli
Trajanje	60 minut
Modul	B
Vrsta lekcije	Tutorial
Osredotočenost	Praktična – organizacijska umetna inteligenca
Tema	Model proizvodnje stavb API

Ključne besede

operacija strojnega učenja, kontejnerji,

Učni cilji

• Spoznavanje kontejnerjev
• Učenje TFX Služenje
• Sposobnost uporabe, ki služi lokalno in na primerkih Azure Container

Pričakovana priprava

Gradivo za učne ure

• Video vadnica (MP4)
• Zvezek Jn: (.ipynb)
• HTML zvezek: (HTML)
• Komplet popolnih podatkov za pse Stanford
• Podatki o usposabljanju Jacka Russla
• Podatki o usposabljanju Rhodesian Ridgeback
• Neznani podatki Jacka Russla
• Neznani podatki Rhodesian Ridgeback

Navodila za učitelje

Proizvodni modeli z uporabo TFX Serving

• Ta vadnica bo študentom predstavila razvit model, ki je bil razvit v zvezku Jupyter (z uporabo Tensorflow 2.x in Keras) in shranil model v formatu Tensorflow. Tutorial se bo začel z razvojem osnovnega CNN za identifikacijo kruha psa. Nato bomo model shranili kot model Tensorflow. Vadnica bo nato uporabila pristop TFX (Tensorflow Extended https://www.tensorflow.org/tfx/serving/docker)za MLOps, kjer se bomo v tem vadnici osredotočili na komponento TRX, ki je gradnja mirnih API-jev za uporabo/poizvedovanje v proizvodnih okoljih. V ta namen bomo zgradili sliko Docker TFX in uvedli to sliko:
  • Lokalno (lokalhost)
  • Prek primerkov Azure Container (ACI), kjer je mogoče poizvedovati o javnem IP-naslovu

• Obstajajo predhodne namestitve, si oglejte obvezne priprave za študente spodaj.
• Nabor podatkov je nabor podatkov o psih Stanford, v katerem uporabljamo dva razreda psov, Jack Russel in Rhodesian Ridgeback, celoten nabor podatkov najdete tukaj, prav tako smo navedli podskupino, ki se uporablja v tem vadnici v spodnjem razdelku podatkovnega niza.
• Prav tako smo zagotovili vse ukaze Docker CLI na dnu te vadnice WIKI strani.

Oris/časovni razpored

Trajanje (mini)	Opis
20	Težava 1: Izdelava modela CNN z uporabo podmnožice nabora podatkov za pse Stanford, ki ta model shrani kot model Tensorflow
10	Težava 2: Uvajanje modela Tensorflow na lokalni API (z uporabo Dockerja) in poizvedovanje po modelu
20	Težava 3: Uvajanje modela Tensorflow v počivalni API z uporabo primerkov Azure Container (ACI) (z uporabo Dockerja) in poizvedovanje po modelu
10	Ponovite postopek prednjega prehoda

Docker CLI ukazi

Naslednji ukazi vmesnika ukazne vrstice se uporabljajo v tej vadnici za zagon modelov.

Teči lokalno

Korak 1: Povlecite tenzorčni tok

Docker pull tensorflow/serving:zadnji-gpu

Korak 2: Zaženi sliko

Docker run --gpus all -p 8501:8501 --ime tfserving_classifier --mount type=bind,source=c:\produkcija\,target=/models/img_classifier -e MODEL_NAME=img_classifier -t tensorflow/serving:latest-gpu

brez GPU

Docker run -p 8501:8501 --ime tfserving_classifier --mount type=bind,source=c:\produkcija\,target=/models/img_classifier -e MODEL_NAME=img_classifier -t tensorflow/serving:lad-gpu

Teči na Azure z uporabo ACI

Korak 1: Spreminjanje lokalne slike, da bo vključen model

Docker run -d --name Service_base tensorflow/serving:zadnji-gpu
Docker cp:\produkcija\serviranje_base:/modeli/img_classifier 
Docker ps -aн н#, da bi dobili ID 
Docker pošiljanje --sprememba „ENV MODEL_NAME img_classifier“ <id gre tukaj> tensorflow_dogs_gpu 
Docker ubiti služijo_base 

Korak 2: Namestitev slike v Azure ACI

Docker Login azure
Docker kontekst ustvari aci deleteme 
Docker kontekst Uporaba Izbriši 
Docker run -p 8501:8501 kquille/tensorflow_dogs_gpu:kq 

Korak 3 Dostop do dnevnikov ACI, naslova IP in nato ustavite in odstranite storitev ACI ====

Docker dnevniki jolly-ride
Docker ps 
Docker stop jolly-ride 
Docker rm jolly-ride 

Priznanja

Keith Quille (TU Dublin, Tallaght Campus)

Program Masters umetne inteligence, ki je bil vključen v človeka, je bil sofinanciran z instrumentom za povezovanje Evrope Evropske unije v okviru nepovratnih sredstev (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).

Učni načrt za SURF

Wikiwijs stran