Διοικητικές πληροφορίες
| Τίτλος | Σερβίρισμα Μοντέλα Παραγωγής |
| Διάρκεια | 60 λεπτά |
| Ενότητα | Β |
| Είδος μαθήματος | Διάλεξη |
| Εστίαση | Πρακτική — Οργανωτική ΤΝ |
| Θέμα | Εξυπηρετώντας ένα μοντέλο παραγωγής |
Λέξεις-κλειδιά
περιχαρακώσεις,
Μαθησιακοί στόχοι
- Επισκόπηση των εμπορευματοκιβωτίων
- Εισαγωγή στο TFX Serving
- Σερβίρισμα μοντέλων τοπικά και σερβιρίσματος σε εγκαταστάσεις εμπορευματοκιβωτίων Azure
Αναμενόμενη προετοιμασία
Μαθησιακές εκδηλώσεις που πρέπει να ολοκληρωθούν πριν
Καμία.
Υποχρεωτικό για τους φοιτητές
Προαιρετικό για Φοιτητές
Καμία.
Αναφορές και υπόβαθρο για τους μαθητές
Καμία.
Συνιστάται για εκπαιδευτικούς
Καμία.
Υλικό μαθήματος
Οδηγίες για τους εκπαιδευτικούς
Αυτή η διάλεξη θα παρέχει μια επισκόπηση/θεμελίωση για την εξυπηρέτηση των μοντέλων Tensorflow. Η διάλεξη θα παρέχει κάποια θεμέλια και υπόβαθρο (συμπεριλαμβανομένων ορισμένων αποσπασμάτων κώδικα) που θα απαιτηθούν για το ακόλουθο σεμινάριο που θα θέσει σε εφαρμογή τη διαδικασία MLOps της εξυπηρέτησης ενός μοντέλου για σκοπούς παραγωγής. Συγκεκριμένα, η διάλεξη θα καλύπτει:
- Η ανάπτυξη ενός μοντέλου που χρησιμοποιεί το σύνολο δεδομένων του Stanford Dogs
- Αποθήκευση του μοντέλου και της μορφής του αποθηκευμένου μοντέλου
- TensorFlow TFX Serving επισκόπηση
- Οι χρήσεις APIs TFX Serving (gRPC και Restful)
- Μεταφορά σε εμπορευματοκιβώτια
- Επισκόπηση εμπορευματοκιβωτίων Docker
- TensorFlow σερβιρίσματος Docker Εικόνα
- Εξυπηρέτηση ενός μοντέλου σε μια τοπική διεύθυνση IP
- Λήψη μιας εικόνας Docker και δημιουργία και εκτέλεση ενός δοχείου Docker που συνδέει το μοντέλο Tensorflow κατά τη μεταφορά
- Σερβίροντας ένα μοντέλο χρησιμοποιώντας Azure Container Instances (ACI)
- Λήψη μιας εικόνας Docker και δημιουργία και εκτέλεση ενός δοχείου Docker, και σύνδεση ενός μοντέλου Tensorflow.
- Υποβολή του εμπορευματοκιβωτίων Docker με το μοντέλο αποθηκευμένο ως νέα εικόνα Docker.
- Εκτέλεση της νέας εικόνας ως εμπορευματοκιβώτιο Docker στο ACI — χρησιμοποιώντας το Docker CLI.
Σχεδιάγραμμα
| Διάρκεια (ελάχιστη) | Περιγραφή |
|---|---|
| 10 | Εισαγωγή στο μοντέλο υπόδειγμα που χρησιμοποιείται στη διάλεξη και το σεμινάριο |
| 15 | Αποθήκευση του μοντέλου και επισκόπηση της εργαλειοθήκης TFX και των APIs που χρησιμοποιεί η υπηρεσία TFX |
| 10 | Επισκόπηση των εμπορευματοκιβωτίων |
| 10 | Εξυπηρετώντας το μοντέλο σε τοπικό επίπεδο |
| 15 | Εξυπηρετώντας το μοντέλο στο ACI |
Αναγνωρίσεις
Το πρόγραμμα Μάστερ τεχνητής νοημοσύνης με επίκεντρο τον άνθρωπο συγχρηματοδοτήθηκε από τον μηχανισμό «Συνδέοντας την Ευρώπη» της Ευρωπαϊκής Ένωσης στο πλαίσιο της επιχορήγησης CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.