Informazioni amministrative
| Titolo | Framework hardware e software per il deep learning |
| Durata | 60 minuti |
| Modulo | B |
| Tipo di lezione | Lezione |
| Focus | Tecnico — Apprendimento profondo |
| Argomento | Grafici computazionali |
Parole chiave
deep learning, software, hardware, infrastruttura GPU,
Obiettivi di apprendimento
- Acquisire familiarità con i framework hardware e software per i sistemi di deep learning
Preparazione prevista
Eventi di apprendimento da completare prima
Obbligatorio per gli studenti
Nessuno.
Facoltativo per gli studenti
Nessuno.
Referenze e background per gli studenti
Nessuno.
Consigliato per gli insegnanti
Nessuno.
Materiale didattico
Istruzioni per gli insegnanti
Lo scopo di questa lezione è quello di mostrare agli studenti quali architetture hardware e software aiutano a formare e implementare soluzioni di deep learning. Dobbiamo riconoscere che questi componenti hardware e software sono soluzioni tecniche brillanti che ci consentono di scalare la formazione e l'inferenza. Oltre all'hardware, le GPU NVIDIA e le TPU di Google sono oggi le migliori scelte perché implementano algoritmi di deep learning ottimizzati con driver di alta qualità e veloci.
Per l'apprendimento profondo, utilizziamo molto più software che framework di deep learning da soli. Utilizziamo la configurazione, la pianificazione, l'orchestrazione e molti altri strumenti. La breve introduzione in questa lezione graffia solo la superficie.
Nell'ultima parte della lezione, mostriamo come la formazione multi-GPU può essere realizzata con Horovod. L'obiettivo non è quello di immergersi a fondo nei training multi-GPU, ma dimostrare che non è così difficile implementare una soluzione di base.
L'apertura dei siti web dei produttori di hardware e dei fornitori di software potrebbe aiutare gli studenti ad avere una certa esperienza pratica.
Contorno
- soluzioni hardware — dal desktop al grado server
- framework software di deep learning
- software aggiuntivi per soluzioni di deep learning
| Durata (min) | Descrizione |
|---|---|
| 5 | La necessità del calcolo parallelo nell'apprendimento profondo |
| 15 | Soluzioni hardware |
| 5 | Come confrontare hardware diverso per il deep learning |
| 10 | Architettura software di deep learning |
| 10 | Quadri di apprendimento profondo |
| 10 | Componenti software aggiuntivi |
Riconoscimenti
Balint Gyires-Tóth (Università di Tecnologia ed Economia di Budapest)
Il programma Human-Centered AI Masters è stato co-finanziato dal meccanismo per collegare l'Europa dell'Unione europea nell'ambito della sovvenzione CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.