Administratieve informatie
| Titel | Hardware en software frameworks voor deep learning |
| Looptijd | 60 minuten |
| Module | B |
| Type les | Lezing |
| Focus | Technisch — diep leren |
| Onderwerp | Berekeningsgrafieken |
Sleutelwoorden
deep learning, software, hardware, GPU-infrastructuur,
Leerdoelen
- Vertrouwd raken met de hardware en software frameworks voor deep learning systemen
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Verplicht voor studenten
Geen.
Optioneel voor studenten
Geen.
Referenties en achtergronden voor studenten
Geen.
Aanbevolen voor docenten
Geen.
Lesmateriaal
Instructies voor docenten
Het doel van deze lezing is om studenten te laten zien welke hardware- en softwarearchitecturen helpen bij het trainen en implementeren van deep learning-oplossingen. We moeten erkennen dat deze hardware- en softwarecomponenten briljante technische oplossingen zijn die ons in staat stellen training en gevolgtrekking op te schalen. Naast de hardware zijn NVIDIA GPU’s en Google TPU’s vandaag de dag de beste keuzes omdat ze geoptimaliseerde deep learning-algoritmen implementeren met hoogwaardige en snelle drivers.
Voor deep learning gebruiken we veel meer software dan alleen deep learning frameworks. We gebruiken configuratie, planning, orkestratie en vele andere tools. De korte inleiding in deze lezing krassen alleen het oppervlak.
In het laatste deel van de lezing laten we zien hoe multi-GPU training kan worden gerealiseerd met Horovod. Het doel is niet om een diepe duik te nemen in multi-GPU-trainingen, maar om te laten zien dat het niet zo moeilijk is om een basisoplossing te implementeren.
Het openen van de websites van de hardwarefabrikanten en van de softwareleveranciers kan de studenten helpen om wat praktische ervaring te hebben.
Omtrek
- hardware oplossingen — van desktop tot server grade
- deep learning software frameworks
- aanvullende software voor deep learning oplossingen
| Duur (Min) | Omschrijving |
|---|---|
| 5 | De noodzaak van parallel computing in deep learning |
| 15 | Oplossingen voor hardware |
| 5 | Hoe verschillende hardware te vergelijken voor deep learning |
| 10 | Deep learning software architectuur |
| 10 | Deep learning frameworks |
| 10 | Aanvullende softwarecomponenten |
Erkenningen
Balint Gyires-Tóth (Boedapest Universiteit voor Technologie en Economie)
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.