Forelæsning: Hardware og software rammer for dyb læring

Administrative oplysninger

Nøgleord

dyb læring, software, hardware, GPU-infrastruktur,

Læringsmål

• At blive fortrolig med hardware- og softwarerammerne til deep learning-systemer

Forventet forberedelse

Undervisningsmaterialer

• Forelæsningsdias (.pptx)

Instruktioner til lærerne

Formålet med dette foredrag er at vise eleverne, hvilke hardware og software arkitekturer hjælper med at træne og implementere dybe læringsløsninger. Vi må erkende, at disse hardware- og softwarekomponenter er fremragende tekniske løsninger, der gør det muligt for os at skalere træning og følgeslutning. Ud over hardwaren er NVIDIA GPU'er og Google TPU'er de bedste valg i dag, fordi de implementerer optimerede dybe læringsalgoritmer med hurtige drivere af høj kvalitet.

Til dyb læring bruger vi meget mere software end dybe læringsrammer alene. Vi bruger konfiguration, planlægning, orkestrering og mange andre værktøjer. Den korte introduktion i dette foredrag ridser kun overfladen.

På sidste del af foredraget viser vi, hvordan multi-GPU-træning kan realiseres med Horovod. Målet er ikke at dykke dybt ned i multi-GPU træning, men at vise, at det ikke er så svært at implementere en grundlæggende løsning.

Åbning af websteder for hardwareproducenter og softwareudbydere kan hjælpe de studerende til at have nogle hands-on erfaring.

Omrids

• hardwareløsninger — fra desktop til server grade
• dybe læringssoftwarerammer
• yderligere software til dyb læringsløsninger

Anerkendelser

Balint Gyires-Tóth (Budapest University of Technology and Economics)

Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.

Lektionsplan på SURF

Wikiwijs-side