Föreläsning: Hårdvaru- och mjukvaruramverk för djupinlärning

Administrativ information

Nyckelord

djupinlärning, programvara, hårdvara, GPU-infrastruktur,

Lärandemål

• Bekanta dig med hårdvaru- och mjukvaruramverken för djupinlärningssystem

Förväntad förberedelse

Lektionsmaterial

• Föreläsningsbilder (.pptx)

Instruktioner för lärare

Syftet med denna föreläsning är att visa eleverna vilka hårdvaru- och mjukvaruarkitekturer som hjälper till att träna och distribuera djupinlärningslösningar. Vi måste erkänna att dessa hårdvaru- och programvarukomponenter är briljanta tekniska lösningar som gör det möjligt för oss att skala utbildning och slutsatser. Bortsett från hårdvaran är NVIDIA GPU:er och Google TPU:er de bästa valen idag eftersom de implementerar optimerade djupinlärningsalgoritmer med högkvalitativa och snabba drivrutiner.

För djupinlärning använder vi mycket mer programvara än enbart djupinlärningsramar. Vi använder konfiguration, schemaläggning, orkestrering och många andra verktyg. Den korta introduktionen i denna föreläsning skrapar bara ytan.

Under sista delen av föreläsningen visar vi hur multi-GPU-träning kan realiseras med Horovod. Syftet är inte att djupdyka i multi-GPU-utbildningar, utan att visa att det inte är så svårt att implementera en grundläggande lösning.

Att öppna webbplatserna för hårdvarutillverkarna och programvaruleverantörerna kan hjälpa eleverna att ha lite praktisk erfarenhet.

Konturer

• hårdvarulösningar – från skrivbord till serverklass
• ramverk för djupinlärning av programvara
• ytterligare programvara för djupinlärningslösningar

Erkännanden

Balint Gyires-Tóth (Budapest University of Technology and Economics)

Masterprogrammet Human-Centered AI har samfinansierats av Fonden för ett sammanlänkat Europa i Europeiska unionen inom ramen för Grant CEF-TC-2020–1 Digital Skills 2020 EU-IA-0068.

Lektionsplan för SURF

Wikiwijs sida