Administrativ information
| Titel | Halvövervakat och oövervakat lärande |
| Varaktighet | 45–60 |
| Modul | C |
| Typ av lektion | Föreläsning |
| Fokus | Teknik – Framtida AI |
| Ämne | Framsteg i ML-modeller genom en HC-lins – En resultatorienterad studie |
Nyckelord
övervakad, oövervakad, halvövervakad, självövervakad inlärning,
Lärandemål
- Förstå de övervakade och oövervakade inlärningsmetoderna
- Kunna skilja mellan halvövervakat lärande och självövervakat lärande
Förväntad förberedelse
Lärande händelser som ska slutföras innan
Obligatoriskt för studenter
- Introduktion till maskininlärning och djupinlärningskoncept som ges i tidigare föreläsningar
Valfritt för studenter
Referenser och bakgrund för studenter
- Maskininlärningsmetoder – Computerphile
- Semi-övervakat lärande förklaras
- FixMatch: Förenklat halvövervakat lärande med konsekvens och förtroende
- Wav2vec: Toppmodern taligenkänning genom självövervakning
- SALNET textklassare
- Från vision till språk: Halvövervakat lärande i aktion i skala
- Självutbildning för end-to-end taligenkänning
- Vad är Self-Supervised Learning?
- Yann LeCun: Mörk materia av intelligens och självövervakat lärande – Lex Fridman Podcast
- Jure Žbontar – Barlow Twins: Självövervakad inlärning via redundansreducering
- Självövervakat lärande: Självprediktion och kontrasivt lärande – handledning, NeurIPS 2021
Rekommenderas för lärare
Ingen.
Lektionsmaterial
Instruktioner för lärare
Målet med denna föreläsning är att fokusera på de inlärningstekniker som gör det möjligt för oss att bygga modeller i avsaknad av märkta träningsdata. Med andra ord, bygga system som lär sig mer som människor. Föreläsningen ska fokusera på nya metoder i halvövervakade och självövervakade inlärningstekniker som minskar eller tar bort kravet på märkta dataset. Föreläsningen ska:
- Sammanfatta övervakade och oövervakade maskininlärningsmodeller och deras begränsningar
- Förklara begreppen bakom halvövervakat lärande och ge några exempel
- Förklara begreppen bakom självövervakat lärande och ge några exempel
- Identifiera och beskriva lämpliga applikationsområden och problemtyper för halvövervakat och självövervakat lärande
Konturer
| Varaktighet | Beskrivning | Begrepp | Verksamhet | Material |
|---|---|---|---|---|
| 10 min | Översyn av övervakat och oövervakat lärande | Märkta uppgifter, omärkta data, klassificaiton, klusterbildning, storleksminskning, begränsningar och problem (kostnad för märkningsdata) | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 10 min | Halvövervakat lärande | Definition av halvövervakat lärande (lärande med begränsade märkta data), självutbildningsmodell, pseudomärkning, konfidensnivåer, samutbildning, grafbaserad etikettspridning | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 10 min | Självövervakat lärande | Definition av självövervakat lärande (lärande utan märkta data), förevändningsuppgift, nedströms uppgift, kontrasterande lärande | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 10 min | Användningsfall och tillämpningsområden | Halvövervakat lärande (märkning av ljud, webbinnehållsklassificering, klassificering av textdokument), Självövervakad inlärning (patchlokalisering, innehållsmedveten pixelpredikation, nästa meningspredikation, Auto-regressiv språkmodellering, detektering av hatspråk) | Undervisade sessioner och exempel | Föreläsningsmaterial |
| 5 min | Slutsats, frågor och svar | Sammanfattning | Slutsatser | Föreläsningsmaterial |
Erkännanden
Masterprogrammet Human-Centered AI har samfinansierats av Fonden för ett sammanlänkat Europa i Europeiska unionen inom ramen för Grant CEF-TC-2020–1 Digital Skills 2020 EU-IA-0068.