Administrative oplysninger
| Titel | Semi-overvåget og uovervåget læring |
| Varighed | 45-60 |
| Modul | C |
| Lektionstype | Forelæsning |
| Fokus | Teknisk — fremtidig kunstig intelligens |
| Emne | Fremskridt i ML-modeller gennem en HC-linse — En resultatorienteret undersøgelse |
Nøgleord
overvåget, uovervåget, semi-overvåget, selvovervåget læring,
Læringsmål
- Forstå de overvågede og uovervågede læringsmetoder
- Være i stand til at skelne mellem semi-overvåget læring og selvovervåget læring
Forventet forberedelse
Læringsbegivenheder, der skal fuldføres før
Obligatorisk for studerende
- Introduktion til machine learning og deep learning koncepter givet i tidligere foredrag
Valgfrit for studerende
Referencer og baggrund for studerende
- Maskinindlæringsmetoder — Computerphile
- Semi-overvåget læring forklaret
- FixMatch: Forenkling af semi-overvåget læring med sammenhæng og tillid
- Wav2vec: State-of-the-art talegenkendelse gennem selvopsyn
- SALNET-tekstklassifikation
- Fra vision til sprog: Semi-overvåget læring i aktion på skala
- Selvuddannelse til end-to-end talegenkendelse
- Hvad er Self-Supervised Learning?
- Yann LeCun: Mørkt spørgsmål om intelligens og selv-overvåget læring — Lex Fridman Podcast
- Jure Žbontar — Barlow Twins: Selvovervåget læring via redundansreduktion
- Selvovervåget læring: Selvforudsigelse og kontradiktorisk læring — Tutorial, NeurIPS 2021
Anbefalet til lærerne
Ingen.
Undervisningsmaterialer
Instruktioner til lærerne
Formålet med dette foredrag er at fokusere på de læringsteknikker, der gør det muligt for os at bygge modeller i mangel af mærkede træningsdata. Med andre ord, bygge systemer, der lærer mere som mennesker. Foredraget skal fokusere på nye tilgange i semi-overvågede og selvovervågede læringsteknikker, der reducerer eller fjerner kravet om mærkede datasæt. Forelæsningen skal:
- Opsummere overvågede og uovervågede maskinlæringsmodeller og deres begrænsninger
- Forklar begreberne bag semi-overvåget læring og giv nogle eksempler
- Forklar begreberne bag selvovervåget læring og giv nogle eksempler
- Identificere og beskrive egnede anvendelsesområder og problemtyper til semi-overvåget og selvkontrolleret læring
Omrids
| Varighed | Beskrivelse | Koncepter | Aktivitet | Materiale |
|---|---|---|---|---|
| 10 min. | Gennemgang af overvåget og uovervåget læring | Mærkede data, umærkede data, klassificering, klyngedannelse, reduktion af dimensionalitet, begrænsninger og problemer (omkostninger til mærkningsdata) | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 10 min. | Semi-overvåget læring | Definition af semi-overvåget læring (læring med begrænsede mærkede data), selvtræningsmodel, pseudomærkning, konfidensniveauer, co-træning, grafbaseret etiketudbredelse | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 10 min. | Selvovervåget læring | Definition af selvovervåget læring (læring uden mærkede data), påskudsopgave, nedstrømsopgave, kontrastiv læring | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 10 min. | Use cases og anvendelsesområder | Semi-overvåget læring (mærkning af lyd, webindholdsklassificering, klassifikation af tekstdokumenter), Selvstyret læring (patch localization, content-aware pixel predication, næste sætning prædikation, autoregressiv sprogmodellering, had-tale afsløring) | Underviste sessioner og eksempler | Forelæsningsmaterialer |
| 5 min. | Konklusion, spørgsmål og svar | Sammendrag | Konklusioner | Forelæsningsmaterialer |
Anerkendelser
Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.