Informații administrative
| Titlu | Învățare semisupravegheată și nesupravegheată |
| Durată | 45-60 |
| Modulul | C |
| Tipul lecției | Prelegere |
| Focalizare | Tehnică – Viitoarea IA |
| Subiect | Progresele modelelor ML printr-o lentilă HC – Un studiu orientat spre rezultate |
Cuvinte cheie
învățarea supravegheată, nesupravegheată, semisupravegheată, autosupravegheată;
Obiective de învățare
- Înțelegerea metodelor de învățare supravegheate și nesupravegheate
- Să fie capabil să facă distincția între învățarea semi-supravegheată și învățarea autosupravegheată
Pregătirea preconizată
Evenimente de învățare care urmează să fie finalizate înainte
Obligatoriu pentru studenți
- Introducere în conceptele de învățare automată și învățare profundă date în prelegerile anterioare
Opțional pentru studenți
Referințe și context pentru studenți
- Metode de învățare automată – Computerphile
- Învățarea semi-supravegheată explicată
- FixMatch: Simplificarea învățării semi-supravegheate cu consecvență și încredere
- Wav2vec: Recunoașterea vorbirii de ultimă generație prin auto-supraveghere
- Clasificator de text SALNET
- De la viziune la limbaj: Învățarea semi-supravegheată în acțiune la scară
- Auto-formare pentru recunoașterea de la un capăt la altul al discursului
- Ce este învățarea autosupravegheată?
- Poziția localității Yann LeCun: Dark Matter of Intelligence and Self-Supervised Learning – Lex Fridman Podcast
- Jure Žbontar – Gemeni Barlow: Auto-Supervised Learning via Redundancy Reduction
- Învățareautosupravegheată: Auto-predicție și învățare contrastivă – Tutorial, NeurIPS 2021
Recomandat pentru profesori
Nici unul.
Materiale de lecție
Instrucțiuni pentru profesori
Scopul acestei prelegeri este de a se concentra pe tehnicile de învățare care ne permit să construim modele în absența datelor de formare etichetate. Cu alte cuvinte, construirea de sisteme care învață mai mult ca oamenii. Prelegerea ar trebui să se concentreze pe noi abordări în tehnicile de învățare semi-supravegheate și autosupravegheate care reduc sau elimină cerința pentru seturile de date etichetate. Prelegerea ar trebui:
- Sintetizați modelele de învățare automată supravegheate și nesupravegheate și limitările acestora
- Explicați conceptele din spatele învățării semisupravegheate și dați câteva exemple
- Explicați conceptele din spatele învățării autosupravegheate și dați câteva exemple
- Identificarea și descrierea domeniilor de aplicare adecvate și a tipurilor de probleme pentru învățarea semisupravegheată și autosupravegheată
Contur
| Durată | Descriere | Concepte | Activitate | Material |
|---|---|---|---|---|
| 10 min | Revizuirea învățării supravegheate și nesupravegheate | Date etichetate, date neetichetate, clasificare, grupare, reducerea dimensionalității, limitări și probleme (costul datelor de etichetare) | Sesiune predată și exemple | Materiale de prelegere |
| 10 min | Învățare semisupravegheată | Definirea învățării semisupravegheate (învățarea cu date etichetate limitate), modelul de auto-formare, pseudoetichetarea, nivelurile de încredere, co-formarea, propagarea etichetelor pe bază de grafice | Sesiune predată și exemple | Materiale de prelegere |
| 10 min | Învățare autosupravegheată | Definirea învățării autosupravegheate (învățarea fără date etichetate), sarcina pretext, sarcina în aval, învățarea contrastivă | Sesiune predată și exemple | Materiale de prelegere |
| 10 min | Cazuri de utilizare și zone de aplicare | Învățare semi-supravegheată (etichetarea audio, clasificarea conținutului web, clasificarea documentelor text), Învățarea autosupravegheată (localizarea etichetelor, predicarea pixelilor conștienți de conținut, predicarea următoarei propoziții, modelarea limbajului autoregresiv, detectarea discursului de ură) | Sesiune predată și exemple | Materiale de prelegere |
| 5 min | Concluzie, întrebări și răspunsuri | Rezumat | Concluzii | Materiale de prelegere |
Confirmări
Programul de masterat AI centrat pe om a fost cofinantat de Mecanismul pentru interconectarea Europei al Uniunii Europene sub Grantul CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.