Verwaltungsinformationen
| Titel | Semi-überwachtes und unbeaufsichtigtes Lernen |
| Dauer | 45 – 60 |
| Modulen | C |
| Unterrichtstyp | Vortrag |
| Fokussierung | Technisches – Zukunfts-KI |
| Themenbereich | Fortschritte bei ML-Modellen durch eine HC-Linse – Eine ergebnisorientierte Studie |
Suchbegriffe
beaufsichtigt, unbeaufsichtigt, halbüberwacht, selbstüberwachtes Lernen,
Lernziele
- Die überwachten und unbeaufsichtigten Lernmethoden verstehen
- In der Lage sein, zwischen semi-supervisiertem Lernen und selbstüberwachtem Lernen zu unterscheiden
Erwartete Vorbereitung
Lernveranstaltungen, die vorab abgeschlossen werden müssen
Obligatorisch für Studenten
- Einführung in maschinelles Lernen und Deep-Learning-Konzepte in früheren Vorträgen
Optional für Studenten
Referenzen und Hintergründe für Studierende
- Methoden des maschinellen Lernens – Computerphile
- Semi-überwachtes Lernen erklärt
- FixMatch: Halbbeaufsichtigtes Lernen mit Konsistenz und Vertrauen vereinfachen
- Wav2vec: Modernste Spracherkennung durch Selbstüberwachung
- SALNET Textklassifizierer
- Von der Vision zur Sprache: Semi-überwachtes Lernen in Aktion im Maßstab
- Selbsttraining für End-to-End-Spracherkennung
- Was ist Self-Supervised Learning?
- Yann LeCun: Dunkle Materie von Intelligenz und selbstbeaufsichtigtem Lernen – Lex Fridman Podcast
- Jure Žbontar – Barlow Zwillinge: Selbstbeaufsichtigtes Lernen durch Redundanzreduzierung
- Selbstbeaufsichtigtes Lernen: Selbstvorhersage und widersprüchliches Lernen – Tutorial, NeurIPS 2021
Empfohlen für Lehrer
Keine.
Unterrichtsmaterialien
Anleitung für Lehrer
Das Ziel dieser Vorlesung ist es, sich auf die Lerntechniken zu konzentrieren, die es uns ermöglichen, ohne beschriftete Trainingsdaten Modelle zu erstellen. Mit anderen Worten, Gebäudesysteme, die mehr wie Menschen lernen. Die Vorlesung sollte sich auf neue Ansätze in semi-überwachten und selbstüberwachten Lerntechniken konzentrieren, die die Anforderung an gekennzeichnete Datensätze reduzieren oder beseitigen. Der Vortrag sollte:
- Zusammenfassung überwachter und unbeaufsichtigter Machine Learning-Modelle und deren Einschränkungen
- Erklären Sie die Konzepte hinter semi-überwachtem Lernen und geben Sie einige Beispiele
- Erklären Sie die Konzepte hinter dem selbstbeaufsichtigten Lernen und geben Sie einige Beispiele
- Identifizierung und Beschreibung geeigneter Anwendungsbereiche und Problemtypen für semi-überwachtes und selbstüberwachtes Lernen
Gliederung
| Dauer | Beschreibung | Konzepte | Aktivität | Werkstoffe |
|---|---|---|---|---|
| 10 min | Überprüfung des betreuten und unbeaufsichtigten Lernens | Beschriftete Daten, unbeschriftete Daten, Klassifizierung, Clustering, Dimensionalitätsreduzierung, Einschränkungen und Probleme (Kosten der Kennzeichnungsdaten) | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 10 min | Semi-überwachtes Lernen | Definition des semi-überwachten Lernens (Lernen mit begrenzten beschrifteten Daten), Selbsttrainingsmodell, Pseudo-Labeling, Konfidenzniveaus, Co-Training, graphbasierte Etikettenausbreitung | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 10 min | Selbstbeaufsichtigtes Lernen | Definition des selbstüberwachten Lernens (Lernen ohne beschriftete Daten), Vortextaufgabe, Downstream-Aufgabe, kontrastives Lernen | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 10 min | Anwendungsfälle und Anwendungsbereiche | Semi-überwachtes Lernen (Kennzeichnung von Audio, Web-Content-Klassifikation, Textdokumentklassifizierung), Selbstüberwachtes Lernen (Patchlokalisierung, inhaltsbewusste Pixelprädikation, nächste Satzprädikation, Auto-regressive Sprachmodellierung, Hass-Speech-Erkennung) | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 5 min | Fazit, Fragen und Antworten | Zusammenfassung | Schlussfolgerungen | Vortragsmaterialien |
Danksagung
Das Human-Centered AI Masters-Programm wurde von der Fazilität „Connecting Europe“ der Europäischen Union im Rahmen des Zuschusses „CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068“ kofinanziert.