Informacje administracyjne
| Tytuł | Uczenie się półnadzorowane i bez nadzoru |
| Czas trwania | 45–60 |
| Moduł | C |
| Rodzaj lekcji | Wykład |
| Skupienie | Techniczne – Przyszła sztuczna inteligencja |
| Temat | Postępy w modelach ML poprzez obiektyw HC – Badanie zorientowane na wynik |
Słowa kluczowe
nadzorowane, nadzorowane, półnadzorowane, samonadzorowane uczenie się,
Cele w zakresie uczenia się
- Zrozumieć nadzorowane i nienadzorowane metody uczenia się
- Być w stanie odróżnić uczenie się półnadzorowane od uczenia się nadzorowanego przez siebie
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Obowiązkowe dla studentów
- Wprowadzenie do uczenia maszynowego i koncepcji uczenia głębokiego podanych w poprzednich wykładach
Opcjonalne dla studentów
Referencje i tło dla studentów
- Metody uczenia maszynowego – Computerphile
- Półnadzorowane uczenie się wyjaśnione
- FixMatch: Uproszczenie pół-nadzorowanego uczenia się ze spójnością i zaufaniem
- Wav2vec: Najnowocześniejsze rozpoznawanie mowy poprzez nadzór nad sobą
- Klasyfikator tekstu SALNET
- Od wizji do języka: Półnadzorowane uczenie się w działaniu w skali
- Samokształcenie w celu rozpoznawania mowy końcowej
- Czym jest samokontrolowane uczenie się?
- Yann LeCun: Mroczna sprawa inteligencji i samodzielnego uczenia się – Lex Fridman Podcast
- Jure Žbontar – Barlow Twins: Samokontrolowane uczenie się poprzez redukcję redundancji
- Samokontrolowane uczenie się: Self-Prediction and Contrastive Learning – poradnik, NeurIPS 2021
Zalecane dla nauczycieli
Brak.
Materiały do lekcji
Instrukcje dla nauczycieli
Celem wykładu jest skupienie się na technikach uczenia się, które pozwalają nam budować modele w przypadku braku oznaczonych danych szkoleniowych. Innymi słowy, budowanie systemów, które uczą się bardziej jak ludzie. Wykład powinien koncentrować się na nowych podejściach w półnadzorowanych i nadzorowanych technikach uczenia się, które zmniejszają lub usuwają wymóg oznaczonych zestawami danych. Wykład powinien:
- Podsumowanie nadzorowanych i nienadzorowanych modeli uczenia maszynowego i ich ograniczeń
- Wyjaśnij pojęcia leżące u podstaw uczenia się półnadzorowanego i podaj kilka przykładów
- Wyjaśnij pojęcia stojące za samokontrolowaną nauką i podaj kilka przykładów
- Identyfikowanie i opisywanie odpowiednich obszarów zastosowań i typów problemów dla uczenia się półnadzorowanego i nadzorowanego przez siebie
Zarys
| Czas trwania | Opis | Koncepcje | Działalność | Materiał |
|---|---|---|---|---|
| 10 min | Przegląd uczenia się nadzorowanego i nienadzorowanego | Dane oznaczone, dane nieoznakowane, klasyfikacje, grupowanie, ograniczenie wymiarowości, ograniczenia i problemy (koszty danych dotyczących etykietowania) | Sesja wykładowa i przykłady | Materiały do wykładów |
| 10 min | Uczenie się półnadzorowane | Definicja uczenia się półnadzorowanego (uczenie się z ograniczonymi danymi oznaczonymi etykietami), model samoszkolenia, pseudoetykietowanie, poziomy ufności, współszkolenie, propagacja etykiet opartych na wykresach | Sesja wykładowa i przykłady | Materiały do wykładów |
| 10 min | Samokontrolowane uczenie się | Definicja uczenia się nadzorowanego samodzielnie (uczenie się bez oznaczonych danych), zadanie pretekstowe, zadanie niższego szczebla, uczenie się kontrastowe | Sesja wykładowa i przykłady | Materiały do wykładów |
| 10 min | Przypadki użycia i obszary zastosowań | Uczenie się półnadzorowane (etykietowanie audio, klasyfikacja treści internetowych, klasyfikacja dokumentów tekstowych), uczenie się samonadzorowane (lokalizacja łatek, osadzanie pikseli świadomych treści, predykacja następnego zdania, autorepresyjne modelowanie języka, wykrywanie nienawiści) | Sesja wykładowa i przykłady | Materiały do wykładów |
| 5 min. | Wnioski, pytania i odpowiedzi | Podsumowanie | Wnioski | Materiały do wykładów |
Potwierdzenia
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.