Informações administrativas
| Titulo | Aprendizagem semi-supervisionada e não supervisionada |
| Duração | 45 — 60 |
| Módulo | C |
| Tipo de aula | Palestra |
| Foco | Técnico — Futura IA |
| Tópico | Avanços em modelos ML através de uma lente HC — Um Estudo Orientado a Resultados |
Palavras-chave
aprendizagem supervisionada, não supervisionada, semisupervisionada, autosupervisionada,
Objetivos de aprendizagem
- Compreender os métodos de aprendizagem supervisionados e não supervisionados
- Ser capaz de distinguir entre aprendizagem semi-supervisionada e aprendizagem auto-supervisionada
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Obrigatório para os Estudantes
- Introdução à aprendizagem automática e conceitos de aprendizagem profunda dadas em palestras anteriores
Facultativo para Estudantes
Referências e antecedentes para estudantes
- Métodos de aprendizagem automática — Computerphile
- Aprendizagem semi-supervisionada explicada
- FixMatch: Simplificar a aprendizagem semi-supervisionada com coerência e confiança
- Wav2vec: Reconhecimento da fala de estado da arte através da auto-supervisão
- Classificador de texto SALNET
- Da Visão à Linguagem: Aprendizagem semi-supervisionada em ação em escala
- Autoformação para reconhecimento de discurso de ponta a ponta
- O que é a aprendizagem autosupervisionada?
- Yann LeCun: Matéria Escura de Inteligência e Aprendizagem Auto-Supervisionada — Lex Fridman Podcast
- Jure Žbontar — Barlow Twins: Aprendizagem Auto-Supervisionada via Redução de Redundância
- Autoaprendizagem: Autoprevisão e Aprendizagem Contrastiva — Tutorial, NeurIPS 2021
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
O objetivo desta palestra é focar nas técnicas de aprendizagem que nos permitem construir modelos na ausência de dados de formação rotulados. Em outras palavras, construir sistemas que aprendem mais como seres humanos. A palestra deve centrar-se em novas abordagens em técnicas de aprendizagem semi-supervisionadas e autosupervisionadas que reduzam ou removam a exigência de conjuntos de dados rotulados. A palestra deve:
- Resumir os modelos de aprendizagem automática supervisionados e não supervisionados e as suas limitações
- Explicar os conceitos por trás da aprendizagem semi-supervisionada e dar alguns exemplos
- Explicar os conceitos por trás da aprendizagem auto-supervisionada e dar alguns exemplos
- Identificar e descrever áreas de aplicação adequadas e tipos de problemas para a aprendizagem semi-supervisionada e autosupervisionada
Esboço
| Duração | Descrição | Conceitos | Atividade | Materiais |
|---|---|---|---|---|
| 10 min | Revisão da aprendizagem supervisionada e não supervisionada | Dados rotulados, dados não rotulados, classificação, agrupamento, redução da dimensionalidade, limitações e problemas (custo dos dados de rotulagem) | Sessão ensinada e exemplos | Material para palestras |
| 10 min | Aprendizagem semi-supervisionada | Definição de aprendizagem semisupervisionada (aprendizagem com dados rotulados limitados), modelo de autoformação, pseudo-rotulagem, níveis de confiança, coformação, propagação de rótulos com base em gráficos | Sessão ensinada e exemplos | Material para palestras |
| 10 min | Aprendizagem autosupervisionada | Definição de aprendizagem auto-supervisionada (aprendizagem sem dados rotulados), tarefa pré-texto, tarefa a jusante, aprendizagem contrastiva | Sessão ensinada e exemplos | Material para palestras |
| 10 min | Casos de utilização e áreas de aplicação | Aprendizagem semi-supervisionada (rotulagem de áudio, classificação de conteúdos Web, classificação de documentos de texto), aprendizagem autosupervisionada (localização do envio, pré-dicação de pixels consciente de conteúdo, predicação da frase seguinte, modelagem de linguagem auto-regressiva, deteção de discursos de ódio) | Sessão ensinada e exemplos | Material para palestras |
| 5 min | Conclusão, perguntas e respostas | Sumário | Conclusões | Material para palestras |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.