Informações administrativas
| Titulo | Modelos generativos, Transformar a Aprendizagem Profunda e Modelos de Aprendizagem Híbrida |
| Duração | 45 — 60 |
| Módulo | C |
| Tipo de aula | Palestra |
| Foco | Técnico — Futura IA |
| Tópico | Avanços em modelos ML através de uma lente HC — Um Estudo Orientado a Resultados |
Palavras-chave
Modelos generativos, Deteção de retenção, Query-Key-Value, Modelos de transformação, Modelos híbridos,
Objetivos de aprendizagem
- Compreender a classe de Modelos Generativos e explorar as suas principais características.
- Explicar o conceito e o desenho das Arquiteturas Transformadoras
- Elaborar a configuração dos modelos híbridos
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Obrigatório para os Estudantes
- Introdução à aprendizagem automática e conceitos de aprendizagem profunda dadas em palestras anteriores
Facultativo para Estudantes
Referências e antecedentes para estudantes
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
Nesta palestra, nossos objetivos principais são três. Em primeiro lugar, pretendemos compreender de forma abrangente os Modelos Generativos, concentrando-nos em seus mecanismos subjacentes e características centrais. Em segundo lugar, discutiremos a importância das Arquiteturas Transformadoras, particularmente no contexto do Processamento da Linguagem Natural (NLP). Por fim, a palestra irá debruçar-se sobre as várias configurações de Modelos Híbridos, enfatizando a fusão de diversos elementos para melhorar o desempenho de aprendizagem automática.
Esboço
| Duração | Descrição | Conceitos |
|---|---|---|
| 15 min | Introdução aos Modelos Generativos, Classificação de Modelos Generativos | O que são modelos generativos?Por que são importantes? Para que podem ser utilizados? Classificação, Características-chave, Exemplos |
| 20 min | Introdução às arquiteturas Transformer | Arquitetura de transformadores, transformadores de ponta, como o BERT e o GTP |
| 10 min | Introdução à Aprendizagem Híbrida | O que é aprendizagem híbrida?Por que é importante?Para que podem ser utilizados? |
| 5 min | Conclusão, perguntas e respostas | Sumário |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.