Informações administrativas
| Titulo | Técnicas de regularização |
| Duração | 60 |
| Módulo | B |
| Tipo de aula | Palestra |
| Foco | Técnico — Aprendizagem Aprofundada |
| Tópico | Técnicas de regularização |
Palavras-chave
Regularização, Callbacks, GridSearch,
Objetivos de aprendizagem
- Examinar os inicializadores de peso
- Investigar o enviesamento
- Aplicar o abandono e o ruído
- Chamadas de implimentação
- Subtsand e implementar um GridSearch
- Aplicar técnicas de sobremontagem não tradicionais
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Nenhuma.
Obrigatório para os Estudantes
Nenhuma.
Facultativo para Estudantes
Nenhuma.
Referências e antecedentes para estudantes
- John D. Kelleher e Cérebro McNamee. (2018), Fundamentals of Machine Learning for Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Redes Neurais e Aprendizagem Profunda, 1. Imprensa de determinação, São Francisco CA EUA.
- Charu C. Aggarwal. (2018), Redes Neurais e Aprendizagem Profunda, 1. Springer
- António Gulli, Sujit Pal. Aprendizagem profunda com Keras, Packt, [ISBN: 9781787128422].
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
Esta palestra irá apresentar aos alunos os fundamentos da afinação hiperparâmetro. Utilizaremos o Conjunto de Dados do Censo como exemplos do uso e dos resultados das técnicas de regularização. O conjunto de dados do Censo Adulto é um problema de classificação binária. O objetivo desta palestra é introduzir várias formas de regularização, começando com inicializadores de peso, viés, co-adaptação, callbacks, uma procura de rede para ajuste automático hiperparâmetro, e técnicas adicionais de verificação de regularização. O objetivo é identificar técnicas para apoiar o desenvolvimento de modelos generalizáveis com coadaptação limitada para aprender a função e não os dados. Algumas destas técnicas também melhoram o tempo de treino, assim pode reduzir o cálculo necessário para modelos maiores.
Esboço
| Duração (Min) | Descrição |
|---|---|
| 10 | Inicializadores de peso e enviesamento |
| 10 | Coadaptação |
| 10 | Callbacks |
| 20 | GridSearch |
| 10 | Controlos adicionais |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.