Informações administrativas
| Titulo | Técnicas de regularização |
| Duração | 60 |
| Módulo | B |
| Tipo de aula | Tutorial |
| Foco | Técnico — Aprendizagem Aprofundada |
| Tópico | Técnicas de regularização |
Palavras-chave
Regularização, Callbacks, GridSearch,
Objetivos de aprendizagem
- Examinar os inicializadores de peso
- Investigar o enviesamento
- Aplicar o abandono e o ruído
- Chamadas de implimentação
- Subtsand e implementar um GridSearch
- Aplicar técnicas de sobremontagem não tradicionais
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Nenhuma.
Obrigatório para os Estudantes
Nenhuma.
Facultativo para Estudantes
Nenhuma.
Referências e antecedentes para estudantes
- John D. Kelleher e Cérebro McNamee. (2018), Fundamentals of Machine Learning for Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Redes Neurais e Aprendizagem Profunda, 1. Imprensa de determinação, São Francisco CA EUA.
- Charu C. Aggarwal. (2018), Redes Neurais e Aprendizagem Profunda, 1. Springer
- António Gulli, Sujit Pal. Aprendizagem profunda com Keras, Packt, [ISBN: 9781787128422].
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
- Espera-se que os alunos demonstrem e apliquem técnicas/algoritmos fundamentais para a previsão e treinamento de redes neurais, incluindo investigações para viés de modelo e baseados em torno da regularização do modelo. Comparar, contrastar e demonstrar hiperparâmetros adequados para o treino de redes neurais artificiais, com ênfase na reprodutibilidade (generalizabilidade), transparência e interpretação. Use estruturas de aprendizagem profunda para implementar modelos de aprendizagem profunda para tarefas de classificação e ou regressão. Tal inclui uma forte ênfase na avaliação dos modelos, tendo em conta o desempenho e considerações éticas, resultando na transparência e na inteligência artificial explicável. Esta prática exige que desenvolva o modelo de IA mais adequado, onde todos os métodos adequados para o desenvolvimento de modelos sejam utilizados para garantir a melhor generalização.
- O tutorial é baseado no seguinte conjunto de dados [[1]] onde os detalhes dos atributos estão contidos nos materiais da lição.
- O tutorial exigirá os seguintes cabeçalhos. Onde cada rubrica deve ter (se for caso disso) uma fundamentação e uma descrição que expandam a abordagem e as suas conclusões, um código que executa o trabalho e, em alguns casos, uma ajuda visual para completar ainda mais as suas conclusões. Utilize a marcação padrão do caderno Jupyter para os títulos e secções das caixas:
- Introdução
- Abertura do conjunto de dados, breve exploração de dados e pré-tratamento de dados
- Exploração do modelo para determinar a topologia da rede
- Investigação de hiperparâmetros (parâmetros de aprendizagem e otimização)
- Seleção de modelos mais adequada
- Pesquisa em grelha
- Apresentação final do modelo e avaliação do desempenho
- Por favor, note que a pesquisa na grelha demorará algum tempo, portanto, isto pode ser concluído fora do tempo do tutorial ou o tutorial pode ser conduzido em um modo de entrega em sala de aula invertida.
Esboço
| Duração (Min) | Descrição |
|---|---|
| 10 | Fornecer uma visão geral dos conjuntos de dados práticos e de importação com o pré-tratamento básico |
| 10 | Modelos para explorar topologias |
| 20 | Investigação hiperparâmetro com técnicas de regularização |
| 10 | Pesquisa em grelha (note-se que isto deve ser feito previamente — seja pelo professor ou pelos alunos em modo inflexível, uma vez que pode demorar um tempo significativo a ser executado ao vivo) |
| 5 | Debate final sobre o modelo |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.