Información administrativa
| Título | Técnicas de regularización |
| Duración | 60 |
| Módulo | B |
| Tipo de lección | Tutorial |
| Enfoque | Técnico — Aprendizaje profundo |
| Tema | Técnicas de regularización |
Keywords
Regularización, Callbacks, GridSearch,
Objetivos de aprendizaje
- Examinar los inicializadores de peso
- Investigar el sesgo
- Aplicar abandono escolar y ruido
- Devoluciones de llamadas impliment
- Subsandar e implementar una GridSearch
- Aplicar técnicas de sobreajuste no tradicionales
Preparación prevista
Eventos de aprendizaje que se completarán antes
Ninguno.
Obligatorio para los estudiantes
Ninguno.
Opcional para estudiantes
Ninguno.
Referencias y antecedentes para estudiantes
- John D Kelleher y Brain McNamee. (2018), Fundamentos del aprendizaje automático para análisis de datos predictivos, MIT Press.
- Michael Nielsen. (2015), Redes neuronales y aprendizaje profundo, 1. Prensa de determinación, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Redes neuronales y aprendizaje profundo, 1. Springer
- Antonio Gulli, Sujit Pal. Aprendizaje profundo con Keras, Packt, [ISBN: 9781787128422].
Recomendado para profesores
Ninguno.
Material didáctico
Instrucciones para profesores
- Se espera que los estudiantes demuestren y apliquen técnicas/algoritmos fundamentales para la predicción y el entrenamiento de redes neuronales, incluidas las investigaciones para el sesgo del modelo y basadas en la regularización del modelo. Comparar, contrastar y demostrar hiperparámetros adecuados para el entrenamiento de redes neuronales artificiales con énfasis en la reproducibilidad (generalizabilidad), la transparencia y la interpretación. Utilice los marcos de Deep Learning para implementar modelos de Deep Learning para tareas de clasificación y regresión. Esto incluye un fuerte enfoque en la evaluación de los modelos, para el rendimiento y las consideraciones éticas, lo que resulta en transparencia y una IA explicable. Esta práctica requiere que desarrolles el modelo de IA más adecuado, donde se utilicen todos los métodos adecuados para el desarrollo de modelos para garantizar la mejor generalización.
- El tutorial se basa en el siguiente conjunto de datos [[1]] donde los detalles de los atributos están contenidos en los materiales de la lección.
- El tutorial requerirá los siguientes encabezados. Cuando cada encabezamiento debe tener (cuando corresponda) una justificación y una descripción ampliando el enfoque y sus hallazgos, código que ejecuta el trabajo, y en algunos casos una ayuda visual para agravar aún más sus hallazgos. Utilice el marcado estándar de la libreta Jupyter para guardar encabezados y secciones:
- Introducción
- Apertura del conjunto de datos, breve exploración de datos y preprocesamiento de datos
- Exploración de modelos para determinar la topología de la red
- Investigación de hiperparámetros (parámetros de aprendizaje y optimización)
- Selección de modelos más adecuada
- Búsqueda de cuadrícula
- Presentación final del modelo y evaluación del rendimiento
- Tenga en cuenta que la búsqueda en la cuadrícula tomará algún tiempo, por lo que esto puede completarse fuera del tiempo del tutorial o el tutorial se puede realizar en un modo de entrega de clase volteado.
Esquema
| Duración (Min) | Descripción |
|---|---|
| 10 | Proporcionar una visión general de los conjuntos de datos prácticos y de importación con el preprocesamiento básico |
| 10 | Modelos para explorar topologías |
| 20 | Investigación de hiperparámetros con técnicas de regularización |
| 10 | Búsqueda en cuadrícula (tenga en cuenta que esto debe hacerse previamente, ya sea por el profesor o los estudiantes en modo volteado, ya que puede tomar un tiempo significativo para ejecutarse en vivo) |
| 5 | Debate sobre el modelo final |
Reconocimientos
El programa de maestría en IA centrada en el ser humano fue cofinanciado por el Mecanismo «Conectar Europa» de la Unión Europea en virtud de la subvención «CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068».