Información administrativa
| Título | Compresión del modelo |
| Duración | 150 min |
| Módulo | C |
| Tipo de lección | Practico |
| Enfoque | Técnico — Futuro AI |
| Tema | Avances en los modelos ML a través de una lente HC — Un estudio orientado a resultados |
Keywords
compresión de modelos, poda, cuantización, destilación de conocimientos,
Objetivos de aprendizaje
- Entender cómo implementar técnicas de compresión del modelo
- Comprender las ventajas de la poda, la cuantificación y la destilación del conocimiento
- Familiarizarse con un marco de alto nivel como TensorFlow
Preparación prevista
Eventos de aprendizaje que se completarán antes
Obligatorio para los estudiantes
- Comprensión básica de los conceptos y técnicas de compresión del modelo
- Comprensión básica de cómo se puede evaluar el rendimiento de los modelos de aprendizaje profundo y de máquina (por ejemplo, precisión, precisión y recuperación, puntuación F)
- Conocimiento del lenguaje de programación Python
Opcional para estudiantes
- Conocimiento del marco TensorFlow
Referencias y antecedentes para estudiantes
- Conocimiento del aprendizaje automático y la teoría de redes neuronales
Recomendado para profesores
- Recuperar el conocimiento del marco TensorFlow y el lenguaje de programación Python
- Proporcionar una visión práctica de las implementaciones necesarias para aprovechar las técnicas de compresión del modelo
- Proponer cuestionarios emergentes
Material didáctico
Instrucciones para profesores
- Dar una breve descripción general de Tensorflow 2.x
- Utilice Google Colab como Jupyter Notebook de trabajo para su aplicación práctica
- Los estudiantes deben utilizar el tiempo indicado asignado para cada tarea.
- La tarea 1 a la tarea 4 debe completarse antes de que se asignen las tareas restantes.
Esquema de la lección
| Duración | Descripción | Conceptos | Actividad | Material |
|---|---|---|---|---|
| 0-10 min | Introducción a las herramientas utilizadas y cómo ensuciar las manos en un segundo | Introducción de herramientas | Introducción a las principales herramientas | |
| 10-80 min | [Tarea 1 — Tarea 3] ¿ Formación de un modelo y luego? Cómo aplicar la poda y la cuantificación a los modelos de trabajo y comparar las prestaciones | Poda y cuantificación | Sesión práctica y ejemplos de trabajo | Cuaderno CoLab |
| 80-140 min | [Tarea 4 — Tarea 6] ¿Cuándo podría ser útil la destilación del conocimiento? Cómo destilar el conocimiento de profesor a estudiante | Destilación de Conocimientos | Sesión práctica y ejemplos de trabajo | Cuaderno CoLab |
| 140-150 min | Conclusión, preguntas y respuestas | Resumen | Conclusiones |
Reconocimientos
- Rosario Catelli [CNR]
- Materiales de Google Colab en Pruning
- Materiales de Google Colab sobre destilación
El programa de maestría en IA centrada en el ser humano fue cofinanciado por el Mecanismo «Conectar Europa» de la Unión Europea en virtud de la subvención «CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068».