Resumen del programa

En nuestro objetivo de crear un programa de Maestría en IA centrado en el ser humano, el Consorcio HCAIM sigue la definición de AI HLEG: «El enfoque centrado en el ser humano de la IA se esfuerza por garantizar que los valores humanos sean fundamentales en la forma en que se desarrollan, implementan, utilizan y supervisan los sistemas de IA, garantizando el respeto de los derechos fundamentales».

Para responder a los requisitos de esta definición, el programa cubre los elementos técnicos, éticos y prácticos de la inteligencia artificial. Hemos diseñado nuestro contenido en torno a las tres fases del ciclo de vida de MLOps: desarrollo, implementación y mantenimiento de modelos de aprendizaje automático, produciendo así tres módulos básicos en alineación con las fases ML-Ops mencionadas anteriormente: Modelización (módulo A), Despliegue (módulo B) y Evaluación (módulo C). Hemos añadido un cuarto módulo (D) Graduación, para permitir a los estudiantes demostrar que pueden resolver de forma independiente los desafíos propuestos por la industria en función de las necesidades y requisitos actuales relacionados con el campo de la inteligencia artificial centrada en el ser humano.

Esto se visualiza en la siguiente tabla.

Módulo A Módulo B Módulo C Módulo D
Técnica

Fundamentos de la IA

IA avanzada:
Aprendizaje profundo
Futuro AI

Proyecto de tesis de maestría

Práctica Modelado de IA IA en acción:
IA organizativa
IA socialmente responsable
Ética Fundamentos éticos Una IA confiable Cumplimiento, Legalidad y Humanidad

Esta página contiene la breve descripción de los módulos definidos en el Human Centered Artificial Intelligence Master. Todos los Eventos de Aprendizaje, incluyendo su material de estudio de acompañamiento, están disponibles en el sitio web HCAIM de Wikiwijs.

Las descripciones del Evento de Aprendizaje se tradujeron a las 24 lenguas oficiales de la UE utilizando la herramienta eTranslation de la Unión Europea, y están disponibles en las listas asignadas a las lenguas. Tenga en cuenta que las traducciones no son revisadas por ningún profesor.

Todos los materiales están disponibles bajo una licencia Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

Modelado (módulo A)

El primer módulo, a saber Modelado (módulo A), se centra en la primera fase del ciclo de vida de MLOps y está relacionado con el nivel de madurez más bajo de la aplicación de Machine Learning (ML) en las organizaciones: datos de modelado. Incluye las actividades que constituyen la base de la aplicación de la LM, como la extracción de datos, el análisis de datos, la preparación de datos, la formación de modelos y la validación y evaluación del modelo (principalmente manual).

En esta fase, se centra en analizar y modelar correctamente los datos para lograr los objetivos de negocio y se hace poco uso de la automatización (por ejemplo, CI/CD), que solo se agrega en la segunda fase de MLOps (Despliegue — Módulo B). Las actividades de modelado a menudo se caracterizan por el método manual, basado en guiones e interactivo mediante el cual se llevan a cabo el análisis de datos, la preparación, la capacitación del modelo y la validación. Para mantener una visión general de los diferentes modelos, parámetros y opciones que se están experimentando, se utiliza el seguimiento del experimento.

Desde una perspectiva ética, es importante en la fase de modelado dedicar suficiente tiempo y atención a descubrir los objetivos del cliente, mapear a las partes interesadas y explorar cómo se ven afectados los valores individuales de estos grupos de interés (y reconocer los posibles conflictos entre ellos). Aspectos como la transparencia, la inclusión, la seguridad y la privacidad son de gran importancia en esto. Naturalmente, también se debe prestar atención a la conveniencia social y moral de los objetivos del cliente. Además, es importante tener (a tiempo) conciencia de posibles sesgos/prejuicios en los datos disponibles, reconocer las posibles consecuencias de estos prejuicios y encontrar mitigación para hacer frente a estos prejuicios.

Resultados de aprendizaje

  • El estudiante evalúa varias técnicas de ML para hacer una elección bien fundada, que coincida con los requisitos adquiridos del cliente e implementando un prototipo de la técnica de ML elegida para asesorar en la solución de un problema de modelado de datos determinado.
  • Resultado del aprendizaje 1
  • El estudiante argumenta, utilizando marcos éticos fundamentales, cómo se pueden resolver los dilemas morales y evalúa las posibles consecuencias de los sesgos existentes en los datos y la influencia de las mitigaciones diseñadas para contrarrestar las consecuencias de esos sesgos.
  • Resultado del aprendizaje 2
  • El estudiante aplica métodos de investigación cuantitativos y cualitativos para fundamentar científicamente sus elecciones durante la consideración ética y la toma del prototipo.
  • Resultado del aprendizaje 3

Despliegue (módulo B)

El módulo Despliegue (módulo B) se centra en la segunda fase del ciclo de desarrollo de MLOps; el despliegue. Después de la fase exploratoria de datos de modelado (ver Módulo A — Modelado), viene la integración de la solución ML en los sistemas de negocio. Ahora es importante comenzar a pensar en la arquitectura ML y cómo juega junto con los sistemas existentes (legado). Para experimentar un beneficio real de las soluciones ML automatizadas, es necesario introducir gasoductos; por un lado, poder hacer frente a los suministros de datos continuos y en directo (procesamiento en directo) y, por otro, vincular los resultados del modelo ML a otros sistemas.

Además, el Módulo B mejora la complejidad de la tecnología de IA al avanzar hacia (el uso de) redes neuronales y aprendizaje profundo. Una gran ventaja de estos modelos más complejos es que son más flexibles y versátiles que las técnicas introducidas en el Módulo A — Modelado. Sin embargo, las desventajas importantes de estas técnicas son que son más complejas (de entender y configurar) y opaquer. Allí radica un importante dilema ético en el uso de técnicas de IA (avanzadas): ¿cómo sigues entendiendo lo que calcula la solución de IA y si esto se hace de la manera correcta? Hacer que el despliegue de soluciones de IA sea más transparente y poder determinar los posibles riesgos y mitigar estos riesgos son temas importantes (sociales) en este módulo.

Resultados de aprendizaje

  • El estudiante evalúa las posibles opciones para la integración de una técnica avanzada de IA, como Deep o Reinforcement Learning, y escribe un informe de una página basado en un prototipo que se ha desarrollado teniendo en cuenta las limitaciones e influencias en los sistemas TIC existentes y las instalaciones de datos del cliente, que se han obtenido en colaboración, por ejemplo, con arquitectos o desarrolladores de TIC.
  • Resultado del aprendizaje 1
  • El estudiante evalúa el riesgo potencial involucrado y prueba el grado de transparencia (incluida la interpretabilidad, reproducibilidad y explicabilidad) de una implementación de AI/ML elegida y diseña soluciones utilizando técnicas que aumentan el conocimiento y la transparencia entre las partes interesadas (las llamadas técnicas de IA Explicable (XAI)) para remediar las deficiencias en este sentido en comparación con los requisitos sociales y específicos del cliente.
  • Resultado del aprendizaje 2
  • El estudiante formula un diseño de investigación para un proyecto de investigación científicamente sólido (orientado a la práctica) relacionado con un caso de empresa mediante la formulación de una pregunta de investigación relevante, consistente y funcional, considerando los métodos de investigación aplicados a ser utilizados, y estableciendo un marco teórico preciso, relevante y crítico.
  • Resultado del aprendizaje 3

Evaluación (módulo C)

El módulo de evaluación (módulo C) se centra en los aspectos de evaluación del desarrollo de la IA, incluidos tanto los aspectos sociales de un producto de IA, como el desarrollo de una apreciación de las posibles direcciones futuras que puede tomar la IA, teniendo en cuenta las tendencias tecnológicas; IA socialmente responsable; cumplimiento, así como garantizar que el elemento humano esté siempre presente en el diseño, desarrollo y evaluación de sistemas de IA.

Como parte del futuro de la IA, se discute una exploración del nivel de adopción de IA en diferentes industrias, así como cómo la IA se adapta a diferentes dominios. El análisis de la IA socialmente responsable incluye la forma en que la IA afecta a los individuos y a los diferentes grupos de la sociedad. Y como parte crucial del módulo, hay un enfoque en las leyes, políticas y códigos de conducta relacionados con la IA (con énfasis en temas como la explicabilidad y la confianza), así como en el control de calidad y los procesos de gestión de calidad, para evaluar los resultados de las iniciativas de IA.

Resultados de aprendizaje

  • El estudiante desarrolla una apreciación de los enfoques de vanguardia para la IA y el aprendizaje automático, así como una comprensión de cómo se utiliza la inteligencia artificial en diferentes dominios, y cómo evaluar las direcciones potenciales que la inteligencia artificial puede ir en el futuro.
  • Resultado del aprendizaje 1
  • El estudiante muestra un enfoque bien definido para el escaneo de consecuencias, considerando cuestiones como la evaluación del impacto potencial que la nueva tecnología podría tener en los individuos y la sociedad, centrándose específicamente en las minorías y los grupos marginados, así como en los posibles impactos ambientales.
  • Resultado del aprendizaje 2
  • El estudiante demuestra la capacidad de emplear una metodología de investigación completamente articulada con ética integrada en todas las etapas, con una conciencia de la naturaleza contextual de los enfoques específicos que se deben utilizar que serán informados por los estudios de caso cubiertos en este módulo.
  • Resultado del aprendizaje 3

Graduación (módulo D)

El módulo de graduación(módulo D) refleja el principio básico del programa HCAIM que se basa en el concepto de aprendizaje basado en proyectos (PBL). El objetivo de este módulo es posicionar el proyecto de graduación (hacer un producto profesional) centralmente en la trayectoria de aprendizaje del estudiante. Como parte de su proyecto de Graduación (la Tesis de Maestría), los estudiantes demuestran que pueden resolver de forma independiente los desafíos propuestos por la industria en función de las necesidades y requisitos actuales, considerando tanto los aspectos técnicos como éticos del tema en cuestión.

Cada tesis se considera localmente, con un supervisor interno (un profesor de la Universidad en la que el estudiante está cursando el grado) y un supervisor externo perteneciente al partido que propone la tesis (si la hay). Este último aspecto, a pesar de no ser obligatorio, se persigue rigurosamente. La parte proponente puede ser una PYME, un Centro de Excelencia, u otra universidad, tanto a nivel nacional como internacional. Se espera que las partes proponentes proporcionen tesis tanto nacionales como internacionales (es decir, tesis organizadas con una universidad del mismo país o de una extranjera).

Resultados de aprendizaje

  • El estudiante reconoce y reflexiona sobre el ciclo de vida de la IA en un contexto realista, informado por la industria, y en diversos lugares, escenarios y casos de uso.
  • Resultado del aprendizaje 1
  • El estudiante demuestra una actitud de investigación sólida y válida a través de un proyecto con un enfoque interdisciplinario bien definido que produce soluciones relevantes para la industria y tecnológicamente competentes, al tiempo que evalúa el impacto potencial de su trabajo en los individuos y la sociedad.
  • Resultado del aprendizaje 2
  • El estudiante demuestra una actitud profesional con respecto a la comunicación con las partes interesadas relevantes (por ejemplo, mentores, asesores, compañeros y clientes), una actitud analítica, ética de trabajo, competencia de planificación, proactividad y autoconciencia.
  • Resultado del aprendizaje 3

Directrices para la Tesis

Directrices de propuestas de tesis de HCAIM

 

Estas directrices están destinadas a apoyar a las partes que tienen la intención de proponer una nueva tesis.

Plantilla de tesis de HCAIM

 

Vea la plantilla de tesis de HCAIM aquí.

Directrices éticas para las tesis HCAIM

 

Plagio, fabricación de datos y manipulación de imágenes

El plagio no es aceptable. El plagio incluye copiar texto, ideas, imágenes o datos de otra fuente, incluidas sus propias publicaciones, sin dar crédito a la fuente original.

La reutilización del texto copiado de otra fuente debe estar entre comillas y la fuente original debe ser citada. Si estudios anteriores han inspirado el diseño de un estudio o la estructura o lenguaje del manuscrito, estos estudios deben citarse explícitamente.

Los archivos de imagen no deben ser manipulados o ajustados de ninguna manera que pueda conducir a una mala interpretación de la información proporcionada por la imagen original. La manipulación irregular incluye 1) introducción, mejora, movimiento o eliminación de características de la imagen original, 2) agrupación de imágenes que deben presentarse por separado o 3) modificar el contraste, el brillo o el equilibrio de colores para oscurecer, eliminar o mejorar cierta información.

Los resultados presentados no deben ser seleccionados, manipulados, mejorados o fabricados de manera inapropiada. Esto incluye 1) la exclusión de los puntos de datos para mejorar la importancia de las conclusiones, 2) la fabricación de datos, 3) la selección de resultados que apoyan una conclusión particular a expensas de datos contradictorios, 4) la selección deliberada de herramientas o métodos de análisis para apoyar una conclusión particular (incluido el p-hacking).

Investigación que involucra a sujetos humanos, animales o plantas

Al informar sobre la investigación que involucra a sujetos humanos, material humano, tejidos humanos o datos humanos, la parte proponente debe asegurarse de que las investigaciones se llevaron a cabo siguiendo las reglas de la Declaración de Helsinki de 1975, revisada en 2013. Cualquier consecuencia asociada a la violación de este aspecto será imputada totalmente a la parte proponente y ni al consorcio HCAIM ni al estudiante.

El trabajo con líneas celulares debe indicar el origen de cualquier línea celular. Para las líneas celulares establecidas, debe indicarse la procedencia, y también se deben dar referencias a un artículo publicado o a una fuente comercial. Si se utilizaron líneas celulares de novo previamente inéditas, incluidas las dotadas de otro laboratorio, se deben dar detalles de la aprobación de la junta de revisión institucional o del comité de ética, y se debe proporcionar la confirmación del consentimiento informado por escrito si la línea es de origen humano.

Todos los temas potencialmente derivados de cualquier investigación que cause algún daño a los animales están prohibidos. Todas las directrices aplicadas a los seres humanos también deben seguirse (cuando sea posible) para los animales.

La investigación experimental sobre plantas (ya sea cultivadas o silvestres), incluida la recolección de material vegetal, debe cumplir con las directrices institucionales, nacionales o internacionales. Recomendamos que las tesis cumplan con el Convenio sobre la Diversidad Biológica y la Convención sobre el Comercio de Especies Amenazadas de Fauna y Flora Silvestres.

Sexo, Género, Etnicidad, Religión y otros sesgos en la investigación

Se anima a seguir las directrices «Sex and Gender Equity in Research — SAGER» y a incluir, cuando proceda, consideraciones de sexo y género. Los términos sexo (atributo biológico) y género (formado por circunstancias sociales y culturales) deben usarse cuidadosamente para evitar confusiones en ambos términos. La tesis también debe describir (en el «fondo») si cabe esperar diferencias de sexo o de género; informar de cómo se tuvieron en cuenta el sexo o el género en el diseño del estudio; proporcionar datos desglosados por sexo o género, cuando proceda; y discutir los resultados respectivos. Si no se realizó un análisis de sexo o género, la justificación debe ser dada en la Discusión.

Consideraciones similares se aplican a todas las otras formas de sesgo, incluyendo (y no limitado a) la etnia y la religión. Para los primeros, recordamos que los humanos no tienen razas, sino solo etnias.

Si la tesis se centra en el sesgo, la razón detrás de ella debe aclararse desde el principio.

Conflicto de Intereses

Los estudiantes deben evitar celebrar acuerdos con patrocinadores de estudios, tanto con fines de lucro como sin fines de lucro, que interfieran con el acceso a todos los datos del estudio o que interfieran con su capacidad de analizar e interpretar los datos y preparar la tesis de forma independiente cuando y donde elijan.

Los estudiantes deben identificar y declarar cualquier circunstancia o interés personal que pueda ser percibido como una influencia inapropiada en la representación o interpretación de los resultados de la investigación. Ejemplos de posibles conflictos de intereses incluyen, entre otros, intereses financieros (como membresía, empleo, consultoría, propiedad de acciones/acciones, honorarios, subvenciones u otros fondos, testimonios de expertos pagados y acuerdos de licencia de patentes) e intereses no financieros (como relaciones personales o profesionales, afiliaciones, creencias personales).

Cualquier papel de los patrocinadores de la financiación en el diseño del estudio, en la recopilación, análisis o interpretación de datos, en la redacción del manuscrito, o en la decisión de publicar los resultados debe ser declarado previamente.

Políticas de citación

  • Los estudiantes deben asegurarse de que cuando el material se toma de otras fuentes (incluyendo su propia escritura publicada), la fuente se cita claramente y cuando se obtiene el permiso apropiado.
  • Los estudiantes no deben participar en una autocitación excesiva de su propio trabajo.
  • Los estudiantes no deben copiar referencias de otras publicaciones si no han leído el trabajo citado.
  • Los estudiantes no deben citar preferentemente las publicaciones propias o de sus amigos, compañeros o instituciones.
  • Los estudiantes no deben citar anuncios o material publicitario.

Directrices éticas para los revisores

Posible conflicto de intereses

Se pide a los revisores que informen a la junta de HCAIM si tienen un conflicto de intereses que pueda perjudicar el informe de revisión, ya sea de manera positiva o negativa. La junta verificará con la mayor precisión posible antes de invitar a los revisores; no obstante, se espera y aprecia la cooperación de los examinadores en esta cuestión.

Confidencialidad y Anónimo

Los revisores deben mantener el contenido de la tesis, incluyendo el abstracto, confidencial. Deben informar a la junta de HCAIM si desean que un colega complete la revisión en su nombre.

Matriz de riesgos y plan de mitigación para las tesis HCAIM

 

Esta plantilla permite al supervisor apoyar al estudiante en la identificación y el tratamiento de problemas. Al mismo tiempo, se pedirá a una parte proponente de la tesis que recopile esta plantilla.

Todos los hitos y resultados para la finalización del proyecto de investigación propuesto deben incluirse en la propuesta de proyecto. También se requiere que los estudiantes preparen una matriz de riesgos que incluya riesgos que podrían poner en peligro alcanzar estos entregables y proporcionar planes de contingencia para mitigar los riesgos descritos. A continuación se muestra un ejemplo de una matriz de riesgo y un plan de mitigación. Incluya riesgos adicionales si es necesario:

Riesgo Severidad Probabilidad Mitigación
No se recopilaron los datos de destino a tiempo Alto Bajo El proyecto comenzará a examinar los recursos disponibles abiertamente. Investigar opciones para adquirir datos públicos sintéticos o pre-disponibles similares a los datos de destino.
Financiación insuficiente de los recursos Medio Medio Se buscarán fuentes de financiación alternativas.
Objetivos de investigación/proyecto excesivamente ambiciosos Medio Bajo Revisar periódicamente los objetivos del proyecto y regularizar los resultados del proyecto en función del proceso de revisión.
(En exceso) Se requieren grandes cantidades de
capacitación
adicional
Medio Bajo Se tomará la aprobaciónprevia. Los objetivos del proyecto se actualizarán en función del tiempo y los recursos utilizados para esta capacitación adicional.
Pérdida de datos Medio Bajo El estudiante seguirá los procedimientos de respaldo apropiados para minimizar el riesgo.

Ejemplos de Tesis Temáticas





















Saltar al contenido

 

Skip to content