Información administrativa
| Título | Legislación de la UE en materia de derechos humanos |
| Duración | 60 minutos |
| Módulo | C |
| Tipo de lección | Conferencia |
| Enfoque | Ética — Cumplimiento, Legalidad y Humanidad |
| Tema | Legislación/Marco de la UE e Internacional sobre datos, IA, derechos humanos e igualdad |
Keywords
derechos humanos, privacidad, lucha contra la discriminación,
Objetivos de aprendizaje
- Racionalizar y debatir los temas relacionados con la IA y los derechos humanos
Preparación prevista
Eventos de aprendizaje que se completarán antes
Ninguno.
Obligatorio para los estudiantes
Ninguno.
Opcional para estudiantes
- Referencias Frederik J. Zuiderveen Borgesius (2020) Fortalecimiento de la protección jurídica contra la discriminación por algoritmos e inteligencia artificial, The International Journal of Human Rights; Frederik J. Zuiderveen Borgesius (2018) Discriminación, inteligencia artificial y algorítmica, Consejo de Europa; Philipp Hacker (2021) Primeros Principios de la Ley de Inteligencia Artificial, la Ley, la Innovación y la Tecnología; Agencia de los Derechos Fundamentales de la Unión Europea (2018) #BigData: Discriminación en la toma de decisiones respaldada por datos
Referencias y antecedentes para estudiantes
Ninguno.
Recomendado para profesores
Ninguno.
Material didáctico
Instrucciones para profesores
El profesor debe cubrir los siguientes temas:
- Conocimiento general de los derechos fundamentales y los marcos jurídicos en el contexto de la IA
- Lucha contra la discriminación
- Privacidad
- Dignidad humana
- Acceso a la justicia
La Inteligencia Artificial (IA) tiene el potencial de impactar significativamente los derechos humanos en varios aspectos de la sociedad. A medida que avanza la tecnología de IA, plantea una serie de desafíos y consideraciones regulatorias para garantizar que estos avances se alineen y respeten los derechos humanos fundamentales. Varias cuestiones clave de regulación de derechos humanos relacionadas con la IA incluyen:
1. Privacidad y Protección de Datos: Cuestión: Los sistemas de IA a menudo requieren acceso a grandes cantidades de datos personales para funcionar eficazmente. Esto plantea preocupaciones sobre las violaciones de la privacidad y el uso no autorizado de datos. Respuesta regulatoria: Las leyes de protección de datos como el Reglamento General de Protección de Datos (RGPD) en Europa y regulaciones similares a nivel mundial establecen estándares para la recopilación, procesamiento y almacenamiento de datos personales. Los desarrolladores de IA deben cumplir estrictos principios de protección de datos y obtener el consentimiento informado de los usuarios.
2. Discriminación y sesgos: Cuestión: Los algoritmos de IA pueden heredar sesgos presentes en los datos de capacitación, lo que conduce a resultados discriminatorios en áreas como la contratación, los préstamos y la aplicación de la ley. Respuesta regulatoria: Las regulaciones pueden requerir transparencia en los procesos de toma de decisiones de los algoritmos de IA. Las auditorías de sesgo y las evaluaciones de impacto pueden ayudar a identificar y mitigar los efectos discriminatorios. Las leyes vigentes contra la discriminación también pueden aplicarse a los sistemas de IA.
3. Libertad de Expresión e Información: Cuestión: La capacidad de la IA para manipular y generar contenido plantea preocupaciones sobre la desinformación, las noticias falsas y la censura. Respuesta regulatoria: Las regulaciones podrían centrarse en la transparencia con respecto al origen del contenido generado por la IA y los mecanismos para verificar la autenticidad. Equilibrar el derecho a la libertad de expresión con la necesidad de evitar la desinformación perjudicial es un desafío. 4. Derechos laborales y laborales:
Cuestión: La automatización impulsada por la IA puede conducir al desplazamiento de empleos e impactar los derechos de los trabajadores y la seguridad laboral. Respuesta regulatoria: Es posible que las leyes laborales deban actualizarse para abordar cuestiones como el reciclaje de los trabajadores desplazados, posibles cambios en los contratos laborales debido a colaboraciones entre humanos y IA y garantizar un trato justo para los trabajadores afectados por los cambios impulsados por la IA.
5. Derecho a un juicio justo: Cuestión: La participación de la IA en procesos legales, como los algoritmos predictivos de vigilancia y sentencia, plantea preguntas sobre el debido proceso y el derecho a un juicio justo. Respuesta regulatoria: Los marcos jurídicos deben garantizar la transparencia y la explicabilidad de la IA utilizada en las decisiones judiciales. También deben proporcionar mecanismos para la rendición de cuentas y la capacidad de desafiar los resultados generados por la IA.
6. Vigilancia y Libertad de Asamblea: Cuestión: Las tecnologías de vigilancia impulsadas por IA pueden infringir los derechos de los ciudadanos a la privacidad y la libertad de reunión. Respuesta regulatoria: Es crucial encontrar un equilibrio entre las necesidades de seguridad y los derechos individuales. Las regulaciones podrían limitar el uso de la vigilancia de la IA en ciertos contextos, requerir una supervisión estricta y garantizar las limitaciones de retención de datos.
7. Acceso a los Servicios Básicos: Cuestión: Los sistemas basados en IA pueden utilizarse para asignar recursos y servicios, excluyendo potencialmente a las poblaciones marginadas. Respuesta regulatoria: Garantizar la igualdad de acceso a los servicios esenciales al tiempo que se previene la exclusión digital requiere regulaciones que exijan transparencia, equidad y consideración del impacto social en el diseño de sistemas de IA.
Esquema
| Duración (min) | Descripción |
|---|---|
| 15 | Discriminación y sesgos |
| 15 | Libertad de expresión e información y derecho a un juicio justo |
| 15 | Vigilancia y Libertad de Asamblea |
| 15 | Acceso a los Servicios Básicos |
Reconocimientos
El programa de maestría en IA centrada en el ser humano fue cofinanciado por el Mecanismo «Conectar Europa» de la Unión Europea en virtud de la subvención «CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068».