Informações administrativas
| Titulo | Legislação da UE em matéria de direitos humanos |
| Duração | 60 minutos |
| Módulo | C |
| Tipo de aula | Palestra |
| Foco | Ética — Conformidade, Legalidade e Humanidade |
| Tópico | Legislação/Quadro da UE e internacional em matéria de dados, IA, direitos humanos e igualdade |
Palavras-chave
direitos humanos, privacidade, luta contra a discriminação,
Objetivos de aprendizagem
- Racionalizar e debater os temas relacionados com a IA e os direitos humanos
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Nenhuma.
Obrigatório para os Estudantes
Nenhuma.
Facultativo para Estudantes
- Referências Frederik J. Zuiderveen Borgesius (2020) Reforçar a proteção jurídica contra a discriminação por algoritmos e inteligência artificial, The International Journal of Human Rights; Frederik J. Zuiderveen Borgesius (2018) Discriminação, inteligência artificial e algorítmica, Conselho da Europa; Philipp Hacker (2021) First Principles to the Artificial Intelligence Act, Law, Innovation and Technology; Agência dos Direitos Fundamentais da União Europeia (2018) #BigData: Discriminação na tomada de decisões apoiada em dados
Referências e antecedentes para estudantes
Nenhuma.
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
O professor deve abordar os seguintes tópicos:
- Sensibilização geral para os direitos fundamentais e os quadros jurídicos no contexto da IA
- Antidiscriminação
- Privacidade
- Dignidade humana
- Acesso à justiça
A Inteligência Artificial (IA) tem potencial para afetar significativamente os direitos humanos em vários aspetos da sociedade. À medida que a tecnologia de IA avança, coloca uma série de desafios e considerações regulamentares para garantir que estes avanços se alinham e respeitam os direitos humanos fundamentais. Várias questões regulamentares fundamentais em matéria de direitos humanos relacionadas com a IA incluem:
1. Privacidade e Proteção de Dados: Questão: Os sistemas de IA exigem frequentemente o acesso a grandes quantidades de dados pessoais para funcionarem de forma eficaz. Isto suscita preocupações com violações de privacidade e uso de dados não autorizados. Resposta regulamentar: Leis de proteção de dados como o Regulamento Geral de Proteção de Dados (RGPD) na Europa e regulamentos semelhantes a nível mundial estabelecem normas para a recolha, tratamento e armazenamento de dados pessoais. Os desenvolvedores de IA devem aderir a princípios rigorosos de proteção de dados e obter o consentimento informado dos utilizadores.
2. Discriminação e Bias: Questão: Os algoritmos de IA podem herdar preconceitos presentes nos dados de formação, levando a resultados discriminatórios em áreas como a contratação, a concessão de empréstimos e a aplicação da lei. Resposta regulamentar: Os regulamentos podem exigir transparência nos processos de tomada de decisão dos algoritmos de IA. As auditorias de parcialidade e as avaliações de impacto podem ajudar a identificar e atenuar os efeitos discriminatórios. A legislação em vigor em matéria de luta contra a discriminação pode também aplicar-se aos sistemas de IA.
3. Liberdade de expressão e informação: Questão: A capacidade da IA para manipular e gerar conteúdos suscita preocupações quanto à desinformação, às notícias falsas e à censura. Resposta regulamentar: Os regulamentos podem centrar-se na transparência em relação à origem dos conteúdos gerados pela IA e nos mecanismos para verificar a autenticidade. Equilibrar o direito à liberdade de expressão com a necessidade de prevenir a desinformação prejudicial é um desafio. 4. Direitos trabalhistas e laborais:
Questão: A automatização impulsionada pela IA pode levar à deslocação de postos de trabalho e afetar os direitos dos trabalhadores e a segurança no trabalho. Resposta regulamentar: As leis trabalhistas podem precisar ser atualizadas para abordar questões como a requalificação de trabalhadores despedidos, potenciais mudanças nos contratos de trabalho devido a colaborações entre seres humanos e IA e garantir um tratamento justo para os trabalhadores afetados por mudanças impulsionadas pela IA.
5. Direito a um julgamento justo: Questão: O envolvimento da IA em processos jurídicos, como o policiamento preditivo e os algoritmos de sentença, levanta questões sobre o devido processo e o direito a um julgamento justo. Resposta regulamentar: Os quadros jurídicos devem assegurar a transparência e a explicabilidade da IA utilizada nas decisões judiciais. Devem igualmente prever mecanismos de responsabilização e capacidade para desafiar os resultados gerados pela IA.
6. Vigilância e liberdade de reunião: Questão: As tecnologias de vigilância alimentadas pela IA podem violar os direitos dos cidadãos à privacidade e à liberdade de reunião. Resposta regulamentar: É fundamental encontrar um equilíbrio entre as necessidades de segurança e os direitos individuais. Os regulamentos podem limitar o uso da vigilância de IA em determinados contextos, exigir uma supervisão rigorosa e garantir limitações de retenção de dados.
7. Acesso aos Serviços Básicos: Questão: Os sistemas baseados na IA podem ser utilizados para afetar recursos e serviços, excluindo potencialmente as populações marginalizadas. Resposta regulamentar: Garantir a igualdade de acesso a serviços essenciais, evitando simultaneamente a exclusão digital, exige regulamentação que imponha transparência, equidade e consideração do impacto social na conceção do sistema de IA.
Esboço
| Duração (min) | Descrição |
|---|---|
| 15 | Discriminação e Bias |
| 15 | Liberdade de expressão e informação e direito a julgamento justo |
| 15 | Vigilância e liberdade de reunião |
| 15 | Acesso aos Serviços Básicos |
Agradecimentos
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.