Em nosso objetivo de criar um programa de Mestrado em AI Centro Humano, o Consórcio HCAIM segue a definição de AI HLEG: «A abordagem centrada no ser humano da IA procura assegurar que os valores humanos são fundamentais para a forma como os sistemas de IA são desenvolvidos, implantados, utilizados e monitorizados, assegurando o respeito pelos direitos fundamentais.»

Para responder aos requisitos desta definição, o programa abrange os elementos técnicos, éticos e práticos da inteligência artificial. Projetamos nosso conteúdo em torno das três fases do ciclo de vida MLOps – desenvolvimento, implantação e manutenção de modelos de aprendizado de máquina, produzindo assim três módulos principais em alinhamento com as fases ML-Ops acima mencionadas: Modelização (módulo A), implantação (módulo B) e avaliação (módulo C). Adicionamos um quarto módulo (D) Graduação, para permitir que os alunos mostrem que eles podem resolver de forma independente os desafios propostos pela indústria com base nas necessidades atuais e requisitos relacionados ao campo da inteligência artificial centrada no ser humano.

Isso é visualizado na tabela abaixo.

Esta página contém todos os Eventos de Aprendizagem que compõem o Human Centered Artificial Intelligence Master. Todos os eventos de aprendizagem, incluindo o respetivo material de estudos de acompanhamento, serão disponibilizados em inglês no sítio da HCAIM e podem ser traduzidos para qualquer uma das línguas da UE através da ferramenta eTranslation da União Europeia. Para efeitos desta pré-visualização, um Evento de Aprendizagem do Módulo A, um Evento de Aprendizagem do Módulo B, dois Eventos de Aprendizagem do Módulo C e as Diretrizes para a Tese, bem como dois exemplos de temas de tese já estão totalmente disponíveis em inglês nesta página de pré-visualização (e podem ser traduzidos para qualquer uma das línguas da UE utilizando a ferramenta eTranslation da União Europeia).

Além disso, a Visão Geral do Programa HCAIM, o Módulo A Objetivos de Aprendizagem, o Módulo Uma visão geral dos planos de aula, bem como o Módulo Um Evento de Aprendizagem «Lecture- Introduction to Human-Centered AI» já estão disponíveis em todas as línguas da UE através desta página de pré-visualização.  Para ver as traduções destas partes do programa HCAIM, selecione qualquer uma das línguas na parte inferior desta página.

Todos os materiais estão disponíveis sob uma licença Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

O primeiro módulo, nomeadamente Modelagem (módulo A), centra-se na primeira fase do ciclo de vida dos MLOps e está relacionado com o nível de maturidade mais baixo da aplicação do Machine Learning (ML) nas organizações: dados de modelização. Inclui as atividades que constituem a base da aplicação do ML, tais como extração de dados, análise de dados, preparação de dados, formação de modelos e validação e avaliação de modelos (principalmente manuais).

Nesta fase, o foco está na correta análise e modelagem dos dados para atingir os objetivos de negócios e pouca utilização é feita da automação (por exemplo, CI/CD), que é adicionada apenas na segunda fase de MLOps (Implantação — Módulo B). As atividades de modelização são frequentemente caracterizadas pelo método manual, orientado por scripts e interativo pelo qual são realizadas as análises, a preparação, a formação e a validação dos dados. Para manter uma visão geral dos diferentes modelos, parâmetros e escolhas que estão sendo experimentados, o rastreamento de experimentos é usado.

Do ponto de vista ético, é importante, na fase de modelização, dedicar tempo e atenção suficientes para descobrir os objetivos do cliente, mapear as partes interessadas e explorar a forma como os valores individuais dessas partes interessadas são afetados (e reconhecer possíveis conflitos entre eles). Aspetos como a transparência, a inclusão, a segurança e a privacidade são de grande importância neste domínio. Naturalmente, também deve ser dada atenção à conveniência social e moral dos objetivos do cliente. Além disso, é importante ter (temporal) consciência de possíveis preconceitos/preconceitos nos dados disponíveis, reconhecer as possíveis consequências desses preconceitos e encontrar mitigações para lidar com esses preconceitos.

O módulo de implantação (módulo B) centra-se na segunda fase do ciclo de desenvolvimento de MLOps; o destacamento. Após a fase exploratória de dados de modelagem (ver Módulo A — Modelagem), vem a integração da solução ML nos sistemas de negócios. É agora importante começar a pensar sobre a arquitetura ML e a forma como ela funciona em conjunto com os sistemas existentes (legado). Para beneficiarem efetivamente das soluções automatizadas de ML, é necessário introduzir gasodutos; por um lado, para poder lidar com fornecimentos de dados contínuos e em tempo real (processamento em fluxo) e, por outro, para ligar os resultados do modelo ML a outros sistemas.

Além disso, o Módulo B aumenta a complexidade da tecnologia de IA, movendo-se para (o uso de) redes neurais e aprendizagem profunda. Uma grande vantagem desses modelos mais complexos é que eles são mais flexíveis e versáteis do que as técnicas introduzidas no Módulo A — Modelagem. No entanto, as desvantagens importantes dessas técnicas são que elas são mais complexas (para entender e configurar) e opaquer. Aí reside um importante dilema ético na utilização de técnicas de IA (avançadas): como você ainda entende o que a solução de IA calcula e se isso é feito da maneira correta. Tornar a implantação de soluções de IA mais transparente e ser capaz de determinar os possíveis riscos e mitigar esses riscos são temas (sociais) importantes neste módulo.

O módulo de avaliação (módulo C) centra-se nos aspetos de avaliação do desenvolvimento da IA, incluindo os aspetos societais de um produto de IA, e no desenvolvimento de uma apreciação das potenciais orientações futuras que a IA pode seguir, tendo em conta as tendências tecnológicas; IA socialmente responsável; conformidade, bem como garantir que o elemento humano esteja sempre presente na conceção, desenvolvimento e avaliação dos sistemas de IA.

Como parte do futuro da IA, discute-se a exploração do nível de adoção da IA em diferentes setores, bem como a forma como a IA é adaptada a diferentes domínios. A análise da IA socialmente responsável inclui a forma como a IA afeta os indivíduos e os diferentes grupos da sociedade. E, como parte crucial do módulo, há uma ênfase na legislação, políticas e códigos de conduta relacionados com a IA (com ênfase em questões como a explicabilidade e a confiança), bem como o controlo da qualidade e os processos de gestão da qualidade, a fim de avaliar os resultados das iniciativas de IA.

O módulo de graduação(módulo D) reflete o princípio central do programa HCAIM, que é construído sobre o conceito de aprendizagem baseada em projetos (PBL). O objetivo deste módulo é posicionar o projeto de graduação (fazendo um produto profissional) centralmente na trajetória de aprendizagem do aluno. Como parte de seu projeto de graduação (a tese de mestrado), os alunos mostram que eles podem resolver de forma independente os desafios propostos pela indústria com base nas necessidades e requisitos atuais, considerando os aspetos técnicos e éticos da questão em questão.

Cada tese é considerada localmente, com um supervisor interno (um professor da Universidade em que o aluno está buscando o grau) e um supervisor externo pertencente à parte que propõe a tese (se houver). Este último aspeto, apesar de não ser obrigatório, é rigorosamente prosseguido. A parte proponente pode ser uma PME, um Centro de Excelência ou outra Universidade, tanto a nível nacional como internacional. Espera-se que as partes proponentes forneçam tese nacional e internacional (isto é, tese organizada em com uma universidade do mesmo país ou de uma tese estrangeira).

• Tese Tópico Exemplo 1: Ataques de evasão contra detetores de malware ganzas em ML
• Tese Tópico Exemplo 2: PICO-ML: Computação definida por oleodutos e o papel da IA contínua nela
• Tese Tópico Exemplo 3: Investigação de Bias em Modelos de PNL pré-treinados