Visão geral do programa

Em nosso objetivo de criar um programa de Mestrado em AI Centro Humano, o Consórcio HCAIM segue a definição de AI HLEG: «A abordagem centrada no ser humano da IA procura assegurar que os valores humanos são fundamentais para a forma como os sistemas de IA são desenvolvidos, implantados, utilizados e monitorizados, assegurando o respeito pelos direitos fundamentais.»

Para responder aos requisitos desta definição, o programa abrange os elementos técnicos, éticos e práticos da inteligência artificial. Projetamos nosso conteúdo em torno das três fases do ciclo de vida MLOps – desenvolvimento, implantação e manutenção de modelos de aprendizado de máquina, produzindo assim três módulos principais em alinhamento com as fases ML-Ops acima mencionadas: Modelização (módulo A), implantação (módulo B) e avaliação (módulo C). Adicionamos um quarto módulo (D) Graduação, para permitir que os alunos mostrem que eles podem resolver de forma independente os desafios propostos pela indústria com base nas necessidades atuais e requisitos relacionados ao campo da inteligência artificial centrada no ser humano.

Isso é visualizado na tabela abaixo.

Módulo A Módulo B Módulo C Módulo D
Técnico

Fundamentos da IA

IA avançada:
Aprendizagem profunda
IA futura

Projeto de Tese de Mestrado

Práticas Modelagem da AI IA em Ação:
IA organizacional
IA socialmente responsável
Ética Fundamentos éticos IA de confiança Conformidade, Legalidade & Humanidade

Esta página contém a breve descrição dos módulos definidos no Human Centered Artificial Intelligence Master. Todos os Eventos de Aprendizagem, incluindo o seu material de estudo de acompanhamento, estão disponíveis no sítio Web HCAIM do wikiwijs.

As descrições dos eventos de aprendizagem foram traduzidas para as 24 línguas oficiais da UE utilizando a ferramenta eTranslation da União Europeia e estão disponíveis nas listas atribuídas às línguas. Note-se que as traduções não são revistas por nenhum professor.

Todos os materiais estão disponíveis sob uma licença Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

Modelagem (módulo A)

O primeiro módulo, nomeadamente Modelagem (módulo A), centra-se na primeira fase do ciclo de vida dos MLOps e está relacionado com o nível de maturidade mais baixo da aplicação do Machine Learning (ML) nas organizações: dados de modelização. Inclui as atividades que constituem a base da aplicação do ML, tais como extração de dados, análise de dados, preparação de dados, formação de modelos e validação e avaliação de modelos (principalmente manuais).

Nesta fase, o foco está na correta análise e modelagem dos dados para atingir os objetivos de negócios e pouca utilização é feita da automação (por exemplo, CI/CD), que é adicionada apenas na segunda fase de MLOps (Implantação — Módulo B). As atividades de modelização são frequentemente caracterizadas pelo método manual, orientado por scripts e interativo pelo qual são realizadas as análises, a preparação, a formação e a validação dos dados. Para manter uma visão geral dos diferentes modelos, parâmetros e escolhas que estão sendo experimentados, o rastreamento de experimentos é usado.

Do ponto de vista ético, é importante, na fase de modelização, dedicar tempo e atenção suficientes para descobrir os objetivos do cliente, mapear as partes interessadas e explorar a forma como os valores individuais dessas partes interessadas são afetados (e reconhecer possíveis conflitos entre eles). Aspetos como a transparência, a inclusão, a segurança e a privacidade são de grande importância neste domínio. Naturalmente, também deve ser dada atenção à conveniência social e moral dos objetivos do cliente. Além disso, é importante ter (temporal) consciência de possíveis preconceitos/preconceitos nos dados disponíveis, reconhecer as possíveis consequências desses preconceitos e encontrar mitigações para lidar com esses preconceitos.

Resultados de Aprendizagem

  • O aluno avalia várias técnicas de ML para fazer uma escolha bem fundamentada, combinando os requisitos adquiridos do cliente e implementando um protótipo da técnica ML escolhida para aconselhar na resolução de um determinado problema de modelagem de dados.
  • Resultado de Aprendizagem 1
  • O aluno argumenta, usando marcos éticos fundamentais, como dilemas morais podem ser resolvidos e avalia as possíveis consequências dos vieses existentes nos dados e a influência de mitigações projetadas para neutralizar as consequências desses vieses.
  • Resultado de Aprendizagem 2
  • O aluno aplica métodos de pesquisa quantitativa e qualitativa para fundamentar cientificamente suas escolhas durante a(s) consideração(ões) ética(s) e fazer o protótipo.
  • Resultado de Aprendizagem 3

Implantação (módulo B)

O módulo de implantação (módulo B) centra-se na segunda fase do ciclo de desenvolvimento de MLOps; o destacamento. Após a fase exploratória de dados de modelagem (ver Módulo A — Modelagem), vem a integração da solução ML nos sistemas de negócios. É agora importante começar a pensar sobre a arquitetura ML e a forma como ela funciona em conjunto com os sistemas existentes (legado). Para beneficiarem efetivamente das soluções automatizadas de ML, é necessário introduzir gasodutos; por um lado, para poder lidar com fornecimentos de dados contínuos e em tempo real (processamento em fluxo) e, por outro, para ligar os resultados do modelo ML a outros sistemas.

Além disso, o Módulo B aumenta a complexidade da tecnologia de IA, movendo-se para (o uso de) redes neurais e aprendizagem profunda. Uma grande vantagem desses modelos mais complexos é que eles são mais flexíveis e versáteis do que as técnicas introduzidas no Módulo A — Modelagem. No entanto, as desvantagens importantes dessas técnicas são que elas são mais complexas (para entender e configurar) e opaquer. Aí reside um importante dilema ético na utilização de técnicas de IA (avançadas): como você ainda entende o que a solução de IA calcula e se isso é feito da maneira correta. Tornar a implantação de soluções de IA mais transparente e ser capaz de determinar os possíveis riscos e mitigar esses riscos são temas (sociais) importantes neste módulo.

Resultados de Aprendizagem

  • O aluno avalia as opções possíveis para a integração de uma técnica avançada de IA, como o Deep and/ou Reinforcement Learning, e autores um relatório de uma página com base em um protótipo que foi desenvolvido tendo em conta as limitações e influências sobre os sistemas de TIC existentes e instalações de dados do cliente, que foram obtidos em colaboração, por exemplo, com arquitetos ou desenvolvedores de TIC.
  • Resultado de Aprendizagem 1
  • O aluno avalia o risco potencial envolvido e testa o grau de transparência (incluindo interpretabilidade, reprodutibilidade e explicabilidade) de uma solução de implementação e conceção de IA/ML escolhida usando técnicas que aumentam a perceção e a transparência entre as partes interessadas (as chamadas técnicas de IA explicável (XAI)) para corrigir deficiências a este respeito em comparação com os requisitos sociais e específicos do cliente.
  • Resultado de Aprendizagem 2
  • O aluno formula um projeto de pesquisa para um projeto de pesquisa cientificamente sólido (orientado para práticas) relacionado a um caso da empresa, formulando uma questão de pesquisa relevante, consistente e funcional, considerando os métodos de pesquisa aplicados a serem usados e estabelecendo um quadro teórico preciso, relevante e crítico.
  • Resultado de Aprendizagem 3

Avaliação (módulo C)

O módulo de avaliação (módulo C) centra-se nos aspetos de avaliação do desenvolvimento da IA, incluindo os aspetos societais de um produto de IA, e no desenvolvimento de uma apreciação das potenciais orientações futuras que a IA pode seguir, tendo em conta as tendências tecnológicas; IA socialmente responsável; conformidade, bem como garantir que o elemento humano esteja sempre presente na conceção, desenvolvimento e avaliação dos sistemas de IA.

Como parte do futuro da IA, discute-se a exploração do nível de adoção da IA em diferentes setores, bem como a forma como a IA é adaptada a diferentes domínios. A análise da IA socialmente responsável inclui a forma como a IA afeta os indivíduos e os diferentes grupos da sociedade. E, como parte crucial do módulo, há uma ênfase na legislação, políticas e códigos de conduta relacionados com a IA (com ênfase em questões como a explicabilidade e a confiança), bem como o controlo da qualidade e os processos de gestão da qualidade, a fim de avaliar os resultados das iniciativas de IA.

Resultados de Aprendizagem

  • O aluno desenvolve uma apreciação das abordagens de ponta para IA e aprendizado de máquina, bem como uma compreensão de como a inteligência artificial é utilizada em diferentes domínios, e como avaliar as potenciais direções que a inteligência artificial pode ir no futuro.
  • Resultado de Aprendizagem 1
  • O aluno mostra uma abordagem bem definida para a digitalização de consequências, considerando questões como avaliar o potencial impacto que a nova tecnologia poderia ter nos indivíduos e na sociedade, com foco específico em minorias e grupos marginalizados, bem como potenciais impactos ambientais.
  • Resultado de Aprendizagem 2
  • O aluno demonstra a capacidade de empregar uma metodologia de pesquisa articulada completa com ética incorporada em todas as etapas, com uma consciência da natureza contextual das abordagens específicas que devem ser utilizadas que serão informadas pelos estudos de caso abrangidos neste módulo.
  • Resultado de Aprendizagem 3

Graduação (módulo D)

O módulo de graduação(módulo D) reflete o princípio central do programa HCAIM, que é construído sobre o conceito de aprendizagem baseada em projetos (PBL). O objetivo deste módulo é posicionar o projeto de graduação (fazendo um produto profissional) centralmente na trajetória de aprendizagem do aluno. Como parte de seu projeto de graduação (a tese de mestrado), os alunos mostram que eles podem resolver de forma independente os desafios propostos pela indústria com base nas necessidades e requisitos atuais, considerando os aspetos técnicos e éticos da questão em questão.

Cada tese é considerada localmente, com um supervisor interno (um professor da Universidade em que o aluno está buscando o grau) e um supervisor externo pertencente à parte que propõe a tese (se houver). Este último aspeto, apesar de não ser obrigatório, é rigorosamente prosseguido. A parte proponente pode ser uma PME, um Centro de Excelência ou outra Universidade, tanto a nível nacional como internacional. Espera-se que as partes proponentes forneçam tese nacional e internacional (isto é, tese organizada em com uma universidade do mesmo país ou de uma tese estrangeira).

Resultados de Aprendizagem

  • O aluno reconhece e reflete sobre o ciclo de vida da IA em um contexto realista e informado da indústria e em diversos locais, cenários e casos de uso.
  • Resultado de Aprendizagem 1
  • O aluno demonstra uma atitude de pesquisa robusta e válida através de um projeto com uma abordagem interdisciplinar bem definida produzindo soluções relevantes para a indústria e tecnologicamente competentes, enquanto avalia o impacto potencial de seu trabalho nos indivíduos e na sociedade
  • Resultado de Aprendizagem 2
  • O aluno demonstra uma atitude profissional em relação à comunicação com as partes interessadas relevantes (por exemplo, mentores, conselheiros, pares e clientes), uma atitude analítica, ethos de trabalho, competência de planejamento, proatividade e autoconsciência
  • Resultado de Aprendizagem 3

Diretrizes para a Tese

HCAIM Tese Diretrizes de Propostas

 

Estas diretrizes destinam-se a apoiar as partes que pretendem propor uma nova tese.

Modelo de Tese HCAIM

 

Veja o Modelo de Tese HCAIM aqui.

Diretrizes éticas para teses HCAIM

 

Plágio, Fabrico de Dados e Manipulação de Imagens

O plágio não é aceitável. Plágio inclui copiar texto, ideias, imagens ou dados de outra fonte, incluindo suas próprias publicações, sem dar crédito à fonte original.

A reutilização do texto copiado de outra fonte deve estar entre aspas e a fonte original deve ser citada. Se estudos anteriores inspiraram o desenho de um estudo ou a estrutura ou linguagem do manuscrito, esses estudos devem ser explicitamente citados.

Os ficheiros de imagem não devem ser manipulados nem ajustados de forma alguma que possam conduzir a uma interpretação incorreta das informações fornecidas pela imagem original. Manipulação irregular inclui 1) introdução, aprimoramento, movimento ou remoção de características da imagem original, 2) agrupamento de imagens que devem ser apresentadas separadamente ou 3) modificar o contraste, brilho ou equilíbrio de cores para obscurecer, eliminar ou melhorar algumas informações.

Os resultados apresentados não devem ser selecionados, manipulados, melhorados ou fabricados de forma inadequada. Isto inclui 1) exclusão de pontos de dados para aumentar a importância das conclusões, 2) fabrico de dados, 3) seleção de resultados que suportam uma determinada conclusão em detrimento de dados contraditórios, 4) seleção deliberada de ferramentas de análise ou métodos para apoiar uma conclusão específica (incluindo p-hacking).

Pesquisa envolvendo seres humanos, animais ou plantas

Ao relatar pesquisas que envolvam seres humanos, materiais humanos, tecidos humanos ou dados humanos, a parte proponente deve garantir que as investigações foram realizadas de acordo com as regras da Declaração de Helsinque de 1975, revisada em 2013. Qualquer consequência associada à violação deste aspeto será totalmente imputada à parte proponente e nem ao consórcio HCAIM nem ao estudante.

Teses, trabalhando com linhas telemóveis devem indicar a origem de qualquer linha telemóvel. Para as linhas celulares estabelecidas, a proveniência deve ser indicada e as referências devem também ser dadas a um artigo publicado ou a uma fonte comercial. Se forem utilizadas linhas de células de novo não publicadas anteriormente, incluindo aquelas dotadas de outro laboratório, devem ser dadas informações sobre a aprovação do conselho de revisão institucional ou do comité de ética e a confirmação do consentimento informado por escrito deve ser fornecida se a linha for de origem humana.

Todos os tópicos potencialmente derivados de qualquer pesquisa que causem danos aos animais são proibidos. Todas as diretrizes aplicadas aos seres humanos também devem ser seguidas (sempre que possível) para os animais.

A pesquisa experimental sobre plantas (culturadas ou selvagens), incluindo coleta de material vegetal, deve obedecer às diretrizes institucionais, nacionais ou internacionais. Recomendamos que as teses respeitem a Convenção sobre a Diversidade Biológica e a Convenção sobre o Comércio das Espécies da Fauna e da Flora Selvagens Ameaçadas de Extinção.

Sexo, Gênero, Etnia, Religião e outros preconceitos na pesquisa

Incentiva-se a seguir as orientações «Sex and Gender Equity in Research — SAGER» e a incluir considerações de género e sexo, se for caso disso. Os termos sexo (atributo biológico) e gênero (de acordo com as circunstâncias sociais e culturais) devem ser usados cuidadosamente para evitar confusão em ambos os termos. A tese deve também descrever (no contexto) se são de esperar diferenças de sexo e/ou de género; relatar como o sexo e/ou gênero foram contabilizados no desenho do estudo; fornecer dados desagregados por sexo e/ou género, se for caso disso; e discutir os respetivos resultados. Caso não tenha sido realizada uma análise de sexo e/ou gênero, a fundamentação deve ser dada na Discussão.

Considerações semelhantes se aplicam a todas as outras formas de preconceito, incluindo (e não limitado a) etnia e religião. Para o primeiro, lembramos que os seres humanos não têm raças, mas apenas etnia.

Se a tese é focada em viés, a lógica por trás dela deve ser esclarecida desde o início.

Conflito de interesses

Os alunos devem evitar celebrar acordos com patrocinadores do estudo, tanto com fins lucrativos como sem fins lucrativos, que interfiram no acesso a todos os dados do estudo ou que interfiram na sua capacidade de analisar e interpretar os dados e de preparar a tese de forma independente quando e onde escolherem.

Os alunos devem identificar e declarar quaisquer circunstâncias pessoais ou interesses que possam ser percebidos como influenciando de forma inadequada a representação ou interpretação dos resultados da pesquisa relatados. Exemplos de potenciais conflitos de interesses incluem, entre outros, interesses financeiros (tais como filiação, emprego, consultorias, propriedade de ações/ações, honorários, subvenções ou outros financiamentos, testemunhos de peritos pagos e acordos de licenciamento de patentes) e interesses não financeiros (tais como relações pessoais ou profissionais, afiliações, crenças pessoais).

Qualquer papel dos financiadores no desenho do estudo, na coleta, análise ou interpretação de dados, na redação do manuscrito ou na decisão de publicar os resultados deve ser declarado com antecedência.

Políticas de citação

  • Os alunos devem garantir que, quando o material é retirado de outras fontes (incluindo sua própria escrita publicada), a fonte é claramente citada e, quando apropriado, é obtida permissão.
  • Os alunos não devem se envolver em autocitação excessiva de seu próprio trabalho.
  • Os alunos não devem copiar referências de outras publicações se não lerem o trabalho citado.
  • Os estudantes não devem, preferencialmente, citar as suas próprias publicações ou as publicações dos seus amigos, pares ou instituições.
  • Os alunos não devem citar anúncios ou material publicitário.

Diretrizes éticas para revisores

Conflito potencial de interesses

Os revisores são convidados a informar o conselho de administração da HCAIM se mantiverem um conflito de interesses que possa prejudicar o relatório de revisão, seja de forma positiva ou negativa. O conselho verificará com a maior precisão possível antes de convidar revisores; no entanto, a cooperação dos revisores nesta matéria é esperada e apreciada.

Confidencialidade e Anonimato

Os revisores devem manter o conteúdo da tese, incluindo o abstrato, confidencial. Devem informar o conselho de administração da HCAIM caso desejem que um colega complete a revisão em seu nome.

Matriz de Riscos e Plano de Mitigação para Teses HCAIM

 

Este modelo permite que o supervisor apoie o aluno na identificação e no tratamento de problemas. Ao mesmo tempo, uma parte proponente de tese será solicitada a compilar este modelo.

Todas as etapas e prestações concretas para a conclusão do projeto de investigação proposto devem ser incluídas na proposta de projeto. Os alunos também são obrigados a preparar uma matriz de risco que inclua riscos que possam ameaçar alcançar esses resultados e forneça planos de contingência para mitigar os riscos descritos. Apresenta-se a seguir um exemplo de uma matriz de risco e de um plano de atenuação. Incluir riscos adicionais, se necessário:

Risco Gravidade Probabilidade Mitigação
Não foi possível recolher os dados-alvo a tempo Elevado Baixa O projeto começará a examinar os recursos disponíveis abertamente. Investigar opções para adquirir dados públicos sintéticos ou pré-disponíveis semelhantes aos dados-alvo.
Financiamento insuficiente dos recursos Médio Médio Serão procuradas fontes de financiamento alternativas.
Objetivos de investigação/projeto excessivamente ambiciosos Médio Baixa Rever regularmente os objetivos do projeto e regularizar os resultados do projeto com base no processo de revisão.
(Sobretudo) Grandes quantidades de
formação
adicional necessárias
Médio Baixa A aprovação prévia será tomada. Os objetivos do projeto serão atualizados com base no tempo e nos recursos utilizados para esta formação adicional.
Perda de dados Médio Baixa O aluno seguirá os procedimentos de backup apropriados para minimizar o risco.

Exemplos de Tópicos de Tese





















Ir para o conteúdo

 

Skip to content