Panoramica del programma

Nel nostro obiettivo di creare un programma di Master AI Human-Centred, il Consorzio HCAIM segue la definizione di AI HLEG: “L’approccio umano-centrico all’IA si sforza di garantire che i valori umani siano fondamentali per il modo in cui i sistemi di IA sono sviluppati, implementati, utilizzati e monitorati, garantendo il rispetto dei diritti fondamentali”.

Per rispondere ai requisiti di questa definizione, il programma copre gli elementi tecnici, etici e pratici dell’intelligenza artificiale. Abbiamo progettato i nostri contenuti intorno alle tre fasi del ciclo di vita di MLOps — sviluppo, implementazione e manutenzione di modelli di machine learning, producendo così tre moduli principali in linea con le fasi ML-Ops di cui sopra: Modellazione (modulo A), distribuzione (modulo B) e valutazione (modulo C). Abbiamo aggiunto un quarto modulo (D) Graduation, per consentire agli studenti di dimostrare che possono risolvere in modo indipendente le sfide proposte dal settore in base alle esigenze e ai requisiti attuali relativi al campo dell’intelligenza artificiale incentrata sull’uomo.

Questo è visualizzato nella tabella sottostante.

Modulo A Modulo B Modulo C Modulo D
Tecnica

Fondamenti dell’IA

AI avanzata:
L’apprendimento profondo
L’AI del futuro

Progetto di tesi di laurea magistrale

Pratico Modellazione AI Ai in azione:
AI organizzativo
IA socialmente responsabile
Etico Fondamenti etici AI affidabile Conformità, legalità e umanità

Questa pagina contiene la breve descrizione dei moduli definiti nel Master Human Centered Artificial Intelligence. Tutti gli eventi di apprendimento, compreso il loro materiale di studio di accompagnamento, sono disponibili sul sito web HCAIM di wikiwijs.

Le descrizioni dell’evento di apprendimento sono state tradotte in tutte le 24 lingue ufficiali dell’UE utilizzando lo strumento eTranslation dell’Unione europea e sono disponibili negli elenchi assegnati alle lingue. Si noti che le traduzioni non vengono esaminate da alcun docente.

Tutti i materiali sono disponibili sotto licenza Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

Modellazione (modulo A)

Il primo modulo, ovvero Modelling (Modulo A), si concentra sulla prima fase del ciclo di vita di MLOps ed è correlato al livello di maturità più basso dell’applicazione del Machine Learning (ML) nelle organizzazioni: modellizzazione dei dati. Comprende le attività che costituiscono la base dell’applicazione del ML, come l’estrazione dei dati, l’analisi dei dati, la preparazione dei dati, l’addestramento dei modelli e (principalmente manuale) la convalida e la valutazione dei modelli.

In questa fase, l’attenzione si concentra sulla corretta analisi e modellazione dei dati per raggiungere gli obiettivi aziendali e si fa poco uso dell’automazione (ad esempio CI/CD), che viene aggiunta solo nella seconda fase di MLOps (Deployment — Modulo B). Le attività di modellazione sono spesso caratterizzate dal metodo manuale, basato sullo script e interattivo attraverso il quale vengono svolte l’analisi dei dati, la preparazione, la formazione dei modelli e la convalida. Per mantenere una panoramica dei diversi modelli, parametri e scelte che vengono sperimentati, viene utilizzato il monitoraggio degli esperimenti.

Dal punto di vista etico, nella fase di modellazione è importante dedicare tempo e attenzione sufficienti alla scoperta degli obiettivi del cliente, mappando gli stakeholder ed esplorando come i singoli valori di questi stakeholder sono influenzati (e riconoscendo possibili conflitti tra di loro). Aspetti quali la trasparenza, l’inclusione, la sicurezza e la privacy sono di grande importanza in questo senso. Naturalmente, occorre prestare attenzione anche alla desiderabilità sociale e morale degli obiettivi del cliente. Inoltre, è importante avere (precedentemente) consapevolezza di possibili pregiudizi/pregiudizi nei dati disponibili, riconoscere le possibili conseguenze di questi pregiudizi e trovare attenuazioni per affrontare questi pregiudizi.

Risultati di apprendimento

  • Lo studente valuta varie tecniche ML per fare una scelta ben fondata, rispondendo alle esigenze acquisite del cliente e implementando un prototipo della tecnica ML scelta per consigliare sulla risoluzione di un dato problema di modellazione dei dati.
  • Risultati di apprendimento 1
  • Lo studente sostiene, utilizzando quadri etici fondamentali, come i dilemmi morali possono essere risolti e valuta le possibili conseguenze dei pregiudizi esistenti nei dati e l’influenza delle attenuazioni progettate per contrastare le conseguenze di tali pregiudizi.
  • Risultati di apprendimento 2
  • Lo studente applica metodi di ricerca quantitativi e qualitativi per dimostrare scientificamente le proprie scelte durante la considerazione etica e la realizzazione del prototipo.
  • Risultati di apprendimento 3

Distribuzione (modulo B)

Il modulo Deployment (Modulo B) si concentra sulla seconda fase del ciclo di sviluppo MLOps; il dispiegamento. Dopo la fase esplorativa dei dati di modellazione (vedi Modulo A — Modellazione), arriva l’integrazione della soluzione ML nei sistemi aziendali. Ora è importante iniziare a pensare all’architettura ML e a come funziona insieme ai sistemi esistenti (legacy). Per beneficiare di soluzioni automatizzate di ML, è necessario introdurre oleodotti; da un lato, per essere in grado di gestire le forniture di dati continui e live (elaborazione in streaming), e dall’altro, per collegare i risultati del modello ML ad altri sistemi.

Inoltre, il modulo B migliora la complessità della tecnologia AI spostandosi verso (l’uso di) reti neurali e l’apprendimento profondo. Un grande vantaggio di questi modelli più complessi è che sono più flessibili e versatili rispetto alle tecniche introdotte nel modulo A — Modelling. Tuttavia, gli svantaggi importanti di queste tecniche sono che sono più complessi (per capire e configurare) e opaquer. Vi sta un importante dilemma etico nell’uso di tecniche di IA (avanzate): come capire ancora cosa calcola la soluzione di IA e se questo viene fatto nel modo giusto? Rendere l’implementazione di soluzioni di IA più trasparente ed essere in grado di determinare i possibili rischi e mitigare questi rischi sono temi importanti (sociali) in questo modulo.

Risultati di apprendimento

  • Lo studente valuta le possibili scelte per l’integrazione di una tecnica di IA avanzata, come Deep e/o Reinforcement Learning, e autori un rapporto di una pagina basato su un prototipo che è stato sviluppato tenendo conto dei limiti e delle influenze sui sistemi ICT e sulle strutture dati esistenti del cliente, che sono stati ottenuti in collaborazione, ad esempio, con architetti o sviluppatori ICT.
  • Risultati di apprendimento 1
  • Lo studente valuta il potenziale rischio coinvolto e testa il grado di trasparenza (compresa l’interpretazione, riproducibilità e spiegabilità) di un’implementazione AI/ML prescelta e progetta soluzioni utilizzando tecniche che aumentano l’intuizione e la trasparenza tra gli stakeholder (le cosiddette tecniche di AI spiegabile (XAI)) per ovviare a carenze in questo senso rispetto ai requisiti sociali e specifici del cliente.
  • Risultati di apprendimento 2
  • Lo studente formula un progetto di ricerca per un progetto di ricerca scientificamente valido (orientato alla pratica) relativo a un caso aziendale formulando una domanda di ricerca funzionale pertinente, coerente, considerando i metodi di ricerca applicata da utilizzare e stabilendo un quadro teorico preciso, pertinente e critico.
  • Risultati di apprendimento 3

Valutazione (modulo C)

Il modulo di valutazione (modulo C) si concentra sugli aspetti di valutazione dello sviluppo dell’IA, compresi sia gli aspetti sociali di un prodotto di IA, sia lo sviluppo di un apprezzamento delle potenziali direzioni future che l’IA potrebbe adottare, guardando alle tendenze tecnologiche; IA socialmente responsabile; conformità, oltre a garantire che l’elemento umano sia sempre presente nella progettazione, nello sviluppo e nella valutazione dei sistemi di IA.

Come parte del futuro dell’IA, si discute di un’esplorazione del livello di adozione dell’IA in diversi settori e di come l’IA sia adattata per diversi settori. Guardare all’IA socialmente responsabile include il modo in cui l’IA influisce sugli individui e sui diversi gruppi della società. E come parte cruciale del modulo, c’è un focus su leggi, politiche e codici di condotta relativi all’IA (con un’enfasi su questioni come spiegabilità e fiducia), nonché sui processi di controllo della qualità e gestione della qualità, per valutare i risultati delle iniziative di IA.

Risultati di apprendimento

  • Lo studente sviluppa un apprezzamento degli approcci all’avanguardia all’intelligenza artificiale e all’apprendimento automatico, nonché una comprensione di come l’intelligenza artificiale viene utilizzata in diversi settori e come valutare le potenziali direzioni che l’intelligenza artificiale potrebbe andare in futuro.
  • Risultati di apprendimento 1
  • Lo studente mostra un approccio ben definito alla scansione delle conseguenze, considerando questioni come la valutazione del potenziale impatto che le nuove tecnologie potrebbero avere sugli individui e sulla società, concentrandosi in particolare sulle minoranze e sui gruppi emarginati, nonché sui potenziali impatti ambientali.
  • Risultati di apprendimento 2
  • Lo studente dimostra la capacità di impiegare una metodologia di ricerca articolata con un’etica integrata in tutte le fasi, con una consapevolezza della natura contestuale degli approcci specifici che dovrebbero essere utilizzati che saranno informati dai casi di studio trattati in questo modulo.
  • Risultati di apprendimento 3

Laurea (modulo D)

Il modulo di laurea (Modulo D) riflette il principio fondamentale del programma HCAIM che si basa sul concetto di apprendimento basato su progetti (PBL). L’obiettivo di questo modulo è quello di posizionare il progetto di laurea (fare un prodotto professionale) in modo centrale nella traiettoria di apprendimento dello studente. Nell’ambito del loro progetto di laurea (la tesi di laurea), gli studenti dimostrano di poter risolvere autonomamente le sfide proposte dal settore in base alle esigenze e ai requisiti attuali, considerando sia gli aspetti tecnici che etici della questione in questione.

Ogni tesi è considerata localmente, con un supervisore interno (un professore dell’Università in cui lo studente sta perseguendo la laurea) e un supervisore esterno appartenente alla parte che propone la tesi (se presente). Quest’ultimo aspetto, pur non essendo obbligatorio, è rigorosamente perseguito. Il partito proponente può essere una PMI, un Centro di eccellenza o un’altra università, sia a livello nazionale che internazionale. Si prevede che le parti proponenti forniscano tesi sia nazionali che internazionali (cioè tesi organizzate in un’università dello stesso paese o da uno straniero).

Risultati di apprendimento

  • Lo studente riconosce e riflette sul ciclo di vita dell’IA in un contesto realistico, informato dal settore e in diverse posizioni, scenari e casi d’uso.
  • Risultati di apprendimento 1
  • Lo studente dimostra un atteggiamento di ricerca solido e valido attraverso un progetto con un approccio interdisciplinare ben definito che produce soluzioni rilevanti per l’industria e tecnologicamente competenti, valutando al contempo l’impatto potenziale del loro lavoro sugli individui e sulla società
  • Risultati di apprendimento 2
  • Lo studente dimostra un atteggiamento professionale per quanto riguarda la comunicazione con le parti interessate (ad esempio, mentori, consulenti, colleghi e clienti), un atteggiamento analitico, ethos del lavoro, competenza di pianificazione, pro-attività e consapevolezza di sé
  • Risultati di apprendimento 3

Linee guida per la tesi

Linee guida per le proposte di tesi HCAIM

 

Queste linee guida hanno lo scopo di sostenere le parti che intendono proporre una nuova tesi.

Modello di tesi HCAIM

 

Vedi il modello di tesi HCAIM qui.

Linee guida etiche per le tesi HCAIM

 

Plagio, fabbricazione di dati e manipolazione delle immagini

Il plagio non è accettabile. Il plagio include la copia di testi, idee, immagini o dati da un’altra fonte, comprese le proprie pubblicazioni, senza dare credito alla fonte originale.

Riutilizzare il testo copiato da un’altra fonte deve essere tra virgolette e la fonte originale deve essere citata. Se studi precedenti hanno ispirato il disegno di uno studio o la struttura o il linguaggio del manoscritto, questi studi devono essere esplicitamente citati.

I file di immagine non devono essere manipolati o regolati in alcun modo che possa portare a un’interpretazione errata delle informazioni fornite dall’immagine originale. La manipolazione irregolare include 1) introduzione, miglioramento, spostamento o rimozione di caratteristiche dall’immagine originale, 2) raggruppamento di immagini che dovrebbero essere presentate separatamente o 3) modificare il contrasto, la luminosità o l’equilibrio dei colori per oscurare, eliminare o migliorare alcune informazioni.

I risultati presentati non devono essere selezionati, manipolati, migliorati o fabbricati in modo inappropriato. Ciò include 1) l’esclusione dei punti di dati per migliorare l’importanza delle conclusioni, 2) la fabbricazione dei dati, 3) la selezione dei risultati che supportano una particolare conclusione a scapito di dati contraddittori, 4) selezione deliberata di strumenti di analisi o metodi a sostegno di una particolare conclusione (compreso il p-hacking).

Ricerca che coinvolge soggetti umani, animali o piante

Nel riferire sulla ricerca che coinvolge soggetti umani, materiale umano, tessuti umani o dati umani, la parte proponente deve garantire che le indagini siano state effettuate secondo le regole della Dichiarazione di Helsinki del 1975, rivista nel 2013. Qualsiasi conseguenza associata alla violazione di questo aspetto sarà totalmente imputata alla parte proponente e né al consorzio HCAIM né allo studente.

Le tesi, lavorando con le linee cellulari dovrebbero indicare l’origine di tutte le linee cellulari. Per le linee cellulari stabilite, la provenienza deve essere indicata e i riferimenti devono essere forniti anche a un documento pubblicato o a una fonte commerciale. Se sono state utilizzate linee cellulari de novo precedentemente inedite, comprese quelle fornite da un altro laboratorio, devono essere fornite informazioni dettagliate sul comitato di revisione istituzionale o sull’approvazione del comitato etico e deve essere fornita la conferma del consenso informato scritto se la linea è di origine umana.

Tutti gli argomenti potenzialmente derivati da qualsiasi ricerca che causi danni agli animali sono vietati. Tutte le linee guida applicate all’uomo dovrebbero essere seguite (ove possibile) anche per gli animali.

La ricerca sperimentale sulle piante (colte o selvatiche), compresa la raccolta di materiale vegetale, deve essere conforme alle linee guida istituzionali, nazionali o internazionali. Raccomandiamo che le tesi rispettino la Convenzione sulla diversità biologica e la Convenzione sul commercio delle specie di flora e fauna selvatiche minacciate di estinzione.

Sesso, genere, etnia, religione e altri pregiudizi nella ricerca

È incoraggiato a seguire le linee guida “Sex and Gender Equity in Research — SAGER” e a includere, se del caso, considerazioni di sesso e genere. I termini sesso (attributo biologico) e genere (formato da circostanze sociali e culturali) dovrebbero essere usati con attenzione per evitare confusione entrambi i termini. La tesi dovrebbe anche descrivere (nel “sfondo”) se ci si può aspettare differenze di sesso e/o di genere; riferire in che modo il sesso e/o il genere sono stati contabilizzati nella progettazione dello studio; fornire dati disaggregati per sesso e/o sesso, se del caso; e discutere i rispettivi risultati. Se non è stata condotta un’analisi sessuale e/o di genere, la logica dovrebbe essere fornita nella discussione.

Considerazioni simili si applicano a tutte le altre forme di pregiudizio, tra cui (e non solo) l’etnia e la religione. Per il primo, ricordiamo che gli esseri umani non hanno razze, ma solo etnia.

Se la tesi è focalizzata sul pregiudizio, la logica dietro di essa deve essere chiarita fin dall’inizio.

Conflitto di interessi

Gli studenti devono evitare di stipulare accordi con sponsor di studio, sia a scopo di lucro che senza scopo di lucro, che interferiscono con l’accesso a tutti i dati dello studio o che interferiscono con la loro capacità di analizzare e interpretare i dati e di preparare la tesi in modo indipendente quando e dove scelgono.

Gli studenti devono identificare e dichiarare eventuali circostanze personali o interessi che possono essere percepiti come inappropriati influenzando la rappresentazione o l’interpretazione dei risultati della ricerca segnalati. Esempi di potenziali conflitti di interesse includono, a titolo esemplificativo ma non esaustivo, interessi finanziari (quali appartenenza, occupazione, consulenza, proprietà di azioni/azioni, honoraria, sovvenzioni o altri finanziamenti, testimonianze di esperti retribuite e accordi di licenza brevettuale) e interessi non finanziari (come relazioni personali o professionali, affiliazioni, convinzioni personali).

Qualsiasi ruolo degli sponsor di finanziamento nella progettazione dello studio, nella raccolta, nell’analisi o nell’interpretazione dei dati, nella scrittura del manoscritto o nella decisione di pubblicare i risultati deve essere dichiarato in anticipo.

Politiche di citazione

  • Gli studenti dovrebbero assicurarsi che quando il materiale è tratto da altre fonti (compresa la propria scrittura pubblicata), la fonte è chiaramente citata e, se del caso, è ottenuta l’autorizzazione.
  • Gli studenti non dovrebbero impegnarsi in un’eccessiva autocitazione del proprio lavoro.
  • Gli studenti non devono copiare riferimenti da altre pubblicazioni se non hanno letto l’opera citata.
  • Gli studenti non dovrebbero citare preferenzialmente le pubblicazioni dei propri o dei loro amici, colleghi o istituzioni.
  • Gli studenti non dovrebbero citare pubblicità o materiale pubblicitario.

Linee guida etiche per i revisori

Potenziale conflitto di interessi

I revisori sono invitati a informare il consiglio di amministrazione dell’HCAIM se detengono un conflitto di interessi che può pregiudicare il rapporto di revisione, in modo positivo o negativo. Il consiglio verificherà il più accuratamente possibile prima di invitare i revisori; tuttavia, la cooperazione dei revisori in materia è attesa e apprezzata.

Riservatezza e anonimato

I revisori devono mantenere il contenuto della tesi, incluso l’astratto, confidenziale. Devono informare il consiglio di amministrazione dell’HCAIM se desiderano che un collega completi la revisione a loro nome.

Matrice dei rischi e piano di mitigazione per le tesi HCAIM

 

Questo modello consente al supervisore di supportare lo studente nell’identificazione e nella gestione dei problemi. Allo stesso tempo, a una parte proponente verrà chiesto di compilare questo modello.

Tutti i traguardi e i risultati per il completamento del progetto di ricerca proposto dovrebbero essere inclusi nella proposta di progetto. Gli studenti sono anche tenuti a preparare una matrice di rischio che includa rischi che potrebbero mettere in pericolo il raggiungimento di questi risultati e fornire piani di emergenza per mitigare i rischi delineati. Un esempio di matrice di rischio e piano di mitigazione è mostrato di seguito. Si prega di includere ulteriori rischi se necessario:

Rischio Gravità Probabilità Attenuazione
Non è riuscito a raccogliere i dati di destinazione in tempo Alto Basso Il progetto inizierà ad esaminare le risorse disponibili. Esaminare le opzioni per acquisire dati pubblici sintetici o predisponibili simili ai dati di destinazione.
Finanziamenti insufficienti per le risorse Di medie dimensioni Di medie dimensioni Saranno ricercate fonti di finanziamento alternative.
Obiettivi di ricerca/progetto eccessivamente ambiziosi Di medie dimensioni Basso Rivedere regolarmente gli obiettivi del progetto e regolarizzare i risultati del progetto in base al processo di revisione.
(Soprattutto) Grande quantità di
formazione
supplementare richiesta
Di medie dimensioni Basso Sarà presa l’approvazionepreventiva. Gli obiettivi del progetto saranno aggiornati in base al tempo e alle risorse utilizzate per questa formazione aggiuntiva.
Perdita di dati Di medie dimensioni Basso Lo studente seguirà procedure di backup appropriate per ridurre al minimo i rischi.

Esempi di Tesi Argomenti





















Vai al contenuto

 

Skip to content