În scopul nostru de a crea un program de masterat AI centrat pe om, Consorțiul HCAIM urmează definiția AI HLEG: „Abordarea centrată pe factorul uman a IA se străduiește să se asigure că valorile umane sunt esențiale pentru modul în care sistemele IA sunt dezvoltate, implementate, utilizate și monitorizate, asigurând respectarea drepturilor fundamentale.”

Pentru a răspunde cerințelor acestei definiții, programul acoperă elementele tehnice, etice și practice ale inteligenței artificiale. Am proiectat conținutul nostru în jurul celor trei faze ale ciclului de viață MLOps – dezvoltarea, implementarea și întreținerea modelelor de învățare automată, producând astfel trei module de bază în conformitate cu fazele ML-Ops menționate mai sus: Modelare (modulul A), implementare (modulul B) și evaluare (modulul C). Am adăugat un al patrulea modul (D) Absolvire, pentru a permite studenților să arate că pot rezolva în mod independent provocările propuse de industrie pe baza nevoilor și cerințelor actuale legate de domeniul inteligenței artificiale centrate pe om.

Acest lucru este vizualizat în tabelul de mai jos.

Această pagină conține toate evenimentele de învățare care alcătuiesc Maestrul de Inteligență Artificială centrată pe om. Toate evenimentele de învățare, inclusiv materialul lor de studiu însoțitor, vor fi puse la dispoziție în limba engleză pe site-ul HCAIM și pot fi traduse în oricare dintre limbile UE utilizând instrumentul de traducere electronică al Uniunii Europene. În scopul acestei previzualizări, un eveniment de învățare din modulul A, un eveniment de învățare din modulul B, două evenimente de învățare ale modulului C și Orientările pentru teză, precum și două exemple de subiecte de teză sunt deja disponibile în limba engleză pe această pagină de previzualizare (și pot fi traduse în oricare dintre limbile UE utilizând instrumentul de traducere electronică al Uniunii Europene).

În plus, prezentarea generală a programului HCAIM, Modulul A Obiective de învățare, modulul A Prezentare generală a planurilor de lecții, precum și modulul Un eveniment de învățare „Lectură – Introducere în IA centrată pe om” sunt deja disponibile în toate limbile UE prin intermediul acestei pagini de previzualizare.  Pentru a vedea traducerile acestor părți ale programului HCAIM, vă rugăm să selectați oricare dintre limbile individuale din partea de jos a acestei pagini.

Toate materialele sunt disponibile sub licența Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

Primul modul, și anume Modelling (Modulul A), se concentrează pe prima fază a ciclului de viață al MLOps și este legat de cel mai scăzut nivel de maturitate al aplicării Machine Learning (ML) în organizații: datele de modelare. Aceasta include activitățile care stau la baza aplicării ML, cum ar fi extragerea datelor, analiza datelor, pregătirea datelor, formarea modelelor și validarea și evaluarea (în principal manuală) a modelului.

În această fază, accentul se pune pe analizarea și modelarea corectă a datelor pentru a atinge obiectivele de afaceri și se utilizează într-o mică măsură automatizarea (de exemplu, CI/CD), care este adăugată doar în a doua fază a MLOps (Deployment – Modulul B). Activitățile de modelare sunt adesea caracterizate prin metoda manuală, bazată pe scripturi și interactivă prin care se efectuează analiza datelor, pregătirea, formarea modelului și validarea. Pentru a menține o imagine de ansamblu a diferitelor modele, parametri și opțiuni care sunt experimentate, se utilizează urmărirea experimentelor.

Din punct de vedere etic, în faza de modelare este important să se dedice suficient timp și atenție descoperirii obiectivelor clientului, cartografierii părților interesate și explorării modului în care sunt afectate valorile individuale ale acestor părți interesate (și recunoașterii posibilelor conflicte dintre acestea). Aspecte precum transparența, incluziunea, securitatea și confidențialitatea sunt de mare importanță în acest sens. Desigur, trebuie să se acorde atenție și dezirabilității sociale și morale a obiectivelor clientului. În plus, este important să se conștientizeze (în timp util) posibilele prejudecăți/prejudiciu în datele disponibile, să se recunoască posibilele consecințe ale acestor prejudecăți și să se găsească măsuri de atenuare pentru a face față acestor prejudecăți.

Implementarea modulului (modulul B) se concentrează asupra celei de-a doua faze a ciclului de dezvoltare MLOps; desfășurarea. După faza de explorare a datelor de modelare (vezi Modulul A – Modelling), vine integrarea soluției ML în sistemele de afaceri. Acum este important să începem să ne gândim la arhitectura ML și la modul în care aceasta se joacă împreună cu sistemele existente (legacy). Pentru a beneficia în mod real de soluțiile ML automatizate, trebuie introduse conducte; pe de o parte, pentru a putea face față furnizării continue și în timp real de date (prelucrare în flux) și, pe de altă parte, pentru a lega rezultatele modelului ML de alte sisteme.

În plus, modulul B îmbunătățește complexitatea tehnologiei IA prin trecerea la (utilizarea) rețelelor neuronale și a învățării profunde. Un avantaj major al acestor modele mai complexe este că sunt mai flexibile și mai versatile decât tehnicile introduse în modulul A – Modelling. Cu toate acestea, dezavantajele importante ale acestor tehnici sunt că acestea sunt mai complexe (de înțeles și configurat) și opace. Aceasta reprezintă o dilemă etică importantă în utilizarea tehnicilor IA (avansate): cum înțelegeți în continuare ce calculează soluția AI și dacă acest lucru se face în mod corect? O mai mare transparență a implementării soluțiilor IA și capacitatea de a determina riscurile posibile și de a atenua aceste riscuri sunt teme (sociale) importante în acest modul.

Modulul de evaluare (modulul C) se axează pe aspectele de evaluare ale dezvoltării IA, incluzând atât aspectele societale ale unui produs de IA, cât și pe dezvoltarea unei aprecieri a potențialelor direcții viitoare pe care le poate lua IA, analizând tendințele tehnologice; IA responsabilă din punct de vedere social; conformitatea, precum și asigurarea faptului că elementul uman este întotdeauna prezent în proiectarea, dezvoltarea și evaluarea sistemelor IA.

Ca parte a viitorului IA, se discută o explorare a nivelului de adoptare a IA în diferite industrii, precum și modul în care IA este adaptată pentru diferite domenii. Analiza IA responsabilă din punct de vedere social include modul în care IA afectează indivizii și diferitele grupuri din societate. Și, ca parte esențială a modulului, se pune accentul pe legi, politici și coduri de conduită legate de IA (cu accent pe aspecte precum explicabilitatea și încrederea), precum și pe controlul calității și procesele de management al calității, pentru a evalua rezultatele inițiativelor IA.

Modulul deAbsolvire (Modulul D) reflectă principiul de bază al programului HCAIM, care este construit pe conceptul de învățare bazată pe proiecte (PBL). Scopul acestui modul este de a poziționa proiectul de absolvire (făcând un produs profesional) central în traiectoria de învățare a elevului. Ca parte a proiectului lor de absolvire (teza de masterat), studenții arată că pot rezolva în mod independent provocările propuse de industrie pe baza nevoilor și cerințelor actuale, luând în considerare atât aspectele tehnice, cât și aspectele etice ale problemei în cauză.

Fiecare teză este considerată local, cu un supraveghetor intern (un profesor de la Universitatea în care studentul urmează gradul) și un supraveghetor extern aparținând părții care propune teza (dacă există). Acest ultim aspect, deși nu este obligatoriu, este urmărit în mod riguros. Partea care formulează propunerea poate fi un IMM, un centru de excelență sau o altă universitate, atât la nivel național, cât și internațional. Se așteaptă ca părțile care formulează propuneri să furnizeze atât teza națională, cât și cea internațională (și anume, o teză organizată cu o universitate din aceeași țară sau dintr-o țară străină).

• Subiectul tezei Exemplu 1: Atacuri de evaziune împotriva detectoarelor malware bazate pe ML
• Thesis Topic Exemplu 2: PICO-ML: Calculul definit al conductelor și rolul IA continue în acesta
• Thesis Topic Exemplu 3: Investigarea lui Bias în modele NLP pre-antrenate