Programme Preview (RO)

Prezentare generală a programului

În scopul nostru de a crea un program de masterat AI centrat pe om, Consorțiul HCAIM urmează definiția AI HLEG: „Abordarea centrată pe factorul uman a IA se străduiește să se asigure că valorile umane sunt esențiale pentru modul în care sistemele IA sunt dezvoltate, implementate, utilizate și monitorizate, asigurând respectarea drepturilor fundamentale.”

Pentru a răspunde cerințelor acestei definiții, programul acoperă elementele tehnice, etice și practice ale inteligenței artificiale. Am proiectat conținutul nostru în jurul celor trei faze ale ciclului de viață MLOps – dezvoltarea, implementarea și întreținerea modelelor de învățare automată, producând astfel trei module de bază în conformitate cu fazele ML-Ops menționate mai sus: Modelare (modulul A), implementare (modulul B) și evaluare (modulul C). Am adăugat un al patrulea modul (D) Absolvire, pentru a permite studenților să arate că pot rezolva în mod independent provocările propuse de industrie pe baza nevoilor și cerințelor actuale legate de domeniul inteligenței artificiale centrate pe om.

Acest lucru este vizualizat în tabelul de mai jos.

	Modulul A	Modulul B	Modulul C	Modulul D
Tehnică	Fundamentele IA	Inteligență artificială avansată: Învățare profundă	Viitorul AI	Proiectul tezei de master
Practică	Modelarea AI	Ai în acțiune: IA organizațională	IA responsabilă din punct de vedere social
Etică	Fundamente de etică	Ai de încredere	Conformitate, legalitate și umanitate

Această pagină conține scurta descriere a modulelor definite în Maestrul Inteligenței Artificiale centrate pe om. Toate evenimentele de învățare, inclusiv materialul de studiu însoțitor, sunt disponibile pe site-ul HCAIM al Wikiwijs.

Descrierile evenimentului educațional au fost traduse în toate cele 24 de limbi oficiale ale UE utilizând instrumentul eTranslation al Uniunii Europene și sunt disponibile pe listele atribuite limbilor. Rețineți că traducerile nu sunt revizuite de niciun lector.

Toate materialele sunt disponibile sub licența Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

Conținutul programului Access

Accesați Descrierile evenimentelor de învățare tradusă

Modelare (Modulul A)

Primul modul, și anume Modelling (Modulul A), se concentrează pe prima fază a ciclului de viață al MLOps și este legat de cel mai scăzut nivel de maturitate al aplicării Machine Learning (ML) în organizații: datele de modelare. Aceasta include activitățile care stau la baza aplicării ML, cum ar fi extragerea datelor, analiza datelor, pregătirea datelor, formarea modelelor și validarea și evaluarea (în principal manuală) a modelului.

În această fază, accentul se pune pe analizarea și modelarea corectă a datelor pentru a atinge obiectivele de afaceri și se utilizează într-o mică măsură automatizarea (de exemplu, CI/CD), care este adăugată doar în a doua fază a MLOps (Deployment – Modulul B). Activitățile de modelare sunt adesea caracterizate prin metoda manuală, bazată pe scripturi și interactivă prin care se efectuează analiza datelor, pregătirea, formarea modelului și validarea. Pentru a menține o imagine de ansamblu a diferitelor modele, parametri și opțiuni care sunt experimentate, se utilizează urmărirea experimentelor.

Din punct de vedere etic, în faza de modelare este important să se dedice suficient timp și atenție descoperirii obiectivelor clientului, cartografierii părților interesate și explorării modului în care sunt afectate valorile individuale ale acestor părți interesate (și recunoașterii posibilelor conflicte dintre acestea). Aspecte precum transparența, incluziunea, securitatea și confidențialitatea sunt de mare importanță în acest sens. Desigur, trebuie să se acorde atenție și dezirabilității sociale și morale a obiectivelor clientului. În plus, este important să se conștientizeze (în timp util) posibilele prejudecăți/prejudiciu în datele disponibile, să se recunoască posibilele consecințe ale acestor prejudecăți și să se găsească măsuri de atenuare pentru a face față acestor prejudecăți.

Rezultate de învățare

Studentul evaluează diferite tehnici ML pentru a face o alegere bine fondată, potrivind cerințele dobândite ale clientului și implementând un prototip al tehnicii ML alese pentru a consilia cu privire la rezolvarea unei probleme date de modelare a datelor.
Rezultate de învățare 1

Studentul argumentează, folosind cadre etice fundamentale, modul în care dilemele morale pot fi rezolvate și evaluează posibilele consecințe ale prejudecăților existente în date și influența atenuărilor concepute pentru a contracara consecințele acestor prejudecăți.
Rezultate de învățare 2

Studentul aplică metode de cercetare cantitative și calitative pentru a-și fundamenta științific alegerile în timpul considerațiilor etice și al realizării prototipului.
Rezultate de învățare 3

Implementare (modulul B)

Implementarea modulului (modulul B) se concentrează asupra celei de-a doua faze a ciclului de dezvoltare MLOps; desfășurarea. După faza de explorare a datelor de modelare (vezi Modulul A – Modelling), vine integrarea soluției ML în sistemele de afaceri. Acum este important să începem să ne gândim la arhitectura ML și la modul în care aceasta se joacă împreună cu sistemele existente (legacy). Pentru a beneficia în mod real de soluțiile ML automatizate, trebuie introduse conducte; pe de o parte, pentru a putea face față furnizării continue și în timp real de date (prelucrare în flux) și, pe de altă parte, pentru a lega rezultatele modelului ML de alte sisteme.

În plus, modulul B îmbunătățește complexitatea tehnologiei IA prin trecerea la (utilizarea) rețelelor neuronale și a învățării profunde. Un avantaj major al acestor modele mai complexe este că sunt mai flexibile și mai versatile decât tehnicile introduse în modulul A – Modelling. Cu toate acestea, dezavantajele importante ale acestor tehnici sunt că acestea sunt mai complexe (de înțeles și configurat) și opace. Aceasta reprezintă o dilemă etică importantă în utilizarea tehnicilor IA (avansate): cum înțelegeți în continuare ce calculează soluția AI și dacă acest lucru se face în mod corect? O mai mare transparență a implementării soluțiilor IA și capacitatea de a determina riscurile posibile și de a atenua aceste riscuri sunt teme (sociale) importante în acest modul.

Rezultate de învățare

Studentul evaluează opțiunile posibile pentru integrarea unei tehnici AI avansate, cum ar fi învățarea profundă și/sau consolidarea și autorii unui raport de o pagină bazat pe un prototip care a fost dezvoltat ținând seama de limitările și influențele asupra sistemelor TIC existente și a facilităților de date ale clientului, care au fost obținute în colaborare, de exemplu, cu arhitecți sau dezvoltatori TIC.
Rezultate de învățare 1

Studentul evaluează riscul potențial implicat și testează gradul de transparență (inclusiv interpretabilitatea, reproductibilitatea și explicabilitatea) unei implementări AI/ML alese și proiectează soluții utilizând tehnici care sporesc înțelegerea și transparența în rândul părților interesate (așa-numitele tehnici de IA Explicabile (XAI)) pentru a remedia deficiențele în acest sens în comparație cu cerințele sociale și specifice clientului.
Rezultate de învățare 2

Studentul formulează un proiect de cercetare pentru un proiect de cercetare solid din punct de vedere științific (orientat spre practică) legat de un caz de companie prin formularea unei întrebări relevante, consecvente, funcționale de cercetare, luând în considerare metodele de cercetare aplicate care urmează să fie utilizate și stabilind un cadru teoretic precis, relevant și critic.
Rezultate de învățare 3

Evaluare (modulul C)

Modulul de evaluare (modulul C) se axează pe aspectele de evaluare ale dezvoltării IA, incluzând atât aspectele societale ale unui produs de IA, cât și pe dezvoltarea unei aprecieri a potențialelor direcții viitoare pe care le poate lua IA, analizând tendințele tehnologice; IA responsabilă din punct de vedere social; conformitatea, precum și asigurarea faptului că elementul uman este întotdeauna prezent în proiectarea, dezvoltarea și evaluarea sistemelor IA.

Ca parte a viitorului IA, se discută o explorare a nivelului de adoptare a IA în diferite industrii, precum și modul în care IA este adaptată pentru diferite domenii. Analiza IA responsabilă din punct de vedere social include modul în care IA afectează indivizii și diferitele grupuri din societate. Și, ca parte esențială a modulului, se pune accentul pe legi, politici și coduri de conduită legate de IA (cu accent pe aspecte precum explicabilitatea și încrederea), precum și pe controlul calității și procesele de management al calității, pentru a evalua rezultatele inițiativelor IA.

Rezultate de învățare

Studentul dezvoltă o apreciere a abordărilor de ultimă oră ale AI și machine learning, precum și o înțelegere a modului în care inteligența artificială este utilizată în diferite domenii și cum să evalueze direcțiile potențiale de inteligență artificială ar putea merge în viitor.
Rezultate de învățare 1

Studentul prezintă o abordare bine definită a scanării consecințelor, luând în considerare aspecte cum ar fi evaluarea impactului potențial pe care noua tehnologie l-ar putea avea asupra indivizilor și societății, concentrându-se în special pe minorități și grupuri marginalizate, precum și potențialele impacturi asupra mediului.
Rezultate de învățare 2

Studentul demonstrează capacitatea de a utiliza o metodologie de cercetare complet articulată, cu etică încorporată în toate etapele, cu o conștientizare a naturii contextuale a abordărilor specifice care ar trebui utilizate, care vor fi informate de studiile de caz acoperite în acest modul.
Rezultate de învățare 3

Absolvire (modulul D)

Modulul deAbsolvire (Modulul D) reflectă principiul de bază al programului HCAIM, care este construit pe conceptul de învățare bazată pe proiecte (PBL). Scopul acestui modul este de a poziționa proiectul de absolvire (făcând un produs profesional) central în traiectoria de învățare a elevului. Ca parte a proiectului lor de absolvire (teza de masterat), studenții arată că pot rezolva în mod independent provocările propuse de industrie pe baza nevoilor și cerințelor actuale, luând în considerare atât aspectele tehnice, cât și aspectele etice ale problemei în cauză.

Fiecare teză este considerată local, cu un supraveghetor intern (un profesor de la Universitatea în care studentul urmează gradul) și un supraveghetor extern aparținând părții care propune teza (dacă există). Acest ultim aspect, deși nu este obligatoriu, este urmărit în mod riguros. Partea care formulează propunerea poate fi un IMM, un centru de excelență sau o altă universitate, atât la nivel național, cât și internațional. Se așteaptă ca părțile care formulează propuneri să furnizeze atât teza națională, cât și cea internațională (și anume, o teză organizată cu o universitate din aceeași țară sau dintr-o țară străină).

Rezultate de învățare

Studentul recunoaște și reflectă asupra ciclului de viață al IA într-un context realist, informat în industrie și în diverse locații, scenarii și cazuri de utilizare.
Rezultate de învățare 1

Studentul demonstrează o atitudine robustă și validă de cercetare printr-un proiect cu o abordare interdisciplinară bine definită, producând soluții relevante din punct de vedere tehnologic și relevante din punct de vedere tehnologic, evaluând în același timp impactul potențial al muncii lor asupra indivizilor și societății.
Rezultate de învățare 2

Studentul demonstrează o atitudine profesională în ceea ce privește comunicarea cu părțile interesate relevante (de exemplu, mentori, consilieri, colegi și clienți), o atitudine analitică, etica muncii, competența de planificare, proactivitatea și conștiința de sine
Rezultate de învățare 3

Linii directoare pentru teză

HCAIM Teza Propune Linii directoare

Aceste orientări sunt menite să sprijine părțile care intenționează să propună o nouă teză.

HCAIM Thesis șablon

Vizualizați șablonul de teză HCAIM aici.

Orientări etice pentru tezele HCAIM

Plagiatul, fabricarea datelor și manipularea imaginilor

Plagiatul nu este acceptabil. Plagiatul include copierea textului, ideilor, imaginilor sau datelor dintr-o altă sursă, inclusiv publicațiile proprii, fără a da credit sursei originale.

Reutilizarea textului copiat dintr-o altă sursă trebuie să fie între ghilimele și sursa originală trebuie citată. Dacă studiile anterioare au inspirat designul unui studiu sau structura sau limba manuscrisului, aceste studii trebuie citate în mod explicit.

Fișierele imagine nu trebuie să fie manipulate sau ajustate în niciun fel care ar putea duce la o interpretare greșită a informațiilor furnizate de imaginea originală. Manipularea neregulată include 1) introducerea, îmbunătățirea, mutarea sau eliminarea caracteristicilor din imaginea originală, 2) gruparea imaginilor care trebuie prezentate separat sau 3) modificarea contrastului, a luminozității sau a echilibrului de culori pentru a ascunde, elimina sau îmbunătăți anumite informații.

Rezultatele prezentate nu trebuie să fie selectate, manipulate, îmbunătățite sau fabricate în mod necorespunzător. Aceasta include 1) excluderea punctelor de date pentru a spori importanța concluziilor, 2) fabricarea de date, 3) selectarea rezultatelor care susțin o anumită concluzie în detrimentul datelor contradictorii, 4) selectarea deliberată a instrumentelor de analiză sau a metodelor pentru a susține o anumită concluzie (inclusiv p-hacking).

Cercetare care implică subiecți umani, animale sau plante

Atunci când raportează cu privire la cercetările care implică subiecți umani, materiale umane, țesuturi umane sau date umane, partea care formulează propuneri trebuie să se asigure că investigațiile au fost efectuate în conformitate cu normele Declarației de la Helsinki din 1975, revizuită în 2013. Orice consecință asociată cu încălcarea acestui aspect va fi imputată în totalitate părții care formulează propunerea și nici consorțiului HCAIM, nici studentului.

Tezele, care lucrează cu liniile celulare, ar trebui să indice originea oricărei linii celulare. Pentru liniile celulare stabilite, ar trebui să se precizeze proveniența, iar referințele trebuie să fie, de asemenea, furnizate la o lucrare publicată sau la o sursă comercială. În cazul în care au fost utilizate linii celulare de novo nepublicate anterior, inclusiv cele oferite de un alt laborator, trebuie să se dea detalii cu privire la comisia de examinare instituțională sau la comitetul de etică și trebuie să se furnizeze confirmarea consimțământului scris în cunoștință de cauză în cazul în care linia este de origine umană.

Toate subiectele potențial derivate din orice cercetare care cauzează daune animalelor sunt interzise. Toate orientările aplicate oamenilor ar trebui respectate (dacă este posibil) și pentru animale.

Cercetarea experimentală asupra plantelor (fie cultivate, fie sălbatice), inclusiv colectarea de material vegetal, trebuie să respecte orientările instituționale, naționale sau internaționale. Recomandăm ca acestea să respecte Convenția privind diversitatea biologică și Convenția privind comerțul cu specii ale faunei și florei sălbatice pe cale de dispariție.

Sex, gen, etică, religie și alte prejudecăți în cercetare

Comisia este încurajată să urmeze orientările „Sex and Gender Equity in Research – SAGER – Guidelines” și să includă considerente legate de sex și de gen, acolo unde este cazul. Termenii sex (atribut biologic) și sex (formați de circumstanțe sociale și culturale) ar trebui utilizați cu atenție pentru a evita confuzia ambilor termeni. Teza ar trebui, de asemenea, să descrie (în „context”) dacă se pot aștepta diferențe de sex și/sau de gen; să raporteze modul în care sexul și/sau genul au fost luate în considerare în conceperea studiului; furnizează date defalcate în funcție de sex și/sau de gen, după caz; și discutați rezultatele respective. În cazul în care nu s-a efectuat o analiză a sexului și/sau a genului, raționamentul trebuie prezentat în cadrul discuției.

Considerații similare se aplică tuturor celorlalte forme de părtinire, inclusiv (și fără a se limita la) etnie și religie. Pentru prima, reamintim că oamenii nu au rase, ci doar etnii.

Dacă teza se concentrează pe părtinire, rațiunea din spatele ei trebuie clarificată de la început.

Conflictul de interese

Elevii trebuie să evite încheierea de acorduri cu sponsorii studiului, atât pentru scop lucrativ, cât și non-profit, care interferează cu accesul la toate datele studiului sau care interferează cu capacitatea lor de a analiza și interpreta datele și de a pregăti teza în mod independent atunci când și unde aleg.

Elevii trebuie să identifice și să declare orice circumstanțe personale sau interese care pot fi percepute ca având o influență inadecvată asupra reprezentării sau interpretării rezultatelor cercetării raportate. Exemple de potențiale conflicte de interese includ, dar nu se limitează la interesele financiare (cum ar fi calitatea de membru, ocuparea forței de muncă, consultanța, proprietatea asupra stocurilor/acțiunilor, onoraria, granturile sau alte finanțări, mărturiile plătite ale experților și acordurile de acordare a licențelor de brevete) și interesele nefinanciare (cum ar fi relațiile personale sau profesionale, afilierea, convingerile personale).

Orice rol al sponsorilor de finanțare în proiectarea studiului, în colectarea, analiza sau interpretarea datelor, în scrierea manuscrisului sau în decizia de publicare a rezultatelor trebuie declarat în prealabil.

Politici de citare

Elevii ar trebui să se asigure că, în cazul în care materialul este preluat din alte surse (inclusiv propria lor scriere publicată), sursa este citată în mod clar și unde se obține permisiunea corespunzătoare.
Elevii nu ar trebui să se angajeze în auto-citarea excesivă a propriei lor activități.
Elevii nu ar trebui să copieze referințele din alte publicații dacă nu au citit lucrarea citată.
Elevii nu ar trebui să citeze în mod preferențial publicațiile proprii sau ale prietenilor, colegilor sau instituțiilor.
Elevii nu ar trebui să citeze reclame sau materiale advertoriale.

Orientări etice pentru evaluatori

Potențiale conflicte de interese

Recenzorii sunt rugați să informeze consiliul de administrație al HCAIM în cazul în care se află într-un conflict de interese care poate prejudicia raportul de examinare, fie pozitiv, fie negativ. Comitetul va verifica cât mai exact posibil înainte de a invita recenzorii; cu toate acestea, cooperarea evaluatorilor în această privință este așteptată și apreciată.

Confidențialitatea și anonimatul

Recenzorii trebuie să păstreze conținutul tezei, inclusiv rezumatul, confidențial. Aceștia trebuie să informeze consiliul HCAIM dacă doresc ca un coleg să finalizeze revizuirea în numele lor.

Matricea riscurilor și planul de atenuare a riscurilor pentru tezele HCAIM

Acest șablon permite supraveghetorului să sprijine elevul în identificarea și tratarea problemelor. În același timp, o parte care propune teza va fi invitată să compileze acest model.

Toate etapele și rezultatele pentru finalizarea proiectului de cercetare propus ar trebui incluse în propunerea de proiect. Elevii sunt, de asemenea, obligați să pregătească o matrice de risc care include riscuri care ar putea pune în pericol atingerea acestor rezultate și să furnizeze planuri de urgență pentru a atenua riscurile subliniate. Un exemplu de matrice de risc și de plan de diminuare a riscurilor este prezentat mai jos. Vă rugăm să includeți riscuri suplimentare, dacă este necesar:

Risc	Severitate	Probabilitate	Atenuarea
Nu a reușit să colecteze datele țintă în timp util	Înaltă	Scăzut	Proiectul va începe să examineze resursele disponibile în mod deschis. Investigarea opțiunilor de a obține date publice sintetice sau predisponibile similare datelor țintă.
Finanțare insuficientă pentru resurse	Mediu	Mediu	Se vor căuta surse alternative de finanțare.
Cercetare/obiective de proiect excesiv de ambițioase	Mediu	Scăzut	Revizuiți periodic obiectivele proiectului și regularizați rezultatele proiectului pe baza procesului de revizuire.
(Overly) Cantități mari de formare suplimentară necesară	Mediu	Scăzut	Aprobarea prealabilă va fi luată. Obiectivele proiectului vor fi actualizate în funcție de timpul și resursele utilizate pentru această formare suplimentară.
Pierderea datelor	Mediu	Scăzut	Studentul va urma proceduri de rezervă adecvate pentru a minimiza riscul.

Exemple de subiecte de teză

Sari la conținut