Pregled programa

U našem cilju stvaranja magistarskog programa za umjetnu inteligenciju usmjerenog na ljude, konzorcij HCAIM slijedi definiciju HLEG-a za umjetnu inteligenciju: „Pristup umjetnoj inteligenciji usmjeren na čovjeka nastoji osigurati da su ljudske vrijednosti ključne za razvoj, uvođenje, upotrebu i praćenje UI sustava osiguravanjem poštovanja temeljnih prava.

Kako bi se odgovorilo na zahtjeve ove definicije, program obuhvaća tehničke, etičke i praktične elemente umjetne inteligencije. Osmislili smo naš sadržaj oko tri faze životnog ciklusa MLOps- a – razvoja, uvođenja i održavanja modela strojnog učenja, čime smo stvorili tri osnovna modula u skladu s gore navedenim fazama ML-Ops: Modeliranje (modul A), uvođenje (modul B) i evaluacija (modul C). Dodali smo četvrti modul (D)diplomaciju kako bismo studentima omogućili da pokažu da mogu samostalno rješavati izazove koje predlaže industrija na temelju trenutnih potreba i zahtjeva vezanih uz područje umjetne inteligencije usmjerene na čovjeka.

To je prikazano u tablici ispod.

Modul A Modul B Modul C Modul D
Tehnički

Temelji umjetne inteligencije

Napredna umjetna inteligencija:
Duboko učenje
Buduća umjetna inteligencija

Diplomski rad Projekt

Praktična primjena Modeliranje umjetne inteligencije Umjetna inteligencija na djelu:
Organizacijska umjetna inteligencija
Društveno odgovorna umjetna inteligencija
Etička Osnove etike Pouzdana umjetna inteligencija Usklađenost, zakonitost i humanost

Ova stranica sadrži kratak opis modula definiranih u magisteriju umjetne inteligencije usmjerenog na čovjeka. Svi događaji učenja, uključujući popratne materijale za učenje, dostupni su na internetskoj stranici HCAIM-a na portalu wikiwijs.

Opisi događaja učenja prevedeni su na sva 24 službena jezika EU-a s pomoću alata Europske unije eTranslation i dostupni su s popisa dodijeljenih tim jezicima. Imajte na umu da prijevode ne pregledavaju predavači.

Svi materijali dostupni su pod licencom Creative Commons Imenovanje-Nekomercijalno-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

Modeliranje (Modul A)

Prvi modul, odnosno Modeliranje (Modul A), usredotočuje se na prvu fazu životnog ciklusa MLOps-a i odnosi se na najnižu razinu zrelosti primjene strojnog učenja u organizacijama: podaci o modeliranju. Uključuje aktivnosti na kojima se temelji primjena ML-a, kao što su vađenje podataka, analiza podataka, priprema podataka, obuka modela i (uglavnom ručna) validacija i evaluacija modela.

U ovoj fazi naglasak je na ispravnoj analizi i modeliranju podataka kako bi se postigli poslovni ciljevi, a malo se koristi automatizacija (npr. CI/CD), koja se dodaje tek u drugoj fazi MLOps-a (Uvođenje – modul B). Aktivnosti modeliranja često su karakterizirane priručnikom, scenarijem i interaktivnom metodom kojom se provode analiza podataka, priprema, obuka modela i validacija. Za održavanje pregleda različitih modela, parametara i izbora s kojima se eksperimentira koristi se praćenje eksperimenta.

Iz etičke perspektive važno je u fazi modeliranja posvetiti dovoljno vremena i pozornosti pronalaženju ciljeva klijenta, mapiranju dionika i istraživanju utjecaja na pojedinačne vrijednosti tih dionika (i prepoznavanju mogućih sukoba među njima). Aspekti kao što su transparentnost, uključenost, sigurnost i privatnost od velike su važnosti u tome. Naravno, pozornost treba posvetiti i društvenoj i moralnoj poželjnosti klijentovih ciljeva. Osim toga, važno je (pravodobno) imati svijest o mogućim predrasudama/predrasudama u dostupnim podacima, prepoznati moguće posljedice tih predrasuda i pronaći ublažavanje tih predrasuda.

Rezultati učenja

  • Student procjenjuje različite ML tehnike kako bi napravio dobro utemeljen izbor, odgovarajući stečene zahtjeve kupca i implementacijom prototipa odabrane ML tehnike za savjetovanje o rješavanju određenog problema modeliranja podataka.
  • Rezultati učenja 1
  • Student tvrdi, koristeći temeljne etičke okvire, kako se moralne dileme mogu riješiti i procjenjuje moguće posljedice postojećih pristranosti u podacima i utjecaj dizajniranih ublažavanja kako bi se suzbile posljedice tih pristranosti.
  • Učenje ishod 2
  • Student primjenjuje kvantitativne i kvalitativne istraživačke metode kako bi znanstveno potkrijepio svoje izbore tijekom etičkog razmatranja i izrade prototipa.
  • Učenje ishoda 3

Uvođenje (modul B)

Modul uvođenja (modul B) usmjeren je na drugu fazu razvojnog ciklusa MLOps-a; razmještaj. Nakon faze istraživanja podataka (vidi Modul A – Modeliranje), dolazi integracija ML rješenja u poslovne sustave. Sada je važno početi razmišljati o ML arhitekturi i kako se igra zajedno s postojećim sustavima (naslijeđe). Kako bi se ostvarila stvarna korist od automatiziranih ML rješenja, potrebno je uvesti cjevovode; s jedne strane, kako bi se mogli nositi s kontinuiranim i živim zalihama podataka (stream processing), a s druge strane, povezati rezultate modela ML s drugim sustavima.

Osim toga, modulom B povećava se složenost tehnologije umjetne inteligencije prelaskom na (upotrebu) neuronskih mreža i dubinskim učenjem. Glavna prednost ovih složenijih modela je što su fleksibilniji i svestraniji od tehnika uvedenih u modulu A – Modeliranje. Međutim, važni nedostaci tih tehnika su da su složeniji (razumijevati i konfigurirati) i neprozirni. U njoj se nalazi važna etička dilema u primjeni (naprednih) tehnika umjetne inteligencije: kako još uvijek razumijete što AI rješenje izračunava i je li to učinjeno na pravi način? U ovom su modulu važne (socijalne) teme uvođenja rješenja umjetne inteligencije i mogućnosti utvrđivanja mogućih rizika i ublažavanja tih rizika.

Rezultati učenja

  • Student procjenjuje moguće izbore za integraciju napredne tehnike umjetne inteligencije, kao što je Deep and/ili Reinforcement Learning, te sastavlja izvješće na jednoj stranici koje se temelji na prototipu koji je razvijen uzimajući u obzir ograničenja i utjecaje na postojeće sustave IKT-a i podatkovne objekte korisnika, koji su dobiveni u suradnji s, primjerice, arhitektima ili programerima IKT-a.
  • Rezultati učenja 1
  • Student procjenjuje potencijalni uključeni rizik i ispituje stupanj transparentnosti (uključujući interpretabilnost, obnovljivost i objašnjivost) odabrane primjene umjetne inteligencije/ML-a i osmišljava rješenja primjenom tehnika kojima se povećava uvid i transparentnost među dionicima (takozvane tehnike objašnjive umjetne inteligencije (XAI)) kako bi se otklonili nedostaci u tom pogledu u usporedbi sa socijalnim zahtjevima i zahtjevima specifičnima za korisnike.
  • Učenje ishod 2
  • Student formulira istraživački dizajn za znanstveno dobar (praktički orijentiran) istraživački projekt vezan uz slučaj poduzeća formulirajući relevantno, dosljedno, funkcionalno istraživačko pitanje, uzimajući u obzir primijenjene metode istraživanja koje će se koristiti i uspostavljajući precizan, relevantan i kritički teorijski okvir.
  • Učenje ishoda 3

Evaluacija (modul C)

Modul za evaluaciju (Modul C) usmjeren je na aspekte evaluacije razvoja umjetne inteligencije, uključujući društvene aspekte proizvoda umjetne inteligencije, i razvoj uvažavanja mogućih budućih smjerova kojima bi se umjetna inteligencija mogla kretati, uzimajući u obzir tehnološke trendove; društveno odgovorna umjetna inteligencija; usklađenost, kao i osiguravanje da ljudski element bude sveprisutan u dizajnu, razvoju i evaluaciji UI sustava.

U okviru budućnosti umjetne inteligencije raspravlja se o istraživanju razine uvođenja umjetne inteligencije u različitim industrijama, kao i o tome kako se umjetna inteligencija prilagođava različitim područjima. Razmatranje društveno odgovorne umjetne inteligencije uključuje način na koji umjetna inteligencija utječe na pojedince i različite skupine u društvu. Kao ključni dio modula naglasak je na zakonima, politikama i kodeksima ponašanja povezanima s umjetnom inteligencijom (s naglaskom na pitanjima kao što su objašnjivost i povjerenje), kao i na postupcima kontrole kvalitete i upravljanja kvalitetom kako bi se ocijenili rezultati inicijativa za umjetnu inteligenciju.

Rezultati učenja

  • Student razvija uvažavanje najsuvremenijih pristupa umjetnoj inteligenciji i strojnom učenju, kao i razumijevanje načina na koji se umjetna inteligencija koristi u različitim područjima i kako procijeniti potencijalne smjerove umjetne inteligencije u budućnosti.
  • Rezultati učenja 1
  • Student pokazuje dobro definiran pristup skeniranju posljedica, uzimajući u obzir pitanja kao što su procjena potencijalnog utjecaja nove tehnologije na pojedince i društvo, s posebnim naglaskom na manjine i marginalizirane skupine, kao i potencijalne utjecaje na okoliš.
  • Učenje ishod 2
  • Student pokazuje sposobnost primjene potpuno artikulirane istraživačke metodologije s etikom ugrađenom u svim fazama, uz svijest o kontekstualnoj prirodi specifičnih pristupa koji bi se trebali koristiti, a koji će se temeljiti na studijama slučaja obuhvaćenima ovim modulom.
  • Učenje ishoda 3

Diplomacija (Modul D)

Modul diplomskogstudija (Modul D) odražava temeljno načelo HCAIM programa koji se temelji na konceptu učenja temeljenog na projektima (PBL). Cilj ovog modula je pozicionirati diplomski projekt (izrada profesionalnog proizvoda) centralno u smjeru učenja učenika. U sklopu diplomskog rada studenti pokazuju da mogu samostalno rješavati izazove koje predlaže industrija na temelju trenutnih potreba i zahtjeva, uzimajući u obzir tehničke i etičke aspekte problema.

Svaki diplomski rad razmatra se lokalno, s internim nadzornikom (profesorom sa Sveučilišta u kojem student pohađa diplomu) i vanjskim nadzornikom koji pripada stranci koja predlaže rad (ako postoji). Taj se posljednji aspekt, unatoč tome što nije obvezan, strogo slijedi. Stranka predlagateljica može biti MSP, centar izvrsnosti ili drugo sveučilište na nacionalnoj i međunarodnoj razini. Očekuje se da će stranke predlagati rad na nacionalnoj i međunarodnoj razini (tj. rad organiziran u suradnji sa Sveučilištem iz iste zemlje ili iz inozemstva).

Rezultati učenja

  • Student prepoznaje i razmišlja o životnom ciklusu umjetne inteligencije u realističnom kontekstu informiranom o industriji te na različitim lokacijama, scenarijima i slučajevima upotrebe.
  • Rezultati učenja 1
  • Student pokazuje robustan i valjan istraživački stav kroz projekt s dobro definiranim interdisciplinarnim pristupom koji proizvodi industrijska i tehnološki kompetentna rješenja, uz procjenu potencijalnog utjecaja njihovog rada na pojedince i društvo.
  • Učenje ishod 2
  • Student pokazuje profesionalni stav prema komunikaciji s relevantnim dionicima (npr. mentorima, savjetnicima, kolegama i klijentima), analitički stav, etos rada, sposobnost planiranja, proaktivnost i samosvijest
  • Učenje ishoda 3

Smjernice za rad

HCAIM diplomski rad Smjernice

 

Svrha ovih smjernica je podržati stranke koje namjeravaju predložiti novi rad.

Predložak HCAIM teze

 

Pogledajte predložak HCAIM teze ovdje.

Etičke smjernice za HCAIM teze

 

Plagijat, izrada podataka i manipulacija slikama

Plagijat nije prihvatljiv. Plagijat uključuje kopiranje teksta, ideja, slika ili podataka iz drugog izvora, uključujući vlastite publikacije, bez davanja priznanja izvornom izvoru.

Ponovno korištenje teksta kopiranog iz drugog izvora mora biti između navodnika i izvornog izvora mora biti naveden. Ako su prethodne studije nadahnule dizajn studije ili strukturu ili jezik rukopisa, te studije moraju biti izričito navedene.

Slikovnim datotekama ne smije se manipulirati niti prilagođavati na bilo koji način koji bi mogao dovesti do pogrešnog tumačenja informacija dobivenih izvornom slikom. Nepravilna manipulacija uključuje 1) uvođenje, poboljšanje, pomicanje ili uklanjanje značajki s izvorne slike, 2) grupiranje slika koje treba prikazati odvojeno ili 3) mijenjanje kontrasta, svjetline ili ravnoteže boja kako bi se zatamnile, uklonile ili poboljšale neke informacije.

Prikazani rezultati ne smiju biti neprimjereno odabrani, manipulirani, poboljšani ili izrađeni. To uključuje 1) isključivanje podatkovnih točaka kako bi se povećala važnost zaključaka, 2) izradu podataka, 3. odabir rezultata kojima se podupire određeni zaključak na štetu kontradiktornih podataka, 4. namjeran odabir analitičkih alata ili metoda kojima se podupire određeni zaključak (uključujući p-hacking).

Istraživanje koje uključuje ljudske ispitanike, životinje ili biljke

Pri izvješćivanju o istraživanjima koja uključuju ljudske ispitanike, ljudski materijal, ljudska tkiva ili podatke o ljudima, stranka koja predlaže istraživanje mora osigurati da su istraživanja provedena u skladu s pravilima Helsinške deklaracije iz 1975., revidirane 2013. Svaka posljedica povezana s kršenjem ovog aspekta u potpunosti će se pripisati stranci predlagateljici, a ni konzorciju HCAIM-a ni studentu.

Teze, rad s staničnim linijama treba navesti podrijetlo bilo koje stanične linije. Za utvrđene stanične linije treba navesti podrijetlo, a upućivanja se moraju navesti i na objavljeni papir ili komercijalni izvor. Ako su korištene prethodno neobjavljene de novo stanične linije, uključujući one darovane iz drugog laboratorija, moraju se dati podaci o odobrenju institucionalnog odbora za preispitivanje ili etičkog povjerenstva, a mora se dostaviti i potvrda pismenog informiranog pristanka ako je linija ljudskog podrijetla.

Zabranjene su sve teme koje mogu proizaći iz bilo kojeg istraživanja koje uzrokuje štetu životinjama. Sve smjernice koje se primjenjuju na ljude treba slijediti (gdje je to moguće) i za životinje.

Eksperimentalna istraživanja na biljkama (bilo uzgojene ili divlje), uključujući prikupljanje biljnog materijala, moraju biti u skladu s institucionalnim, nacionalnim ili međunarodnim smjernicama. Preporučamo da se teze pridržavaju Konvencije o biološkoj raznolikosti i Konvencije o trgovini ugroženim vrstama divlje faune i flore.

Spol, spol, etničnost, religija i druge pristranosti u istraživanjima

Potiče se da se pridržavaju smjernica „Spol i rodna ravnopravnost u istraživanju – SAGER” te da prema potrebi uključe spolna i rodna pitanja. Pojmovi spol (biološka atributa) i spol (oblikovani društvenim i kulturnim okolnostima) trebaju se pažljivo koristiti kako bi se izbjegla zbunjenost obaju pojmova. U diplomskom radu trebalo bi također opisati (u pozadini) mogu li se očekivati razlike u spolu i/ili spolu; navesti kako su spol i/ili spol bili uzeti u obzir pri osmišljavanju studije; prema potrebi dostavljaju raščlanjene podatke prema spolu i/ili spolu; i razgovarati o odgovarajućim rezultatima. Ako nije provedena analiza spola i/ili spola, obrazloženje treba navesti u raspravi.

Slična razmatranja primjenjuju se na sve ostale oblike pristranosti, uključujući (i ne ograničavajući se na) etničku pripadnost i vjeru. Za prvo, podsjećamo da ljudi nemaju rase, već samo etničku pripadnost.

Ako je rad usmjeren na pristranost, razlozi za to moraju se razjasniti od samog početka.

Sukob interesa

Studenti moraju izbjegavati sklapanje ugovora sa sponzorima studija, kako profitnim tako i neprofitnim, koji ometaju pristup svim podacima studija ili koji ometaju njihovu sposobnost da analiziraju i interpretiraju podatke te da samostalno pripremaju diplomski rad kada i gdje odaberu.

Studenti moraju identificirati i prijaviti sve osobne okolnosti ili interese koji se mogu smatrati neprimjerenim utjecajem na predstavljanje ili tumačenje prijavljenih rezultata istraživanja. Primjeri mogućih sukoba interesa uključuju, ali nisu ograničeni na financijske interese (kao što su članstvo, zapošljavanje, konzultantska društva, vlasništvo dionica/dionica, honorarija, bespovratna sredstva ili drugo financiranje, plaćena svjedočanstva stručnjaka i sporazumi o licenciranju patenata) i nefinancijske interese (kao što su osobni ili profesionalni odnosi, pripadnost, osobna uvjerenja).

Svaka uloga sponzora financiranja u osmišljavanju studije, prikupljanju, analizi ili tumačenju podataka, u pisanom obliku rukopisa ili u odluci o objavi rezultata mora se navesti unaprijed.

Pravila citiranja

  • Studenti bi trebali osigurati da se, ako je materijal preuzet iz drugih izvora (uključujući njihovo objavljeno pisanje), izvor jasno navede i, prema potrebi, dobije dopuštenje.
  • Studenti ne bi trebali sudjelovati u pretjeranom samocitiranju vlastitog rada.
  • Studenti ne smiju kopirati reference iz drugih publikacija ako nisu pročitali navedeno djelo.
  • Studenti ne bi trebali davati prednost svojim publikacijama ili publikacijama svojih prijatelja, vršnjaka ili ustanove.
  • Studenti ne smiju navoditi oglase ili oglase.

Etičke smjernice za recenzente

Mogući sukob interesa

Od ocjenjivača se traži da obavijeste odbor HCAIM-a ako su u sukobu interesa koji može dovesti u pitanje izvješće o pregledu na pozitivan ili negativan način. Odbor će provjeriti što je točnije moguće prije nego što pozove recenzente; međutim, očekuje se i cijeni suradnja recenzenata u tom području.

Povjerljivost i anonimnost

Recenzenti moraju čuvati sadržaj diplomskog rada, uključujući apstraktni, povjerljiv. Moraju obavijestiti odbor HCAIM-a ako žele da kolega dovrši pregled u njihovo ime.

Matrica rizika i plan ublažavanja za HCAIM teze

 

Ovaj predložak omogućuje nadzorniku da podupre studenta u prepoznavanju i rješavanju problema. Istodobno će se od stranke koja predlaže rad zatražiti da sastavi ovaj predložak.

Sve ključne etape i rezultate za dovršetak predloženog istraživačkog projekta trebalo bi uključiti u projektni prijedlog. Studenti su također dužni pripremiti matricu rizika koja uključuje rizike koji bi mogli ugroziti postizanje tih rezultata i pružiti planove za nepredviđene situacije kako bi se ublažili navedeni rizici. U nastavku jeprikazan primjer matrice rizika i plana ublažavanja rizika. Navedite dodatne rizike ako je potrebno:

Rizik Težina Vjerojatnost Ublažavanje
Nije uspio prikupiti ciljne podatke na vrijeme Visoka Nisko Projekt će početi ispitivati otvoreno dostupne resurse. Istražiti mogućnosti za dobivanje sintetičkih ili prethodno dostupnih javnih podataka sličnih ciljnim podacima.
Nedovoljna financijska sredstva za resurse Srednja vrijednost Srednja vrijednost Tražit će se alternativni izvori financiranja.
Ciljevi istraživanja/projekta preambiciozna Srednja vrijednost Nisko Redovito pregledavati ciljeve projekta i regulirati ishode projekta na temelju postupka pregleda.
(Previše) Potrebne su velike količine
dodatnog
osposobljavanja
Srednja vrijednost Nisko Prethodno odobrenje će biti prihvaćeno. Ciljevi projekta ažurirat će se na temelju vremena i resursa koji se koriste za ovu dodatnu obuku.
Gubitak podataka Srednja vrijednost Nisko Student će slijediti odgovarajuće sigurnosne postupke kako bi se rizik sveo na najmanju moguću mjeru.

Primjeri tema diplomskog rada





















♪ Preskoči na sadržaj ♪

 

Skip to content