Pregled programa

V našem cilju, da ustvarimo magistrski program umetne inteligence, osredotočenega na človeka, konzorcij HCAIM sledi opredelitvi AI HLEG: „Pristop k umetni inteligenci, osredotočen na človeka, si prizadeva zagotoviti, da so človekove vrednote osrednjega pomena za razvoj, uvajanje, uporabo in spremljanje sistemov umetne inteligence, in sicer z zagotavljanjem spoštovanja temeljnih pravic.

Za izpolnitev zahtev te opredelitve program zajema tehnične, etične in praktične elemente umetne inteligence. Vsebino smo zasnovali okoli treh faz življenjskega cikla MLOps – razvoj, uvajanje in vzdrževanje modelov strojnega učenja, s čimer smo izdelali tri osnovne module v skladu z zgoraj navedenimi fazami ML-Ops: Modeliranje (modul A), uvedba (modul B) in vrednotenje (modul C). Dodali smo četrti modul (D) Graduation, ki študentom omogoča, da dokažejo, da lahko samostojno rešujejo izzive, ki jih predlaga industrija na podlagi trenutnih potreb in zahtev, povezanih s področjem umetne inteligence, osredotočene na človeka.

To je prikazano v spodnji tabeli.

Modul A Modul B Modul C Modul D
Tehnični

Osnove za umetno inteligenco

Napredna umetna inteligenca:
Globoko učenje
Prihodnost AI

Magistrski projekt

Praktično Modeliranje umetne inteligence Umetna inteligenca v akciji:
Organizacijska umetna inteligenca
Družbeno odgovorna umetna inteligenca
Etično Etične osnove Zaupanja vredna AI Skladnost, zakonitost in človečnost

Ta stran vsebuje kratek opis modulov, opredeljenih v mojstru umetne inteligence, osredotočenem na človeka. Vsi učni dogodki, vključno z njihovim spremljevalnim študijskim gradivom, so na voljo na spletni strani wikiwijsa HCAIM.

Opisi učnih dogodkov so bili z orodjem eTranslation Evropske unije prevedeni v vseh 24 uradnih jezikov EU in so na voljo na seznamih, dodeljenih jezikom. Upoštevajte, da prevodov ne pregleduje noben predavatelj.

Vsa gradiva so na voljo pod licenco Creative Commons Priznanje avtorstva-Nekomercialno-Brez predelav 4.0 (CC BY-NC-ND 4.0)

Modeliranje (modul A)

Prvi modul, in sicer modeliranje (modul A), se osredotoča na prvo fazo življenjskega cikla MLOps in je povezan z najnižjo stopnjo zrelosti uporabe strojnega učenja (ML) v organizacijah: podatki za modeliranje. Vključuje dejavnosti, ki so podlaga za uporabo ML, kot so pridobivanje podatkov, analiza podatkov, priprava podatkov, usposabljanje modelov ter (predvsem ročno) potrjevanje in vrednotenje modelov.

V tej fazi je poudarek na pravilnem analiziranju in modeliranju podatkov za doseganje poslovnih ciljev, avtomatizacija (npr. CI/CD) pa se le malo uporablja, kar se doda šele v drugi fazi MLOps (uvedba – modul B). Za dejavnosti modeliranja je pogosto značilna ročna, skriptna in interaktivna metoda, s katero se izvajajo analiza podatkov, priprava, usposabljanje in potrjevanje modelov. Da bi ohranili pregled nad različnimi modeli, parametri in izbirami, s katerimi se eksperimentirajo, se uporablja sledenje eksperimentov.

Z etičnega vidika je v fazi modeliranja pomembno, da se dovolj časa in pozornosti nameni ugotavljanju ciljev stranke, kartiranju deležnikov in preučevanju vpliva na posamezne vrednote teh deležnikov (in prepoznavanju morebitnih konfliktov med njimi). Pri tem so zelo pomembni vidiki, kot so preglednost, vključenost, varnost in zasebnost. Seveda je treba pozornost nameniti tudi družbeni in moralni zaželenosti ciljev stranke. Poleg tega je pomembno v razpoložljivih podatkih (pravočasno) poznati morebitne pristranskosti/sovražnosti, prepoznati možne posledice teh predsodkov in najti blažilne ukrepe za obravnavanje teh predsodkov.

Rezultati učenja

  • Študent ocenjuje različne ML tehnike, da bi dobro utemeljene izbire, ki ustrezajo pridobljenim zahtevam kupca in izvajanje prototip izbrane ML tehnike za svetovanje pri reševanju danega podatkov modeliranje problem.
  • Učni izid 1
  • Študent z uporabo temeljnih etičnih okvirov trdi, kako je mogoče rešiti moralne dileme in oceniti možne posledice obstoječih pristranskosti v podatkih ter vpliv načrtovanih blažitev, da bi se zoperstavili posledicam teh pristranskosti.
  • Učni izid 2
  • Študent uporablja kvantitativne in kvalitativne raziskovalne metode, da znanstveno utemelji svoje odločitve med etičnimi premisleki in izdelavo prototipa.
  • Učni izid 3

Razporeditev (modul B)

Uvajanje modula (modul B) se osredotoča na drugo fazo razvojnega cikla MLOps; razmestitev. Po fazi raziskovanja podatkov (glej Modul A – modeliranje) pride do integracije rešitve ML v poslovne sisteme. Zdaj je pomembno, da začnete razmišljati o arhitekturi ML in kako se igra skupaj z obstoječimi sistemi (zapuščina). Da bi imeli dejanske koristi od avtomatiziranih rešitev ML, je treba uvesti cevovode; na eni strani, da bi se lahko ukvarjali s stalnimi in neposrednimi prenosi podatkov (pretočna obdelava), po drugi strani pa, da bi rezultate modela ML povezali z drugimi sistemi.

Poleg tega modul B povečuje kompleksnost tehnologije umetne inteligence s premikom k nevronskim omrežjem (uporabi) in globokemu učenju. Velika prednost teh bolj kompleksnih modelov je, da so bolj prilagodljivi in vsestranski od tehnik, uvedenih v modulu A – Modeliranje. Vendar pa so pomembne slabosti teh tehnik, da so bolj zapletene (za razumevanje in konfiguriranje) in neprozorne. V tem je pomembna etična dilema pri uporabi (naprednih) tehnik umetne inteligence: kako še vedno razumete, kaj izračuna rešitev umetne inteligence in ali je to storjeno na pravilen način? Večja preglednost uporabe rešitev umetne inteligence ter zmožnost določanja možnih tveganj in zmanjševanja teh tveganj sta pomembna (socialna) tema tega modula.

Rezultati učenja

  • Študent oceni možne izbire za integracijo napredne tehnike umetne inteligence, kot je poglobljeno in/ali okrepljeno učenje, in avtorice enostranskega poročila, ki temelji na prototipu, ki je bil razvit ob upoštevanju omejitev in vpliva na obstoječe sisteme IKT in podatkovne zmogljivosti stranke, ki so bili pridobljeni v sodelovanju, na primer, z arhitekti ali razvijalci IKT.
  • Učni izid 1
  • Študent oceni morebitno tveganje in preizkusi stopnjo preglednosti (vključno z razlago, ponovljivostjo in razložljivostjo) izbrane izvedbe umetne inteligence/ML in oblikuje rešitve z uporabo tehnik, ki povečujejo vpogled in preglednost med deležniki (t. i. tehnike Razlaga umetne inteligence (XAI)), da se odpravijo pomanjkljivosti v zvezi s tem v primerjavi s socialnimi zahtevami in zahtevami, specifičnimi za potrošnike.
  • Učni izid 2
  • Študent oblikuje raziskovalno zasnovo za znanstveno utemeljen (praktično usmerjen) raziskovalni projekt, povezan s primerom podjetja, tako da oblikuje ustrezno, dosledno, funkcionalno raziskovalno vprašanje, pri čemer upošteva uporabljene raziskovalne metode, ki jih je treba uporabiti, in vzpostavi natančen, relevanten in kritičen teoretični okvir.
  • Učni izid 3

Vrednotenje (modul C)

Modul za ocenjevanje (modul C) se osredotoča na vidike ocenjevanja razvoja umetne inteligence, vključno z družbenimi vidiki izdelka umetne inteligence, in na razvoj ocene morebitnih prihodnjih usmeritev, ki jih lahko sprejme umetna inteligenca, pri čemer se upoštevajo tehnološki trendi; družbeno odgovorna umetna inteligenca; skladnost in zagotavljanje, da je človeški element vedno prisoten v zasnovi, razvoju in ocenjevanju sistemov umetne inteligence.

V okviru prihodnosti umetne inteligence se razpravlja o preučevanju ravni sprejemanja umetne inteligence v različnih panogah ter o tem, kako je umetna inteligenca prilagojena različnim področjem. Družbeno odgovorna umetna inteligenca vključuje, kako umetna inteligenca vpliva na posameznike in različne skupine v družbi. Kot ključni del modula pa je poudarek na zakonih, politikah in kodeksih ravnanja, povezanih z umetno inteligenco (s poudarkom na vprašanjih, kot sta razložljivost in zaupanje), pa tudi na postopkih nadzora kakovosti in upravljanja kakovosti, da se ocenijo rezultati pobud umetne inteligence.

Rezultati učenja

  • Študent razvija spoštovanje najsodobnejših pristopov k umetni inteligenci in strojnemu učenju, pa tudi razumevanje, kako se umetna inteligenca uporablja na različnih področjih in kako oceniti potencialne smeri umetne inteligence v prihodnosti.
  • Učni izid 1
  • Študent pokaže dobro opredeljen pristop k pregledovanju posledic, pri čemer upošteva vprašanja, kot je ocenjevanje potencialnega učinka, ki bi ga nova tehnologija lahko imela na posameznike in družbo, s posebnim poudarkom na manjšinah in marginaliziranih skupinah ter morebitnih vplivih na okolje.
  • Učni izid 2
  • Študent dokaže sposobnost uporabe polno-artikulirane raziskovalne metodologije z etiko, ki je vključena v vse faze, z zavedanjem o kontekstualni naravi specifičnih pristopov, ki jih je treba uporabiti in ki bodo obveščeni s študijami primerov, zajetimi v tem modulu.
  • Učni izid 3

Gradacija (modul D)

Modul zadiplomiranje (modul D) odraža temeljno načelo programa HCAIM, ki temelji na konceptu projektnega učenja (PBL). Cilj tega modula je umestiti diplomski projekt (izdelava profesionalnega produkta) v središče učne poti študenta. Študenti v okviru projekta Graduation (magistrsko delo) kažejo, da lahko samostojno rešujejo izzive, ki jih predlaga industrija na podlagi trenutnih potreb in zahtev, ob upoštevanju tehničnih in etičnih vidikov obravnavanega vprašanja.

Vsako diplomsko delo se obravnava lokalno, z notranjim mentorjem (kadar je profesor na univerzi, na kateri študent diplomsko delo) in zunanjim mentorjem, ki pripada stranki, ki predlaga diplomsko nalogo (če obstaja). Ta zadnji vidik, čeprav ni obvezen, se dosledno izvaja. Predlagateljica je lahko MSP, center odličnosti ali druga univerza, tako na nacionalni kot na mednarodni ravni. Od predlagateljev se pričakuje, da bodo predložili tako nacionalno kot mednarodno diplomsko nalogo (tj. diplomsko delo, organizirano z univerzo iz iste države ali tujim).

Rezultati učenja

  • Študent prepozna in reflektira življenjski cikel umetne inteligence v realističnem, industrijskem okolju ter na različnih lokacijah, scenarijih in primerih uporabe.
  • Učni izid 1
  • Študent izkazuje robusten in veljaven raziskovalni odnos s projektom z dobro opredeljenim interdisciplinarnim pristopom, ki proizvaja industrijsko relevantne in tehnološko kompetentne rešitve, hkrati pa ocenjuje potencialni vpliv njihovega dela na posameznike in družbo.
  • Učni izid 2
  • Študent izkazuje profesionalni odnos do komunikacije z ustreznimi deležniki (npr. mentorji, svetovalci, vrstniki in strankami), analitičnim odnosom, delovno etiko, sposobnostjo načrtovanja, proaktivnostjo in samozavedanjem.
  • Učni izid 3

Smernice za diplomsko delo

HCAIM Teza Predlogi Smernice

 

Te smernice so namenjene podpori strankam, ki nameravajo predlagati novo diplomsko nalogo.

HCAIM Teza Predloga

 

Oglejte si predlogo HCAIM teze tukaj.

Etične smernice za HCAIM Teze

 

Plagiatorstvo, izdelava podatkov in manipulacija s slikami

Plagiatorstvo ni sprejemljivo. Plagiatorstvo vključuje kopiranje besedila, idej, slik ali podatkov iz drugega vira, vključno z lastnimi publikacijami, ne da bi pri tem upoštevali izvorni vir.

Ponovna uporaba besedila, kopiranega iz drugega vira, mora biti med narekovaji in navesti izvirni vir. Če so predhodne študije navdihnile zasnovo študije ali strukturo ali jezik rokopisa, je treba te študije izrecno navesti.

Slikovne datoteke se ne smejo manipulirati ali prilagajati na kakršen koli način, ki bi lahko privedel do napačne razlage informacij, ki jih zagotavlja izvirna slika. Nepravilna manipulacija vključuje 1) uvajanje, izboljšanje, premikanje ali odstranjevanje funkcij iz prvotne slike, 2) združevanje slik, ki jih je treba predstaviti ločeno, ali 3) spreminjanje kontrasta, svetlosti ali barvnega ravnovesja, da se zakrijejo, odstranijo ali izboljšajo nekatere informacije.

Predstavljeni rezultati ne smejo biti neustrezno izbrani, manipulirani, izboljšani ali izdelani. To vključuje 1) izključitev podatkovnih točk za povečanje pomena zaključkov, 2) izdelavo podatkov, 3) izbor rezultatov, ki podpirajo določen sklep na račun nasprotujočih si podatkov, 4) namerno izbiro analitičnih orodij ali metod za podporo določenemu sklepu (vključno s p-hacking).

Raziskave, ki vključujejo ljudi, živali ali rastline

Pri poročanju o raziskavah, ki vključujejo človeške subjekte, človeški material, človeška tkiva ali podatke o ljudeh, mora predlagatelj zagotoviti, da so bile preiskave izvedene v skladu s pravili Helsinške deklaracije iz leta 1975, revidirane leta 2013. Vsaka posledica, povezana s kršitvijo tega vidika, se v celoti pripiše predlagatelju in ne konzorciju HCAIM niti študentu.

Te, ki delajo s celičnimi linijami, morajo navajati izvor vseh celičnih linij. Za uveljavljene celične linije je treba navesti izvor, navesti pa je treba tudi objavljen papir ali komercialni vir. Če so bile uporabljene predhodno neobjavljene linije za de novo celico, vključno s tistimi, ki so bile dane iz drugega laboratorija, je treba navesti podrobnosti o odobritvi institucionalnega odbora ali odbora za etiko, če je linija človeškega izvora, pa je treba predložiti pisno soglasje po seznanitvi.

Vse teme, ki bi lahko izhajale iz katere koli raziskave, ki povzroča škodo živalim, so prepovedane. Vse smernice, ki se uporabljajo za ljudi, je treba upoštevati tudi za živali (kjer je to mogoče).

Eksperimentalne raziskave rastlin (gojenih ali divjih), vključno z zbiranjem rastlinskega materiala, morajo biti v skladu z institucionalnimi, nacionalnimi ali mednarodnimi smernicami. Priporočamo, da te določbe upoštevajo Konvencijo o biološki raznovrstnosti in Konvencijo o trgovini z ogroženimi prosto živečimi živalskimi in rastlinskimi vrstami.

Spol, spol, etničnost, religija in druge pristranskosti v raziskavah

Spodbuja se, da se upoštevajo smernice „Spol in enakost spolov v raziskavah – SAGER“ ter da se po potrebi upoštevajo vidiki spola in spola. Izraza spol (biološki atribut) in spol (oblikovana glede na družbene in kulturne okoliščine) je treba uporabljati previdno, da se izognemo zmedi obeh izrazov. V diplomski nalogi bi bilo treba tudi opisati (v „ozadju“), ali je mogoče pričakovati razlike med spoloma in/ali spolom; poroča o tem, kako sta bila spol in/ali spol upoštevana pri zasnovi študije; po potrebi zagotovijo razčlenjene podatke po spolu in/ali spolu; in razpravljajo o ustreznih rezultatih. Če analiza spola in/ali spola ni bila izvedena, je treba utemeljitev navesti v razpravi.

Podobni premisleki veljajo za vse druge oblike pristranskosti, vključno z (in ne omejeno na) etnično pripadnostjo in vero. Za prvo, opozarjamo, da ljudje nimajo ras, ampak le etnično pripadnost.

Če je teza osredotočena na pristranskost, jo je treba pojasniti že od začetka.

Navzkrižje interesov

Študenti se morajo izogibati sklepanju sporazumov s sponzorji študija, tako pridobitnimi kot neprofitnimi, ki ovirajo dostop do vseh podatkov študije ali ovirajo njihovo sposobnost analiziranja in interpretacije podatkov ter samostojne priprave diplomske naloge, kadar in kje se odločijo.

Študenti morajo identificirati in izjaviti vse osebne okoliščine ali interese, ki se lahko dojemajo kot neprimerno vplivajo na predstavitev ali razlago prijavljenih rezultatov raziskav. Primeri morebitnih navzkrižij interesov vključujejo, vendar niso omejeni na finančne interese (kot so članstvo, zaposlovanje, svetovalne službe, lastništvo delnic/delnic, honorarji, nepovratna sredstva ali drugo financiranje, plačana strokovna pričevanja in dogovori o licenciranju patentov) in nefinančni interesi (kot so osebni ali poklicni odnosi, povezave, osebna prepričanja).

Vsako vlogo sponzorjev financiranja pri zasnovi študije, zbiranju, analizi ali razlagi podatkov, pri pisanju rokopisa ali pri odločitvi o objavi rezultatov je treba prijaviti vnaprej.

Pravilniki o citiranju

  • Študenti morajo zagotoviti, da je vir, kjer je gradivo vzeto iz drugih virov (vključno z lastnim objavljenim pisanjem), jasno naveden in po potrebi pridobljeno dovoljenje.
  • Učenci se ne bi smeli preveč samozavedati o svojem delu.
  • Študenti ne smejo kopirati referenc iz drugih publikacij, če niso prebrali citiranega dela.
  • Študenti ne smejo prednostno navajati svojih publikacij ali publikacij svojih prijateljev, vrstnikov ali institucij.
  • Študenti ne smejo navajati oglasov ali oglasnega gradiva.

Etične smernice za recenzente

Potencialno navzkrižje interesov

Pregledovalci so pozvani, da odbor HCAIM obvestijo, če imajo navzkrižje interesov, ki bi lahko negativno ali pozitivno vplivalo na poročilo o pregledu. Odbor bo pred povabilom pregledovalcev preveril čim bolj natančno; kljub temu se pričakuje in ceni sodelovanje recenzentov na tem področju.

Zaupnost in anonimnost

Recenzenti morajo vsebino diplomske naloge, vključno z abstraktno, ohraniti zaupno. Odbor HCAIM morajo obvestiti, če želijo, da njegov sodelavec v njihovem imenu dokonča pregled.

Matrika tveganj in načrt ublažitve za HCAIM Teze

 

Ta predloga omogoča nadzorniku, da podpira študenta pri prepoznavanju in reševanju težav. Hkrati bo stranka predlagateljica naloge pozvana, da pripravi to predlogo.

V predlog projekta bi bilo treba vključiti vse mejnike in rezultate za dokončanje predlaganega raziskovalnega projekta. Študenti morajo pripraviti tudi matriko tveganja, ki vključuje tveganja, ki bi lahko ogrozila doseganje teh rezultatov, in pripraviti načrte ukrepov ob nepredvidljivih dogodkih za ublažitev opisanih tveganj. Primer matrike tveganja in načrta za zmanjšanje tveganja je prikazan spodaj. Po potrebi vključite dodatna tveganja:

Tveganje Resnost Verjetnost Blažitev
Pravočasno ni uspelo zbrati ciljnih podatkov Visoka Nizka Projekt bo začel pregledovati prosto razpoložljive vire. Proučiti možnosti za pridobitev sintetičnih ali predhodno dostopnih javnih podatkov, podobnih ciljnim podatkom.
Nezadostna sredstva za sredstva Srednje Srednje Iskali se bodo alternativni viri financiranja.
Cilji raziskav/projektov preveč ambiciozni Srednje Nizka Redno pregledujete cilje projekta in uredite rezultate projekta na podlagi postopka pregleda.
(Preveč) Zahtevane so velike količine
dodatnega
usposabljanja
Srednje Nizka Sprejeta bopredhodna odobritev. Cilji projekta bodo posodobljeni glede na čas in vire, uporabljene za to dodatno usposabljanje.
Izguba podatkov Srednje Nizka Študent bo upošteval ustrezne postopke varnostnega kopiranja, da bi čim bolj zmanjšal tveganje.

Primeri Teze Teme





















Preskoči na vsebino

 

Skip to content