Prehľad programu

V našom cieli vytvoriť magisterský program AI zameraný na človeka sa HCAIM konzorcium riadi definíciou AI HLEG: „Prístup k umelej inteligencii zameraný na človeka sa snaží zabezpečiť, aby ľudské hodnoty boli kľúčové pre to, ako sa systémy umelej inteligencie vyvíjajú, zavádzajú, používajú a monitorujú, a to zabezpečením dodržiavania základných práv.

Na zodpovedanie požiadaviek tejto definície sa program vzťahuje na technické, etické a praktické prvky umelej inteligencie. Náš obsah sme navrhli v troch fázach životného cyklu MLOps vývoj, nasadenie a údržba modelov strojového učenia, čím sme vytvorili tri základné moduly v súlade s vyššie uvedenými fázami ML-Ops: Modelovanie (modul A), nasadenie (modul B) a hodnotenie (modul C). Pridali sme štvrtý modul (D) Graduation, ktorý študentom umožňuje ukázať, že dokážu nezávisle riešiť výzvy navrhnuté priemyslom na základe aktuálnych potrieb a požiadaviek súvisiacich s oblasťou umelej inteligencie zameranej na človeka.

To je vizualizované v tabuľke nižšie.

Modul A Modul B Modul C Modul D
Technické

Základy AI

Pokročilá AI:
Hlboké učenie
Budúcnosť AI

Magisterský projekt

Praktické Modelovanie AI AI v akcii:
Organizačná umelá inteligencia
Spoločensky zodpovedná AI
Etické Základy etiky Dôveryhodná AI Súlad, legalita a ľudskosť

Táto stránka obsahuje krátky popis modulov definovaných v Human Centered Artificial Intelligence Master. Všetky vzdelávacie podujatia, vrátane ich sprievodných študijných materiálov, sú k dispozícii na webovej stránke HCAIM wikiwijs.

Opisy vzdelávacieho podujatia boli preložené do všetkých 24 úradných jazykov EÚ pomocou nástroja eTranslation Európskej únie a sú k dispozícii z zoznamov priradených k daným jazykom. Upozorňujeme, že preklady nekontrolujú žiadni lektori.

Všetky materiály sú k dispozícii pod licenciou Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

Modelovanie (modul A)

Prvý modul, konkrétne modelovanie (modul A), sa zameriava na prvú fázu životného cyklu MLOps a súvisí s najnižšou úrovňou vyspelosti aplikácie strojového učenia (ML) v organizáciách: modelovanie dát. Zahŕňa činnosti, ktoré tvoria základ uplatňovania ML, ako je získavanie údajov, analýza údajov, príprava údajov, vzdelávanie modelov a (najmä manuálna) validácia a hodnotenie modelu.

V tejto fáze sa dôraz kladie na správnu analýzu a modelovanie údajov na dosiahnutie obchodných cieľov a málo sa využíva automatizácia (napr. CI/CD), ktorá sa pridáva len v druhej fáze MLOps (Nasadenie – modul B). Modelovacie činnosti sú často charakterizované manuálnou, skriptovanou a interaktívnou metódou, pomocou ktorej sa vykonáva analýza údajov, príprava, modelový výcvik a validácia. Na udržanie prehľadu rôznych modelov, parametrov a možností, s ktorými sa experimentuje, sa používa sledovanie experimentov.

Z etického hľadiska je vo fáze modelovania dôležité venovať dostatočný čas a pozornosť zisťovaniu cieľov klienta, mapovaniu zainteresovaných strán a skúmaniu vplyvu jednotlivých hodnôt týchto zainteresovaných strán (a rozpoznaniu možných konfliktov medzi nimi). V tejto súvislosti majú veľký význam aspekty ako transparentnosť, začlenenie, bezpečnosť a súkromie. Samozrejme, pozornosť treba venovať aj sociálnej a morálnej vhodnosti cieľov klienta. Okrem toho je dôležité mať (včas) povedomie o možných predsudkoch/predsudkoch v dostupných údajoch, rozpoznať možné dôsledky týchto predsudkov a nájsť zmierňujúce opatrenia na riešenie týchto predsudkov.

Výsledky učenia

  • Študent vyhodnocuje rôzne techniky ML, aby urobil dobre podloženú voľbu, zodpovedajúci získaným požiadavkám zákazníka a implementoval prototyp zvolenej techniky ML na poradenstvo pri riešení daného problému dátového modelovania.

  • Výsledky učenia 1
  • Študent tvrdí, pomocou základných etických rámcov, ako možno vyriešiť morálne dilemy a vyhodnocuje možné dôsledky existujúcich predsudkov v údajoch a vplyv navrhnutých zmierňujúcich opatrení na boj proti dôsledkom týchto predsudkov.

  • Výsledky učenia 2
  • Študent uplatňuje kvantitatívne a kvalitatívne výskumné metódy na vedecké zdôvodnenie svojich rozhodnutí počas etického zvažovania a tvorby prototypu.

  • Výsledky učenia 3

Nasadenie (modul B)

Zavedenie modulu (modul B) sa zameriava na druhú fázu vývojového cyklu MLOps; nasadenie. Po prieskumnej fáze modelovania údajov (pozri modul A – Modelovanie) prichádza integrácia ML riešenia do podnikových systémov. Teraz je dôležité začať premýšľať o architektúre ML a o tom, ako sa hrá spolu s existujúcimi systémami (dedičstvo). Aby bolo možné skutočne využívať automatizované riešenia ML, je potrebné zaviesť plynovody; na jednej strane, aby bolo možné zaoberať sa nepretržitými a živými dodávkami údajov (spracovanie toku) a na druhej strane prepojiť výsledky modelu ML s inými systémami.

Modul B okrem toho zvyšuje zložitosť technológie umelej inteligencie tým, že smeruje k (využívaniu) neurónových sietí a hlbokému učeniu. Hlavnou výhodou týchto zložitejších modelov je, že sú flexibilnejšie a všestrannejšie ako techniky zavedené v module A – Modelovanie. Avšak, dôležité nevýhody týchto techník sú, že sú zložitejšie (rozumieť a konfigurovať) a nepriehľadné. V nej spočíva dôležitá etická dilema pri používaní (pokročilých) techník umelej inteligencie: ako stále rozumiete tomu, čo riešenie umelej inteligencie vypočíta a či sa to robí správnym spôsobom. Zvýšenie transparentnosti zavádzania riešení umelej inteligencie a schopnosť určiť možné riziká a zmierniť tieto riziká sú dôležitými (sociálnymi) témami v tomto module.

Výsledky učenia

  • Študent posudzuje možné možnosti integrácie pokročilej techniky umelej inteligencie, ako je napríklad hĺbkové učenie a/alebo učenie o posilnení, a autorom je jednostranová správa založená na prototype, ktorý bol vyvinutý s prihliadnutím na obmedzenia a vplyvy existujúcich IKT systémov a dátových zariadení zákazníka, ktoré boli získané napríklad v spolupráci s architektmi alebo vývojármi IKT.

  • Výsledky učenia 1
  • Študent posudzuje možné riziko a testuje stupeň transparentnosti (vrátane interpretovateľnosti, reprodukovateľnosti a vysvetliteľnosti) vybraných implementačných riešení umelej inteligencie/ML a navrhuje riešenia pomocou techník, ktoré zvyšujú prehľad a transparentnosť medzi zainteresovanými stranami (tzv. techniky vysvetliteľnej umelej inteligencie (XAI)) na nápravu nedostatkov v tomto ohľade v porovnaní so sociálnymi a zákazníckymi požiadavkami.

  • Výsledky učenia 2
  • Študent formuluje výskumný návrh pre vedecky podložený (praktický) výskumný projekt týkajúci sa prípadu spoločnosti formulovaním relevantnej, konzistentnej, funkčnej výskumnej otázky, zvážením aplikovaných výskumných metód, ktoré sa majú použiť, a vytvorením presného, relevantného a kritického teoretického rámca.

  • Výsledky učenia 3

Hodnotenie (modul C)

Modul hodnotenia (modul C) sa zameriava na hodnotiace aspekty vývoja umelej inteligencie vrátane spoločenských aspektov produktu umelej inteligencie, ako aj na rozvoj hodnotenia možných budúcich smerov umelej inteligencie, pričom sa zohľadnia technologické trendy; sociálne zodpovednú umelú inteligenciu; súlad, ako aj zabezpečenie toho, aby bol ľudský prvok stále prítomný pri navrhovaní, vývoji a hodnotení systémov umelej inteligencie.

V rámci budúcnosti umelej inteligencie sa diskutuje o preskúmaní úrovne prijatia umelej inteligencie v rôznych odvetviach, ako aj o tom, ako sa umelá inteligencia prispôsobuje rôznym oblastiam. Pohľad na sociálne zodpovednú umelú inteligenciu zahŕňa to, ako umelá inteligencia ovplyvňuje jednotlivcov a rôzne skupiny v spoločnosti. A ako kľúčová časť modulu sa kladie dôraz na zákony, politiky a kódexy správania súvisiace s umelou inteligenciou (s dôrazom na otázky, ako je vysvetliteľnosť a dôvera), ako aj na procesy kontroly kvality a riadenia kvality s cieľom vyhodnotiť výsledky iniciatív v oblasti umelej inteligencie.

Výsledky učenia

  • Študent rozvíja ocenenie špičkových prístupov k umelej inteligencii a strojovému učeniu, ako aj pochopenie toho, ako sa umelá inteligencia využíva v rôznych oblastiach a ako vyhodnotiť potenciálne smery, ktorými umelá inteligencia môže ísť v budúcnosti.

  • Výsledky učenia 1
  • Študent ukazuje dobre definovaný prístup k skenovaniu následkov, berúc do úvahy otázky, ako je hodnotenie potenciálneho vplyvu novej technológie na jednotlivcov a spoločnosť so zameraním najmä na menšiny a marginalizované skupiny, ako aj na potenciálne vplyvy na životné prostredie.

  • Výsledky učenia 2
  • Študent demonštruje schopnosť používať plne formulovanú výskumnú metodiku s etikou zakotvenou vo všetkých etapách s vedomím kontextovej povahy konkrétnych prístupov, ktoré by sa mali použiť a ktoré budú informované z prípadových štúdií zahrnutých v tomto module.

  • Výsledky učenia 3

Promócia (modul D)

Modul pre absolventov ( modulD) odráža základný princíp programu HCAIM, ktorý je postavený na koncepcii projektového učenia (PBL). Cieľom tohto modulu je umiestniť projekt promócie (tvorba profesionálneho produktu) centrálne do vzdelávacej dráhy študenta. V rámci svojho magisterského projektu (Magisterská práca) študenti ukazujú, že môžu nezávisle riešiť výzvy navrhnuté priemyslom na základe aktuálnych potrieb a požiadaviek, berúc do úvahy technické aj etické aspekty danej problematiky.

Každá práca sa považuje za lokálne s interným nadriadeným (doktorom z univerzity, v ktorom študent vykonáva titul) a externým vedúcim, ktorý patrí k strane, ktorá navrhuje diplom (ak existuje). Tento druhý aspekt napriek tomu, že nie je povinný, sa dôsledne sleduje. Navrhujúcou stranou môže byť MSP, centrum excelentnosti alebo iná univerzita na vnútroštátnej aj medzinárodnej úrovni. Od navrhujúcich strán sa očakáva, že poskytnú národnú aj medzinárodnú diplomovú prácu (t. j. diplomovú prácu organizovanú s univerzitou z tej istej krajiny alebo z cudzej).

Výsledky učenia

  • Študent uznáva a reflektuje životný cyklus umelej inteligencie v realistickom kontexte informovanom odvetví a na rôznych miestach, scenároch a prípadoch použitia.

  • Výsledky učenia 1
  • Študent preukazuje spoľahlivý a platný prístup k výskumu prostredníctvom projektu s presne definovaným interdisciplinárnym prístupom, ktorý vytvára riešenia relevantné pre priemysel a technologicky kompetentné, pričom hodnotí potenciálny vplyv ich práce na jednotlivcov a spoločnosť.

  • Výsledky učenia 2
  • Študent preukazuje profesionálny postoj, pokiaľ ide o komunikáciu s príslušnými zainteresovanými stranami (napr. mentormi, poradcami, rovesníkmi a zákazníkmi), analytický postoj, pracovný étos, spôsobilosť plánovania, proaktívnosť a sebavedomie.

  • Výsledky učenia 3

Usmernenia k diplomovej práci

HCAIM Téma Návrhy Usmernenia

 

Tieto usmernenia sú určené na podporu strán, ktoré majú v úmysle navrhnúť novú tézu.

Šablóna Tézy HCAIM

 

Pozrite si šablónu práce HCAIM TU.

Etické usmernenia pre HCAIM Témy

 

Plagiátorstvo, spracovanie dát a manipulácia s obrazom

Plagiátorstvo nie je prijateľné. Plagiátorstvo zahŕňa kopírovanie textu, nápadov, obrázkov alebo údajov z iného zdroja, vrátane vašich vlastných publikácií, bez toho, aby sa pripisoval pôvodný zdroj.

Opakované použitie textu skopírovaného z iného zdroja musí byť medzi úvodzovkami a pôvodný zdroj musí byť citovaný. Ak predchádzajúce štúdie inšpirovali dizajn štúdie alebo štruktúru alebo jazyk rukopisu, tieto štúdie musia byť výslovne citované.

Obrazové súbory nesmú byť manipulované alebo upravené spôsobom, ktorý by mohol viesť k nesprávnemu výkladu informácií poskytnutých pôvodným obrazom. Nepravidelná manipulácia zahŕňa 1) zavedenie, vylepšenie, presun alebo odstránenie funkcií z pôvodného obrazu, 2) zoskupenie obrázkov, ktoré by mali byť prezentované samostatne, alebo 3) úpravu kontrastu, jasu alebo vyváženosti farieb s cieľom zakryť, odstrániť alebo zlepšiť niektoré informácie.

Prezentované výsledky nesmú byť nesprávne vybrané, manipulované, vylepšené alebo vyrobené. To zahŕňa 1) vylúčenie údajových bodov na zvýšenie významu záverov, 2) vytváranie údajov, 3) výber výsledkov, ktoré podporujú konkrétny záver na úkor protichodných údajov, 4) úmyselný výber analytických nástrojov alebo metód na podporu konkrétneho záveru (vrátane p-hacking).

Výskum zahŕňajúci ľudské subjekty, zvieratá alebo rastliny

Pri podávaní správ o výskume, ktorý sa týka ľudských subjektov, ľudského materiálu, ľudských tkanív alebo údajov o ľuďoch, musí navrhujúca strana zabezpečiť, aby sa vyšetrovania vykonali v súlade s pravidlami Helsinskej deklarácie z roku 1975, revidovanej v roku 2013. Akýkoľvek dôsledok spojený s porušením tohto aspektu bude úplne pripísaný navrhujúcej strane a ani konzorcium HCAIM ani študent.

Práca s bunkovými líniami by mala uvádzať pôvod akýchkoľvek bunkových línií. V prípade zavedených bunkových línií by sa mal uviesť pôvod a musia sa uviesť aj odkazy na publikovaný papier alebo komerčný zdroj. Ak boli použité predtým nezverejnené bunkové línie de novo vrátane tých, ktoré boli obdarované iným laboratóriom, musia sa poskytnúť podrobnosti o schválení inštitucionálnou revíznou komisiou alebo etickej komisii a musí sa poskytnúť potvrdenie o písomnom informovanom súhlase, ak je riadok ľudského pôvodu.

Všetky témy, ktoré sú potenciálne odvodené z akéhokoľvek výskumu spôsobujúceho akékoľvek poškodenie zvierat, sú zakázané. Všetky usmernenia uplatňované na ľudí by sa mali dodržiavať (ak je to možné) aj pre zvieratá.

Experimentálny výskum rastlín (kultivovaných alebo voľne žijúcich) vrátane zberu rastlinného materiálu musí byť v súlade s inštitucionálnymi, vnútroštátnymi alebo medzinárodnými usmerneniami. Odporúčame, aby sa tieto zásady riadili Dohovorom o biologickej diverzite a Dohovorom o obchode s ohrozenými druhmi voľne žijúcich živočíchov a rastlín.

Sex, Pohlavie, Etnicita, Náboženstvo a iné zaujatosti vo výskume

Odporúča sa, aby sa riadili usmerneniami „Sex a rodová rovnosť vo výskume – SAGER“ a aby v prípade potreby zahŕňali rodové a rodové hľadiská. Pojmy pohlavie (biologický atribút) a pohlavie (v tvare sociálnych a kultúrnych okolností) by sa mali používať opatrne, aby sa zabránilo zámene oboch pojmov. V práci by sa malo tiež opísať (v „podkladoch“), či možno očakávať rozdiely medzi pohlaviami a/alebo pohlaviami; informovať o tom, ako sa pri návrhu štúdie zohľadnilo pohlavie a/alebo pohlavie; v prípade potreby poskytovať rozčlenené údaje podľa pohlavia a/alebo pohlavia; a diskutovať o príslušných výsledkoch. Ak sa nevykonala analýza pohlavia a/alebo pohlavia, v diskusii by sa malo uviesť odôvodnenie.

Podobné úvahy sa vzťahujú na všetky ostatné formy zaujatosti vrátane (a nielen) etnickej príslušnosti a náboženstva. V prvom rade pripomíname, že ľudia nemajú rasy, ale len etnickú príslušnosť.

Ak je práca zameraná na zaujatosť, musí sa od začiatku objasniť jej zdôvodnenie.

Konflikt záujmov

Študenti sa musia vyhýbať uzatváraniu dohôd so sponzormi štúdia, či už ziskovými, ako aj neziskovými, ktoré zasahujú do prístupu ku všetkým údajom štúdie alebo ktoré narúšajú ich schopnosť analyzovať a interpretovať údaje a nezávisle pripraviť dizertačnú prácu, kedy a kde sa rozhodnú.

Študenti musia identifikovať a deklarovať akékoľvek osobné okolnosti alebo záujmy, ktoré môžu byť vnímané ako nevhodné ovplyvňujúce reprezentáciu alebo interpretáciu oznámených výsledkov výskumu. Medzi príklady možných konfliktov záujmov patria okrem iného finančné záujmy (ako členstvo, zamestnanie, poradenské spoločnosti, vlastníctvo akcií/akcií, honoráre, granty alebo iné financovanie, platené odborné svedectvá a dohody o udelení patentovej licencie) a nefinančné záujmy (ako sú osobné alebo profesijné vzťahy, príslušnosť, osobné presvedčenie).

Akákoľvek úloha sponzorov financovania pri navrhovaní štúdie, pri zhromažďovaní, analýze alebo interpretácii údajov, v písomnej forme rukopisu alebo v rozhodnutí o uverejnení výsledkov musí byť vopred deklarovaná.

Citačné politiky

  • Študenti by mali zabezpečiť, aby tam, kde je materiál prevzatý z iných zdrojov (vrátane ich vlastného publikovaného písania), bol zdroj jasne citovaný a tam, kde je to vhodné, bolo získané povolenie.
  • Študenti by sa nemali zapájať do nadmerného seba podnecovania svojej vlastnej práce.
  • Študenti by nemali kopírovať odkazy z iných publikácií, ak si nečítali citované dielo.
  • Študenti by nemali prednostne uvádzať publikácie svojich vlastných alebo priateľov, rovesníkov alebo inštitúcií.
  • Študenti by nemali citovať reklamy alebo reklamné materiály.

Etické usmernenia pre recenzentov

Potenciálny konflikt záujmov

Od hodnotiteľov sa žiada, aby informovali radu HCAIM, ak majú konflikt záujmov, ktorý môže ovplyvniť správu o preskúmaní, a to buď pozitívnym alebo negatívnym spôsobom. Pred pozvaním recenzentov bude komisia čo najpresnejšie skontrolovať; napriek tomu sa očakáva a oceňuje spolupráca posudzovateľov v tejto oblasti.

Dôvernosť a anonymita

Recenzenti musia uchovávať obsah práce, vrátane abstraktného, dôverného. Musia informovať výbor HCAIM, ak by chceli, aby kolega dokončil preskúmanie v ich mene.

Matrica rizík a plán zmierňovania pre HCAIM Témy

 

Táto šablóna umožňuje nadriadenému podporovať študenta pri identifikácii a riešení problémov. Zároveň bude požiadaná strana navrhujúca prácu, aby zostavila tento vzor.

Do návrhu projektu by mali byť zahrnuté všetky míľniky a výstupy na dokončenie navrhovaného výskumného projektu. Od študentov sa tiež vyžaduje, aby pripravili maticu rizík, ktorá zahŕňa riziká, ktoré by mohli ohroziť dosiahnutie týchto výsledkov, a poskytli pohotovostné plány na zmiernenie načrtnutých rizík. Príklad matice rizík a plánu na zmiernenie rizika je uvedený nižšie. V prípade potreby uveďte ďalšie riziká:

Riziko Závažnosť Pravdepodobnosť Zmierňovanie
Nepodarilo sa zozbierať cieľové údaje včas Vysoká Nízka Projekt začne skúmať verejne dostupné zdroje. Preskúmať možnosti získania syntetických alebo vopred dostupných verejných údajov podobných cieľovým údajom.
Nedostatočné financovanie zdrojov Stredná Stredná Budú sa hľadať alternatívne zdroje financovania.
Výskum/projektové ciele príliš ambiciózne Stredná Nízka Pravidelne preskúmavať ciele projektu a regulovať výsledky projektu na základe procesu preskúmania.
(Nadmerne) Vyžaduje sa veľké množstvo
dodatočného
výcviku
Stredná Nízka Bude prijatý predchádzajúci súhlas. Ciele projektu sa aktualizujú na základe času a zdrojov použitých na toto dodatočné školenie.
Strata údajov Stredná Nízka Študent bude dodržiavať vhodné postupy zálohovania, aby sa minimalizovalo riziko.

Príklady tém práce





















Preskočiť na obsah

 

Skip to content