V našom cieli vytvoriť magisterský program AI zameraný na človeka sa HCAIM konzorcium riadi definíciou AI HLEG: „Prístup k umelej inteligencii zameraný na človeka sa snaží zabezpečiť, aby ľudské hodnoty boli kľúčové pre to, ako sa systémy umelej inteligencie vyvíjajú, zavádzajú, používajú a monitorujú, a to zabezpečením dodržiavania základných práv.“

Na zodpovedanie požiadaviek tejto definície sa program vzťahuje na technické, etické a praktické prvky umelej inteligencie. Náš obsah sme navrhli v troch fázach životného cyklu MLOps – vývoj, nasadenie a údržba modelov strojového učenia, čím sme vytvorili tri základné moduly v súlade s vyššie uvedenými fázami ML-Ops: Modelovanie (modul A), nasadenie (modul B) a hodnotenie (modul C). Pridali sme štvrtý modul (D) Graduation, ktorý študentom umožňuje ukázať, že dokážu nezávisle riešiť výzvy navrhnuté priemyslom na základe aktuálnych potrieb a požiadaviek súvisiacich s oblasťou umelej inteligencie zameranej na človeka.

To je vizualizované v tabuľke nižšie.

Táto stránka obsahuje všetky učebné udalosti, ktoré tvoria Human Centered Artificial Intelligence Master. Všetky vzdelávacie podujatia vrátane sprievodných študijných materiálov budú sprístupnené v angličtine na webovom sídle HCAIM a môžu byť preložené do ktoréhokoľvek z jazykov EÚ pomocou nástroja Európskej únie eTranslation. Na účely tohto náhľadu je na tejto úvodnej stránke plne k dispozícii vzdelávacia udalosť modulu A, jedna vzdelávacia udalosť modulu B, dve učebné udalosti modulu C a usmernenia k diplomovej práci, ako aj dva príklady tém práce v angličtine na tejto stránke ukážky (a môžu byť preložené do ktoréhokoľvek z jazykov EÚ pomocou nástroja Európskej únie eTranslation).

Okrem toho sú prehľad programu HCAIM, modul A Learning Objectives, modul A Prehľad plánov lekcií, ako aj modul A Learning Event „Lecture-Introduction to Human-Centered AI“ už k dispozícii vo všetkých jazykoch EÚ prostredníctvom tejto úvodnej stránky.  Ak chcete vidieť preklady týchto častí programu HCAIM, vyberte ktorýkoľvek z jednotlivých jazykov v dolnej časti tejto stránky.

Všetky materiály sú k dispozícii pod licenciou Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

Prvý modul, konkrétne modelovanie (modul A), sa zameriava na prvú fázu životného cyklu MLOps a súvisí s najnižšou úrovňou vyspelosti aplikácie strojového učenia (ML) v organizáciách: modelovanie dát. Zahŕňa činnosti, ktoré tvoria základ uplatňovania ML, ako je získavanie údajov, analýza údajov, príprava údajov, vzdelávanie modelov a (najmä manuálna) validácia a hodnotenie modelu.

V tejto fáze sa dôraz kladie na správnu analýzu a modelovanie údajov na dosiahnutie obchodných cieľov a málo sa využíva automatizácia (napr. CI/CD), ktorá sa pridáva len v druhej fáze MLOps (Nasadenie – modul B). Modelovacie činnosti sú často charakterizované manuálnou, skriptovanou a interaktívnou metódou, pomocou ktorej sa vykonáva analýza údajov, príprava, modelový výcvik a validácia. Na udržanie prehľadu rôznych modelov, parametrov a možností, s ktorými sa experimentuje, sa používa sledovanie experimentov.

Z etického hľadiska je vo fáze modelovania dôležité venovať dostatočný čas a pozornosť zisťovaniu cieľov klienta, mapovaniu zainteresovaných strán a skúmaniu vplyvu jednotlivých hodnôt týchto zainteresovaných strán (a rozpoznaniu možných konfliktov medzi nimi). V tejto súvislosti majú veľký význam aspekty ako transparentnosť, začlenenie, bezpečnosť a súkromie. Samozrejme, pozornosť treba venovať aj sociálnej a morálnej vhodnosti cieľov klienta. Okrem toho je dôležité mať (včas) povedomie o možných predsudkoch/predsudkoch v dostupných údajoch, rozpoznať možné dôsledky týchto predsudkov a nájsť zmierňujúce opatrenia na riešenie týchto predsudkov.

Zavedenie modulu (modul B) sa zameriava na druhú fázu vývojového cyklu MLOps; nasadenie. Po prieskumnej fáze modelovania údajov (pozri modul A – Modelovanie) prichádza integrácia ML riešenia do podnikových systémov. Teraz je dôležité začať premýšľať o architektúre ML a o tom, ako sa hrá spolu s existujúcimi systémami (dedičstvo). Aby bolo možné skutočne využívať automatizované riešenia ML, je potrebné zaviesť plynovody; na jednej strane, aby bolo možné zaoberať sa nepretržitými a živými dodávkami údajov (spracovanie toku) a na druhej strane prepojiť výsledky modelu ML s inými systémami.

Modul B okrem toho zvyšuje zložitosť technológie umelej inteligencie tým, že smeruje k (využívaniu) neurónových sietí a hlbokému učeniu. Hlavnou výhodou týchto zložitejších modelov je, že sú flexibilnejšie a všestrannejšie ako techniky zavedené v module A – Modelovanie. Avšak, dôležité nevýhody týchto techník sú, že sú zložitejšie (rozumieť a konfigurovať) a nepriehľadné. V nej spočíva dôležitá etická dilema pri používaní (pokročilých) techník umelej inteligencie: ako stále rozumiete tomu, čo riešenie umelej inteligencie vypočíta a či sa to robí správnym spôsobom. Zvýšenie transparentnosti zavádzania riešení umelej inteligencie a schopnosť určiť možné riziká a zmierniť tieto riziká sú dôležitými (sociálnymi) témami v tomto module.

Modul hodnotenia (modul C) sa zameriava na hodnotiace aspekty vývoja umelej inteligencie vrátane spoločenských aspektov produktu umelej inteligencie, ako aj na rozvoj hodnotenia možných budúcich smerov umelej inteligencie, pričom sa zohľadnia technologické trendy; sociálne zodpovednú umelú inteligenciu; súlad, ako aj zabezpečenie toho, aby bol ľudský prvok stále prítomný pri navrhovaní, vývoji a hodnotení systémov umelej inteligencie.

V rámci budúcnosti umelej inteligencie sa diskutuje o preskúmaní úrovne prijatia umelej inteligencie v rôznych odvetviach, ako aj o tom, ako sa umelá inteligencia prispôsobuje rôznym oblastiam. Pohľad na sociálne zodpovednú umelú inteligenciu zahŕňa to, ako umelá inteligencia ovplyvňuje jednotlivcov a rôzne skupiny v spoločnosti. A ako kľúčová časť modulu sa kladie dôraz na zákony, politiky a kódexy správania súvisiace s umelou inteligenciou (s dôrazom na otázky, ako je vysvetliteľnosť a dôvera), ako aj na procesy kontroly kvality a riadenia kvality s cieľom vyhodnotiť výsledky iniciatív v oblasti umelej inteligencie.

Modul pre absolventov ( modulD) odráža základný princíp programu HCAIM, ktorý je postavený na koncepcii projektového učenia (PBL). Cieľom tohto modulu je umiestniť projekt promócie (tvorba profesionálneho produktu) centrálne do vzdelávacej dráhy študenta. V rámci svojho magisterského projektu (Magisterská práca) študenti ukazujú, že môžu nezávisle riešiť výzvy navrhnuté priemyslom na základe aktuálnych potrieb a požiadaviek, berúc do úvahy technické aj etické aspekty danej problematiky.

Každá práca sa považuje za lokálne s interným nadriadeným (doktorom z univerzity, v ktorom študent vykonáva titul) a externým vedúcim, ktorý patrí k strane, ktorá navrhuje diplom (ak existuje). Tento druhý aspekt napriek tomu, že nie je povinný, sa dôsledne sleduje. Navrhujúcou stranou môže byť MSP, centrum excelentnosti alebo iná univerzita na vnútroštátnej aj medzinárodnej úrovni. Od navrhujúcich strán sa očakáva, že poskytnú národnú aj medzinárodnú diplomovú prácu (t. j. diplomovú prácu organizovanú s univerzitou z tej istej krajiny alebo z cudzej).

• Téma práce Príklad 1: Únikové útoky proti ML detektorom malvéru
• Téma práce Príklad 2: PICO-ML: Potrubné definovanie výpočtovej techniky a úloha kontinuálnej umelej inteligencie v ňom
• Téma práce Príklad 3: Vyšetrovanie zaujatosti v predbežne vyškolených modeloch NLP