Přehled programu

V rámci našeho cíle vytvořit program Human-Centred AI Master vychází konsorcium HCAIM podle definice AI HLEG: „Přístup k umělé inteligenci zaměřený na člověka usiluje o to, aby lidské hodnoty byly ústředním prvkem toho, jak jsou systémy umělé inteligence vyvíjeny, zaváděny, používány a monitorovány, a to zajištěním dodržování základních práv.

Aby bylo možné odpovědět na požadavky této definice, program zahrnuje technické, etické a praktické prvky umělé inteligence. Náš obsah jsme navrhli kolem tří fází životního cyklu MLOps vývoje, zavádění a údržby modelů strojového učení, čímž jsme vytvořili tři základní moduly v souladu s výše uvedenými fázemi ML-Ops: Modelování (modul A), nasazení (modul B) a hodnocení (modul C). Přidali jsme čtvrtý modul (D) Graduation, který umožňuje studentům ukázat, že mohou nezávisle řešit výzvy navržené průmyslem na základě současných potřeb a požadavků týkajících se oblasti umělé inteligence zaměřené na člověka.

To je vizualizováno v níže uvedené tabulce.

Modul A Modul B Modul C Modul D
Technické

Základy AI

Pokročilá AI:
Hluboké učení
Budoucí AI

Projekt Magisterské práce

Praktické Modelování AI AI v akci:
Organizační AI
Společensky odpovědná AI
Etické Základy etiky Důvěryhodná AI Dodržování, zákonnost a lidskost

Tato stránka obsahuje stručný popis modulů definovaných v Human Centered Artificial Intelligence Master. Všechny vzdělávací akce, včetně jejich doprovodných studijních materiálů, jsou k dispozici na webových stránkách HCAIM Wikiwijs.

Popisy vzdělávacích akcí byly přeloženy do všech 24 úředních jazyků EU pomocí nástroje eTranslation Evropské unie a jsou k dispozici ze seznamů přidělených těmto jazykům. Všimněte si, že překlady nejsou přezkoumávány žádnými lektory.

Všechny materiály jsou k dispozici pod licencí Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

Modelování (modul A)

První modul, tedy modelování (modul A), se zaměřuje na první fázi životního cyklu MLOps a souvisí s nejnižší úrovní vyspělosti aplikace strojového učení (ML) v organizacích: modelování dat. Zahrnuje činnosti, které tvoří základ uplatňování ML, jako je extrakce dat, analýza dat, příprava dat, školení modelů a (zejména manuální) validace a hodnocení modelu.

V této fázi je kladen důraz na správnou analýzu a modelování dat pro dosažení obchodních cílů a málo se využívá automatizace (např. CI/CD), která se přidává až ve druhé fázi MLOps (zavedení – modul B). Modelovací činnosti jsou často charakterizovány manuální, skriptovou a interaktivní metodou, kterou se provádí analýza dat, příprava, modelová školení a validace. Pro udržení přehledu o různých modelech, parametrech a možnostech, s nimiž se experimentuje, se používá sledování experimentů.

Z etického hlediska je ve fázi modelování důležité věnovat dostatek času a pozornosti zjišťování cílů klienta, mapování zúčastněných stran a zkoumání toho, jak jsou ovlivněny jednotlivé hodnoty těchto zúčastněných stran (a rozpoznávat možné konflikty mezi nimi). V tomto ohledu mají velký význam aspekty, jako je transparentnost, začlenění, bezpečnost a soukromí. Samozřejmě je třeba věnovat pozornost také společenské a morální potřebě cílů klienta. Kromě toho je důležité mít (včas) povědomí o možných předsudcích/předsudcích v dostupných údajích, rozpoznat možné důsledky těchto předsudků a nalézt zmírnění těchto předsudků.

Výukové výsledky

  • Student vyhodnocuje různé techniky ML, aby učinil opodstatněnou volbu, odpovídal nabytým požadavkům zákazníka a implementoval prototyp zvolené techniky ML pro poradenství při řešení daného problému datového modelování.
  • Výsledek učení 1
  • Student argumentuje, pomocí základních etických rámců, jak lze vyřešit morální dilemata a vyhodnocuje možné důsledky stávajících předsudků v datech a vliv navržených zmírňujících opatření, aby se zabránilo následkům těchto předsudků.
  • Výukový výsledek 2
  • Student aplikuje kvantitativní a kvalitativní výzkumné metody, aby vědecky doložil své volby během etického zvážení (ů) a tvorby prototypu.
  • Výsledek učení 3

Nasazení (modul B)

Modul zavádění (modul B) se zaměřuje na druhou fázi vývojového cyklu MLOps; nasazení. Po fázi průzkumu dat (viz Modul A – Modeling) přichází integrace řešení ML do podnikových systémů. Nyní je důležité začít přemýšlet o architektuře ML a o tom, jak hraje společně se stávajícími systémy (legacy). Aby bylo možné skutečně těžit z automatizovaných řešení v oblasti praní peněz, je třeba zavést potrubí; na jedné straně, aby bylo možné se vypořádat s nepřetržitými a živými dodávkami dat (průběžné zpracování) a na druhé straně propojit výsledky modelu ML s jinými systémy.

Modul B navíc zvyšuje složitost technologie umělé inteligence tím, že se posunuje směrem k neuronovým sítím a hlubokému učení. Hlavní výhodou těchto složitějších modelů je, že jsou pružnější a všestrannější než techniky zavedené v modulu A – modelování. Nicméně, důležité nevýhody těchto technik je, že jsou složitější (porozumět a konfigurovat) a neprůhledné. V tom spočívá důležité etické dilema při používání (pokročilé) techniky umělé inteligence: jak stále chápete, co AI řešení vypočítá a zda se to dělá správným způsobem. Větší transparentnost zavádění řešení umělé inteligence a schopnost určit možná rizika a zmírnit tato rizika jsou v tomto modulu důležitými (sociálními) tématy.

Výukové výsledky

  • Student posuzuje možné možnosti integrace pokročilé techniky umělé inteligence, jako je hluboké a/nebo posílení učení, a autoři jednostránkové zprávy založené na prototypu, který byl vyvinut s přihlédnutím k omezením a vlivům stávajících ICT systémů a datových zařízení zákazníka, které byly získány například ve spolupráci s architekty nebo vývojáři IKT.
  • Výsledek učení 1
  • Student posuzuje potenciální související riziko a testuje stupeň transparentnosti (včetně interpretovatelnosti, reprodukovatelnosti a vysvětlitelnosti) zvolené implementace AI/ML a navrhuje řešení s využitím technik, které zvyšují vhled a transparentnost mezi zúčastněnými stranami (tzv. vysvětlitelné techniky AI (XAI) k nápravě nedostatků v tomto ohledu ve srovnání se sociálními požadavky a požadavky specifické pro zákazníka.
  • Výukový výsledek 2
  • Student formuluje návrh výzkumu pro vědecky zdravý (praktický) výzkumný projekt související s případem společnosti tím, že formuluje relevantní, konzistentní, funkční výzkumnou otázku, s přihlédnutím k použitým metodám aplikovaného výzkumu a stanovením přesného, relevantního a kritického teoretického rámce.
  • Výsledek učení 3

Hodnocení (modul C)

Hodnotící modul (modul C) se zaměřuje na hodnotící aspekty vývoje umělé inteligence, včetně jak společenských aspektů produktu umělé inteligence, tak na rozvoj zhodnocení možných budoucích směrů, které by umělá inteligence mohla přijmout, a to s ohledem na technologické trendy; společensky odpovědná umělá inteligence; dodržování předpisů, jakož i zajištění toho, aby lidský prvek byl neustále přítomen při navrhování, vývoji a hodnocení systémů umělé inteligence.

V rámci budoucnosti umělé inteligence se diskutuje o zkoumání úrovně přijetí umělé inteligence v různých odvětvích, jakož i o tom, jak je umělá inteligence přizpůsobena různým oblastem. Pohled na společensky odpovědnou umělou inteligenci zahrnuje, jak umělá inteligence ovlivňuje jednotlivce a různé skupiny ve společnosti. A jako zásadní součást modulu je kladen důraz na právní předpisy, politiky a kodexy chování související s umělou inteligencí (s důrazem na otázky, jako je vysvětlitelnost a důvěra), jakož i na procesy kontroly kvality a řízení kvality s cílem vyhodnotit výsledky iniciativ v oblasti umělé inteligence.

Výukové výsledky

  • Student rozvíjí ocenění špičkových přístupů k umělé inteligenci a strojovému učení, stejně jako pochopení toho, jak je umělá inteligence využívána v různých oblastech, a jak vyhodnotit potenciální směry umělé inteligence může jít v budoucnu.
  • Výsledek učení 1
  • Student ukazuje dobře definovaný přístup ke skenování následků, přičemž zvažuje otázky, jako je hodnocení potenciálního dopadu, který by nové technologie mohly mít na jednotlivce a společnost, se zaměřením konkrétně na menšiny a marginalizované skupiny, jakož i potenciální dopady na životní prostředí.
  • Výukový výsledek 2
  • Student prokazuje schopnost používat plnohodnotnou metodiku výzkumu s etikou zakotvenou ve všech fázích, s vědomím kontextuální povahy specifických přístupů, které by měly být použity a které budou informovány případovými studiemi, na které se vztahuje tento modul.
  • Výsledek učení 3

Maturita (modul D)

Modul Graduation(Module D) odráží základní princip programu HCAIM, který je postaven na konceptu projektového učení (PBL). Cílem tohoto modulu je umístit absolventský projekt (výroba profesionálního produktu) centrálně do studijní dráhy studenta. V rámci svého absolventského projektu (Master Thesis) studenti ukazují, že mohou nezávisle řešit výzvy navržené průmyslem na základě současných potřeb a požadavků, a to jak s ohledem na technické a etické aspekty dané problematiky.

Každá práce je považována za lokálně, s interním nadřízeným (profesorem z univerzity, ve kterém student sleduje titul) a externím nadřízeným patřícím k straně navrhující diplomovou práci (pokud existuje). Tento poslední aspekt, i když není povinný, je důsledně sledován. Navrhující stranou může být malý nebo střední podnik, centrum excelence nebo jiná univerzita, a to jak na národní, tak na mezinárodní úrovni. Očekává se, že navrhující strany poskytnou národní i mezinárodní diplomovou práci (tj. práce organizovaná s univerzitou ze stejné země nebo ze zahraniční).

Výukové výsledky

  • Student uznává a reflektuje životní cyklus umělé inteligence v realistickém, průmyslově informovaném kontextu a v různých místech, scénářích a případech použití.
  • Výsledek učení 1
  • Student demonstruje robustní a platný výzkumný postoj prostřednictvím projektu s dobře definovaným interdisciplinárním přístupem produkujícím průmysl relevantní a technologicky kompetentní řešení a zároveň hodnotí potenciální dopad své práce na jednotlivce a společnost.
  • Výukový výsledek 2
  • Student prokazuje profesionální přístup ke komunikaci s příslušnými zúčastněnými stranami (např. mentory, poradci, vrstevníky a zákazníky), analytický postoj, pracovní étos, schopnost plánování, proaktivitu a sebeuvědomění.
  • Výsledek učení 3

Pokyny pro práci

HCAIM Diplomové návrhy Pokyny

 

Tyto pokyny jsou určeny na podporu stran, které hodlají navrhnout novou práci.

HCAIM šablona práce

 

Podívejte se na šablonu HCAIM Thesis zde.

Etické pokyny pro HCAIM Theses

 

Plagiátorství, tvorba dat a manipulace s obrazem

Plagiátorství není přijatelné. Plagiátorství zahrnuje kopírování textu, nápadů, obrázků nebo dat z jiného zdroje, včetně vlastních publikací, aniž by připisoval původní zdroj.

Opakované použití textu zkopírovaného z jiného zdroje musí být mezi uvozovkami a musí být uveden původní zdroj. Pokud předchozí studie inspirovaly návrh studie nebo strukturu nebo jazyk rukopisu, musí být tyto studie výslovně citovány.

Obrazové soubory nesmí být manipulovány ani upraveny žádným způsobem, který by mohl vést k nesprávnému výkladu informací poskytnutých původním obrazem. Nepravidelná manipulace zahrnuje 1) úvod, vylepšení, pohyb nebo odstranění funkcí z původního obrazu, 2) seskupení obrázků, které by měly být prezentovány samostatně nebo 3) úprava kontrastu, jasu nebo barevné vyváženosti tak, aby zatemnila, eliminovala nebo vylepšovala některé informace.

Předložené výsledky nesmí být nevhodně vybírány, manipulovány, zdokonalovány nebo vyráběny. To zahrnuje 1) vyloučení datových bodů pro zvýšení významu závěrů, 2) vytváření údajů, 3) výběr výsledků, které podporují konkrétní závěr na úkor protichůdných údajů, 4) záměrný výběr analytických nástrojů nebo metod na podporu konkrétního závěru (včetně p-hackingu).

Výzkum zahrnující lidské subjekty, zvířata nebo rostliny

Při podávání zpráv o výzkumu, který zahrnuje lidské subjekty, lidský materiál, lidské tkáně nebo lidské údaje, musí navrhující strana zajistit, aby vyšetřování probíhalo v souladu s pravidly Helsinské deklarace z roku 1975, revidované v roce 2013. Jakékoli důsledky spojené s porušením tohoto aspektu budou zcela přičítány navrhující straně a ani konsorciu HCAIM, ani studentovi.

Práce s buněčnými liniemi by měla uvádět původ všech buněčných linií. U zavedených buněčných linií je třeba uvést provenienci a odkazovat se také na publikovaný dokument nebo komerční zdroj. Pokud byly použity dříve nezveřejněné buněčné linie de novo, včetně těch, které byly darovány z jiné laboratoře, musí být uvedeny podrobnosti o institucionální hodnotící komisi nebo schválení etické komise a musí být poskytnut písemný informovaný souhlas, pokud je řádek lidského původu.

Všechna témata potenciálně odvozená z jakéhokoli výzkumu způsobujícího jakékoliv poškození zvířat jsou zakázána. Všechny pokyny vztahující se na člověka by měly být (pokud možno) dodržovány i u zvířat.

Experimentální výzkum rostlin (buď pěstovaných nebo volně žijících), včetně sběru rostlinného materiálu, musí být v souladu s institucionálními, vnitrostátními nebo mezinárodními pokyny. Doporučujeme dodržovat Úmluvu o biologické rozmanitosti a Úmluvu o obchodu ohroženými druhy volně žijících živočichů a planě rostoucích rostlin.

Sex, gender, etnikita, náboženství a jiné předsudky ve výzkumu

Doporučuje se, aby se řídily pokyny „Sex a genderová rovnost ve výzkumu – SAGER –“ a aby v příslušných případech zahrnovaly otázky týkající se pohlaví a rovnosti žen a mužů. Pojmy pohlaví (biologický atribut) a pohlaví (tvarované sociálními a kulturními podmínkami) by měly být používány pečlivě, aby se zabránilo nejasnostem obou pojmů. Práce by měla rovněž popsat (v „souvislosti“), zda lze očekávat rozdíly mezi pohlavími a/nebo pohlavími; informovat o tom, jak byly v návrhu studie zohledněny pohlaví a/nebo pohlaví; případně poskytnout rozčleněné údaje podle pohlaví a/nebo pohlaví; a diskutujte o příslušných výsledcích. Pokud nebyla provedena analýza pohlaví a/nebo pohlaví, mělo by být v diskusi uvedeno odůvodnění.

Podobné úvahy platí pro všechny ostatní formy předpojatosti, včetně (a nikoli výlučně) etnického původu a náboženství. Pro první, připomínáme, že lidé nemají rasy, ale pouze etnickou příslušnost.

Je-li práce zaměřena na předpojatost, musí být od začátku objasněny důvody, které za ní stojí.

Střet zájmů

Studenti se musí vyhnout uzavírání dohod se sponzory studia, a to jak pro ziskové, tak neziskové, které narušují přístup ke všem datům studie nebo narušují jejich schopnost analyzovat a interpretovat data a připravovat práci nezávisle, kdy a kde se rozhodnou.

Studenti musí identifikovat a deklarovat jakékoli osobní okolnosti nebo zájem, které mohou být vnímány jako nevhodně ovlivňující reprezentaci nebo interpretaci hlášených výsledků výzkumu. Mezi možné střety zájmů patří mimo jiné finanční zájmy (např. členství, zaměstnání, poradenské společnosti, vlastnictví akcií/akcie, honorář, granty nebo jiné finanční prostředky, placená odborná svědectví a ujednání o udělování patentů) a nefinanční zájmy (např. osobní nebo profesní vztahy, příslušnost, osobní přesvědčení).

Jakákoli úloha sponzorů při navrhování studie, při shromažďování, analýze nebo interpretaci údajů, při psaní rukopisu nebo při rozhodování o zveřejnění výsledků musí být oznámena předem.

Citační politika

  • Studenti by měli zajistit, aby tam, kde je materiál převzat z jiných zdrojů (včetně jejich vlastního publikovaného psaní), byl zdroj jasně citován a v případě potřeby získán souhlas.
  • Studenti by se neměli zapojovat do přílišné sebecitace své vlastní práce.
  • Studenti by neměli kopírovat reference z jiných publikací, pokud nečetli citovanou práci.
  • Studenti by neměli přednostně citovat své vlastní nebo své přátele, vrstevníky nebo instituce.
  • Studenti by neměli citovat reklamy nebo reklamní materiály.

Etické pokyny pro recenzenty

Potenciální střet zájmů

Recenzenti se vyzývají, aby informovali radu HCAIM, pokud jsou ve střetu zájmů, který by mohl zprávu o přezkoumání poškodit, a to buď pozitivním, nebo negativním způsobem. Výbor zkontroluje co nejpřesněji před pozváním recenzentů; nicméně spolupráce hodnotitelů v této záležitosti se očekává a oceňuje.

Důvěrnost a anonymita

Recenzenti musí zachovat obsah práce, včetně abstraktní, důvěrné. Musí informovat radu HCAIM, pokud by chtěli, aby kolega dokončil přezkum jejich jménem.

Matrix a zmírňující plán rizik pro HCAIM Theses

 

Tato šablona umožňuje školiteli podporovat studenta při identifikaci a řešení problémů. Zároveň bude k sestavení této šablony požádána navrhující strana.

Do návrhu projektu by měly být zahrnuty všechny milníky a výstupy pro dokončení navrhovaného výzkumného projektu. Studenti jsou také povinni připravit rizikovou matici, která zahrnuje rizika, která by mohla ohrozit dosažení těchto výstupů, a poskytnout pohotovostní plány ke zmírnění nastíněných rizik. Příklad matice rizik a plánu na zmírnění rizik je uveden níže. V případě potřeby uveďte další rizika:

Riziko Závažnost Pravděpodobnost Zmírňující opatření
Nepodařilo se včas shromáždit cílová data Vysočina Nízká Projekt začne zkoumat veřejně dostupné zdroje. Prozkoumat možnosti získání syntetických nebo předběžně dostupných veřejných údajů podobných cílovým údajům.
Nedostatečné financování zdrojů Střední Střední Budou se hledat alternativní zdroje financování.
Cíle výzkumu/projektu nadměrně ambiciózní Střední Nízká Pravidelně přezkoumávat cíle projektu a regulovat výsledky projektu na základě procesu přezkumu.
(Převážně) Vyžadováno velké množství
dodatečného
školení
Střední Nízká Předchozí souhlas bude přijat. Cíle projektu budou aktualizovány na základě času a zdrojů použitých pro toto dodatečné školení.
Ztráta dat Střední Nízká Student bude dodržovat vhodné záložní postupy, aby se minimalizovalo riziko.

Příklady tematických prací





















Přejít na obsah

 

Skip to content