Administratívne informácie
| Názov | Riziká a riadenie rizík v oblasti umelej inteligencie |
| Trvanie | 90 |
| Modul | B |
| Druh lekcie | Interaktívna schôdza |
| Zameranie | Etika – dôveryhodná umelá inteligencia |
| Téma | Riziko |
Kľúčové slová
Riziko umelej inteligencie, riadenie rizík, riadenie odolnosti, vysvetliteľná umelá inteligencia, interpretovateľná umelá inteligencia, bezpečnosť, odolnosť, transparentnosť, zodpovednosť,
Vzdelávacie ciele
- Rozpoznať, analyzovať a diskutovať o potrebe a úlohe testovania bezpečnosti v umelej inteligencii.
- Používať dokumenty, ako je zákon o umelej inteligencii, na klasifikáciu prípadov použitia do rizikových kategórií.
- Podrobne diskutovali so spoločným európskym slovníkom o riziku umelej inteligencie a o tom, ako môže byť umelá inteligencia navrhnutá bezpečne a dobrovoľne, a to spôsobmi, ktoré nevystavia ľudí neprijateľným rizikám ujmy, a to aj vtedy, keď riskantné správanie môže podporiť systémový cieľ.
- Klasifikovať povinnosti poskytovateľov a používateľov v súvislosti s riadením rizík umelej inteligencie.
- Diskutovať o požiadavkách na vysokorizikové systémy umelej inteligencie podľa aktu o umelej inteligencii.
- Vypracovať a uznať špecifické riziká a taxonómie rizík, ktoré sú relevantné počas rôznych fáz životného cyklu umelej inteligencie.
Očakávaná príprava
Naučte sa udalosti, ktoré treba dokončiť predtým
Žiadne.
Povinné pre študentov
- Expertná skupina na vysokej úrovni pre umelú inteligenciu (AI HLEG). (Od 8. apríla 2019). Európska komisia. „Etické usmernenia pre dôveryhodnú umelú inteligenciu.
- Prednáška HCAIM o zmierňovaní rizík a rizík
Voliteľné pre študentov
- Webinár HCAIM o európskom prístupe k spoľahlivej, bezpečnej a dôveryhodnej umelej inteligencii (dostupný na YouTube)
- Webinár HCAIM o úlohe bezpečnosti a súkromia v strojovom učení (dostupný na YouTube)
Referencie a zázemie pre študentov
- Expertná skupina na vysokej úrovni pre umelú inteligenciu (AI HLEG). (Od 8. apríla 2019). Európska komisia. „Etické usmernenia pre dôveryhodnú umelú inteligenciu.
- Prednáška HCAIM o zmierňovaní rizík a rizík
Odporúčané pre učiteľov
- Európska komisia: Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii), 2021
- Agentúra Európskej únie pre kybernetickú bezpečnosť, Malatras, A., Dede, G.: hrozba pre umelú inteligenciu, Európska agentúra pre bezpečnosť sietí a informácií, 2020
- Expertná skupina na vysokej úrovni pre umelú inteligenciu (AI HLEG). (Od 8. apríla 2019). Európska komisia. „Etické usmernenia pre dôveryhodnú umelú inteligenciu.“
- Škodlivé využívanie a zneužívanie umelej inteligencie 2020, publikácia Europolu
Učebné materiály
Pokyny pre učiteľov
Cieľom tohto interaktívneho stretnutia je vytvoriť spoločnú slovnú zásobu pre študentov s cieľom diskutovať o rizikách a riadení rizík súvisiacich s umelou inteligenciou, najmä prostredníctvom prístupu EÚ k umelej inteligencii založeného na riziku. Poskytnuté materiály, ako aj celkový náčrt a harmonogram interaktívnej relácie sú orientačné a prezentované s cieľom lepšie usmerniť diskusiu so študentmi. Pokiaľ sú splnené vzdelávacie ciele, inštruktori sú povzbudzovaní, aby sledovali prirodzený tok diskusie.
Prehľad a harmonogram interaktívneho zasadnutia:
| Trvanie | Téma | Popis |
|---|---|---|
| 15 minút | Úvod | Definovanie rizika. Prístup EÚ k riadeniu rizík umelej inteligencie. Stratégie riadenia rizík počas celého životného cyklu umelej inteligencie. |
| 30 minút | Klasifikácia rizika | Aktíva umelej inteligencie a taxonómia hrozieb a rámce riadenia rizík na opis technických charakteristík návrhu umelej inteligencie. |
| 30 minút | Zmierňujúce riziko | Priblíženie sa k zmierneniu rizika pomocou prípadov použitia a spoločného slovníka a referenčných modelov na podporu diskusie. |
| 15 minút | Záverečné poznámky | Diskusia so študentmi. Otázky a odpovede. |
Dva webové semináre HCAIM sú obzvlášť dôležité pre túto interaktívnu reláciu. Tie by sa mohli zobraziť pred diskusiou alebo ich časti by sa mohli hrať s cieľom uľahčiť témy a zvládnuť ticho.
Uznania
Túto prezentáciu vypracovali Dr. George Sharkov a Christina Todorova v Európskom softvérovom inštitúte – Center Eastern Europe.
Prezentácia využíva snímky z prezentácie Dr. Mihályho Hédera na Budapeštianskej Technickej a ekonomickej univerzite. Prosím, zvážte sledovanie jeho práce.
Program Masters umelej inteligencie zameraný na človeka bol spolufinancovaný z Nástroja Európskej únie na prepájanie Európy v rámci grantu CEF-TC-2020 – 1 Digitálne zručnosti 2020-EU-IA-0068.