Administrativní informace
| Název | AI rizika a řízení rizik |
| Trvání | 90 |
| Modul | B |
| Typ lekce | Interaktivní zasedání |
| Soustředění | Etika – důvěryhodná umělá inteligence |
| Téma | Riziko |
Klíčová slova
Rizika AI, Řízení rizik,Řízení odolnosti, Vysvětlitelná UI, interpretovatelná UI, Bezpečnost, Odolnost, Transparentnost, Odpovědnost,
Vzdělávací cíle
- Rozpoznávat, analyzovat a diskutovat o nezbytnosti a úloze testování bezpečnosti v UI.
- Používat dokumenty, jako je zákon o umělé inteligenci, k zařazení případů použití do kategorií rizik.
- Podrobně a se společným evropským slovníkem o rizicích umělé inteligence a o tom, jak může být umělá inteligence navržena bezpečně a benevolentně, způsobem, který nevystaví člověka nepřijatelným rizikům újmy, a to i v případě, že rizikové chování může posunout cíl systému.
- Klasifikovat povinnosti poskytovatelů a uživatelů v souvislosti s řízením rizik umělé inteligence.
- Projednat požadavky na vysoce rizikové systémy UI podle zákona o UI.
- Vypracovat a uznat specifická rizika a taxonomie rizik, které jsou relevantní v různých fázích životního cyklu umělé inteligence.
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Žádné.
Povinné pro studenty
- Odborná skupina na vysoké úrovni pro umělou inteligenci (AI HLEG). (8. dubna 2019). Evropská komise. „Etické pokyny pro důvěryhodnou umělou inteligenci.
- HCAIM Přednáška o snižování rizik a rizik
Volitelné pro studenty
- Webinář HCAIM o evropském přístupu k spolehlivé, bezpečné a důvěryhodné umělé inteligenci (dostupný na YouTube)
- HCAIM Webinář o úloze bezpečnosti a soukromí ve strojovém učení (dostupný na YouTube)
Reference a zázemí pro studenty
- Odborná skupina na vysoké úrovni pro umělou inteligenci (AI HLEG). (8. dubna 2019). Evropská komise. „Etické pokyny pro důvěryhodnou umělou inteligenci.
- HCAIM Přednáška o snižování rizik a rizik
Doporučeno pro učitele
- Evropská komise: Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci), 2021
- Agentura Evropské unie pro kybernetickou bezpečnost, Malatras, A., Dede, G., „AI Cybersecurity challenges“: prostředí hrozeb pro umělou inteligenci, Evropská agentura pro bezpečnost sítí a informací, 2020
- Odborná skupina na vysoké úrovni pro umělou inteligenci (AI HLEG). (8. dubna 2019). Evropská komise. „Etické pokyny pro důvěryhodnou umělou inteligenci.“
- Zneužívání a zneužívání umělé inteligence 2020, publikace Europolu
Materiály pro výuku
Pokyny pro učitele
Cílem tohoto interaktivního zasedání je vytvořit společný slovník pro studenty k diskusi o rizicích a řízení rizik souvisejících s umělou inteligencí, zejména prostřednictvím přístupu EU k umělé inteligenci založeného na posouzení rizik. Poskytnuté materiály, jakož i celkový přehled a harmonogram interaktivního zasedání jsou orientační a prezentované s cílem lépe vést diskusi se studenty. Dokud jsou splněny cíle učení, instruktoři jsou povzbuzováni, aby sledovali přirozený tok diskuse.
Přehled a harmonogram interaktivního zasedání:
| Trvání | Téma | Popis |
|---|---|---|
| 15 minut | Úvod | Definování rizika. Přístup EU k řízení rizik umělé inteligence. Strategie řízení rizik v průběhu celého životního cyklu umělé inteligence. |
| 30 minut | Klasifikace rizika | Aktiva umělé inteligence a taxonomie hrozeb a rámce pro řízení rizik, které popisují technické charakteristiky návrhu umělé inteligence. |
| 30 minut | Zmírnění rizika | Přiblížení ke zmírnění rizik pomocí případů použití a společného slovníku a referenčních modelů pro využití diskuse. |
| 15 minut | Závěrečné poznámky | Diskuse se studenty. Otázky a odpovědi. |
Pro tuto interaktivní relaci jsou obzvláště důležité dva webináře HCAIM. Ty by mohly být zobrazeny před diskusí nebo jejich části by mohly být přehrány, aby usnadnily témata a zvládaly ticho.
Potvrzení
Tuto prezentaci vytvořili Dr. George Sharkov a Christina Todorová v Evropském softwarovém institutu – Centrum východní Evropy.
Prezentace využívá prezentace z prezentace Dr. Mihályho Hédera na budapešťské univerzitě technologie a ekonomiky. Prosím, zvažte sledovat jeho práci.
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.