Adminisztratív információk
| Cím | AI Kockázatok és Kockázatkezelés |
| Időtartam | 90 |
| Modul | B |
| Lecke típusa | Interaktív ülés |
| Fókusz | Etikus – megbízható mesterséges intelligencia |
| Téma | Kockázat |
Kulcsszó
AI-kockázat,Kockázatkezelés, Rezilienciakezelés,Megnyíló AI, Értelmezhető MI, Biztonság, Reziliencia, Átláthatóság,Elszámoltathatóság,
Tanulási célok
- Felismeri, elemzi és megvitatja a mesterséges intelligencia biztonsági tesztelésének szükségességét és szerepét.
- Alkalmazzon dokumentumokat, például a mesterséges intelligenciáról szóló törvényt, hogy a használati eseteket kockázati kategóriákba sorolja.
- Mélyreható és közös európai szókincs megvitatása a mesterséges intelligenciával kapcsolatos kockázatokról, valamint arról, hogy a mesterséges intelligencia hogyan tervezhető biztonságosan és jóindulattal, oly módon, hogy az ne tegye ki az embereket elfogadhatatlan kárveszélynek, még akkor is, ha a kockázatos viselkedés elősegítheti a rendszer célját.
- A szolgáltatók és a felhasználók MI-kockázatkezeléssel kapcsolatos kötelezettségeinek osztályozása.
- A nagy kockázatú MI-rendszerekre vonatkozó követelmények megvitatása a mesterséges intelligenciáról szóló jogszabály szerint.
- Konkrét kockázatok és kockázati taxonómiák kidolgozása és elismerése, amelyek az MI életciklusának különböző szakaszaiban relevánsak.
Várható előkészítés
Az előtt befejezendő tanulási események
Egy sem.
Kötelező a diákok számára
- A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport (AI HLEG). (2019. április 8.) Európai Bizottság. „A megbízható mesterséges intelligenciára vonatkozó etikai iránymutatások.
- HCAIM előadás a kockázat- és kockázatcsökkentésről
Választható diákok számára
- HCAIM Webinar a megbízható, biztonságos és megbízható mesterséges intelligencia felé vezető európai megközelítésről (elérhető a YouTube-on)
- HCAIM Webinar a biztonság és az adatvédelem szerepéről a gépi tanulásban (elérhető a YouTube-on)
Referenciák és háttér a diákok számára
- A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport (AI HLEG). (2019. április 8.) Európai Bizottság. „A megbízható mesterséges intelligenciára vonatkozó etikai iránymutatások.
- HCAIM előadás a kockázat- és kockázatcsökkentésről
Ajánlott tanároknak
- Európai Bizottság: Javaslat – Az Európai Parlament és a Tanács rendelete a mesterséges intelligenciára vonatkozó harmonizált szabályok hatályon kívül helyezéséről (a mesterséges intelligenciáról szóló jogszabály), 2021.
- Európai Uniós Kiberbiztonsági Ügynökség, Malatras, A., Dede, G.,AI kiberbiztonsági kihívások: a mesterséges intelligenciát fenyegető veszélyek, Európai Hálózat- és Információbiztonsági Ügynökség, 2020
- A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport (AI HLEG). (2019. április 8.) Európai Bizottság. „Etikai iránymutatások a megbízható mesterséges intelligenciához.”
- A mesterséges intelligencia rosszindulatú felhasználásai és visszaélései, 2020. évi Europol-kiadvány
Leckeanyagok
Utasítások tanároknak
Ez az interaktív munkamenet célja, hogy közös szókincset hozzon létre a diákok számára, hogy megvitassák a mesterséges intelligenciával kapcsolatos kockázat- és kockázatkezelést, különösen a mesterséges intelligenciával kapcsolatos uniós kockázatalapú megközelítés révén. A rendelkezésre bocsátott anyagok, valamint az interaktív munkamenet általános vázlata és ütemezése tájékoztató jellegű és bemutatásra kerül annak érdekében, hogy jobban irányítsák a diákokkal folytatott megbeszéléseket. Amíg a tanulási célok teljesülnek, az oktatókat arra ösztönzik, hogy kövessék a vita természetes áramlását.
Az interaktív ülés vázlata és ütemezése:
| Időtartam | Téma | Leírás |
|---|---|---|
| 15 perc | Bevezetés | A kockázat meghatározása. A mesterséges intelligenciával kapcsolatos kockázatkezeléssel kapcsolatos uniós megközelítés. Kockázatkezelési stratégiák a mesterséges intelligencia teljes életciklusa alatt. |
| 30 perc | A kockázat besorolása | MI-eszközök és fenyegetettségi taxonómia és kockázatkezelési keretek a mesterséges intelligencia műszaki tervezési jellemzőinek leírására. |
| 30 perc | Kockázatcsökkentés | A kockázatcsökkentés megközelítése használati esetek és közös szókincs felhasználásával, valamint referenciamodellek a vita fellendítése érdekében. |
| 15 perc | Záró megjegyzések | Beszélgetés a diákokkal. Kérdések és válaszok. |
Két HCAIM Webinárium különösen fontos ebben az interaktív munkamenetben. Ezeket a viták előtt bemutathatják, vagy azok egyes részeit a témák megkönnyítése és a hallgatás kezelése érdekében lehet lejátszani.
Visszaigazolások
Ezt az előadást Dr. George Sharkov és Christina Todorova dolgozta ki a European Software Institute – Center Eastern Europe-ban.
Az előadás a Budapesti Műszaki és Gazdaságtudományi Egyetemen Dr. Héder Mihály előadásából származó diákokat használ. Kérem, fontolja meg, hogy kövesse a munkáját.
A Human-Centered AI Masters programot az Európai Unió Európai Hálózatfinanszírozási Eszköze (CEF-TC-2020–1 Digitális készségek 2020 EU-IA-0068) társfinanszírozta.