Upravne informacije
| Naslov | Umetna inteligenca tveganja in obvladovanje tveganj |
| Trajanje | 90 |
| Modul | B |
| Vrsta lekcije | Interaktivna seja |
| Osredotočenost | Etična – zaupanja vredna umetna inteligenca |
| Tema | Tveganje |
Ključne besede
Tveganja umetne inteligence, obvladovanje tveganj, obvladovanje odpornosti, razložljiva umetna inteligenca, razlagalna umetna inteligenca, varnost, odpornost, preglednost, odgovornost,
Učni cilji
- Prepoznati, analizirati in razpravljati o nujnosti in vlogi varnostnega testiranja na področju umetne inteligence.
- Uporaba dokumentov, kot je zakon o umetni inteligenci, za razvrstitev primerov uporabe v kategorije tveganja.
- Poglobljeno in s skupnim evropskim besediščem o tveganju umetne inteligence ter o tem, kako je mogoče umetno inteligenco oblikovati varno in dobrohotno, na načine, ki ljudi ne bodo izpostavili nesprejemljivim tveganjem za škodo, tudi če tvegano vedenje lahko prispeva k doseganju sistemskega cilja.
- Razvrsti obveznosti ponudnikov in uporabnikov v zvezi z obvladovanjem tveganja na področju umetne inteligence.
- Razpravljati o zahtevah za umetnointeligenčne sisteme velikega tveganja v skladu z aktom o umetni inteligenci.
- Priprava in priznavanje posebnih tveganj in taksonomij tveganja, pomembnih v različnih fazah življenjskega cikla umetne inteligence.
Pričakovana priprava
Učenje Dogodki, ki jih je treba dokončati pred
Nobenega.
Obvezno za študente
- Strokovna skupina na visoki ravni za umetno inteligenco (AI HLEG). (8. april 2019). Evropska komisija. „Etične smernice za zaupanja vredno umetno inteligenco.
- Predavanje HCAIM o zmanjševanju tveganj in tveganj
Neobvezno za študente
- HCAIM Webinar o evropskem pristopu k zanesljivi, varni in zaupanja vredni umetni inteligenci (na voljo na YouTubu)
- HCAIM Webinar o vlogi varnosti in zasebnosti pri strojnem učenju (na voljo na YouTubu)
Reference in ozadje za študente
- Strokovna skupina na visoki ravni za umetno inteligenco (AI HLEG). (8. april 2019). Evropska komisija. „Etične smernice za zaupanja vredno umetno inteligenco.
- Predavanje HCAIM o zmanjševanju tveganj in tveganj
Priporočeno za učitelje
- Evropska komisija: Predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci), 2021
- Agencija Evropske unije za kibernetsko varnost, Malatras, A., Dede, G.,AI izzivi na področju kibernetske varnosti: okolje groženj za umetno inteligenco, Evropska agencija za varnost omrežij in informacij, 2020
- Strokovna skupina na visoki ravni za umetno inteligenco (AI HLEG). (8. april 2019). Evropska komisija. „Etične smernice za zaupanja vredno umetno inteligenco.“
- Zlonamerne uporabe in zlorabe umetne inteligence 2020, publikacija Europola
Gradivo za učne ure
Navodila za učitelje
Namen interaktivne seje je vzpostaviti skupni besednjak za študente, da bi razpravljali o obvladovanju tveganj in tveganj v zvezi z umetno inteligenco, zlasti s pristopom EU k umetni inteligenci, ki temelji na tveganju. Predloženi materiali ter splošni oris in časovni razpored interaktivne seje so okvirni in predstavljeni, da bi bolje usmerjali razpravo s študenti. Dokler so učni cilji doseženi, se inštruktorji spodbujajo, da sledijo naravnemu toku razprave.
Opis in časovni razpored interaktivnega zasedanja:
| Trajanje | Tema | Opis |
|---|---|---|
| 15 minut | Uvod | Opredelitev tveganja. Pristop EU k obvladovanju tveganj na področju umetne inteligence. Strategije obvladovanja tveganj v celotnem življenjskem ciklu umetne inteligence. |
| 30 minut | Razvrščanje tveganj | Sredstva umetne inteligence in taksonomija groženj ter okviri za obvladovanje tveganj za opis tehničnih značilnosti zasnove za umetno inteligenco. |
| 30 minut | Zmanjševanje tveganja | Približevanje zmanjševanju tveganja z uporabo primerov uporabe in skupnega besednjaka ter referenčnih modelov za spodbujanje razprave. |
| 15 min | Sklepne besede | Pogovor s študenti. Vprašanja in odgovori. |
Za to interaktivno sejosta še posebej pomembna dva HCAIM Webinars. Te bi lahko prikazali pred razpravo ali pa bi jih lahko odigrali, da bi olajšali teme in obvladali tišino.
Priznanja
Predstavitev sta pripravila dr. George Sharkov in Christina Todorova na Evropskem inštitutu za programsko opremo – Center vzhodne Evrope.
Predstavitev uporablja diapozitive iz predstavitve dr. Mihályja Héderja na Univerzi za tehnologijo in ekonomijo v Budimpešti. Prosim, razmislite o nadaljevanju njegovega dela.
Program Masters umetne inteligence, ki je bil vključen v človeka, je bil sofinanciran z instrumentom za povezovanje Evrope Evropske unije v okviru nepovratnih sredstev (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).