Administrativne informacije
| Naslov | UI rizici i upravljanje rizicima |
| Trajanje | 90 |
| Modul | B |
| Vrsta lekcija | Interaktivna sjednica |
| Fokus | Etika – pouzdana umjetna inteligencija |
| Tema | Rizik |
Ključne riječi
Rizik umjetne inteligencije, upravljanje rizicima, upravljanje otpornošću, objašnjiva umjetna inteligencija, interpretabilna umjetna inteligencija, sigurnost, otpornost, transparentnost, odgovornost,
Ciljevi učenja
- Prepoznati, analizirati i raspravljati o nužnosti i ulozi testiranja sigurnosti u umjetnoj inteligenciji.
- Upotrijebiti dokumente, kao što je Zakon o umjetnoj inteligenciji, kako bi se slučajevi uporabe razvrstali u kategorije rizika.
- Detaljno i sa zajedničkim europskim rječnikom raspraviti o riziku od umjetne inteligencije i o tome kako se umjetna inteligencija može osmisliti sigurno i dobronamjerno, na način koji ljude neće izložiti neprihvatljivim rizicima od štete, čak i kada rizično ponašanje može unaprijediti cilj sustava.
- Klasificirati obveze dobavljača i korisnika u pogledu upravljanja rizicima umjetne inteligencije.
- Raspravljati o zahtjevima za visokorizične UI sustave u skladu sa Zakonom o umjetnoj inteligenciji.
- Razrađuju i prepoznaju posebne taksonomije rizika i rizika, relevantne tijekom različitih faza životnog ciklusa umjetne inteligencije.
Očekivana priprema
Edukativni događaji koji će biti završeni prije
Nijedan.
Obvezno za studente
- Stručna skupina na visokoj razini za umjetnu inteligenciju (AI HLEG). (Travanj 8., 2019.). Europska komisija. „Etičke smjernice za pouzdanu umjetnu inteligenciju.
- Predavanje HCAIM-a o rizicima i ublažavanju rizika
Neobvezno za studente
- Webinar HCAIM-a o europskom pristupu pouzdanoj, sigurnoj i pouzdanoj umjetnoj inteligenciji (dostupno na YouTubeu)
- HCAIM Webinar o ulozi sigurnosti i privatnosti u strojnom učenju (dostupno na YouTubeu)
Preporuke i pozadina za studente
- Stručna skupina na visokoj razini za umjetnu inteligenciju (AI HLEG). (Travanj 8., 2019.). Europska komisija. „Etičke smjernice za pouzdanu umjetnu inteligenciju.
- Predavanje HCAIM-a o rizicima i ublažavanju rizika
Preporučeno nastavnicima
- Europska komisija: Prijedlog uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji), 2021.
- Agencija Europske unije za kibersigurnost, Malatras, A., Dede, G., „AI kibersigurnosni izazovi”: prijetnja umjetnoj inteligenciji, Europska agencija za mrežnu i informacijsku sigurnost, 2020.
- Stručna skupina na visokoj razini za umjetnu inteligenciju (AI HLEG). (Travanj 8., 2019.). Europska komisija. „Etičke smjernice za pouzdanu umjetnu inteligenciju.”
- Zlonamjerne uporabe i zlouporabe umjetne inteligencije 2020., publikacija Europola
Nastavni materijali
Upute za učitelje
Cilj je ove interaktivne sesije izgraditi zajednički vokabular za studente kako bi raspravljali o rizicima i upravljanju rizicima povezanima s umjetnom inteligencijom, posebno putem pristupa EU-a umjetnoj inteligenciji koji se temelji na riziku. Dostavljeni materijali, kao i cjelokupan nacrt i raspored interaktivne sesije indikativni su i predstavljeni kako bi se bolje usmjerila rasprava s učenicima. Sve dok su ispunjeni ciljevi učenja, instruktori se potiču da prate prirodni tijek rasprave.
Nacrt i raspored interaktivne sjednice:
| Trajanje | Tema | Opis |
|---|---|---|
| 15 minuta | Uvod | Definiranje rizika. Pristup EU-a upravljanju rizicima umjetne inteligencije. Strategije upravljanja rizicima tijekom cijelog životnog ciklusa umjetne inteligencije. |
| 30 minuta | Razvrstavanje rizika | Instrumenti umjetne inteligencije i taksonomija prijetnji te okviri za upravljanje rizicima kako bi se opisale značajke tehničkog dizajna umjetne inteligencije. |
| 30 minuta | Ublažavanje rizika | Približavanje smanjenju rizika primjenom slučajeva uporabe i zajedničkog vokabulara te referentni modeli kako bi se potaknula rasprava. |
| 15 min | Završne napomene | Razgovor sa studentima. Pitanja i odgovori. |
Dva webinara HCAIM-a posebno su važna za ovu interaktivnu sesiju. Oni bi se mogli prikazati prije rasprave ili bi se njihovi dijelovi mogli odigrati kako bi se olakšale teme i upravljalo tišinom.
Priznanja
Prezentaciju su razvili dr. George Sharkov i Christina Todorova na Europskom softverskom institutu – Centru istočne Europe.
Prezentacija koristi slajdove iz prezentacije dr. Mihály Héder sa Sveučilišta za tehnologiju i ekonomiju u Budimpešti. Molim vas, razmislite o tome kako slijedite njegov rad.
Diplomski studij umjetne inteligencije usmjeren na čovjeka sufinanciran je Instrumentom za povezivanje Europe Europske unije u okviru bespovratnih sredstava CEF-TC-2020 – 1 Digital Skills 2020-EU-IA-0068.