Informacje administracyjne
| Tytuł | AI Ryzyko i Zarządzanie Ryzykiem |
| Czas trwania | 90 |
| Moduł | B |
| Rodzaj lekcji | Sesja interaktywna |
| Skupienie | Etyczne – godne zaufania AI |
| Temat | Ryzyko |
Słowa kluczowe
AI Ryzyko, Zarządzanie ryzykiem, Zarządzanie odpornością,Wyjaśnione AI, Interpretable AI,Bezpieczeństwo, Odporność,Przejrzystość, Rozliczalność,
Cele w zakresie uczenia się
- Rozpoznawanie, analizowanie i omawianie konieczności i roli testów bezpieczeństwa w sztucznej inteligencji.
- Stosować dokumenty, takie jak ustawa o sztucznej inteligencji, do klasyfikowania przypadków użycia do kategorii ryzyka.
- Przedyskutować dogłębnie i za pomocą wspólnego europejskiego słownictwa na temat ryzyka związanego ze sztuczną inteligencją oraz w jaki sposób sztuczna inteligencja może być zaprojektowana bezpiecznie i życzliwie, w sposób, który nie naraża ludzi na niedopuszczalne ryzyko szkód, nawet jeśli ryzykowne zachowanie może przyczynić się do osiągnięcia celu systemowego.
- Klasyfikuje obowiązki dostawców i użytkowników w odniesieniu do zarządzania ryzykiem związanym ze sztuczną inteligencją.
- Przedyskutować wymogi dotyczące systemów sztucznej inteligencji wysokiego ryzyka zgodnie z ustawą o sztucznej inteligencji.
- Opracowanie i rozpoznanie konkretnych rodzajów ryzyka i taksonomii ryzyka, istotnych na różnych etapach cyklu życia sztucznej inteligencji.
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Brak.
Obowiązkowe dla studentów
- Grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji (AI HLEG). (8 kwietnia 2019 r.). Komisja Europejska. „Wytyczne etyczne dotyczące godnej zaufania sztucznej inteligencji.
- Wykład HCAIM na temat ryzyka i ograniczania ryzyka
Opcjonalne dla studentów
- Webinarium HCAIM na temat europejskiego podejścia do niezawodnej, bezpiecznej i godnej zaufania sztucznej inteligencji (dostępne na YouTube)
- Webinarium HCAIM na temat roli bezpieczeństwa i prywatności w uczeniu maszynowym (dostępne na YouTube)
Referencje i tło dla studentów
- Grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji (AI HLEG). (8 kwietnia 2019 r.). Komisja Europejska. „Wytyczne etyczne dotyczące godnej zaufania sztucznej inteligencji.
- Wykład HCAIM na temat ryzyka i ograniczania ryzyka
Zalecane dla nauczycieli
- Komisja Europejska: Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji), 2021 r.
- Agencja Unii Europejskiej ds. Cyberbezpieczeństwa, Malatras, A., Dede, G., „Wyzwania związane z cyberbezpieczeństwem AI”: krajobraz zagrożeń dla sztucznej inteligencji, Europejska Agencja ds. Bezpieczeństwa Sieci i Informacji, 2020 r.
- Grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji (AI HLEG). (8 kwietnia 2019 r.). Komisja Europejska. „Wytyczne etyczne dotyczące godnej zaufania sztucznej inteligencji”.
- Szkodliwe użycie i nadużycia sztucznej inteligencji 2020, publikacja Europolu
Materiały do lekcji
Instrukcje dla nauczycieli
Ta interaktywna sesja ma na celu zbudowanie wspólnego słownictwa dla uczniów w celu omówienia ryzyka i zarządzania ryzykiem związanym z sztuczną inteligencją, w szczególności poprzez unijne podejście do AI oparte na ryzyku. Dostarczone materiały, a także ogólny zarys i harmonogram sesji interaktywnej są orientacyjne i przedstawione w celu lepszego kierowania dyskusją ze studentami. Tak długo, jak cele edukacyjne są spełnione, instruktorzy są zachęcani do podążania za naturalnym przepływem dyskusji.
Zarys i harmonogram sesji interaktywnej:
| Czas trwania | Temat | Opis |
|---|---|---|
| 15 minut | Wprowadzenie | Definiowanie ryzyka. Podejście UE do zarządzania ryzykiem związanym ze sztuczną inteligencją. Strategie zarządzania ryzykiem w całym cyklu życia sztucznej inteligencji. |
| 30 minut | Klasyfikacja ryzyka | Aktywa sztucznej inteligencji i taksonomia zagrożeń oraz ramy zarządzania ryzykiem w celu opisania technicznych cech konstrukcyjnych sztucznej inteligencji. |
| 30 minut | Ograniczenie ryzyka | Podejście do ograniczania ryzyka przy użyciu przypadków użycia i wspólnego słownictwa oraz modeli referencyjnych w celu wykorzystania dyskusji. |
| 15 minut | Uwagi zamykające | Dyskusja ze studentami. Pytania i odpowiedzi. |
Dwa webinaria HCAIM są szczególnie istotne dla tej interaktywnej sesji. Mogą one być pokazane przed dyskusją lub ich części mogą być odtwarzane w celu ułatwienia tematów i zarządzania milczeniem.
Potwierdzenia
Prezentację opracowali dr George Sharkov i Christina Todorova w European Software Institute – Center Eastern Europe.
W prezentacji wykorzystano slajdy z prezentacji dr Mihály’ego Hédera z Uniwersytetu Technologicznego i Ekonomicznego w Budapeszcie. Proszę rozważyć śledzenie jego pracy.
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.