Administrativ information
| Titel | AI-risker och riskhantering |
| Varaktighet | 90 |
| Modul | B |
| Typ av lektion | Interaktiv session |
| Fokus | Etiskt – tillförlitlig AI |
| Ämne | Risk |
Nyckelord
AI Risk, Riskhantering,Resilienshantering, Förklarbar AI, Tolkningsbar AI, Säkerhet, Resiliens, Transparens, Ansvar,
Lärandemål
- Erkänna, analysera och diskutera nödvändigheten och rollen av säkerhetstester inom AI.
- Använda dokument, såsom AI-lagen, för att klassificera användningsfall i riskkategorier.
- Diskutera ingående och med gemensamma europeiska ordförråd om AI-risk och hur AI kan utformas på ett säkert och välvilligt sätt, på ett sätt som inte utsätter människor för oacceptabla risker för skada, även när riskabelt beteende kan främja ett systemmål.
- Klassificera leverantörernas och användarnas skyldigheter i fråga om AI-riskhantering.
- Diskutera kraven på AI-system med hög risk enligt AI-lagen.
- Utarbeta och erkänna särskilda risker och risktaxonomier som är relevanta under de olika stadierna av AI:s livscykel.
Förväntad förberedelse
Lärande händelser som ska slutföras innan
Ingen.
Obligatoriskt för studenter
- Högnivågruppen för artificiell intelligens (AI HLEG). (8 april 2019). Europeiska kommissionen. ”Etiska riktlinjer för tillförlitlig AI.
- HCAIM-föreläsning om risk- och riskreducering
Valfritt för studenter
- HCAIM Webinar om den europeiska strategin mot tillförlitlig, säker och tillförlitlig AI (tillgänglig på YouTube)
- HCAIM Webinar om rollen av säkerhet och integritet i maskininlärning (tillgänglig på YouTube)
Referenser och bakgrund för studenter
- Högnivågruppen för artificiell intelligens (AI HLEG). (8 april 2019). Europeiska kommissionen. ”Etiska riktlinjer för tillförlitlig AI.
- HCAIM-föreläsning om risk- och riskreducering
Rekommenderas för lärare
- Europeiska kommissionen: Förslag till Europaparlamentets och rådets förordning om fastställande av harmoniserade regler om artificiell intelligens (rättsakten om artificiell intelligens), 2021
- Europeiska unionens cybersäkerhetsbyrå, Malatras, A., Dede, G., IT-säkerhetsutmaningar: hotbilden för artificiell intelligens, Europeiska byrån för nät- och informationssäkerhet, 2020
- Högnivågruppen för artificiell intelligens (AI HLEG). (8 april 2019). Europeiska kommissionen. ”Etiska riktlinjer för tillförlitlig AI.”
- Skadlig användning och missbruk av artificiell intelligens 2020, Europols publikation
Lektionsmaterial
Instruktioner för lärare
Syftet med denna interaktiva session är att skapa en gemensam vokabulär för studenter för att diskutera risk- och riskhantering i samband med AI, särskilt genom EU:s riskbaserade strategi för AI. De material som tillhandahålls, liksom den övergripande översikten och schemat för den interaktiva sessionen är vägledande och presenteras för att bättre vägleda en diskussion med eleverna. Så länge inlärningsmålen uppfylls uppmuntras instruktörerna att följa diskussionens naturliga flöde.
Beskrivning och schema för den interaktiva sessionen:
| Varaktighet | Ämne | Beskrivning |
|---|---|---|
| 15 minuter | Inledning | Definiera risk. EU:s strategi för AI-riskhantering. Riskhanteringsstrategier under AI:s hela livscykel. |
| 30 minuter | Riskklassificering | AI-tillgångar och ramverk för hottaxonomi och riskhantering för att beskriva tekniska konstruktionsegenskaper för AI. |
| 30 minuter | Minska risken | Närmar sig riskreducering med användning av användningsfall och gemensam vokabulär, och referensmodeller för att utnyttja diskussionen. |
| 15 min | Avslutande anmärkningar | Diskussion med eleverna. Frågor och svar. |
Två HCAIM Webinars är särskilt relevanta för denna interaktiva session. Dessa kan visas före diskussionen eller delar av dem kan spelas för att underlätta ämnen och hantera tystnad.
Erkännanden
Denna presentation utvecklades av Dr George Sharkov och Christina Todorova vid European Software Institute – Center Eastern Europe.
Presentationen använder bilder från en presentation av Dr Mihály Héder vid universitetet för teknik och ekonomi i Budapest. Tänk på att följa hans arbete.
Masterprogrammet Human-Centered AI har samfinansierats av Fonden för ett sammanlänkat Europa i Europeiska unionen inom ramen för Grant CEF-TC-2020–1 Digital Skills 2020 EU-IA-0068.