Administrative oplysninger
| Titel | AI-risici og risikostyring |
| Varighed | 90 |
| Modul | B |
| Lektionstype | Interaktiv session |
| Fokus | Etisk — pålidelig kunstig intelligens |
| Emne | Risiko |
Nøgleord
AI Risiko, Risikostyring, Resiliensstyring,Forklarlig AI, Fortolkning af AI, Sikkerhed, Modstandsdygtighed, Gennemsigtighed, Ansvarbarhed
Læringsmål
- Anerkende, analysere og diskutere nødvendigheden og rollen af sikkerhedstest inden for kunstig intelligens.
- Anvende dokumenter, som f.eks. AI-loven, til at klassificere anvendelsessager i risikokategorier.
- Diskuter indgående og med fælles europæisk ordforråd om AI-risici, og hvordan AI kan udformes sikkert og velvilligt på måder, der ikke vil udsætte mennesker for uacceptable risici for skade, selv når risikabel adfærd kan fremme et systemmål.
- Klassificere udbydernes og brugernes forpligtelser i forbindelse med AI-risikostyring.
- Drøfte kravene til højrisiko-AI-systemer i henhold til AI-forordningen.
- Udarbejde og anerkende specifikke risici og risikotaksonomier, der er relevante i de forskellige faser af AI-livscyklussen.
Forventet forberedelse
Læringsbegivenheder, der skal fuldføres før
Ingen.
Obligatorisk for studerende
- Ekspertgruppe på højt plan vedrørende kunstig intelligens (AI HLEG). (8. april 2019). Europa-Kommissionen. "Etiske retningslinjer for pålidelig kunstig intelligens.
- HCAIM-foredrag om risiko- og risikoreduktion
Valgfrit for studerende
- HCAIM Webinar om den europæiske tilgang til pålidelig, sikker og pålidelig kunstig intelligens (tilgængelig på YouTube)
- HCAIM Webinar om rollen af sikkerhed og privatliv i maskinlæring (tilgængelig på YouTube)
Referencer og baggrund for studerende
- Ekspertgruppe på højt plan vedrørende kunstig intelligens (AI HLEG). (8. april 2019). Europa-Kommissionen. "Etiske retningslinjer for pålidelig kunstig intelligens.
- HCAIM-foredrag om risiko- og risikoreduktion
Anbefalet til lærerne
- Europa-Kommissionen: Forslag til Europa-Parlamentets og Rådets forordning om fastsættelse af harmoniserede regler om kunstig intelligens (retsakten om kunstig intelligens), 2021
- Den Europæiske Unions Agentur for Cybersikkerhed, Malatras, A., Dede, G., AI cybersikkerhedsudfordringer: trusselsbillede for kunstig intelligens, Det Europæiske Agentur for Net- og Informationssikkerhed, 2020
- Ekspertgruppe på højt plan vedrørende kunstig intelligens (AI HLEG). (8. april 2019). Europa-Kommissionen. "Etiske retningslinjer for pålidelig kunstig intelligens."
- Ondsindet brug og misbrug af kunstig intelligens 2020, Europols publikation
Undervisningsmaterialer
Instruktioner til lærerne
Dette interaktive møde har til formål at opbygge et fælles ordforråd for studerende til at drøfte risiko- og risikostyring i forbindelse med kunstig intelligens, navnlig gennem EU's risikobaserede tilgang til kunstig intelligens. De materialer, der leveres, samt den overordnede skitse og tidsplan for den interaktive session er vejledende og præsenteret for bedre at guide en diskussion med de studerende. Så længe læringsmålene er opfyldt, opfordres instruktører til at følge den naturlige strøm af diskussionen.
Oversigt over og tidsplan for den interaktive session:
| Varighed | Emne | Beskrivelse |
|---|---|---|
| 15 min. | Introduktion | Definition af risiko. EU's tilgang til AI-risikostyring. Risikostyringsstrategier i hele AI-livscyklussen. |
| 30 min. | Klassificering af risiko | AI-aktiver og trusselsklassificerings- og risikostyringsrammer til beskrivelse af tekniske designkarakteristika for kunstig intelligens. |
| 30 min. | Risikoreduktion | Nærmer sig risikoreduktion ved hjælp af use cases og fælles ordforråd, og referencemodeller til at udnytte diskussionen. |
| 15 min. | Afsluttende bemærkninger | Diskussion med de studerende. Spørgsmål og svar. |
To HCAIM Webinars er særligt relevante for denne interaktive session. Disse kunne vises før diskussionen eller dele af dem kunne spilles for at lette emner og styre tavshed.
Anerkendelser
Denne præsentation er udviklet af Dr. George Sharkov og Christina Todorova ved European Software Institute — Center Eastern Europe.
Præsentationen bruger slides fra en præsentation af Dr. Mihály Héder ved Budapest University of Technology and Economics. Overvej at følge hans arbejde.
Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.