Hallinnolliset tiedot
| Otsikko | Tekoälyriskit ja riskienhallinta |
| Kesto | 90 |
| Moduuli | B |
| Oppitunnin tyyppi | Interaktiivinen istunto |
| Keskittyminen | Eettinen – luotettava tekoäly |
| Aihe | Riski |
Avainsanoja
AI Riskit, Riskienhallinta,Resilienssin hallinta, Selitettävä AI,Interpretable AI, Turvallisuus,Resilienssi, Avoimuus, Vastuullisuus,
Oppimistavoitteet
- Tunnistaa, analysoida ja keskustella turvallisuustestauksen tarpeellisuudesta ja roolista tekoälyssä.
- Käytä tekoälylain kaltaisia asiakirjoja käyttötapausten luokittelemiseksi riskiluokkiin.
- Keskustellaan perusteellisesti ja yhteisen eurooppalaisen sanaston kanssa tekoälyriskistä ja siitä, miten tekoäly voidaan suunnitella turvallisesti ja hyväntahtoisesti tavoilla, jotka eivät altista ihmisiä kestämättömille haittojen riskeille, vaikka riskialttiilla käyttäytymisillä voitaisiin edistää järjestelmän tavoitetta.
- Luokiteltava palveluntarjoajien ja käyttäjien velvoitteet tekoälyriskien hallinnan osalta.
- Keskustella suuririskisten tekoälyjärjestelmien vaatimuksista tekoälylain mukaisesti.
- Laaditaan ja tunnustetaan erityiset riskit ja riskitaksonomiat, jotka ovat merkityksellisiä tekoälyn elinkaaren eri vaiheissa.
Odotettu valmistelu
Oppimistapahtumat valmistuvat ennen
Ei mitään.
Pakollinen opiskelijoille
- Tekoälyä käsittelevä korkean tason asiantuntijaryhmä (AI HLEG). (Huhtikuu 8, 2019). Euroopan komissio. ”Luotettavaa tekoälyä koskevat eettiset ohjeet.
- HCAIMin luento riskien ja riskien vähentämisestä
Valinnainen opiskelijoille
- HCAIM-verkkoseminaari eurooppalaisesta lähestymistavasta kohti luotettavaa, turvallista ja luotettavaa tekoälyä (saatavana YouTubessa)
- HCAIM Webinar Turvallisuuden ja yksityisyyden rooli koneoppimisessa (saatavana YouTubessa)
Referenssejä ja taustaa opiskelijoille
- Tekoälyä käsittelevä korkean tason asiantuntijaryhmä (AI HLEG). (Huhtikuu 8, 2019). Euroopan komissio. ”Luotettavaa tekoälyä koskevat eettiset ohjeet.
- HCAIMin luento riskien ja riskien vähentämisestä
Suositellaan opettajille
- Euroopan komissio: Ehdotus Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevien yhdenmukaistettujen sääntöjen laatimisesta (tekoälysäädös) 2021
- Euroopan unionin kyberturvallisuusvirasto Malatras, A., Dede, G. jaAI kyberturvallisuushaasteet: tekoälyn uhkaympäristö, Euroopan verkko- ja tietoturvavirasto, 2020
- Tekoälyä käsittelevä korkean tason asiantuntijaryhmä (AI HLEG). (Huhtikuu 8, 2019). Euroopan komissio. Luotettavaa tekoälyä koskevat eettiset ohjeet.
- Tekoälyn haitalliset käyttötarkoitukset ja väärinkäytökset 2020, Europol Julkaisu
Oppituntimateriaalit
Ohjeita opettajille
Tämän interaktiivisen istunnon tavoitteena on luoda opiskelijoille yhteinen sanasto, jossa keskustellaan tekoälyyn liittyvistä riskeistä ja riskienhallinnasta erityisesti tekoälyä koskevan EU:n riskiperusteisen lähestymistavan avulla. Tarjotut materiaalit sekä vuorovaikutteisen istunnon yleissuunnitelma ja aikataulu ovat suuntaa-antavia ja esiteltyjä, jotta voidaan paremmin ohjata keskustelua opiskelijoiden kanssa. Niin kauan kuin oppimistavoitteet saavutetaan, opettajia kannustetaan seuraamaan keskustelun luonnollista kulkua.
Vuorovaikutteisen istunnon pääpiirteet ja aikataulu:
| Kesto | Aihe | Kuvaus |
|---|---|---|
| 15 min | Johdanto | Riskien määrittely. EU:n lähestymistapa tekoälyriskien hallintaan. Riskinhallintastrategiat tekoälyn koko elinkaaren ajan. |
| 30 min | Riskin luokittelu | Tekoälyn omaisuuseriä ja uhkaluokitusjärjestelmää ja riskinhallintakehyksiä tekoälyn teknisten suunnitteluominaisuuksien kuvaamiseksi. |
| 30 min | Riskin vähentäminen | Lähestytään riskien lieventämistä käyttämällä käyttötapauksia ja yhteistä sanastoa sekä viitemalleja keskustelun vauhdittamiseksi. |
| 15mins | Loppuhuomautukset | Keskustelu opiskelijoiden kanssa. Kysymyksiä ja vastauksia. |
Kaksi HCAIM-verkkoseminaaria ovat erityisen tärkeitä tämän interaktiivisen istunnon kannalta. Ne voitaisiin näyttää ennen keskustelua tai niiden osia voitaisiin pelata aiheiden helpottamiseksi ja hiljaisuuden hallitsemiseksi.
Tunnustukset
Tämän esityksen kehittivät tohtori George Sharkov ja Christina Todorova European Software Institute – Center Itä-Euroopassa.
Esittelyssä käytetään diakuvia tohtori Mihály Héderin esityksestä Budapestin teknillisestä ja taloustieteellisestä yliopistosta. Ole hyvä ja harkitse hänen työnsä seuraamista.
Human-Centered AI Masters -ohjelmaa rahoitettiin Euroopan unionin Verkkojen Eurooppa -välineestä (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).