Informații administrative
| Titlu | Riscurile IA și gestionarea riscurilor |
| Durată | 90 |
| Modulul | B |
| Tipul lecției | Sesiune interactivă |
| Focalizare | Etică – IA demnă de încredere |
| Subiect | Risc |
Cuvinte cheie
Riscul IA, gestionarea riscurilor, gestionarea rezilienței, IA explicată, IA interactivă, securitatea, reziliența, transparența, răspunderea,
Obiective de învățare
- Recunoașteți, analizați și discutați necesitatea și rolul testelor de securitate în IA.
- Utilizați documente, cum ar fi Legea IA, pentru a clasifica cazurile de utilizare în categorii de risc.
- Discutați în profunzime și cu vocabularul european comun privind riscul IA și cum poate fi proiectată IA în condiții de siguranță și binevoință, în moduri care nu vor expune oamenii la riscuri inacceptabile de vătămare, chiar și atunci când un comportament riscant poate avansa un obiectiv de sistem.
- Clasificarea obligațiilor furnizorilor și utilizatorilor în ceea ce privește gestionarea riscurilor IA.
- Discutarea cerințelor pentru sistemele de IA cu grad ridicat de risc în conformitate cu Legea privind IA.
- Elaborează și recunoaște riscurile specifice și taxonomiile de risc, relevante pe parcursul diferitelor etape ale ciclului de viață al IA.
Pregătirea preconizată
Evenimente de învățare care urmează să fie finalizate înainte
Nici unul.
Obligatoriu pentru studenți
- Grupul de experți la nivel înalt privind inteligența artificială (AI HLEG). (Apr. 8, 2019). Comisia Europeană. „Orientări în materie de etică pentru o IA demnă de încredere.
- Conferința HCAIM privind reducerea riscurilor și a riscurilor
Opțional pentru studenți
- Webinarul HCAIM privind abordarea europeană către o IA fiabilă, sigură și de încredere (disponibilă pe YouTube)
- Webinarul HCAIM privind rolul securității și al vieții private în învățarea automată (disponibil pe YouTube)
Referințe și context pentru studenți
- Grupul de experți la nivel înalt privind inteligența artificială (AI HLEG). (Apr. 8, 2019). Comisia Europeană. „Orientări în materie de etică pentru o IA demnă de încredere.
- Conferința HCAIM privind reducerea riscurilor și a riscurilor
Recomandat pentru profesori
- Comisia Europeană: Propunere de regulament al Parlamentului European și al Consiliului de reducere a normelor armonizate privind inteligența artificială (Legea privind inteligența artificială), 2021
- Agenția Uniunii Europene pentru Securitate Cibernetică, Malatras, A., Dede, G.,AI Cybersecurity challenges: peisajul amenințărilor pentru inteligența artificială, Agenția Europeană pentru Securitatea Rețelelor Informatice și a Datelor, 2020
- Grupul de experți la nivel înalt privind inteligența artificială (AI HLEG). (Apr. 8, 2019). Comisia Europeană. „Orientări de etică pentru o IA demnă de încredere.”
- Utilizările rău intenționate și abuzurile de inteligență artificială 2020, Publicația Europol
Materiale de lecție
Instrucțiuni pentru profesori
Această sesiune interactivă își propune să construiască un vocabular comun pentru ca elevii să discute despre riscurile și gestionarea riscurilor legate de IA, în special prin intermediul abordării UE bazate pe riscuri față de IA. Materialele furnizate, precum și schița generală și programul sesiunii interactive sunt orientative și prezentate pentru a ghida mai bine o discuție cu elevii. Atâta timp cât obiectivele de învățare sunt îndeplinite, instructorii sunt încurajați să urmărească fluxul natural al discuției.
Prezentarea și calendarul sesiunii interactive:
| Durată | Subiect | Descriere |
|---|---|---|
| 15 minute | Introducere | Definirea riscului. Abordarea UE în ceea ce privește gestionarea riscurilor IA. Strategii de gestionare a riscurilor pe tot parcursul ciclului de viață al IA. |
| 30 de minute | Clasificarea riscului | Activele IA și taxonomia amenințărilor și cadrele de gestionare a riscurilor pentru a descrie caracteristicile tehnice de proiectare pentru IA. |
| 30 de minute | Riscul de diminuare | Abordarea reducerii riscurilor utilizând cazuri de utilizare și vocabular comun, precum și modele de referință pentru a mobiliza discuția. |
| 15 minute | Observații finale | Discuție cu studenții. Întrebări și răspunsuri. |
Două Webinarii HCAIM sunt deosebit de relevante pentru această sesiune interactivă. Acestea ar putea fi prezentate înainte de discuții sau părți ale acestora ar putea fi jucate pentru a facilita subiectele și pentru a gestiona tăcerea.
Confirmări
Această prezentare a fost dezvoltată de Dr. George Sharkov și Christina Todorova la European Software Institute – Center Eastern Europe.
Prezentarea folosește diapozitive dintr-o prezentare a Dr. Mihály Héder la Universitatea de Tehnologie și Economie din Budapesta. Te rog, gândește-te să-i urmărești munca.
Programul de masterat AI centrat pe om a fost cofinantat de Mecanismul pentru interconectarea Europei al Uniunii Europene sub Grantul CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.