Informații administrative
| Titlu | Încredere, Normativitate și Model Drift |
| Durată | 45-60 |
| Modulul | C |
| Tipul lecției | Prelegere |
| Focalizare | Tehnică – Viitoarea IA |
| Subiect | Probleme și provocări deschise |
Cuvinte cheie
Încredere, nordicitate, model Drift,
Obiective de învățare
- Înțelegerea necesității de a măsura încrederea în IA
- Înțelegerea conceptului de normalitate în context cu inteligența artificială viitoare
- Explicați diferitele tipuri de abateri ale modelelor și recomandați măsuri în timp util pentru viitoarele sisteme de IA pentru a aborda abaterea modelului
Pregătirea preconizată
Evenimente de învățare care urmează să fie finalizate înainte
Obligatoriu pentru studenți
- Conținut etic din modulul A
- Conținut etic din modulul B
Opțional pentru studenți
- Introducere în conceptele de învățare automată și învățare profundă date în prelegerile anterioare
Referințe și context pentru studenți
- Încredere și inteligență artificială
- Un sondaj privind evaluarea încrederii pe baza învățării automate
- Valoarea măsurării încrederii în IA – o perspectivă socio-tehnică a sistemului
- Când încrederea se întâlnește cu acuratețea: Explorarea efectelor indicatorilor multipli de performanță asupra încrederii în modelele de învățare automată
- În AI avem încredere din ce în ce mai mult: un model multi-strat de încredere pentru a analiza interacțiunile dintre om și inteligență artificială
- Încrederea și etica IA
- Orientări etice pentru o IA de încredere
- Agenția explicabilă, Normativă și Justificată
- Model Drift în Machine Learning
- O vizualizare unificatoare privind schimbarea setului de date în clasificare
- ODIN: Detectarea automată a Driftului și Recuperare în Video Analytics
- Învățarea în cadrul conceptului Drift: O revizuire
- De ce detectarea abaterilor de date este importantă și cum o automatizați în 5 pași simpli
Recomandat pentru profesori
Nici unul.
Materiale de lecție
Instrucțiuni pentru profesori
Această prelegere ar trebui să se concentreze pe conceptul de încredere despre sistemele care utilizează inteligența artificială și învățarea automată pentru a lua decizii. Ar trebui să definească încrederea și caracteristicile încrederii, împreună cu încrederea agenților. Prelegerea ar trebui să ofere o legătură practică cu cadrul de încredere propus de UE pentru IA. Prelegerea ar trebui, de asemenea, să introducă conceptul de normativitate digitală și problema abaterii modelului, măsurarea și monitorizarea abaterii modelului în contextul IA de încredere și al învățării automate.
Scopul acestei prelegeri este de a discuta conceptul de încredere în contextul sistemelor IA. Prelegerea ar trebui să răspundă la întrebarea: Ce înseamnă să ai încredere și cum putem construi încrederea în sistemele de IA? Prelegerea ar trebui să discute, de asemenea, conceptul de normativitate în contextul IA și al sistemelor automatizate de luare a deciziilor, adăugând importanță importanței încrederii. În cele din urmă, cursul va discuta despre deriva modelului, tipurile de deviere a modelului, metrici pentru măsurarea abaterii modelului și modul de abordare a abaterii modelului, care ar trebui să demonstreze că încrederea ar trebui monitorizată în mod constant.
Contur
| Durată | Descriere | Concepte | Activitate | Material |
|---|---|---|---|---|
| 5 min | Ce este încrederea? | Filosofia încrederii, caracterizarea încrederii, agenții și pacienții încrederii, ecosistemul socio-tehnic, rolul încrederii în cunoaștere | Sesiune predată și exemple | Materiale de prelegere |
| 15 min | Sarcina de cercetare Încrederea în IA |
Întrebări deschise și revizuirea unui articol | Materiale de prelegere | |
| 10 min | Apariția Normativității Digitale | Subiectivare, desubjectivare, agenție justificată, agenție explicabilă și normativă | Sesiune predată și exemple | Materiale de prelegere |
| 15 min | Model Drift | Ce este deriva modelului, tipurile de deriva a modelului/conceptului (predicție, concept, date, în amonte), metrici de drift (indicele de stabilitate a populației, divergența KL, distanța Wasserstein), abordarea abaterii modelului (monitorizarea, calitatea datelor, recalificarea, reglarea parametrilor) | Sesiune predată și exemple | Materiale de prelegere |
| 5 min | Concluzie | Rezumat | Concluzii | Materiale de prelegere |
Confirmări
Programul de masterat AI centrat pe om a fost cofinantat de Mecanismul pentru interconectarea Europei al Uniunii Europene sub Grantul CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.