Informazioni amministrative
| Titolo | Fiducia, Normatività e Model Drift |
| Durata | 45-60 |
| Modulo | C |
| Tipo di lezione | Lezione |
| Focus | Tecnico — Intelligenza Artificiale del Futuro |
| Argomento | Problemi aperti e sfide |
Parole chiave
Fiducia, normalità, deriva del modello,
Obiettivi di apprendimento
- Comprendere la necessità di misurare la fiducia nell'IA
- Comprendere il concetto di Normatività nel contesto con l'IA futura
- Spiegare vari tipi di deriva del modello e raccomandare misure tempestive per i futuri sistemi di IA per affrontare la deriva del modello
Preparazione prevista
Eventi di apprendimento da completare prima
Obbligatorio per gli studenti
- Contenuto etico dal modulo A
- Contenuto etico dal modulo B
Facoltativo per gli studenti
- Introduzione ai concetti di apprendimento automatico e deep learning forniti nelle lezioni precedenti
Referenze e background per gli studenti
- Fiducia e intelligenza artificiale
- Un sondaggio sulla valutazione della fiducia basata sull'apprendimento automatico
- Il valore di misurare la fiducia nell'IA — Una prospettiva di sistema socio-tecnico
- Quando la fiducia incontra l'accuratezza: Esplorare gli effetti di più indicatori di prestazione sulla fiducia nei modelli di apprendimento automatico
- In AI ci fidiamo in modo incrementale: un modello multistrato di fiducia per analizzare le interazioni di intelligenza umana-artificiale
- La fiducia e l'etica dell'IA
- Linee guida etiche per un'IA affidabile
- Agenzia spiegabile, normativa e giustificata
- Modello Drift nell'apprendimento automatico
- Una vista unificante sullo spostamento dei set di dati nella classificazione
- ODIN: Rilevamento e recupero automatico della deriva in analisi video
- Apprendimento sotto Concept Drift: Una recensione
- Perché il rilevamento della deriva dei dati è importante e come automatizzarlo in 5 semplici passaggi
Consigliato per gli insegnanti
Nessuno.
Materiale didattico
Istruzioni per gli insegnanti
Questa lezione dovrebbe concentrarsi sul concetto di fiducia sui sistemi che impiegano l'intelligenza artificiale e l'apprendimento automatico per prendere decisioni. Dovrebbe definire la fiducia e le caratteristiche della fiducia insieme agli agenti fiduciari. La conferenza dovrebbe fornire un collegamento pratico con il quadro fiduciario dell'UE proposto per l'IA. La lezione dovrebbe inoltre introdurre il concetto di regolamentazione digitale e il problema della deriva del modello, della misurazione e del monitoraggio della deriva del modello nel contesto di un'IA affidabile e dell'apprendimento automatico.
L'obiettivo di questa lezione è quello di discutere il concetto di fiducia nel contesto dei sistemi di IA. La lezione dovrebbe rispondere alla domanda: Cosa significa fidarsi e come possiamo costruire fiducia nei sistemi di IA? La conferenza dovrebbe anche discutere il concetto di regolamentazione nel contesto dell'IA e dei sistemi decisionali automatizzati, aggiungendo peso all'importanza della fiducia. Infine, la conferenza discuterà la deriva del modello, i tipi di deriva del modello, le metriche per misurare la deriva del modello e come affrontare la deriva del modello, che dovrebbe dimostrare che la fiducia dovrebbe essere costantemente monitorata.
Contorno
| Durata | Descrizione | Concetti | Attività | Materiale |
|---|---|---|---|---|
| 5 min | Cos'è la fiducia? | Filosofia di fiducia, caratterizzazione della fiducia, agenti e pazienti di fiducia, ecosistema socio-tecnico, ruolo della fiducia nella conoscenza | Sessione insegnata ed esempi | Materiale didattico |
| 15 min | Compito di ricerca Fiducia nell'IA |
Domande aperte e revisione di un articolo | Materiale didattico | |
| 10 min | L'avvento della normalità digitale | Soggettivazione, desoggettivazione, agenzia giustificata, agenzia spiegabile e normativa | Sessione insegnata ed esempi | Materiale didattico |
| 15 min | Modello Drift | Che cos'è la deriva del modello, i tipi di deriva modello/concetto (predizione, concetto, dati, a monte), le metriche Drift (Population Stability Index, KL divergence, Wasserstein's Distance), affrontare la deriva del modello (monitoraggio, qualità dei dati, riqualificazione, messa a punto dei parametri) | Sessione insegnata ed esempi | Materiale didattico |
| 5 min | Conclusione | Riepilogo | Conclusioni | Materiale didattico |
Riconoscimenti
Il programma Human-Centered AI Masters è stato co-finanziato dal meccanismo per collegare l'Europa dell'Unione europea nell'ambito della sovvenzione CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.