Verwaltungsinformationen
| Titel | Vertrauen, Normativität und Modell Drift |
| Dauer | 45-60 |
| Modulen | C |
| Unterrichtstyp | Vortrag |
| Fokussierung | Technisches – Zukunfts-KI |
| Themenbereich | Offene Probleme und Herausforderungen |
Suchbegriffe
Vertrauen, Normativität, Modell Drift,
Lernziele
- Verstehen Sie die Notwendigkeit, Vertrauen in KI zu messen
- Das Konzept der Normativität im Kontext der zukünftigen KI verstehen
- Erklären Sie verschiedene Arten von Modelldrift und empfehlen Sie zeitnahe Maßnahmen für zukünftige KI-Systeme, um Modelldrift zu bekämpfen
Erwartete Vorbereitung
Lernveranstaltungen, die vorab abgeschlossen werden müssen
Obligatorisch für Studenten
- Ethikinhalt aus Modul A
- Ethikinhalt aus Modul B
Optional für Studenten
- Einführung in maschinelles Lernen und Deep-Learning-Konzepte in früheren Vorträgen
Referenzen und Hintergründe für Studierende
- Vertrauen und Künstliche Intelligenz
- Eine Umfrage zur Vertrauensbewertung basierend auf maschinellem Lernen
- Der Wert des Vertrauens in die KI – eine soziotechnische Systemperspektive
- Wenn Vertrauen auf Genauigkeit trifft: Untersuchung der Auswirkungen mehrerer Leistungsindikatoren auf das Vertrauen in Machine Learning-Modelle
- In AI vertrauen wir in zunehmendem Maße: ein mehrschichtiges Vertrauensmodell zur Analyse von Mensch-künstlichen Intelligenz-Interaktionen
- Vertrauen und Ethik der KI
- Ethikrichtlinien für vertrauenswürdige KI
- Erklärbare, normative und gerechtfertigte Agentur
- Modell Drift im maschinellen Lernen
- Eine vereinheitlichende Ansicht zur Datensatzverschiebung in der Klassifikation
- ODIN: Automatisierte Drift-Erkennung und Wiederherstellung in Video Analytics
- Lernen unter Konzept Drift: Eine Rezension
- Warum Datendrifterkennung wichtig ist und wie Sie sie in 5 einfachen Schritten automatisieren
Empfohlen für Lehrer
Keine.
Unterrichtsmaterialien
Anleitung für Lehrer
Dieser Vortrag sollte sich auf das Konzept des Vertrauens über Systeme konzentrieren, die KI und maschinelles Lernen einsetzen, um Entscheidungen zu treffen. Es sollte Vertrauen und die Merkmale des Vertrauens zusammen mit den Agenten Vertrauen definieren. Der Vortrag sollte einen praktischen Bezug zum vorgeschlagenen EU-Treuhandrahmen für KI bieten. Der Vortrag soll auch das Konzept der digitalen Normativität und das Problem der Modelldrift, Messung und Überwachung von Modelldrift im Kontext vertrauenswürdiger KI und maschinellem Lernen vorstellen.
Ziel dieser Vorlesung ist es, das Vertrauenskonzept im Kontext von KI-Systemen zu diskutieren. Der Vortrag sollte die Frage beantworten: Was bedeutet Vertrauen und wie können wir Vertrauen in KI-Systeme aufbauen? Der Vortrag sollte auch das Konzept der Normativität im Kontext von KI und automatisierten Entscheidungssystemen diskutieren und die Bedeutung des Vertrauens stärken. Schließlich wird der Vortrag die Modelldrift, die Arten der Modelldrift, die Metriken zur Messung der Modelldrift und den Umgang mit Modelldrift diskutieren, was zeigen sollte, dass Vertrauen ständig überwacht werden sollte.
Gliederung
| Dauer | Beschreibung | Konzepte | Aktivität | Werkstoffe |
|---|---|---|---|---|
| 5 min | Was ist Vertrauen? | Philosophie des Vertrauens, Charakterisierung von Vertrauen, Agenten und Vertrauenspatienten, soziotechnisches Ökosystem, Rolle des Vertrauens im Wissen | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 15 min | Forschungsaufgabe Vertrauen in KI |
Offene Fragen und Überprüfung eines Artikels | Vortragsmaterialien | |
| 10 min | Einführung der digitalen Normativität | Subjektivierung, Deubjektivierung, berechtigte Agentur, erklärbare und normative Agentur | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 15 min | Modell Drift | Was ist Modelldrift, Arten von Modell-/Konzeptdrift (Vorhersage, Konzept, Daten, Upstream), Drift-Metriken (Population Stability Index, KL Divergenz, Wassersteins Abstand), Umgang mit Modelldrift (Überwachung, Datenqualität, Umschulung, Parameterabstimmung) | Unterrichtseinheit und Beispiele | Vortragsmaterialien |
| 5 min | Schlußfolgerung | Zusammenfassung | Schlussfolgerungen | Vortragsmaterialien |
Danksagung
Das Human-Centered AI Masters-Programm wurde von der Fazilität „Connecting Europe“ der Europäischen Union im Rahmen des Zuschusses „CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068“ kofinanziert.