Informacje administracyjne
| Tytuł | Zaufanie, normalność i model Drift |
| Czas trwania | 45-60 |
| Moduł | C |
| Rodzaj lekcji | Wykład |
| Skupienie | Techniczne – Przyszła sztuczna inteligencja |
| Temat | Otwarte problemy i wyzwania |
Słowa kluczowe
Zaufanie, normalność, model Drift,
Cele w zakresie uczenia się
- Zrozumieć potrzebę pomiaru zaufania do AI
- Zrozumienie koncepcji normalności w kontekście przyszłej sztucznej inteligencji
- Wyjaśnić różne rodzaje dryfowania modeli i zalecić terminowe środki dla przyszłych systemów sztucznej inteligencji w celu rozwiązania problemu dryfowania modeli
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Obowiązkowe dla studentów
- Treść etyczna z modułu A
- Treść etyczna z modułu B
Opcjonalne dla studentów
- Wprowadzenie do uczenia maszynowego i koncepcji uczenia głębokiego podanych w poprzednich wykładach
Referencje i tło dla studentów
- Zaufanie i sztuczna inteligencja
- Badanie na temat oceny zaufania w oparciu o uczenie maszynowe
- Wartość pomiaru zaufania do sztucznej inteligencji – perspektywa systemu społeczno-technicznego
- Kiedy zaufanie spotyka się z dokładnością: Badanie wpływu wielu wskaźników wydajności na zaufanie do modeli uczenia maszynowego
- W AI ufamy coraz częściej: wielowarstwowy model zaufania do analizy interakcji między człowiekiem a sztuczną inteligencją
- Zaufanie i etyka AI
- Wytyczne dotyczące etyki dla wiarygodnej sztucznej inteligencji
- Wytłumaczalna, normalna i uzasadniona agencja
- Model Drift w uczeniu maszynowym
- Jednolity widok zmiany zbioru danych w klasyfikacji
- ODIN: Automatyczne wykrywanie i odzyskiwanie drifów w analizie wideo
- Nauka w ramach Concept Drift: Przegląd
- Dlaczego wykrywanie dryfu danych jest ważne i jak je zautomatyzować w 5 prostych krokach
Zalecane dla nauczycieli
Brak.
Materiały do lekcji
Instrukcje dla nauczycieli
Wykład ten powinien koncentrować się na koncepcji Zaufanie o systemach, które wykorzystują AI i uczenie maszynowe do podejmowania decyzji. Powinien określać zaufanie i cechy zaufania wraz z zaufaniem agentów. Wykład powinien zawierać praktyczne powiązanie z proponowanymi ramami zaufania UE na rzecz AI. Wykład powinien również wprowadzić koncepcję cyfrowej normatywności oraz problem dryfowania modelu, pomiaru i monitorowania dryfu modelu w kontekście godnej zaufania sztucznej inteligencji i uczenia maszynowego.
Celem wykładu jest omówienie koncepcji zaufania w kontekście systemów sztucznej inteligencji. Wykład powinien odpowiedzieć na pytanie: Co oznacza zaufanie i jak budować zaufanie do systemów sztucznej inteligencji? Wykład powinien również omówić koncepcję normatywności w kontekście sztucznej inteligencji i zautomatyzowanych systemów decyzyjnych, nadając znaczenie zaufania. Wreszcie, wykład omówi dryf modelu, rodzaje dryfu modelu, metryki do pomiaru dryfu modelu oraz sposób radzenia sobie z dryfowaniem modelu, co powinno wykazać, że zaufanie powinno być stale monitorowane.
Zarys
| Czas trwania | Opis | Koncepcje | Działalność | Materiał |
|---|---|---|---|---|
| 5 min. | Czym jest zaufanie? | Filozofia zaufania, charakterystyka zaufania, agentów i pacjentów zaufania, ekosystem społeczno-techniczny, rola zaufania w wiedzy | Sesja wykładowa i przykłady | Materiały do wykładów |
| 15 min | Zadanie badawcze Zaufanie do AI |
Otwarte pytania i recenzja artykułu | Materiały do wykładów | |
| 10 min | Pojawienie się cyfrowej normalności | Subiektywizacja, desubjectivation, usprawiedliwiona agencja, wytłumaczalna i normatywna agencja | Sesja wykładowa i przykłady | Materiały do wykładów |
| 15 min | Model Drift | Co to jest dryf modelu, rodzaje dryfu modelu/koncepcji (przewidywanie, koncepcja, dane, w górę), wskaźniki Drift (wskaźnik stabilności populacji, dywergencja KL, odległość Wassersteina), radzenie sobie z dryfowaniem modelu (monitorowanie, jakość danych, przekwalifikowanie, strojenie parametrów) | Sesja wykładowa i przykłady | Materiały do wykładów |
| 5 min. | Wnioski | Podsumowanie | Wnioski | Materiały do wykładów |
Potwierdzenia
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.