Verwaltungsinformationen
| Titel | KI-Risiken und Risikomanagement |
| Dauer | 90 |
| Modulen | B |
| Unterrichtstyp | Interaktive Sitzung |
| Fokussierung | Ethisch – vertrauenswürdige KI |
| Themenbereich | Risiko |
Suchbegriffe
AI Risk,Risk Management,Resilienzmanagement,Erklärbare KI,Interpretable AI,Sicherheit,Resilienz,Transparenz, Rechenschaftspflicht,
Lernziele
- Erkennen, analysieren und diskutieren Sie die Notwendigkeit und die Rolle von Sicherheitstests in der KI.
- Verwenden Sie Dokumente wie das KI-Gesetz, um Anwendungsfälle in Risikokategorien einzuordnen.
- Diskutieren Sie eingehend und mit einem gemeinsamen europäischen Vokabular über KI-Risiko und darüber, wie KI sicher und wohlwollend gestaltet werden kann, auf eine Weise, die den Menschen nicht inakzeptable Risiken von Schäden aussetzt, auch wenn riskantes Verhalten ein Systemziel erreichen kann.
- Klassifizierung der Verpflichtungen von Anbietern und Nutzern in Bezug auf das KI-Risikomanagement.
- Diskutieren Sie die Anforderungen an Hochrisiko-KI-Systeme gemäß dem KI-Gesetz.
- Erarbeiten und erkennen Sie spezifische Risiken und Risikotaxonomien, die in den verschiedenen Phasen des KI-Lebenszyklus relevant sind.
Erwartete Vorbereitung
Lernveranstaltungen, die vorab abgeschlossen werden müssen
Keine.
Obligatorisch für Studenten
- Hochrangige Expertengruppe für Künstliche Intelligenz (AI HLEG). (Apr. 8, 2019). Europäische Kommission. „Ethik-Leitlinien für vertrauenswürdige KI.
- HCAIM Vortrag über Risiko- und Risikominderung
Optional für Studenten
- HCAIM-Webinar zum europäischen Ansatz für zuverlässige, sichere und vertrauenswürdige KI (verfügbar auf YouTube)
- HCAIM Webinar zur Rolle von Sicherheit und Datenschutz im maschinellen Lernen (verfügbar auf YouTube)
Referenzen und Hintergründe für Studierende
- Hochrangige Expertengruppe für Künstliche Intelligenz (AI HLEG). (Apr. 8, 2019). Europäische Kommission. „Ethik-Leitlinien für vertrauenswürdige KI.
- HCAIM Vortrag über Risiko- und Risikominderung
Empfohlen für Lehrer
- Europäische Kommission: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz), 2021
- Agentur der Europäischen Union für Cybersicherheit, Malatras, A., Dede, G., AI Cybersicherheitsherausforderungen: Bedrohungslandschaft für künstliche Intelligenz, Europäische Agentur für Netz- und Informationssicherheit, 2020
- Hochrangige Expertengruppe für Künstliche Intelligenz (AI HLEG). (Apr. 8, 2019). Europäische Kommission. Ethikrichtlinien für vertrauenswürdige KI.
- Böswillige Nutzung und Missbrauch künstlicher Intelligenz 2020, Europol-Publikation
Unterrichtsmaterialien
Anleitung für Lehrer
Diese interaktive Sitzung zielt darauf ab, ein gemeinsames Vokabular für Studenten aufzubauen, um das Risiko- und Risikomanagement im Zusammenhang mit KI zu diskutieren, insbesondere durch den risikobasierten Ansatz der EU für KI. Die zur Verfügung gestellten Materialien sowie die Gesamtskizze und der Zeitplan der interaktiven Sitzung sind indikativ und werden präsentiert, um eine Diskussion mit den Schülern besser zu führen. Solange die Lernziele erreicht werden, werden die Ausbilder ermutigt, dem natürlichen Fluss der Diskussion zu folgen.
Übersicht und Zeitplan der interaktiven Sitzung:
| Dauer | Themenbereich | Beschreibung |
|---|---|---|
| 15 Minuten | Einführung | Risiko definieren. Der Ansatz der EU für das KI-Risikomanagement. Risikomanagementstrategien während des gesamten KI-Lebenszyklus. |
| 30 Minuten | Klassifizierung des Risikos | KI-Vermögenswerte und Bedrohungstaxonomie und Risikomanagement-Frameworks zur Beschreibung technischer Designmerkmale für KI. |
| 30 Minuten | Milderndes Risiko | Annäherung an die Risikominderung unter Verwendung von Anwendungsfällen und gemeinsamem Vokabular und Referenzmodellen, um die Diskussion zu nutzen. |
| 15 Minuten | Schlussbemerkungen | Diskussion mit Studenten. Fragen und Antworten. |
Zwei HCAIM Webinare sind besonders relevant für diese interaktive Session. Diese konnten vor der Diskussion gezeigt werden oder Teile von ihnen konnten gespielt werden, um Themen zu erleichtern und Schweigen zu verwalten.
Danksagung
Diese Präsentation wurde von Dr. George Sharkov und Christina Todorova am European Software Institute – Center Eastern Europe entwickelt.
Die Präsentation verwendet Folien einer Präsentation von Dr. Mihály Héder an der Universität für Technologie und Wirtschaft Budapest. Bitte erwägen Sie, seine Arbeit zu verfolgen.
Das Human-Centered AI Masters-Programm wurde von der Fazilität „Connecting Europe“ der Europäischen Union im Rahmen des Zuschusses „CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068“ kofinanziert.