Programmübersicht

In unserem Ziel, einen Human-Centred AI Master-Programm zu schaffen, folgt das HCAIM Consortium der Definition von AI HLEG: „Mit dem menschenzentrierten KI-Ansatz soll sichergestellt werden, dass menschliche Werte für die Entwicklung, Anwendung, Nutzung und Überwachung von KI-Systemen von zentraler Bedeutung sind, indem die Achtung der Grundrechte gewährleistet wird.

Um den Anforderungen dieser Definition gerecht zu werden, umfasst das Programm die technischen, ethischen und praktischen Elemente der künstlichen Intelligenz. Wir haben unsere Inhalte rund um die drei Phasen des MLOps- Lebenszyklus – Entwicklung, Bereitstellung und Wartung von Machine-Learning-Modellen – konzipiert und produzieren so drei Kernmodule in Übereinstimmung mit den oben genannten ML-Ops-Phasen: Modellierung (Modul A), Bereitstellung (Modul B) und Evaluation (Modul C). Wir haben ein viertes Modul (D) Graduierung hinzugefügt, damit die Studierenden zeigen können, dass sie die von der Branche vorgeschlagenen Herausforderungen unabhängig lösen können, basierend auf den aktuellen Bedürfnissen und Anforderungen im Zusammenhang mit dem Bereich der menschenzentrierten künstlichen Intelligenz.

Dies wird in der nachstehenden Tabelle dargestellt.

Modul A Modul B Modul C Modul D
Technische Daten

Grundlagen der KI

Fortgeschrittene KI:
Tiefes Lernen
Zukünftige KI

Master Thesis Projekt

Praktisch KI-Modellierung KI in Aktion:
Organisatorische KI
Sozial verantwortliche KI
Ethische Ethik Grundlagen Vertrauenswürdige KI Compliance, Legalität & Menschlichkeit

Diese Seite enthält die kurze Beschreibung der im Human Centered Artificial Intelligence Master definierten Module. Alle Lernveranstaltungen, einschließlich ihres flankierenden Studienmaterials, sind auf der HCAIM-Website von Wikiwijs verfügbar.

Die Beschreibungen der Lernveranstaltung wurden mit dem eTranslation-Tool der Europäischen Union in alle 24 EU-Amtssprachen übersetzt und sind in den den Sprachen zugewiesenen Listen verfügbar. Beachten Sie, dass die Übersetzungen von keinem Dozenten überprüft werden.

Alle Materialien sind unter einer Creative Commons Attribution-NonCommercial-NoDerivates 4.0 Lizenz verfügbar (CC BY-NC-ND 4.0)

Modellierung (Modul A)

Das erste Modul, nämlich Modellierung (Modul A), konzentriert sich auf die erste Phase des MLOps-Lebenszyklus und bezieht sich auf den niedrigsten Reifegrad der Anwendung von maschinellem Lernen (ML) in Organisationen: Modellierung von Daten. Es umfasst die Tätigkeiten, die die Grundlage für die Anwendung von ML bilden, wie Datenextraktion, Datenanalyse, Datenvorbereitung, Modellschulung und (hauptsächlich manuelle) Modellvalidierung und -bewertung.

In dieser Phase liegt der Fokus auf der korrekten Analyse und Modellierung der Daten, um die Geschäftsziele zu erreichen, und es wird nur wenig von der Automatisierung (z. B. CI/CD) Gebrauch gemacht, die erst in der zweiten Phase von MLOps (Bereitstellung – Modul B) hinzugefügt wird. Die Modellierungsaktivitäten zeichnen sich häufig durch die manuelle, skriptgesteuerte und interaktive Methode aus, mit der Datenanalyse, Vorbereitung, Modellschulung und Validierung durchgeführt werden. Um einen Überblick über die verschiedenen Modelle, Parameter und Optionen zu erhalten, mit denen experimentiert wird, wird Experiment Tracking verwendet.

Aus ethischer Sicht ist es wichtig, in der Modellierungsphase genügend Zeit und Aufmerksamkeit zu widmen, um die Ziele des Kunden herauszufinden, die Stakeholder zu kartieren und zu untersuchen, wie die individuellen Werte dieser Stakeholder beeinflusst werden (und mögliche Konflikte zwischen ihnen zu erkennen). Dabei sind Aspekte wie Transparenz, Inklusion, Sicherheit und Privatsphäre von großer Bedeutung. Natürlich muss auch auf die soziale und moralische Erwünschtkeit der Ziele des Kunden geachtet werden. Darüber hinaus ist es wichtig, in den verfügbaren Daten (zeitlich) das Bewusstsein für mögliche Verzerrungen/Vorurteile zu haben, die möglichen Folgen dieser Vorurteile zu erkennen und Abschwächungen zu finden, um mit diesen Vorurteilen umzugehen.

Lernergebnisse

  • Der Student evaluiert verschiedene ML-Techniken, um eine fundierte Wahl zu treffen, um die erworbenen Anforderungen des Kunden zu erfüllen und einen Prototyp der gewählten ML-Technik zu implementieren, um bei der Lösung eines bestimmten Datenmodellierungsproblems zu beraten.
  • Lernergebnis 1
  • Der Student argumentiert unter Verwendung grundlegender ethischer Rahmenbedingungen, wie moralische Dilemmas gelöst werden können, und bewertet die möglichen Folgen bestehender Vorurteile in Daten und den Einfluss von entworfenen Minderungsmaßnahmen, um den Folgen dieser Vorurteile entgegenzuwirken.
  • Lernergebnis 2
  • Der Student wendet quantitative und qualitative Forschungsmethoden an, um ihre Entscheidungen während der ethischen Überlegungen und der Herstellung des Prototyps wissenschaftlich zu untermauern.
  • Lernergebnis 3

Bereitstellung (Modul B)

Das Modul Bereitstellung (Modul B) konzentriert sich auf die zweite Phase des MLOps-Entwicklungszyklus; der Deployment. Nach der Datenexplorationsphase der Modellierung (siehe Modul A – Modellierung) kommt die Integration der ML-Lösung in die Geschäftssysteme. Es ist jetzt wichtig, über die ML-Architektur nachzudenken und wie sie mit den bestehenden Systemen (Legacy) spielt. Um von automatisierten ML-Lösungen wirklich profitieren zu können, müssen Pipelines eingeführt werden; zum einen, um mit kontinuierlichen und Live-Datenlieferungen (Stream-Verarbeitung) umgehen zu können und zum anderen die Ergebnisse des ML-Modells mit anderen Systemen zu verknüpfen.

Darüber hinaus erhöht Modul B die Komplexität der KI-Technologie, indem es auf (die Nutzung) neuronaler Netze und Deep Learning hinarbeitet. Ein großer Vorteil dieser komplexeren Modelle ist, dass sie flexibler und vielseitiger sind als die in Modul A – Modellierung eingeführten Techniken. Die wichtigsten Nachteile dieser Techniken sind jedoch, dass sie komplexer sind (um zu verstehen und zu konfigurieren) und opaquer. Darin liegt ein wichtiges ethisches Dilemma im Einsatz von (fortgeschrittenen) KI-Techniken: wie verstehen Sie immer noch, was die KI-Lösung berechnet und ob dies auf die richtige Weise geschieht. Die Einführung von KI-Lösungen transparenter zu gestalten und die möglichen Risiken zu ermitteln und diese Risiken zu mindern, sind wichtige (soziale) Themen in diesem Modul.

Lernergebnisse

  • Der Student bewertet die möglichen Optionen für die Integration einer fortgeschrittenen KI-Technik, wie Deep and/oder Reinforcement Learning, und erstellt einen einseitigen Bericht, der auf einem Prototyp basiert, der unter Berücksichtigung der Einschränkungen und Einflüsse auf die bestehenden IKT-Systeme und Dateneinrichtungen des Kunden entwickelt wurde, die in Zusammenarbeit mit beispielsweise IKT-Architekten oder -Entwicklern gewonnen wurden.
  • Lernergebnis 1
  • Der Student bewertet das potenzielle Risiko und testet den Grad der Transparenz (einschließlich Interpretationsfähigkeit, Reproduzierbarkeit und Erklärbarkeit) einer gewählten KI/ML-Implementierung und entwirft Lösungen mit Techniken, die die Einsicht und Transparenz zwischen den Stakeholdern (so genannte Explainable AI (XAI) Techniken) erhöhen, um Mängel in dieser Hinsicht im Vergleich zu den sozialen und kundenspezifischen Anforderungen zu beheben.
  • Lernergebnis 2
  • Der Student formuliert ein Forschungsdesign für ein wissenschaftlich fundiertes (praxisorientiertes) Forschungsprojekt im Zusammenhang mit einem Unternehmensfall, indem er eine relevante, konsistente, funktionale Forschungsfrage formuliert, die angewandten Forschungsmethoden berücksichtigt und einen präzisen, relevanten und kritischen theoretischen Rahmen festlegt.
  • Lernergebnis 3

Bewertung (Modul C)

Das Evaluierungsmodul (Modul C) konzentriert sich auf die Bewertungsaspekte der KI-Entwicklung, einschließlich sowohl der gesellschaftlichen Aspekte eines KI-Produkts, als auch der Entwicklung einer Wertschätzung der potenziellen künftigen Richtungen, die KI einschlagen kann, wobei die Technologietrends berücksichtigt werden; sozial verantwortliche KI; Compliance sowie die Sicherstellung, dass das menschliche Element bei der Gestaltung, Entwicklung und Bewertung von KI-Systemen immer präsent ist.

Im Rahmen der Zukunft der KI wird eine Untersuchung des Grads der KI-Einführung in verschiedenen Branchen sowie der Frage diskutiert, wie KI für verschiedene Bereiche angepasst wird. Der Blick auf sozial verantwortliche KI beinhaltet, wie KI Einzelpersonen und verschiedene Gruppen in der Gesellschaft beeinflusst. Und als wesentlicher Bestandteil des Moduls werden Gesetze, Richtlinien und Verhaltenskodizes im Zusammenhang mit KI (mit Schwerpunkt auf Fragen wie Erklärbarkeit und Vertrauen) sowie Qualitätskontroll- und Qualitätsmanagementprozesse zur Bewertung der Ergebnisse von KI-Initiativen konzentriert.

Lernergebnisse

  • Der Student entwickelt eine Wertschätzung der modernsten Ansätze für KI und maschinelles Lernen sowie ein Verständnis dafür, wie künstliche Intelligenz in verschiedenen Bereichen eingesetzt wird und wie die möglichen Richtungen der künstlichen Intelligenz in Zukunft bewertet werden können.
  • Lernergebnis 1
  • Der Student zeigt einen genau definierten Ansatz für das Konsequenzsscannen, unter Berücksichtigung von Themen wie der Bewertung der potenziellen Auswirkungen, die neue Technologie auf Einzelpersonen und Gesellschaft haben könnte, wobei sie sich speziell auf Minderheiten und marginalisierte Gruppen sowie potenzielle Umweltauswirkungen konzentriert.
  • Lernergebnis 2
  • Der Student demonstriert die Fähigkeit, eine vollständig artikulierte Forschungsmethodik mit Ethik in allen Phasen zu verwenden, mit einem Bewusstsein für den Kontext der spezifischen Ansätze, die verwendet werden sollten, die durch die in diesem Modul behandelten Fallstudien informiert werden.
  • Lernergebnis 3

 

Abschluss (Modul D)

Das Graduierungsmodul (Modul D) spiegelt das Kernprinzip des HCAIM-Programms wider, das auf dem Konzept des projektbasierten Lernens (PBL) basiert. Ziel dieses Moduls ist es, das Abschlussprojekt (ein professionelles Produkt) zentral im Lernverlauf des Schülers zu positionieren. Im Rahmen ihres Abschlussprojekts (Masterarbeit) zeigen die Studierenden, dass sie die von der Branche vorgeschlagenen Herausforderungen auf der Grundlage der aktuellen Bedürfnisse und Anforderungen unabhängig lösen können, wobei sowohl die technischen als auch die ethischen Aspekte des vorliegenden Problems berücksichtigt werden.

Jede Dissertation wird lokal betrachtet, mit einem internen Betreuer (ein Professor der Universität, in dem der Student den Abschluss verfolgt) und einem externen Betreuer der Partei, die die Abschlussarbeit vorschlägt (falls vorhanden). Dieser letztgenannte Aspekt wird, obwohl er nicht zwingend vorgeschrieben ist, konsequent verfolgt. Die vorschlagende Partei kann ein KMU, ein Exzellenzzentrum oder eine andere Universität sein, sowohl auf nationaler als auch auf internationaler Ebene. Von den vorschlagenden Parteien wird erwartet, dass sie sowohl nationale als auch internationale Abschlussarbeiten vorlegen (d. h. eine Abschlussarbeit, die mit einer Universität aus demselben Land oder aus einem Ausland organisiert wird).

Lernergebnisse

  • Der Student erkennt und reflektiert den KI-Lebenszyklus in einem realistischen, brancheninformierten Kontext und an verschiedenen Orten, Szenarien und Anwendungsfällen.
  • Lernergebnis 1
  • Der Student demonstriert eine robuste und gültige Forschungshaltung durch ein Projekt mit einem klar definierten interdisziplinären Ansatz, der branchenrelevante und technologisch kompetente Lösungen liefert und gleichzeitig die potenziellen Auswirkungen ihrer Arbeit auf Individuen und Gesellschaft bewertet.
  • Lernergebnis 2
  • Der Student zeigt eine professionelle Einstellung in Bezug auf die Kommunikation mit relevanten Stakeholdern (z. B. Mentoren, Berater, Kollegen und Kunden), eine analytische Einstellung, Arbeitsethos, Planungskompetenz, Pro-Aktivität und Selbstbewusstsein
  • Lernergebnis 3

Richtlinien für die Thesis

HCAIM Thesis Vorschlagsrichtlinien

 

Diese Leitlinien dienen der Unterstützung von Parteien, die eine neue These vorschlagen wollen.

HCAIM Thesis Vorlage

 

Sehen Sie sich die HCAIM Thesis Template hier an.

Ethische Richtlinien für HCAIM Theses

 

Plagiate, Datenherstellung und Bildmanipulation

Plagiate sind nicht akzeptabel. Plagiat beinhaltet das Kopieren von Texten, Ideen, Bildern oder Daten aus einer anderen Quelle, einschließlich Ihrer eigenen Veröffentlichungen, ohne die ursprüngliche Quelle zu verdanken.

Die Wiederverwendung von Text, der aus einer anderen Quelle kopiert wurde, muss zwischen Anführungszeichen und der ursprünglichen Quelle liegen. Wenn frühere Studien das Design einer Studie oder die Struktur oder Sprache des Manuskripts inspiriert haben, müssen diese Studien explizit zitiert werden.

Bilddateien dürfen in keiner Weise manipuliert oder angepasst werden, was zu einer Fehlinterpretation der vom Originalbild bereitgestellten Informationen führen könnte. Unregelmäßige Manipulation umfasst 1) Einführung, Verbesserung, Bewegen oder Entfernen von Merkmalen aus dem Originalbild, 2) Gruppierung von Bildern, die separat dargestellt werden sollten, oder 3) die Änderung des Kontrasts, der Helligkeit oder der Farbbalance, um einige Informationen zu verschleiern, zu beseitigen oder zu verbessern.

Die präsentierten Ergebnisse dürfen nicht unangemessen ausgewählt, manipuliert, verbessert oder hergestellt werden. Dazu gehören 1) Ausschluss von Datenpunkten zur Erhöhung der Bedeutung von Schlussfolgerungen, 2) Herstellung von Daten, 3) Auswahl von Ergebnissen, die eine bestimmte Schlussfolgerung auf Kosten widersprüchlicher Daten stützen, 4) bewusste Auswahl von Analysewerkzeugen oder Methoden zur Unterstützung einer bestimmten Schlussfolgerung (einschließlich p-Hacking).

Forschung mit menschlichen Subjekten, Tieren oder Pflanzen

Bei der Berichterstattung über Forschungen, die menschliche Probanden, menschliches Material, menschliches Gewebe oder menschliche Daten betreffen, muss die vorschlagende Partei sicherstellen, dass die Untersuchungen gemäß den Regeln der im Jahr 2013 überarbeiteten Erklärung von Helsinki von 1975 durchgeführt wurden. Jede Folge, die mit der Verletzung dieses Aspekts verbunden ist, wird der vorschlagenden Partei und weder dem HCAIM-Konsortium noch dem Studenten zugerechnet.

Thesen, die mit Zelllinien arbeiten, sollten den Ursprung aller Zelllinien angeben. Bei etablierten Zelllinien sollte die Herkunft angegeben werden, und auch Verweise auf ein veröffentlichtes Papier oder eine kommerzielle Quelle müssen angegeben werden. Wenn zuvor unveröffentlichte de novo- Zelllinien verwendet wurden, einschließlich derjenigen, die von einem anderen Labor begabt wurden, müssen Einzelheiten des institutionellen Überprüfungsgremiums oder der Ethikkommission erteilt werden, und eine Bestätigung der schriftlichen Einwilligung muss erteilt werden, wenn die Linie menschlichen Ursprungs ist.

Alle Themen, die sich aus der Forschung ergeben können, die den Tieren Schaden zufügt, sind verboten. Alle für den Menschen geltenden Richtlinien sollten (wenn möglich) auch für Tiere befolgt werden.

Die experimentelle Forschung an Pflanzen (entweder kultivierte oder wildlebende Pflanzen), einschließlich der Sammlung von Pflanzenmaterial, muss den institutionellen, nationalen oder internationalen Richtlinien entsprechen. Wir empfehlen, dass die Thesen das Übereinkommen über die biologische Vielfalt und das Übereinkommen über den Handel mit gefährdeten Arten freilebender Tiere und Pflanzen einhalten.

Sex, Geschlecht, Ethnizität, Religion und andere Vorurteile in der Forschung

Es wird ermutigt, den Leitlinien „Sex and Gender Equity in Research – SAGER“ zu folgen und gegebenenfalls geschlechtsspezifische und geschlechtsspezifische Erwägungen aufzunehmen. Die Begriffe Geschlecht (biologisches Attribut) und Geschlecht (geformt durch soziale und kulturelle Umstände) sollten sorgfältig verwendet werden, um Verwechslungen beider Begriffe zu vermeiden. In der Arbeit sollte auch (im „Hintergrund“) beschrieben werden, ob Geschlechts- und/oder Geschlechterunterschiede zu erwarten sind; Bericht darüber, wie Geschlecht und/oder Geschlecht bei der Gestaltung der Studie berücksichtigt wurden; gegebenenfalls aufgeschlüsselte Daten nach Geschlecht und/oder Geschlecht bereitzustellen; und besprechen Sie die jeweiligen Ergebnisse. Wenn keine Geschlechts- und/oder Geschlechteranalyse durchgeführt wurde, sollte die Begründung in der Diskussion angegeben werden.

Ähnliche Überlegungen gelten für alle anderen Formen der Voreingenommenheit, einschließlich (und nicht beschränkt auf) ethnische Zugehörigkeit und Religion. Für erstere erinnern wir daran, dass Menschen keine Rassen haben, sondern nur ethnische Zugehörigkeit.

Wenn die These auf Voreingenommenheit fokussiert ist, muss die Begründung dahinter von Anfang an geklärt werden.

Interessenkonflikte

Die Studierenden müssen vermeiden, Vereinbarungen mit Studiensponsoren zu schließen, sowohl gewinnorientiert als auch gemeinnütziger Art, die den Zugang zu allen Daten der Studie beeinträchtigen oder ihre Fähigkeit beeinträchtigen, die Daten zu analysieren und zu interpretieren und die Dissertation unabhängig zu erstellen, wann und wo sie sich entscheiden.

Die Studierenden müssen alle persönlichen Umstände oder Interessen identifizieren und erklären, die als unangemessene Einflussnahme auf die Darstellung oder Interpretation der gemeldeten Forschungsergebnisse empfunden werden können. Beispiele für potenzielle Interessenkonflikte sind unter anderem finanzielle Interessen (wie Mitgliedschaft, Beschäftigung, Beratungen, Aktien/Aktienbesitz, Honoraria, Zuschüsse oder andere Finanzierungen, bezahlte Sachverständigenzeugnisse und Patentlizenzvereinbarungen) und nichtfinanzielle Interessen (wie persönliche oder berufliche Beziehungen, Zugehörigkeiten, persönliche Überzeugungen).

Jede Rolle der Förderer bei der Gestaltung der Studie, bei der Erhebung, Analyse oder Interpretation von Daten, beim Schreiben des Manuskripts oder bei der Entscheidung, die Ergebnisse zu veröffentlichen, muss im Voraus erklärt werden.

Zitierrichtlinien

  • Die Studierenden sollten sicherstellen, dass, wenn das Material aus anderen Quellen (einschließlich ihres eigenen veröffentlichten Schreibens) stammt, die Quelle eindeutig genannt wird und gegebenenfalls eine entsprechende Genehmigung eingeholt wird.
  • Die Schüler sollten sich nicht an übermäßigen Selbstzitaten ihrer eigenen Arbeit beteiligen.
  • Studenten sollten keine Referenzen aus anderen Publikationen kopieren, wenn sie das zitierte Werk nicht gelesen haben.
  • Studenten sollten nicht bevorzugt die Veröffentlichungen ihrer eigenen oder ihrer Freunde, Kollegen oder Institutionen zitieren.
  • Die Schüler sollten keine Werbung oder Werbematerial zitieren.

Ethische Leitlinien für Gutachter

Potentielle Interessenkonflikte

Die Gutachter werden gebeten, den HCAIM-Vorstand zu informieren, wenn sie einen Interessenkonflikt haben, der den Überprüfungsbericht positiv oder negativ beeinträchtigen könnte. Der Vorstand prüft so genau wie möglich, bevor er die Gutachter einlädt; dennoch wird die Zusammenarbeit der Gutachter in dieser Angelegenheit erwartet und geschätzt.

Vertraulichkeit und Anonymität

Die Gutachter müssen den Inhalt der Arbeit, einschließlich der abstrakten, vertraulich behandeln. Sie müssen den HCAIM-Vorstand informieren, wenn sie möchten, dass ein Kollege die Überprüfung in ihrem Namen abschließt.

Risikomatrix und Minderungsplan für HCAIM-Thesen

 

Diese Vorlage ermöglicht es dem Betreuer, den Schüler bei der Identifizierung und Bewältigung von Problemen zu unterstützen. Zur gleichen Zeit wird eine These vorschlagende Partei gebeten, diese Vorlage zu kompilieren.

Alle Meilensteine und Ergebnisse für den Abschluss des vorgeschlagenen Forschungsprojekts sollten in den Projektvorschlag aufgenommen werden. Die Studierenden sind auch verpflichtet, eine Risikomatrix vorzubereiten, die Risiken enthält, die das Erreichen dieser Leistungen gefährden könnten, und Notfallpläne zur Minderung der umrissenen Risiken bereitzustellen. Ein Beispiel für eine Risikomatrix und einen Minderungsplan ist unten dargestellt. Bitte geben Sie bei Bedarf zusätzliche Risiken an:

Risiko-Risiko Schweregrad Wahrscheinlichkeit Abschwächung
Fehlgeschlagen, die Zieldaten rechtzeitig zu sammeln Hoch Niedrig Das Projekt beginnt mit der Prüfung der offen verfügbaren Ressourcen. Untersuchen Sie Optionen, um synthetische oder vorverfügbare öffentliche Daten ähnlich den Zieldaten zu erfassen.
Unzureichende Mittelausstattung Mittelklasse Mittelklasse Es werden alternative Finanzierungsquellen gesucht.
Forschungs-/Projektziele zu ehrgeizig Mittelklasse Niedrig Überprüfen Sie regelmäßig die Projektziele und normalisieren Sie die Projektergebnisse basierend auf dem Überprüfungsprozess.
(Zu sehr) Große Mengen an
zusätzlicher
Ausbildung erforderlich
Mittelklasse Niedrig Die vorherige Genehmigung erfolgt. Die Projektziele werden basierend auf der Zeit und den Ressourcen, die für diese zusätzliche Schulung verwendet werden, aktualisiert.
Datenverlust Mittelklasse Niedrig Der Student wird geeignete Backup-Verfahren befolgen, um das Risiko zu minimieren.

Beispiele für Thesis Themen





















Zum Inhalt springen

Skip to content