Programma Overzicht

In ons doel om een Human-Centred AI masteropleiding te creëren, volgt het HCAIM Consortium de definitie van AI HLEG: „De mensgerichte benadering van KI streeft ernaar ervoor te zorgen dat menselijke waarden centraal staan in de manier waarop AI-systemen worden ontwikkeld, ingezet, gebruikt en gecontroleerd, door de eerbiediging van de grondrechten te waarborgen.

Om aan de eisen van deze definitie te voldoen, omvat het programma de technische, ethische en praktische elementen van kunstmatige intelligentie. We hebben onze inhoud ontworpen rond de drie fasen van de MLOps-levenscyclus — ontwikkeling, implementatie en onderhoud van machine learning-modellen, waardoor drie kernmodules worden geproduceerd in overeenstemming met de bovengenoemde ML-Ops-fasen: Modellering (module A), implementatie (module B) en evaluatie (module C). We hebben een vierde module (D) Afstuderen toegevoegd, om studenten in staat te stellen te laten zien dat ze zelfstandig uitdagingen kunnen oplossen die door de industrie worden voorgesteld op basis van de huidige behoeften en vereisten met betrekking tot het gebied van mensgerichte kunstmatige intelligentie.

Dit wordt weergegeven in de onderstaande tabel.

Module A Module B Module C Module D
Technisch

Fundamenten van AI

Geavanceerde AI:
Diep leren
Toekomstige AI

Master Thesis Project

Praktisch AI-modellering AI in actie:
Organisatie AI
Maatschappelijk verantwoord AI
Ethisch Ethiek Grondbeginselen Betrouwbare AI Compliance, Legaliteit & Humaniteit

Deze pagina bevat de korte beschrijving van de modules gedefinieerd in de Human Centered Artificial Intelligence Master. Alle Learning Events, inclusief begeleidend studiemateriaal, zijn beschikbaar op de HCAIM website van Wikiwijs.

De beschrijvingen van de leergebeurtenissen zijn vertaald in alle 24 officiële EU-talen met behulp van het eTranslation-instrument van de Europese Unie en zijn beschikbaar in de lijsten die aan de talen zijn toegewezen. Houd er rekening mee dat de vertalingen niet worden beoordeeld door docenten.

Alle materialen zijn beschikbaar onder een Creative Commons Naamsvermelding-NietCommercieel-NoDerivates 4.0 licentie (CC BY-NC-ND 4.0)

 

Modellering (module A)

De eerste module, namelijk Modelling (Module A), richt zich op de eerste fase van de MLOps-levenscyclus en is gerelateerd aan het laagste volwassenheidsniveau van de toepassing van Machine Learning (ML) in organisaties: modelleringsgegevens. Het omvat de activiteiten die de basis vormen voor de toepassing van ML, zoals gegevensextractie, gegevensanalyse, gegevensvoorbereiding, modeltraining en (voornamelijk handmatige) validatie en evaluatie van modellen.

In deze fase ligt de nadruk op het correct analyseren en modelleren van de gegevens om de bedrijfsdoelstellingen te bereiken en wordt weinig gebruik gemaakt van automatisering (bv. CI/CD), die alleen wordt toegevoegd in de tweede fase van MLOps (Deployment — Module B). De modelleringsactiviteiten worden vaak gekenmerkt door de handmatige, scriptgestuurde en interactieve methode waarmee de gegevensanalyse, -voorbereiding, modeltraining en validatie worden uitgevoerd. Om een overzicht te behouden van de verschillende modellen, parameters en keuzes die worden geëxperimenteerd, wordt experiment tracking gebruikt.

Vanuit een ethisch perspectief is het belangrijk om in de modelleringsfase voldoende tijd en aandacht te besteden aan het achterhalen van de doelstellingen van de klant, het in kaart brengen van de belanghebbenden en het onderzoeken van hoe de individuele waarden van deze belanghebbenden worden beïnvloed (en mogelijke conflicten tussen hen te herkennen). Aspecten als transparantie, inclusie, veiligheid en privacy zijn hierbij van groot belang. Uiteraard moet ook aandacht worden besteed aan de sociale en morele wenselijkheid van de doelstellingen van de cliënt. Daarnaast is het belangrijk om (tijdig) bewust te zijn van mogelijke vooroordelen/vooruitzichten in de beschikbare gegevens, de mogelijke gevolgen van deze vooroordelen te erkennen en mitigaties te vinden om deze vooroordelen aan te pakken.

Leerresultaten

  • De student evalueert verschillende ML-technieken om een gegronde keuze te maken, past bij de verworven eisen van de klant en implementeert een prototype van de gekozen ML-techniek om advies te geven over het oplossen van een bepaald datamodelleringsprobleem.
  • Leerresultaten 1
  • De student betoogt, met behulp van fundamentele ethische kaders, hoe morele dilemma’s kunnen worden opgelost en evalueert de mogelijke gevolgen van bestaande vooroordelen in gegevens en de invloed van ontworpen mitigaties om de gevolgen van die vooroordelen tegen te gaan.
  • Leerresultaten 2
  • De student past kwantitatieve en kwalitatieve onderzoeksmethoden toe om hun keuzes wetenschappelijk te onderbouwen tijdens de ethische overweging(en) en het maken van het prototype.
  • Leerresultaten 3

Implementatie (module B)

De module Deployment (module B) richt zich op de tweede fase van de MLOps-ontwikkelingscyclus; de inzet. Na de data verkennende fase van modellering (zie Module A — Modellering) komt de integratie van de ML-oplossing in de bedrijfssystemen. Het is nu belangrijk om na te denken over de ML architectuur en hoe het samenspelt met de bestaande systemen (legacy). Om te kunnen profiteren van geautomatiseerde ML-oplossingen, moeten pijpleidingen worden ingevoerd; enerzijds om te kunnen omgaan met continue en live data (stream processing) en anderzijds om de resultaten van het ML-model te koppelen aan andere systemen.

Bovendien vergroot module B de complexiteit van AI-technologie door over te stappen op (het gebruik van) neurale netwerken en deep learning. Een groot voordeel van deze complexere modellen is dat ze flexibeler en veelzijdiger zijn dan de technieken die in Module A — Modelling worden geïntroduceerd. De belangrijkste nadelen van deze technieken zijn echter dat ze complexer zijn (om te begrijpen en te configureren) en opaqueren. Daarin ligt een belangrijk ethisch dilemma in het gebruik van (geavanceerde) AI-technieken: hoe begrijp je nog steeds wat de AI-oplossing berekent en of dit op de juiste manier gebeurt? De inzet van AI-oplossingen transparanter maken en in staat zijn om de mogelijke risico’s te bepalen en deze risico’s te beperken, zijn belangrijke (sociale) thema’s in deze module.

Leerresultaten

  • De student beoordeelt de mogelijke keuzes voor de integratie van een geavanceerde AI-techniek, zoals Deep and/of Reinforcement Learning, en schrijft een rapport van één pagina op basis van een prototype dat is ontwikkeld, rekening houdend met de beperkingen en invloeden op de bestaande ICT-systemen en datafaciliteiten van de klant, die zijn verkregen in samenwerking met bijvoorbeeld ICT-architecten of ontwikkelaars.
  • Leerresultaten 1
  • De student beoordeelt het potentiële risico en test de mate van transparantie (inclusief interpreteerbaarheid, reproduceerbaarheid en verklaarbaarheid) van een gekozen AI/ML-implementatie en ontwerpt oplossingen met behulp van technieken die inzicht en transparantie tussen belanghebbenden (zogenaamde Explainable AI (XAI) technieken) vergroten om tekortkomingen in dit opzicht te verhelpen in vergelijking met de sociale en klantspecifieke vereisten.
  • Leerresultaten 2
  • De student formuleert een onderzoeksontwerp voor een wetenschappelijk verantwoord (praktijkgericht) onderzoeksproject met betrekking tot een bedrijfscase door het formuleren van een relevante, consistente, functionele onderzoeksvraag, rekening houdend met de toegepaste onderzoeksmethoden die moeten worden gebruikt en het vaststellen van een nauwkeurig, relevant en kritisch theoretisch kader.
  • Leerresultaten 3

Evaluatie (module C)

De evaluatiemodule (module C) richt zich op de evaluatieaspecten van AI-ontwikkeling, met inbegrip van zowel de maatschappelijke aspecten van een AI-product, als de ontwikkeling van een beoordeling van de potentiële toekomstige richtingen die AI kan volgen, waarbij wordt gekeken naar technologische trends; maatschappelijk verantwoorde AI; compliance, en ervoor te zorgen dat het menselijke element altijd aanwezig is in het ontwerp, de ontwikkeling en de evaluatie van AI-systemen.

Als onderdeel van de toekomst van AI wordt een verkenning van het niveau van AI-adoptie in verschillende industrieën besproken, evenals hoe AI wordt aangepast voor verschillende domeinen. Kijken naar maatschappelijk verantwoorde AI omvat hoe AI individuen en verschillende groepen in de samenleving beïnvloedt. En als een cruciaal onderdeel van de module, is er een focus op wetten, beleid en gedragscodes met betrekking tot AI (met de nadruk op kwesties zoals uitlegbaarheid en vertrouwen), evenals kwaliteitscontrole en kwaliteitsmanagementprocessen, om de resultaten van AI-initiatieven te evalueren.

Leerresultaten

  • De student ontwikkelt een waardering van de cutting-edge benaderingen van AI en machine learning, evenals een begrip van hoe kunstmatige intelligentie wordt gebruikt in verschillende domeinen, en hoe te evalueren van de mogelijke richtingen kunstmatige intelligentie kan gaan in de toekomst.
  • Leerresultaten 1
  • De student toont een welomschreven benadering van het scannen van gevolgen, rekening houdend met kwesties zoals het evalueren van de potentiële impact van nieuwe technologie op individuen en de samenleving, met bijzondere aandacht voor minderheden en gemarginaliseerde groepen, evenals potentiële milieueffecten.
  • Leerresultaten 2
  • De student demonstreert het vermogen om een ​​volledige onderzoeksmethodologie te gebruiken met ethiek die in alle stadia is ingebed, met een bewustzijn van de contextuele aard van de specifieke benaderingen die moeten worden gebruikt die zullen worden geïnformeerd door de casestudy’s die in deze module worden behandeld.
  • Leerresultaten 3

Afstuderen (module D)

De afstudeermodule (Module D) weerspiegelt het kernprincipe van het HCAIM-programma dat is gebaseerd op het concept project-based learning (PBL). Het doel van deze module is om het afstudeerproject (het maken van een professioneel product) centraal te positioneren in het leertraject van de student. Als onderdeel van hun afstudeerproject (de Master Thesis) tonen studenten aan dat ze zelfstandig uitdagingen kunnen oplossen die door de industrie worden voorgesteld op basis van de huidige behoeften en vereisten, rekening houdend met zowel de technische als de ethische aspecten van het probleem in kwestie.

Elke proefschrift wordt lokaal beschouwd, met een interne supervisor (een professor van de universiteit waarin de student de graad nastreeft) en een externe supervisor van de partij die het proefschrift voorstelt (indien van toepassing). Dit laatste aspect, hoewel het niet verplicht is, wordt streng nagestreefd. De indienende partij kan een kmo, een excellentiecentrum of een andere universiteit zijn, zowel op nationaal als internationaal niveau. Van de voorstellende partijen wordt verwacht dat zij zowel nationale als internationale scriptie verstrekken (d.w.z. scriptie georganiseerd met een universiteit uit hetzelfde land of uit een buitenlands scriptie).

Leerresultaten

  • De student herkent en reflecteert op de AI-levenscyclus in een realistische, door de industrie geïnformeerde context en op diverse locaties, scenario’s en use cases.
  • Leerresultaten 1
  • De student toont een robuuste en geldige onderzoekshouding door middel van een project met een goed gedefinieerde interdisciplinaire aanpak die industrie-relevante en technologisch competente oplossingen produceert, terwijl de potentiële impact van hun werk op individuen en de samenleving wordt geëvalueerd.
  • Leerresultaten 2
  • De student toont een professionele houding ten aanzien van communicatie met relevante belanghebbenden (bijvoorbeeld mentoren, adviseurs, collega’s en klanten), een analytische houding, werkethos, planningscompetentie, pro-actiefheid en zelfbewustzijn
  • Leerresultaten 3

Richtlijnen voor de scriptie

Richtlijnen voor HCAIM scriptievoorstellen

 

Deze richtlijnen zijn bedoeld ter ondersteuning van partijen die voornemens zijn een nieuw proefschrift voor te stellen.

HCAIM Thesis Template

 

Bekijk hier de HCAIM Thesis Template.

Ethische richtlijnen voor HCAIM stellingen

 

Plagiaat, datafabricage en beeldmanipulatie

Plagiaat is niet acceptabel. Plagiaat omvat het kopiëren van tekst, ideeën, afbeeldingen of gegevens van een andere bron, inclusief uw eigen publicaties, zonder krediet te geven aan de oorspronkelijke bron.

Het hergebruik van tekst die vanuit een andere bron wordt gekopieerd, moet tussen aanhalingstekens en de oorspronkelijke bron worden geciteerd. Als eerdere studies het ontwerp van een studie of de structuur of taal van het manuscript hebben geïnspireerd, moeten deze studies expliciet worden aangehaald.

Beeldbestanden mogen niet worden gemanipuleerd of aangepast op enigerlei wijze die kan leiden tot een verkeerde interpretatie van de informatie die door de oorspronkelijke afbeelding wordt verstrekt. Onregelmatige manipulatie omvat 1) het introduceren, verbeteren, verplaatsen of verwijderen van functies uit de oorspronkelijke afbeelding, 2) het groeperen van afbeeldingen die afzonderlijk moeten worden gepresenteerd of 3) het wijzigen van het contrast, de helderheid of de kleurbalans om bepaalde informatie te verduisteren, te elimineren of te verbeteren.

Gepresenteerde resultaten mogen niet ongepast worden geselecteerd, gemanipuleerd, verbeterd of gefabriceerd. Dit omvat 1) uitsluiting van gegevenspunten om het belang van conclusies te vergroten, 2) het fabriceren van gegevens, 3) selectie van resultaten die een bepaalde conclusie ondersteunen ten koste van tegenstrijdige gegevens, 4) bewuste selectie van analyse-instrumenten of -methoden om een bepaalde conclusie te ondersteunen (inclusief p-hacking).

Onderzoek met mensen, dieren of planten

Bij de rapportage over onderzoek waarbij menselijke proefpersonen, menselijk materiaal, menselijk weefsel of menselijke gegevens betrokken zijn, moet de indienende partij ervoor zorgen dat het onderzoek is uitgevoerd volgens de regels van de Verklaring van Helsinki van 1975, herzien in 2013. Elk gevolg dat verband houdt met de schending van dit aspect zal volledig worden toegerekend aan de indienende partij en noch aan het HCAIM-consortium, noch aan de student.

Theses, het werken met cellijnen moet de oorsprong van elke cellijnen vermelden. Voor vaste cellijnen moet de herkomst worden vermeld en moeten ook verwijzingen naar een gepubliceerd papier of een commerciële bron worden gegeven. Indien eerder niet-gepubliceerde de novo -cellijnen werden gebruikt, inclusief die van een ander laboratorium, moeten details van de institutionele toetsingsraad of ethische commissie goedkeuring worden gegeven en moet een schriftelijke geïnformeerde toestemming worden verstrekt als de lijn van menselijke oorsprong is.

Alle onderwerpen die mogelijk afkomstig zijn van onderzoek dat schade aan dieren veroorzaakt, zijn verboden. Alle richtlijnen die van toepassing zijn op mensen moeten (waar mogelijk) ook voor dieren worden gevolgd.

Experimenteel onderzoek naar planten (zowel gekweekt als in het wild), met inbegrip van het verzamelen van plantaardig materiaal, moet voldoen aan institutionele, nationale of internationale richtlijnen. Wij bevelen aan dat de stellingen zich houden aan het Verdrag inzake biologische diversiteit en het Verdrag inzake de handel in bedreigde in het wild levende dier- en plantensoorten.

Seks, Geslacht, Etniciteit, Religie en andere vooroordelen in onderzoek

Het wordt aangemoedigd om de „Sex and Gender Equity in Research — SAGER — Guidelines” te volgen en waar relevant rekening te houden met seks en gender. De termen geslacht (biologisch attribuut) en geslacht (gevormd door sociale en culturele omstandigheden) moeten zorgvuldig worden gebruikt om verwarring te voorkomen. In het proefschrift moet ook worden beschreven (in de „achtergrond”) of geslachtsverschillen te verwachten zijn; meedelen hoe geslacht en/of geslacht in het ontwerp van de studie zijn verwerkt; in voorkomend geval uitgesplitste gegevens naar geslacht en/of geslacht verstrekken; en bespreek de respectieve resultaten. Als een geslachts- en/of genderanalyse niet is uitgevoerd, moet de redenering worden gegeven in de discussie.

Soortgelijke overwegingen gelden voor alle andere vormen van vooringenomenheid, met inbegrip van (en niet beperkt tot) etniciteit en religie. Voor de eersten herinneren we eraan dat mensen geen rassen hebben, maar alleen etniciteit.

Als het proefschrift gericht is op vooringenomenheid, moet de redenering erachter vanaf het begin worden verduidelijkt.

Belangenconflict

Studenten moeten vermijden om overeenkomsten te sluiten met studiesponsors, zowel met winstoogmerk als zonder winstoogmerk, die de toegang tot alle gegevens van de studie verstoren of die interfereren met hun vermogen om de gegevens te analyseren en te interpreteren en om de proefschrift onafhankelijk voor te bereiden wanneer en waar ze kiezen.

Studenten moeten persoonlijke omstandigheden of interesses identificeren en aangeven die kunnen worden opgevat als ongepaste invloed op de representatie of interpretatie van de gerapporteerde onderzoeksresultaten. Voorbeelden van mogelijke belangenconflicten zijn, maar zijn niet beperkt tot financiële belangen (zoals lidmaatschap, werkgelegenheid, adviesbureaus, aandelen/aandelenbezit, honoraria, subsidies of andere financiering, betaalde getuigenissen van deskundigen en regelingen voor octrooilicenties) en niet-financiële belangen (zoals persoonlijke of professionele relaties, aansluitingen, persoonlijke overtuigingen).

Elke rol van de sponsors in het ontwerp van de studie, bij het verzamelen, analyseren of interpreteren van gegevens, in het schrijven van het manuscript of bij het besluit om de resultaten te publiceren, moet vooraf worden aangegeven.

Citatiebeleid

  • Studenten moeten ervoor zorgen dat wanneer het materiaal afkomstig is uit andere bronnen (inclusief hun eigen gepubliceerde schrijven), de bron duidelijk wordt geciteerd en waar nodig toestemming wordt verkregen.
  • Studenten moeten zich niet bezighouden met buitensporige zelfcitatie van hun eigen werk.
  • Studenten mogen geen referenties uit andere publicaties kopiëren als ze het geciteerde werk niet hebben gelezen.
  • Studenten mogen niet bij voorkeur hun eigen publicaties of publicaties van hun vrienden, collega’s of instellingen citeren.
  • Studenten mogen geen advertenties of reclamemateriaal citeren.

Ethische richtlijnen voor reviewers

Potentiële belangenconflicten

Beoordelaars wordt verzocht het HCAIM-bestuur op de hoogte te stellen als zij een belangenconflict hebben dat het beoordelingsverslag op een positieve of negatieve manier kan schaden. Het bestuur zal zo nauwkeurig mogelijk controleren alvorens beoordelaars uit te nodigen; niettemin wordt de medewerking van beoordelaars op dit gebied verwacht en gewaardeerd.

Vertrouwelijkheid en anonimiteit

Recensenten moeten de inhoud van het proefschrift, inclusief het abstracte, vertrouwelijk houden. Ze moeten het HCAIM-bestuur informeren als ze willen dat een collega de beoordeling namens hen afrondt.

Risk Matrix en Mitigation Plan voor HCAIM Theses

 

Deze template stelt de supervisor in staat om de student te ondersteunen bij het identificeren en omgaan met problemen. Tegelijkertijd wordt een scriptie-indienende partij gevraagd om deze template samen te stellen.

Alle mijlpalen en resultaten voor de voltooiing van het voorgestelde onderzoeksproject moeten in het projectvoorstel worden opgenomen. Studenten moeten ook een risicomatrix voorbereiden die risico’s omvat die het bereiken van deze resultaten in gevaar kunnen brengen en noodplannen verstrekken om de geschetste risico’s te beperken. Hieronder vindt u eenvoorbeeld van een risicomatrix en mitigatieplan. Voeg indien nodig extra risico’s toe:

Risico’s Ernst Waarschijnlijkheid Mitigatie
De doelgegevens niet tijdig kunnen verzamelen Hoog Laag Het project zal beginnen met het onderzoeken van de open beschikbare middelen. Onderzoek opties om synthetische of vooraf beschikbare openbare gegevens te verwerven die vergelijkbaar zijn met de doelgegevens.
Onvoldoende financiering voor middelen Medium Medium Er zullen alternatieve financieringsbronnen worden gezocht.
Onderzoek/Projectdoelen overdreven ambitieus Medium Laag Controleer regelmatig projectdoelen en regulariseer de projectresultaten op basis van het beoordelingsproces.
(Overal) Grote hoeveelheden
aanvullende
opleiding vereist
Medium Laag Voorafgaande goedkeuring zal worden genomen. De projectdoelstellingen zullen worden bijgewerkt op basis van de tijd en middelen die voor deze aanvullende opleiding worden gebruikt.
Gegevensverlies Medium Laag De student volgt passende back-upprocedures om risico’s te minimaliseren.

Voorbeelden van Thesis Onderwerpen





















Ga naar de inhoud

 

Skip to content