Преглед на програмата

В нашата цел да създадем магистърска програма за изкуствен интелект, консорциумът HCAIM следва дефиницията на AI HLEG: „Ориентираният към човека подход към ИИ се стреми да гарантира, че човешките ценности са от основно значение за начина, по който системите с ИИ се разработват, внедряват, използват и наблюдават, като се гарантира зачитането на основните права.“

За да отговори на изискванията на това определение, програмата обхваща техническите, етичните и практическите елементи на изкуствения интелект. Проектирахме съдържанието си около трите фази на жизнения цикъл на MLOps — разработване, внедряване и поддръжка на модели за машинно обучение, като по този начин произвеждаме три основни модула в съответствие с горепосочените фази на ML-Ops: Моделиране (модул А), внедряване (модул B) и оценка (модул В). Добавихме четвърти модул (D) Graduation, за да дадем възможност на студентите да покажат, че могат самостоятелно да решават предизвикателствата, предложени от индустрията, въз основа на настоящите нужди и изисквания, свързани с областта на изкуствения интелект, ориентиран към човека.

Това се визуализира в таблицата по-долу.

Модул A Модул B Модул C Модул D
Технически

Основи на ИИ

 Усъвършенстван AI:
Дълбоко обучение		 Бъдещ AI

Проект за магистърска теза
Практични Моделиране на AI AI в действие:
Организационен ИИ		 Социално отговорен ИИ
Етични Основи на етиката Надежден AI Съответствие, законност и хуманност

Тази страница съдържа кратко описание на модулите, дефинирани в магистъра по човешки центриран изкуствен интелект. Всички учебни събития, включително съпътстващите ги учебни материали, са достъпни на уебсайта на Wikiwijs.

Описанията на учебните събития бяха преведени на всичките 24 официални езика на ЕС с помощта на инструмента eTranslation на Европейския съюз и са достъпни от списъците, определени на езиците. Имайте предвид, че преводите не се преглеждат от преподаватели.

Всички материали са достъпни под лиценз Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

 

 

Моделиране (модул А)

Първият модул, а именно Моделиране (модул А), се фокусира върху първата фаза на жизнения цикъл на MLOps и е свързан с най-ниското ниво на зрялост на прилагането на машинното обучение (ML) в организациите: моделиране на данни. Тя включва дейностите, които формират основата за прилагането на МИ, като извличане на данни, анализ на данни, подготовка на данни, обучение по модели и (предимно ръчно) валидиране и оценка на модела.

На този етап акцентът е върху правилното анализиране и моделиране на данните с цел постигане на бизнес целите и не се използва в достатъчна степен автоматизацията (напр. CI/CD), която се добавя само във втората фаза на MLOps (Внедряване — Модул Б). Дейностите по моделиране често се характеризират с ръчен, скриптов и интерактивен метод, чрез който се извършват анализ, подготовка, обучение и валидиране на данни. За да се поддържа преглед на различните модели, параметри и избори, с които се експериментира, се използва проследяване на експериментите.

От етична гледна точка е важно във фазата на моделиране да се отдели достатъчно време и внимание за намиране на целите на клиента, картографиране на заинтересованите страни и проучване на това как са засегнати индивидуалните ценности на тези заинтересовани страни (и признаване на възможни конфликти между тях). Аспекти като прозрачност, приобщаване, сигурност и неприкосновеност на личния живот са от голямо значение в това отношение. Разбира се, трябва да се обърне внимание и на социалната и морална желателност на целите на клиента. Освен това е важно в наличните данни да има (навременно) осъзнаване на възможните предубеждения/вреди, да се признаят възможните последици от тези предразсъдъци и да се намерят мерки за смекчаване на последиците от тези предразсъдъци.

Резултати от обучението

  • Студентът оценява различни ML техники, за да направи добре обоснован избор, отговарящ на придобитите изисквания на клиента и прилагане на прототип на избраната ML техника, за да съветва за решаване на даден проблем с моделирането на данни.
  • Резултати от обучението 1
  • Студентът твърди, използвайки фундаментални етични рамки, как моралните дилеми могат да бъдат решени и оценява възможните последици от съществуващите пристрастия в данните и влиянието на планираните смекчавания, за да противодейства на последиците от тези предубеждения.
  • Резултати от обучението 2
  • Студентът прилага количествени и качествени изследователски методи за научно обосноваване на избора си по време на етичното съображение(и) и правенето на прототипа.
  • Резултати от обучението 3

Разгръщане (модул B)

Модулът за внедряване (модул B) е съсредоточен върху втората фаза на цикъла на разработване на MLOps; разполагането. След проучвателната фаза на моделирането на данни (виж Модул А — Моделиране) идва интегрирането на ML решението в бизнес системите. Сега е важно да започнем да мислим за архитектурата на ML и как тя играе заедно със съществуващите системи (наследство). За да се извлече реална полза от автоматизираните решения за МЛ, трябва да бъдат въведени тръбопроводи; от една страна, за да бъде в състояние да се справи с непрекъснатите и живи доставки на данни (поточна обработка), а от друга страна, да свърже резултатите от модела на ML с други системи.

Освен това модул B подобрява сложността на технологията с ИИ, като се придвижва към (използването на) невронни мрежи и дълбоко обучение. Основното предимство на тези по-сложни модели е, че те са по-гъвкави и гъвкави, отколкото техниките, въведени в Модул А — Моделиране. Въпреки това, важните недостатъци на тези техники са, че те са по-сложни (за разбиране и конфигуриране) и непрозрачни. В него се крие важна етична дилема при използването на (напреднали) техники на ИИ: как все още разбирате какво изчислява AI решението и дали това се прави по правилния начин. Повишаването на прозрачността на внедряването на решения с ИИ и възможността за определяне на възможните рискове и за смекчаване на тези рискове са важни (социални) теми в този модул.

Резултати от обучението

  • Студентът оценява възможния избор за интегриране на усъвършенствана техника на ИИ, като например задълбочено и/или усилване на обучението, и авторите доклад от една страница, базиран на прототип, който е разработен, като се вземат предвид ограниченията и влиянията върху съществуващите ИКТ системи и съоръжения за данни на клиента, които са получени в сътрудничество например с ИКТ архитекти или разработчици.
  • Резултати от обучението 1
  • Студентът оценява потенциалния риск и тества степента на прозрачност (включително тълкуваемост, възпроизводимост и обяснимост) на избрано внедряване на AI/ML и проектира решения, използващи техники, които повишават прозрението и прозрачността сред заинтересованите страни (т.нар. техники за обясним ИИ (XAI)), за да отстранят недостатъците в това отношение в сравнение със социалните и специфичните за клиента изисквания.
  • Резултати от обучението 2
  • Студентът формулира изследователски проект за научно обоснован (практически ориентиран) изследователски проект, свързан с фирмен случай, чрез формулиране на съответен, последователен, функционален изследователски въпрос, като се имат предвид приложните изследователски методи, които да се използват, и установяване на точна, подходяща и критична теоретична рамка.
  • Резултати от обучението 3

Оценка (модул C)

Модулът за оценка (модул В) е съсредоточен върху аспектите на оценката на развитието на ИИ, включително както обществените аспекти на даден продукт с ИИ, така и разработването на оценка на потенциалните бъдещи насоки, които ИИ може да поеме, като се разглеждат технологичните тенденции; социално отговорен ИИ; съответствие, както и гарантиране, че човешкият елемент присъства постоянно в проектирането, разработването и оценката на системите с ИИ.

Като част от бъдещето на ИИ се обсъжда проучване на нивото на възприемане на ИИ в различни индустрии, както и как ИИ е адаптиран за различни области. Разглеждането на социално отговорния ИИ включва как ИИ засяга индивидите и различните групи в обществото. Като ключова част от модула се поставя акцент върху законите, политиките и кодексите за поведение, свързани с ИИ (с акцент върху въпроси като обяснимостта и доверието), както и върху процесите на контрол на качеството и управление на качеството, за да се оценят резултатите от инициативите в областта на ИИ.

Резултати от обучението

  • Студентът разработва оценка на най-съвременните подходи към изкуствения интелект и машинното обучение, както и разбиране за това как изкуственият интелект се използва в различни области и как да се оценят потенциалните посоки, в които изкуственият интелект може да отиде в бъдеще.
  • Резултати от обучението 1
  • Студентът показва добре дефиниран подход за сканиране на последиците, като разглежда въпроси като оценката на потенциалното въздействие, което новите технологии биха могли да имат върху хората и обществото, като се фокусира специално върху малцинствата и маргинализираните групи, както и върху потенциалните въздействия върху околната среда.
  • Резултати от обучението 2
  • Студентът демонстрира способността да се използва напълно структурирана изследователска методология с етика, вградена на всички етапи, с осъзнаване на контекстуалния характер на специфичните подходи, които трябва да се използват, които ще бъдат информирани от казусите, обхванати в този модул.
  • Резултати от обучението 3

Дипломиране (модул D)

Модулът за дипломиране (модул D) отразява основния принцип на програмата HCAIM, който е изграден върху концепцията за обучение, основано на проекти (PBL). Целта на този модул е да позиционира проекта за дипломиране (направяйки професионален продукт) централно в траекторията на обучение на студента. Като част от своя проект за дипломиране (магистърската теза), студентите показват, че могат самостоятелно да решават предизвикателствата, предложени от индустрията въз основа на текущите нужди и изисквания, като се имат предвид както техническите, така и етичните аспекти на разглеждания въпрос.

Всяка теза се разглежда локално, с вътрешен надзорен орган (професор от университета, в който студентът преследва степента) и външен ръководител, принадлежащ към партията, предлагаща тезата (ако има такава). Този последен аспект, въпреки че не е задължителен, се преследва стриктно. Предлагащата страна може да бъде МСП, център за високи постижения или друг университет, както на национално, така и на международно равнище. От предлагащите страни се очаква да предоставят както национална, така и международна дисертация (т.е. дисертация, организирана в университет от същата страна или от чужда).

Резултати от обучението

  • Студентът признава и отразява жизнения цикъл на ИИ в реалистичен, информиран за индустрията контекст и в различни местоположения, сценарии и случаи на използване.
  • Резултати от обучението 1
  • Студентът демонстрира стабилна и валидна изследователска нагласа чрез проект с добре дефиниран интердисциплинарен подход, произвеждащ индустриални и технологично компетентни решения, като същевременно оценява потенциалното въздействие на тяхната работа върху хората и обществото.
  • Резултати от обучението 2
  • Студентът демонстрира професионално отношение по отношение на комуникацията със съответните заинтересовани страни (напр. ментори, съветници, връстници и клиенти), аналитично отношение, работен етос, компетентност за планиране, проактивност и самосъзнание
  • Резултати от обучението 3

Насоки за тезата

Насоки за предложенията за теза на HCAIM

 

Тези насоки имат за цел да подкрепят партиите, които възнамеряват да предложат нова теза.

Шаблон за теза на HCAIM

 

Вижте шаблона за теза на HCAIM тук.

Етични насоки за HCAIM тези

 

Плагиатство, изработка на данни и манипулиране на изображения

Плагиатството не е приемливо. Плагиатството включва копиране на текст, идеи, изображения или данни от друг източник, включително вашите собствени публикации, без да се отдава признание на оригиналния източник.

Повторното използване на текст, копиран от друг източник, трябва да бъде между кавичките и оригиналният източник трябва да бъде цитиран. Ако предишни изследвания са вдъхновили дизайна на изследването или структурата или езика на ръкописа, тези изследвания трябва да бъдат изрично цитирани.

Файловете с изображения не трябва да бъдат манипулирани или коригирани по начин, който би могъл да доведе до погрешно тълкуване на информацията, предоставена от оригиналното изображение. Неправилната манипулация включва 1) въвеждане, подобряване, преместване или премахване на функции от оригиналното изображение, 2) групиране на изображения, които трябва да бъдат представени отделно или 3) промяна на контраста, яркостта или баланса на цветовете, за да се затъмни, премахне или подобри определена информация.

Представените резултати не трябва да бъдат избирани по неподходящ начин, манипулирани, усъвършенствани или изфабрикувани. Това включва 1) изключване на точки от данни за повишаване на значимостта на заключенията, 2) изготвяне на данни, 3) подбор на резултати, които подкрепят конкретно заключение за сметка на противоречиви данни, 4) преднамерен избор на инструменти за анализ или методи в подкрепа на конкретно заключение (включително p-hacking).

Изследвания, включващи човешки обекти, животни или растения

Когато докладва за изследвания, включващи хора, човешки материал, човешки тъкани или човешки данни, предлагащата страна трябва да гарантира, че разследванията са проведени съгласно правилата на Декларацията от Хелзинки от 1975 г., преразгледана през 2013 г. Всяко последствие, свързано с нарушаването на този аспект, ще бъде вменено изцяло на предлагащата страна и нито на консорциума HCAIM, нито на студента.

Тези, работещи с клетъчни линии, трябва да посочват произхода на всички клетъчни линии. За установените клетъчни линии следва да се посочи произходът, а също така трябва да се посочат публикувани документи или търговски източник. Ако преди това са били използвани непубликувани de novo клетъчни линии, включително тези, които са надарени от друга лаборатория, трябва да се дадат подробности за одобрението на институционален съвет за преглед или на комисията по етика и трябва да се предостави потвърждение за писмено информирано съгласие, ако линията е от човешки произход.

Всички теми, потенциално получени от изследвания, причиняващи вреда на животните, са забранени. Всички насоки, прилагани към хората, следва да се спазват (където е възможно) и за животните.

Експерименталните изследвания върху растения (отглеждани или диви), включително събирането на растителен материал, трябва да отговарят на институционални, национални или международни насоки. Препоръчваме те да спазват Конвенцията за биологичното разнообразие и Конвенцията по търговията със застрашени видове от дивата фауна и флора.

Пол, пол, етнос, религия и други пристрастия в научните изследвания

Насърчава се да се следват насоките „Секс и равенство между половете в научните изследвания — SAGER — насоки“ и да се включат съображения, свързани с пола и пола, когато това е уместно. Термините пол (биологичен атрибут) и пол (образувани от социални и културни обстоятелства) трябва да се използват внимателно, за да се избегне объркване и на двата термина. В дисертацията следва също така да се опише (в „фона“) дали могат да се очакват различия между половете и/или пола; да докладва как пол и/или пол са били отчетени при разработването на проучването; предоставят дезагрегирани данни по пол и/или пол, когато е целесъобразно; и да обсъдим съответните резултати. Ако не е извършен анализ на пола и/или пола, обосновката трябва да бъде дадена в дискусията.

Подобни съображения важат и за всички други форми на пристрастия, включително (и не само) етническа принадлежност и религия. За първото напомняме, че хората нямат раси, а само етническа принадлежност.

Ако тезата е фокусирана върху пристрастия, обосновката зад нея трябва да бъде изяснена от самото начало.

Конфликт на интереси

Студентите трябва да избягват сключването на споразумения със спонсори на проучвания, както с нестопанска цел, така и с нестопанска цел, които пречат на достъпа до всички данни на изследването или които пречат на способността им да анализират и интерпретират данните и да подготвят дисертацията независимо кога и къде избират.

Студентите трябва да идентифицират и декларират всички лични обстоятелства или интереси, които могат да се възприемат като неподходящо влияещи върху представянето или тълкуването на докладваните резултати от изследванията. Примерите за потенциални конфликти на интереси включват, но не се ограничават до финансови интереси (като членство, заетост, консултантски дружества, собственост на акции/акции, хонорари, безвъзмездни средства или друго финансиране, платени експертни свидетелства и споразумения за лицензиране на патенти) и нефинансови интереси (като лични или професионални отношения, принадлежност, лични убеждения).

Всяка роля на финансиращите спонсори при проектирането на проучването, при събирането, анализа или тълкуването на данни, при писането на ръкописа или в решението за публикуване на резултатите трябва да бъде декларирана предварително.

Политики за цитиране

  • Студентите трябва да гарантират, че когато материалът е взет от други източници (включително собственото им публикувано писане), източникът е ясно посочен и когато е получено подходящо разрешение.
  • Учениците не трябва да се занимават с прекомерно самоцитиране на собствената си работа.
  • Учениците не трябва да копират референции от други публикации, ако не са прочели цитираното произведение.
  • Студентите не трябва преференциално да цитират свои собствени или техни приятели, връстници или публикации на институцията.
  • Учениците не трябва да цитират реклами или рекламни материали.

Етични насоки за рецензентите

Потенциален конфликт на интереси

От рецензентите се изисква да информират управителния съвет на HCAIM, ако имат конфликт на интереси, който може да навреди на доклада за преглед, било то положително или отрицателно. Бордът ще проверява възможно най-точно, преди да покани рецензентите; въпреки това се очаква и оценява сътрудничеството на рецензентите по този въпрос.

Поверителност и анонимност

Рецензентите трябва да пазят съдържанието на тезата, включително абстрактната, конфиденциална. Те трябва да уведомят управителния съвет на HCAIM, ако желаят колега да завърши прегледа от тяхно име.

Матрица на рисковете и план за намаляване на риска за HCAIM тези

 

Този шаблон позволява на ръководителя да подкрепи студента при идентифицирането и справянето с проблеми. В същото време от предлагащата теза страна ще бъде поискано да състави този образец.

Всички етапни цели и резултати за завършването на предложения изследователски проект следва да бъдат включени в предложението за проекта. От студентите се изисква също така да подготвят матрица на риска, която включва рискове, които биха могли да застрашат постигането на тези резултати, и да предоставят планове за действие при извънредни ситуации за смекчаване на очертаните рискове. По-долу е показан пример за матрица на риска и план за намаляване на риска. Моля, включете допълнителни рискове, ако е необходимо:

Риск Тежест Вероятност Смекчаване на последиците
Неуспешно събиране на целевите данни във времето Високо Ниско Проектът ще започне да проучва свободно наличните ресурси. Проучване на възможностите за придобиване на синтетични или предварително достъпни публични данни, подобни на целевите данни.
Недостатъчно финансиране за ресурси Средна Средна Ще бъдат търсени алтернативни източници на финансиране.
Целите на проекта/Проектите са прекалено амбициозни Средна Ниско Редовно преглеждайте целите на проекта и регулирайте резултатите от проекта въз основа на процеса на преглед.
(Прекалено) Изисква се голямо
количество допълнително
обучение 		Средна Ниско Предварително одобрение ще бъде взето. Целите на проекта ще бъдат актуализирани въз основа на времето и ресурсите, използвани за това допълнително обучение.
Загуба на данни Средна Ниско Студентът ще следва подходящи процедури за архивиране, за да сведе до минимум риска.

Примери за тезисни теми





















Прескочи към съдържанието

 

Skip to content

Privacy Policy - Terms and Conditions