В нашата цел да създадем магистърска програма за изкуствен интелект, консорциумът HCAIM следва дефиницията на AI HLEG: „Ориентираният към човека подход към ИИ се стреми да гарантира, че човешките ценности са от основно значение за начина, по който системите с ИИ се разработват, внедряват, използват и наблюдават, като се гарантира зачитането на основните права.“

За да отговори на изискванията на това определение, програмата обхваща техническите, етичните и практическите елементи на изкуствения интелект. Проектирахме съдържанието си около трите фази на жизнения цикъл на MLOps — разработване, внедряване и поддръжка на модели за машинно обучение, като по този начин произвеждаме три основни модула в съответствие с горепосочените фази на ML-Ops: Моделиране (модул А), внедряване (модул B) и оценка (модул В). Добавихме четвърти модул (D) Graduation, за да дадем възможност на студентите да покажат, че могат самостоятелно да решават предизвикателствата, предложени от индустрията, въз основа на настоящите нужди и изисквания, свързани с областта на изкуствения интелект, ориентиран към човека.

Това се визуализира в таблицата по-долу.

Тази страница съдържа всички Учебни събития, които съставляват Учителя на човешкия центриран изкуствен интелект. Всички учебни събития, включително съпътстващите ги учебни материали, ще бъдат достъпни на английски език на уебсайта на HCAIM и могат да бъдат преведени на всеки от езиците на ЕС чрез инструмента за електронен превод на Европейския съюз. За целите на настоящия преглед едно Учебно събитие на модул А, едно Учебно събитие от модул Б, две Учебни събития от модул С и Насоките за тезата, както и два примера за теми на дисертация, вече са напълно достъпни на английски език на тази страница за преглед (и могат да бъдат преведени на всеки от езиците на ЕС чрез инструмента за електронен превод на Европейския съюз).

Освен това прегледът на програмата на програмата HCAIM, Модул А учебни цели, Модул А Преглед на плановете за уроци, както и Модул А Учебно събитие „Лекция-въведение в ориентирания към човека ИИ“ вече са достъпни на всички езици на ЕС чрез тази страница за преглед.  За да видите преводите на тези части от програмата HCAIM, моля, изберете някой от отделните езици в долната част на тази страница.

Всички материали са достъпни под лиценз Creative Commons Attribution-NonCommercial-NoDerivates 4.0 (CC BY-NC-ND 4.0)

Първият модул, а именно Моделиране (модул А), се фокусира върху първата фаза на жизнения цикъл на MLOps и е свързан с най-ниското ниво на зрялост на прилагането на машинното обучение (ML) в организациите: моделиране на данни. Тя включва дейностите, които формират основата за прилагането на МИ, като извличане на данни, анализ на данни, подготовка на данни, обучение по модели и (предимно ръчно) валидиране и оценка на модела.

На този етап акцентът е върху правилното анализиране и моделиране на данните с цел постигане на бизнес целите и не се използва в достатъчна степен автоматизацията (напр. CI/CD), която се добавя само във втората фаза на MLOps (Внедряване — Модул Б). Дейностите по моделиране често се характеризират с ръчен, скриптов и интерактивен метод, чрез който се извършват анализ, подготовка, обучение и валидиране на данни. За да се поддържа преглед на различните модели, параметри и избори, с които се експериментира, се използва проследяване на експериментите.

От етична гледна точка е важно във фазата на моделиране да се отдели достатъчно време и внимание за намиране на целите на клиента, картографиране на заинтересованите страни и проучване на това как са засегнати индивидуалните ценности на тези заинтересовани страни (и признаване на възможни конфликти между тях). Аспекти като прозрачност, приобщаване, сигурност и неприкосновеност на личния живот са от голямо значение в това отношение. Разбира се, трябва да се обърне внимание и на социалната и морална желателност на целите на клиента. Освен това е важно в наличните данни да има (навременно) осъзнаване на възможните предубеждения/вреди, да се признаят възможните последици от тези предразсъдъци и да се намерят мерки за смекчаване на последиците от тези предразсъдъци.

Модулът за внедряване (модул B) е съсредоточен върху втората фаза на цикъла на разработване на MLOps; разполагането. След проучвателната фаза на моделирането на данни (виж Модул А — Моделиране) идва интегрирането на ML решението в бизнес системите. Сега е важно да започнем да мислим за архитектурата на ML и как тя играе заедно със съществуващите системи (наследство). За да се извлече реална полза от автоматизираните решения за МЛ, трябва да бъдат въведени тръбопроводи; от една страна, за да бъде в състояние да се справи с непрекъснатите и живи доставки на данни (поточна обработка), а от друга страна, да свърже резултатите от модела на ML с други системи.

Освен това модул B подобрява сложността на технологията с ИИ, като се придвижва към (използването на) невронни мрежи и дълбоко обучение. Основното предимство на тези по-сложни модели е, че те са по-гъвкави и гъвкави, отколкото техниките, въведени в Модул А — Моделиране. Въпреки това, важните недостатъци на тези техники са, че те са по-сложни (за разбиране и конфигуриране) и непрозрачни. В него се крие важна етична дилема при използването на (напреднали) техники на ИИ: как все още разбирате какво изчислява AI решението и дали това се прави по правилния начин. Повишаването на прозрачността на внедряването на решения с ИИ и възможността за определяне на възможните рискове и за смекчаване на тези рискове са важни (социални) теми в този модул.

Модулът за оценка (модул В) е съсредоточен върху аспектите на оценката на развитието на ИИ, включително както обществените аспекти на даден продукт с ИИ, така и разработването на оценка на потенциалните бъдещи насоки, които ИИ може да поеме, като се разглеждат технологичните тенденции; социално отговорен ИИ; съответствие, както и гарантиране, че човешкият елемент присъства постоянно в проектирането, разработването и оценката на системите с ИИ.

Като част от бъдещето на ИИ се обсъжда проучване на нивото на възприемане на ИИ в различни индустрии, както и как ИИ е адаптиран за различни области. Разглеждането на социално отговорния ИИ включва как ИИ засяга индивидите и различните групи в обществото. Като ключова част от модула се поставя акцент върху законите, политиките и кодексите за поведение, свързани с ИИ (с акцент върху въпроси като обяснимостта и доверието), както и върху процесите на контрол на качеството и управление на качеството, за да се оценят резултатите от инициативите в областта на ИИ.

Модулът за дипломиране (модул D) отразява основния принцип на програмата HCAIM, който е изграден върху концепцията за обучение, основано на проекти (PBL). Целта на този модул е да позиционира проекта за дипломиране (направяйки професионален продукт) централно в траекторията на обучение на студента. Като част от своя проект за дипломиране (магистърската теза), студентите показват, че могат самостоятелно да решават предизвикателствата, предложени от индустрията въз основа на текущите нужди и изисквания, като се имат предвид както техническите, така и етичните аспекти на разглеждания въпрос.

Всяка теза се разглежда локално, с вътрешен надзорен орган (професор от университета, в който студентът преследва степента) и външен ръководител, принадлежащ към партията, предлагаща тезата (ако има такава). Този последен аспект, въпреки че не е задължителен, се преследва стриктно. Предлагащата страна може да бъде МСП, център за високи постижения или друг университет, както на национално, така и на международно равнище. От предлагащите страни се очаква да предоставят както национална, така и международна дисертация (т.е. дисертация, организирана в университет от същата страна или от чужда).

• Тема на дисертацията Пример 1: Атаки срещу ML-базирани малуер детектори
• Тема на дисертацията Пример 2: PICO-ML: Дефинирани по тръбопровода изчислителни технологии и ролята на непрекъснатия ИИ в него
• Теза Тема Пример 3: Проучване на Bias в предварително обучени NLP модели