Изкуствен интелект
EthicAI=LABS: от думи към дела
КАКВО СЕ СЛУЧИ ПРЕЗ ПИЛОТНАТА ФАЗА НА EthicAI=LABS
Om д-р Галина Димитрова-Димова, Програмен куратор на EthicAI=LABS
Участници:
йла Кулаглич, Албена Баева, Ана-Мария Плешка, Бушра Саригюл, Десислава Фесенко, Дорин Кучицов, Фатих Синан Есен, Ивана Ткалчич, Катерина Гкуциули, Кемал Халилович, Марко Мрвош, Матко Влахович, Насир Муфтич, Синем Гьорючю, Стефания Будулан, Цветомила Михайлова, Василиос Бокос, Янис Киуврекис.
EthicAI=LABS е регионален проект в сътрудничество между Гьоте-институт Анкара, Атина, Букурещ, София, Сраево и Загреб.
“От думи към дела”, това е заглавието на събитието, което представя резултатите от първото издание на EthicAI=LABS през 2021. Същевременно този “лозунг” е своеобразна реплика към темата на откриващото събитие на проекта на 27 май, което бяхме озаглавили “Да поговорим за ИИ и етика”. С този призив ние искахме да започнем разговор по темата, в който поканихме специалисти от различни страни и области - д-р Невена Иванова, Институт по Философия и социология към БАН, д-р Никос Панагиоту, преподавател по журналистика и масови медии в Университета Аристотел, Атина и проф. Стефан Траусан-Мату от катедрата по информатика в Букурещкия университет, които да кажат защо е важно да се говори за връзката между изкуствения интелект и етика в наши дни.
Безспорно, темата е много актуална и динамично развиваща се. Почти всеки ден чуваме за нови и нови технологични разработки и платформи, които използват умело алгоритми за да предложат нещо ново на нас, като потребители и клиенти. Повечето обещават подобрения в нашия начин на живот, общуване, преживяване…
Именно тук започва критичният дискурс по темата. Какво носи това на човечеството, как то променя нашите взаимоотношения, как влияе върху живота ни и върху връзката ни с устройствата и машинния интелект (machine learning)?
Тези въпроси провокират много изследователи и творци, които взимат отношение по темата. Част от тях е групата, която сформирахме в рамките на EthicAI=LABS. В резултат на отворена покана за участие в проекта, разпространена в 6те държави в региона през февруари 2021 ние селектирахме 18 млади специалисти. Те започнаха работа в групи по трима върху темите на проекта като изследваха изкуствения интелект и етиката и техните пресечни точки в контекста на лингвистиката, креативността, проблемните точки и медиите.
Смятам, че това изпълни до голяма степен замисъла на EthicAI=LABS да стартира дебат, който да постави въпросите, които ни вълнуват относно алгоритмите и тяхното влияние върху нашия живот и взаимоотношения.
Още повече в основата на проекта бе заложено да се отвори пространство за интердисциплинарен диалог, което събира заедно специалисти от различни области - изкуства и култура, информационни технологии и хуманитаристика. Много често тези теми се обсъждат в тесен кръг от колеги и приятели, именно предизвикателството е да излезеш от балона, в който се намираш и да видиш гледната точка на другите, да чуеш тяхното мнение и аргументи. Затова за нас бе много важно да съберем експерти в различни дисциплини заедно, макар и виртуално, тъй като целия процес се проведе онлайн, посредством срещи и разговори през различни приложения.
Процесът на тяхното изследване и работа беше съпътстван от 4 лаборатории - уъркшопи, в които поканихме експерти от трите сектора и държавите, включени в проекта да представят своята работа и експертиза, като същевременно дадат насоки и съвети в работата на участниците по групи.
Експертите, които се включиха в първия уъркшоп, посветен на ИИ и лингвистика, бяха д-р Преслав Наков от Катарския институт за компютърни изследвания, доц. Гюлшен Еригит от Техническия университет в Истанбул и проф. Ливиу P. Дину от катедра "Компютърни науки" на Букурещкия университет. Ева Цетинич, изследователка от Института Ruđer Boškovic в Загреб, Кориаки Гони, дигитална художничка от Атина, Георги Костадинов, завеждащ отдела на Изкуствен интелект на компания Imagga, София бяха експертите, дискутиращи темата за креативността. Проф. Владан Жолер от Департамента за нови медии в Университета на Нови сад и Михаела Константинеску от Изследователския център за приложна етика в Букурещ, дискутираха темата за проблемните зони от употребата на алгоритмите. Гергана Баева, отговаряща за изследванията и медийната политика в медийния орган на Берлин и Бранденбург (mabb), заедно с Владимир Петков от Identrics, София и Манолис Андриотакис - писател и журналист от Атина, бяха специалистите, поканени да дискутират темата за ИИ в медиите.
В рамките на тези уъркшопи участниците научаваха и дебатираха с поканените лектори различни тенденции и теми, като поставиха на фокус аспекти от употребата на алгоритми и системи в областите, застъпени тематично в проекта. Например как генерираното от алгоритми съдържание (GPT-3) се ползва за пропаганда и създава проблемни точки (bias), като паника или ксенофобия, особено сега, в ситуацията на пандемия, която засили усещането за несигурност и заплаха. Друг проблем, който лекторите и участниците дискутираха беше можем ли и трябва ли да се доверяваме на автоматичният / статистическия начин на генериране и обработка на новини. Обсъдиха се модели, отново базирани на алгоритми (deep learning model / GPT-3), които проверяват достоверността на фактите, така че да се намали ефекта на папагала - повтаряне на това, което чуваш, без да си проверил доколко то е вярно...
По време на уъркшопите бе засегнат въпроса как се променя разбирането за творческият процес, в който различни алгоритми и системи от данни са силно застъпени, от обработка на изображение и видео, до композиране на музика и т.н. И ако тук се съгласяваме, че това определено променя естетика и тематиката на творческия акт, но все пак касае процес на създаване, воден от човек, то също се повдигна въпроса дали ИИ може да притежава трансформационна креативност (transformational creativity) по Маргарет Боуден (Margaret Bowden) - да твори по собствен начин, незасегнат от неговия създател (agi). Дискусията стигна до там, че дори и да си независим от създателя си, съществува зависимост от данните, защото подобни системи се захранват непрекъснато с различни бази от данни, някои огромни по размери. Дори и да става въпрос за модели, които се самообучават, те отново обработват статистически данни и следват дадени параметри на действие, т.е. тук не можем да говорим за инспирация и творчество, което човекът притежава.
Още много интересни и актуални теми и въпроси бяха представени и обсъдени по време на уъркшопите, проведени в периода юни-септември 2021 г., които може да видите в записите, публикувани на уебсайта на проекта.
В основата на работа на участниците в проекта бе изследването и колаборативният процес. Макар и създаването на общ проект да не се получи във всички групи, то синергията между специалисти с различен опит доведе до интересни резултати. Те варират от научни статии и есета, през алгоритми за чатботове, до създаването на произведения на изкуството.
Групата, съставена от Катерина Гкуциули, Стефания Будулан и Ана-Мария Плешка изследва ролята на данните, използвани за обучение на алгоритмите. Те създават два чат бота с различни видове бази данни и оценяват ефекта от разговорите помежду им. Идеята им е да разкрият пристрастията, заложени в данните и разликите в човешкото възприятие, когато има взаимодействие с хора спрямо генерирани от чатботове изказвания. Резултатът се представя в уеб сайт и статия, описваща процеса на изследване и разработка.
Другата група, работеща по темата на компютърната лингвистика - Дорин Кучицов, Цветомила Михайлова и Бушра Саригюл, също насочва проекта си към чатботовете, но я развива в друга посока. Тяхната цел е да създадат чатбот с емоционално съзнание, който може да имитира или дори да замества терапията. За да постигнат това участниците прилагат основни езикови подходи при взаимодействието между хора, които адаптират към взаимодействието човек-компютър. На този етап работата се представя като уеб сайт, но е замислена да намери реализация като физическа инсталация с кушетка и екран, на който се показват съобщенията на чатбота.
Групата, избрала темата за креативността и ИИ фокусира своята работа върху въпросите “Коя е основната съставка на творчеството, която притежават само хората, а не машините? Може ли изкуственият интелект да помогне за усъвършенстване на понятието за творчество чрез позоваване на тази основна съставка?” Десислава Фесенко пише текст по темата, Янис Куверитаки също подготвя статия, в която коментира креативността, дезинформация, фалшиви новини и нивото на разбиране на ИИ на човешката семантика, а Марко Мрвош прави художествено произведение, в което водещи процеса на визуализация са алгоритмите и данните.
Синем Гьорючю, Айла Кулаглич и Насир Муфтич работят заедно по проект за създаване на интерактивна карта, която изследва какви са най-често срещаните проблемни точки (bias) в региона, как хората попадат в тяхната клопка, как може това да бъде избегнато и какви са рисковете от заблуди и стереотипи, които са програмирани в ИИ. Авторите подготвят онлайн интерактивна игра, която илюстрира проблемните точки. В нея потребителят навигира през сценарий, в който попада в често срещани когнитивни проблеми.
В една от групите, работеща по темата за ИИ и медии, Албена Баева създава в колаборация с колегите си инсталация, наречена “Заповедите на ИИ”. В нея художничката коментира съвременните правителствени подходи към регулирането на технологията, политическите и социалните последици от използването на изкуствен интелект, както и измамния начин, по който медиите представят темата. Останалите членове на групата - Кемал Халилович и Матко Влахович, подготвят доклади по темата. Първият обобщава проблемите, които употребата на ИИ в медии могат да причинят, като фалшиви новини, deepfakes и т.н. Другият разглежда идеологическото влияние на медиите върху начина, по който си представяме изкуствения интелект, както и влиянието им върху неговото развитие.
В другата група, работеща по темата за медии, Ивана Ткалчич, Василиос Бокос и Фатих Синан, създават заедно въпросник, с който изследват генералното отношение на хората към ИИ в медиите и степента на доверие на публиката към тях. Анкетата се разпространява към колеги, НПО и други организации, свързани с култура, медии и технологии в Югоизточна Европа, като целта е да се проучи именно нагласата на обществото в нашия регион. Финалният резултат от съвместната им работа е статия, която анализира данните, събрани чрез анкетата.
Всички тези проекти и колаборации ще бъдат представени на финалното събитие на проекта - EthicAI=FORUM на 18 ноември 2021. Запис от него ще бъде публикуван в медийната библиотека на уебсайта на проекта.