Молодые европейцы и искусственный интеллект
Онлайн-опрос «Мы и ИИ»

Какие опасения и надежды молодые европейцы связывают с искусственным интеллектом? В рамках исследования «We and AI» была предпринята попытка поиска ответов на эти вопросы. Эмилия Гагрчин, одна из авторов исследования, рассказывает в интервью о предсказуемых и неожиданных результатах.

Юлиане Глан

Госпожа Гагрчин, что Вас особенно удивило в исследовании?

Если честно, большое количество результатов! Во-первых, я думала, что различия между странами будут намного шире, но похоже, что молодые люди в Европе в технологических вопросах имеют больше общего, чем предполагалось изначально. В то же время, наш отчет демонстрирует четкие различия, основанные на уровне образования респондентов.

Но, что меня действительно удивило, так это то, насколько спокойно многие молодые люди относятся к автоматизированным системам принятия решений. Тот факт, что многие не испытывают проблем с получением рекомендаций по фитнесу от такой системы, не представляется чем-то удивительным или проблематичным. Треть респондентов совершенно спокойно отнеслась к тому, что уголовное дело против них возбуждается на основании автоматизированного решения. Кроме того, 58 процентов демонстрировали положительное или безразличное отношение к предиктивной полицейской деятельности, то есть к анализу больших объемов данных в сфере уголовного преследования с целью выявления потенциальной преступной деятельности! Для меня это тревожный сигнал, указывающий на то, что молодые люди не озабочены или недостаточно озабочены последствиями применения таких технологий для демократии и прав человека. 
 
Какие различия в образовании и между отдельными странами были выявлены в ходе анализа результатов исследования?

Люди с низким уровнем образования демонстрируют меньшую уверенность в разговорах на тему ИИ, чем люди с более высоким уровнем образования, и более выраженный пессимизм в отношении своей будущей карьеры в связи с применением ИИ. Это было ожидаемо с точки зрения общественных наук, и, тем не менее, вызывает недовольство, особенно когда научные тезисы находят подтверждение в данных практического исследования.

При опросе на предмет использования ИИ в разных областях мы выявили также некоторые различия между странами. Например, жители Германии и Польши гораздо чаще, чем жители Италии и Швеции сообщали о дискомфорте в связи с автоматическим определением рабочего времени. В целом, наименьший дискомфорт от использования ИИ в разных областях испытывали шведы.
 
Активный поиск информации и изучение новостей, по всей видимости, выходят из моды. Согласно исследованию, более половины всех респондентов считают, что они получают достаточный объем информации через социальные сети. Насколько опасно такое отношение?

Я бы не стала утверждать, что активный поиск вышел из моды, но, скорее, попыталась бы понять, чем объясняется такое восприятие. Люди живут в цифровой среде, формируемой мультимедийными платформами, которыми управляют алгоритмы. Фактически, многие из нас получают информацию политического содержания и новости в своих социальных сетях, не занимаясь ее поиском. В результате у людей возникает ощущение, что им больше не нужно заниматься активными поисками информации. Но это вовсе не означает, что люди избегают новостей, это лишь указывает на формирование ощущения владения информацией без необходимости ее поиска. На мой взгляд, возникновение такого отношения является естественным, но в действительности связано с определенными проблемами.

Одна из проблем заключается в способе подготовки контента алгоритмами: это происходит на основе данных о поведении пользователя в прошлом и характеристик пользователя. Это приводит к тому, что новостная информация отображаются не для всех пользователей. Это означает, что люди, которые редко просматривают новости и мало общаются с пользователями, которые делятся новостями, реже видят новости. В результате существует вероятность того, что новостная информация «обойдет их стороной». Это увеличивает и без того большой разрыв между «информированными» и «неинформированными» людьми.

Как показывают результаты исследования, это является «опасным» в том смысле, что люди, которые уверены в том, что «новости непременно найдут их», со временем начинают менее активно использовать традиционные СМИ, и что данное явление отрицательно сказывается на уровне заинтересованности политическими событиями и электоральном поведении.

Поэтому чрезвычайно важно превратить в привычку активное «потребление» новостного контента, то есть, сделать его фактически неотъемлемой частью повседневной жизни, и поиск информации непосредственно в новостном приложении, на веб-сайте газеты или в медиатеке. Это единственный способ получить контроль за отображаемой информацией и избежать вмешательства алгоритмов. «Активное изучение новостной информации - одна из наших гражданских обязанностей, которую нельзя просто так передать «на сторону».
 
В частности, политическая реклама в отличие от персонализированной не рассматривается опрошенными как нечто полезное. Почему политическая реклама менее популярна? Как это характеризует восприятие политической рекламы в онлайн-пространстве?

В том, что люди не любят рекламу, нет ничего нового. Этот факт был также задокументирован в результатах исследований об использовании телевидения. Например, весьма распространенной была точка зрения, согласно которой реклама воспринималась как помеха, заставляющая отвлекаться от развлекательной передачи. Недавние исследования показывают, что в отношении политического контента в социальных сетях пользователи настроены скорее отрицательно. Одной из причин возросшей неприязни к политической рекламе в Интернете может быть представление о том, что социальные сети предназначены для общения и развлечений, а не для политики. В этой связи многие люди склонны рассматривать политический контент в социальных сетях в целом как «загрязнение» этих пространств. В исследованиях, проводимых группой исследователей «Digital Citizenship» («Цифровое гражданство») института Вайценбаума, люди также неоднократно выражали недовольство тем, что они подвержены политическим предрассудкам и противоположным точкам зрения в Интернете и что подобные вещи нарушают положительную и мирную атмосферу в лентах их социальных сетей.

Еще одним аспектом, который может повлиять на восприятие политической рекламы, является  отношение к скандалам, например, вокруг компании Cambridge Analytica, которая разоблачила массовые манипуляции голосами избирателей в Интернете. Люди обычно не любят, когда ими манипулируют, и политический микротаргетинг вполне можно считать одним из инструментов подобного манипулирования. Почему людям больше нравится коммерческая реклама? Социальные сети обычно используются в целях бегства от реальности или формирования определенного имиджа, и поддержание подобного образа жизни, к которому может относиться потребление, является частью этого процесса. Некоторые платформы демонстрируют рекламу очень понятным и хорошо продуманным способом, в результате чего она выглядит актуальной и интересной.
 
Согласно исследованию, молодые люди предпочитают технологическим компаниям образовательные заведения как учреждения, устанавливающие стандарты. В чем преимущество образовательных учреждений в этом отношении в сравнении с технологическими компаниями, в том числе с точки зрения имеющихся ресурсов (кадровых и технических, а также финансовых и временных)? Какие аргументы можно привести в пользу того, что учебные заведения должны устанавливать стандарты?

Я вижу в этом стремление к тому, чтобы люди, которым доверяют учащиеся, были вовлечены в процесс разработки технологий. Вместе с тем это не означает, что школы внезапно должны взять на себя ответственность за разработку технологий. В данный момент в этой сфере есть несколько проблем.

Во-первых, на уроках очень часто, особенно во время пандемии, используются продукты со всего мира. Не все эти продукты соответствуют европейским образовательным традициям и положениям действующего законодательства. Например, я недавно узнала, что в Нидерландах используются некоторые китайские продукты, которые не соответствуют Общему регламенту о защите персональных данных. Это, безусловно, также связано с тем фактом, что в период пандемии необходимо было быстро принимать решения, в связи с чем предпочтение отдавалось самым очевидным, дешевым или самым популярным продуктам.

Общаясь с преподавателями, я также узнала, что во многих школах цифровизация осуществляется исключительно неравнодушными преподавателями. Не каждый в состоянии приобрести подобные знания и навыки «между делом». Основная ошибка по моему мнению заключается в том, что цифровое соглашение (Digitalpakt) не предусматривает расходов на персонал. Это сильно тормозит внедрение цифровых технологий. Я также считаю, что государственные учреждения - на уровне Германии или ЕС - несут ответственность за проверку продуктов на их соответствие положениям законодательства до того, как мы начнем их использовать. Необходимо также исключить возможность того, чтобы учебные данные молодых европейцев попадали в руки китайского правительства.

Вторая проблема заключается в том, что разработанные на коммерческой основе продукты не всегда направлены на благополучие учащихся. Я считаю, что компании обязаны привлекать школьный персонал и даже школьников к разработке или тестированию продуктов. Это могло бы помочь сделать технологии более ориентированными на людей, а не только на то, что технологически возможно.
 
Какие выводы Вы сделали из этого исследования?

В целом, я считаю, что понимание принципов работы и степени участия алгоритмических систем должно выйти на уровень элементарных навыков. В этом отношении результаты отчета подчеркивают для меня необходимость предоставления адекватных ресурсов, которые позволят молодым людям оценивать связанные с ИИ возможности и риски для себя и общества в целом и помогут им ориентироваться и уверенно действовать в мире, наполненном данными. Это важно для реализации их прав, например, на работе или в школе. Говоря о предоставлении адекватных ресурсов, я имею в виду обеспечение в секторе формального и неформального образования необходимых кадровых и финансовых ресурсов для реализации программ, в которых уделяется внимание развитию не только технической, но и демократической компетенции применительно к датафикации и ИИ. При этом я хорошо понимаю, что для школ это невыполнимая задача, поэтому считаю, что нужно стремиться к сотрудничеству между учреждениями формального образования и молодежными организациями на национальном и европейском уровне.

Такие авторитетные организации, как Культурный центр им. Гёте, играют решающую роль в передаче навыков и знаний. Благодаря своему богатому опыту они, с одной стороны, умеют правильно подготовить и донести до молодежи «сухой» и на первый взгляд неинтересный контент. С другой стороны, они выступают в роли посредника между различными действующими лицами в сфере политики, бизнеса, культуры, науки и гражданского общества. Это обеспечивает возможность налаживания важных связей, позволяющих вести диалог, невзирая на препятствия профессионального и предметного характера. Это также очень важно, поскольку данные навыки должны развивать не только молодые люди, но и все общество в целом.