Алгоритмы
Мы их делаем, они на нас влияют

Технический прогресс обещает много — а результат зачастую сильно отличается от обещанного. Так случилось в начале XX века со стиральной машиной, так может получиться сейчас с искусственным интеллектом.

Лорена Жауме-Паласи

Новинка начала XX века — стиральная машина — была призвана избавить женщин от огромного количества работы и помочь им интегрироваться в рынок труда. Стиральная машина позиционировалась как освобождающая технология, как воплощение воли человека взять собственное будущее в свои руки и формировать его. Стиральная машина появилась в результате глубоких социоэкономических изменений: сначала в XIX веке хлопок революционным образом повлиял на рынок труда, что сказалось и на положении женщин.

Новые материалы — новые задачи

Ткани, которые чаще всего применялись раньше — например, шерсть или лен — нужно выбивать. Когда текстильная промышленность получила в свое распоряжение хлопчатобумажные ткани, стали возникать новые требования к чистке и новые задачи, требующие решения. В большинстве домохозяйств не было проточной воды. Стирка одежды была не только женской работой. Женщины нуждались в помощи со стороны помощников по хозяйству или других членов семьи, как правило, мужчин, которые кололи дрова и носили в дом большие емкости с водой. В среднем на стирку белья уходило от одного до двух рабочих дней.
 
Новые тенденции в социоэкономической сфере поощряли интеграцию женщины в рабочий мир за пределами ее собственного дома — однако социальная асимметрия и дискриминация продолжались. Появление стиральной машины должно было экономить время и давать женщинам возможность посвятить себя иным занятиям. Обещалось, что стиральная машина снизит опасность для здоровья женщины, исходящую от едкого мыла и других веществ.

Прогнозы на будущее

В настоящее время позитивные сценарии нашего будущего с искусственным интеллектом звучат похоже: алгоритмы сэкономят нам время. У человека благодаря помощи автоматизированных программ и машин появится больше времени для размышлений и других возвышенных задач. Уже есть многочисленные исследования о будущем труда, общества и демократии в эпоху таких технологий, как искусственный интеллект. Главный фокус прогнозов обращен на подсчет рабочих часов, которые могут быть сэкономлены с помощью алгоритмических систем. В ряде сфер это означает, кроме всего прочего, сокращение рабочих мест.
 
Также в центре внимания гипотез — безграничность и повышенная скорость распространения новостей, формируемых и тиражируемых цифровым путем, и их потенциальное влияние на общество. Моделируются гипотетические характеристики профессионалов, которые будут работать с программами или машинами. Делается попытка проанализировать шансы и проблемы, которые несут с собой алгоритмические системы и неизбежная последующая математизация и автоматизация мира. Изучаются (временная) эффективность и возможности преодоления географических, языковых или физических границ, а также стимулы для развития новых услуг и критические аспекты. Нарратив об алгоритмических системах колеблется между дистопией и утопией. Причиной ложных ожиданий является по большей части фокус на этих крайностях.
 
Стиральная машина и впрямь сэкономила людям время. Электричество и проточная вода позволили машине исключить из процесса стирки именно те функции, которые раньше обычно выполняли мужчины. Таким образом стирка превратилась в исключительно женское занятие. Стратегия коммерциализации стиральной машины привела к тому, что стирка белья снова вошла в спектр преимущественно женских домашних дел.

Стиральная машина задавала стандарты гигиены — и ставила перед людьми новые задачи

На ее примере хорошо видно, насколько относительным может быть вопрос о времени, потраченном на домашнее хозяйство. Стиральная машина не помогла женщинам вернуться в мир труда. Неясно даже, сколько времени она действительно сэкономила, если рассматривать все аспекты в их взаимосвязи. Оглядываясь назад, мы понимаем, что стиральная машина, с ее конструкцией и стратегией коммерциализации, воплощала собой социальную установку на удержание женщин в домашнем хозяйстве, а не в сфере труда. Стиральная машина привела к повышению планки чистоты и к появлению новых задач и стандартов деятельности по хозяйству.
 
В повсеместном коммерческом распространении стиральной машины также сыграли роль обстоятельства послевоенного времени. Мужчины возвращались с войны, и по крайней мере на Западе стала уменьшаться массовая интеграция женщин в университеты и рабочую жизнь, которая наблюдалась в военное время. Стиральная машина с ее стандартной конструкцией укрепляла расхожие социальные представления о роли женщины.

Алгоритмы: автоматизация социальных процессов

Алгоритмические системы, стоящие за сложными компьютерными программами, следует расценивать схожим образом. Они частично или полностью автоматизируют социальные процессы. Владелец алгоритма заранее решает, какие форматы данных и варианты действий будут предусмотрены в том или ином процессе, и программа по результатам взаимодействия с пользователем выполняет один из заданных вариантов. Алгоритмы математизируют социальные процессы и превращают их в программные коды. Таким образом они представляют собой воплощение социальных представлений и имплицитно содержат в себе политические решения. Как и стандартизованная конструкция стиральной машины, алгоритм несет в себе множество скрытых предположений о мире и о пользователях. Одновременно алгоритмы часто демонстрируют нам социальные механизмы, которые мы рефлексируем лишь условно. Технологии основываются на социальных потребностях и обслуживают их: мы их делаем, они на нас влияют. Искусственный интеллект — это выражение нашей культуры и нашей воли формировать будущее.
 
Если на основе опыта прошлого сделать вывод о том, какие эффекты дает введение технологий, этот вывод будет такой: технологии сами по себе они не ведут к социоэкономическим изменениям, а наоборот, как раз в первую очередь представляют собой выражение и инструменты власти и возможностей власти. Их развитие идет не по воле случая, а отражает имманентный политический характер технологий, задающий требования к постоянному улучшению дизайна и стандартов.
 
Чтобы понять, как происходит разработка и внедрение алгоритмических систем в обществе, необходимо посмотреть на существующие в обществе перекосы и укрепившиеся паттерны, на которых основываются определяемые законами возможности и ограничения, а также на социоэкономические потребности. Искусственный интеллект — это шанс с помощью математики по-новому картографировать мир и постигать его, автоматизировать социальные процессы и таким образом реорганизовать их. Сами по себе экономия времени и преодоление границ не изменят общество будущего. Пространство для изменений будет зависеть от правовых, социальных и экономических практик и идей, которые определяют нас как общество.