Алгоритмическое регулирование ТОТАЛЬНЫЙ КОНТРОЛЬ

Переходить дорогу на красный: в Китае публично осуждают нарушителей правил дорожного движения.
Переходить дорогу на красный: в Китае публично осуждают нарушителей правил дорожного движения. | Фото): @ picture alliance/dpa-центральное фото/Клаус Грабовски

Алгоритмы, которые собирают данные и на их основе поощряют или наказывают граждан страны? В Китае или Индии так называемое «алгоритмическое регулирование» давно стало реальностью. Но и в Германии компьютерные программы уже принимают решения, имеющие серьезные последствия для множества людей.

Арне Ципионка

На перекрестке к югу от моста Чанхун в китайском городе-миллионнике Сянъян — столпотворение и хаос. Гудят автомобили, пешеходы идут на красный, электророллеры пробираются через пробку. Рядом с улицей висит большой экран со множеством фотопортретов. Что это, просто очередная реклама? Нет. В 2017 году полиция установила этот монитор, чтобы наводить порядок. На нем демонстрируются лица тех, кто в этом месте нарушил правила дорожного движения, и кого зафиксировали камеры с системой автоматического распознавания лиц. Цель — «опозорить их перед соседями и коллегами», как сообщила газете New York Times пресс-секретарь городской администрации. Рядом с фотографиями пригвожденных к позорному столбу — их имена и номера удостоверения личности. Такая воспитательная мера.
 
Экраны как в Сянъяне — лишь один из элементов аппарата наблюдения и контроля, имеющегося в распоряжении правительства. В последние годы Коммунистическая партия Китая развивает новую систему социального рейтинга, и для этого в ряде городов были запущены пилотные проекты, в рамках которых собираются и связываются друг с другом данные с камер наблюдения, из личных чатов, данные о покупках в Интернете и многие другие. Все это делается для того, чтобы к 2020 году зарегистрировать всех граждан страны в единой рейтинговой системе. По итогу обширных вычислительных работ каждому жителю Китая будет присвоен числовой рейтинг, который компьютерные алгоритмы будут постоянно актуализировать. Этот шаг представляется логичным для авторитарного правительства — так можно будет индивидуально контролировать каждого из 1,4 миллиарда китайцев.

Контроль и наказания посредством алгоритма

Об алгоритмическом регулировании можно говорить, когда правительства или государственные органы начинают использовать огромные потоки данных из соцсетей и с других платформ и передают машине полномочия решать, следует ли поощрить или наказать гражданина, исходя из этих данных. Компьютеры распознают повторяющиеся действия и автоматически применяют дисциплинарные меры: тот, кто возвращает прокатный велосипед без повреждений, не переходит дорогу на красный и не опаздывает на работу, зарабатывает очки. А тот, кто, наоборот, критикует в Интернете политику Китая (одного этого достаточно), часто общается с людьми с плохим рейтингом, должен быть готов к тому, что его рейтинг будет неизменно падать. Последствия самые серьезные: люди с низким рейтингом не могут, например, летать на самолетах и ездить на высокоскоростных поездах, а их дети не имеют права ходить в частные школы.
 
Столь пристальная слежка за гражданами страны, сбор всей информации о них и использование ее против них же — это не только вторжение в личную сферу, но и серьезное ущемление гражданских свобод. Не только в Китае власти занимаются анализом личных данных — в Индии также пытаются следить за населением, принуждая каждого к регистрации.
 
В этой стране была организована база данных Aadhaar («Фундамент»), в которой на данный момент зарегистрировано 1,2 миллиарда пользователей, то есть, подавляющая часть населения Индии. Каждому присвоен 12-значный номер, который кодирует имя, возраст, а также снимок радужной оболочки и отпечатки всех пальцев. Этот номер однозначно идентифицирует пользователя, и пользователь может, например, запрашивать те или иные социальные услуги. По крайней мере, в теории. В начале года индийская журналистка Рахна Кхаира наглядно продемонстрировала недостатки системы: она нашла хакеров, которые всего за 500 рупий (примерно 6 евро) предоставили доступ ко всей базе. База данных Aadhaar, призванная предотвратить несправедливость и обман при распределении продуктов питания, в реальности создает все больше проблем. Считается, что уже есть люди, которые умерли от голода, потому что не смогли предъявить документы или потому что биометрическое распознавание не работало. К тому же утечки приводят к обнародованию миллионов блоков данных.

Женщины в Индии регистрируются в базе данных Аadhaar. Женщины в Индии регистрируются в базе данных Аadhaar / © picture alliance / NurPhoto

Европа: пришло время поговорить о данных

В Европе алгоритмы для анализа данных также используются на постоянной основе. В отличие от Китая и Индии — двух самых населенных стран мира, поставивших рискованные эксперименты, — в Европе огромные массивы данных не обязательно сосредоточены на компьютерах государственных ведомств. В Германии есть, например, Бюро кредитных историй (Schufa). По собственному утверждению Schufa, оно хранит 864 миллиона записей о примерно 67 миллионах людей и 5 миллионах компаний. При этом в тайне содержатся подробности о том, как работает процесс, который в итоге имеет право участвовать в принятии решения: кому разрешить снять квартиру или заключить договор с сотовым оператором. Также неизвестны применяемые Schufa критерии. Есть признаки того, что, например, женщин при проведении оценки дискриминируют.
 
Германия далека от того, чтобы позорить нарушителей ПДД на больших экранах. И, тем не менее, возникает вопрос: в каком объеме следует разрешить государственным ведомствам или таким организациям, как Schufa, собирать и использовать данные? Пришло время обсудить легитимность алгоритмического регулирования. В конце концов, речь идет о том, хотим ли мы передать контроль над обществом автоматизированным процессам. Правильно настроенные алгоритмы могут принимать решения эффективно, быстро и справедливо. Однако с учетом того, как они используются сейчас, их преимущества вряд ли перевешивают огромный потенциал для злоупотреблений, вмешательство в приватную сферу индивида и непрозрачность процессов.
Автор
Арне Ципионка изучает в университете европейскую культуру и историю идей, а также работает журналистом. Освещает такие темы, как цифровизация и сетевая политика.