ШІ як виклик для людського буття  Make людина great again

Поки планета палає, ШІ пише вірші. Мільйонерам сниться Марс, а біднякам — кондиціонер. І кожному з нас здається, що майбутнє — це вже розкіш. Ця криза не технологічна — вона цивілізаційна. То, може, поки нас іще повністю не замінили машини, є час подумати, нащо ми їх взагалі набудували. Бо раптом проблема не в ШІ — раптом він лише дзеркало нашого прогресу?

Один з улюблених сюжетів у фільмах жахів — перетворення нічних кошмарів на реальність. Коли знайомі елементи, досі ізольовані в окремому світі, від якого можна було прокинутися, матеріалізуються в світі, від якого вже не прокинешся. Всі найчорніші страхи, які ми тримаємо на припоні за стіною свідомості, зненацька пробивають цю стіну й лишаються з нами назавжди. Приблизно так само виглядають деякі наші побоювання через наступ штучного інтелекту.

У цьому новому страшному сні вас замінить хтось інший. Він житиме ваше життя — а ви стаєте нікому не потрібними й за вами ніхто не сумує. Ба більше: він у всьому ліпший за вас і тому його значно сильніше люблять ваші близькі. Щось таке може скоро спіткати й нас з вами. ШІ не просто ефективніше робитиме «нашу» роботу, а й зможе куди ліпше досягати всіх цілей і відповідати цінностям нашого світу — загалом нелюдським і ворожим до потреб людства. І от перед нами знов постає питання, хто ми, власне, такі й чого шукаємо на цій планеті.

Якби в основі існування цього світу лежали якісь інші цінності, крім зиску, накопичення ресурсів, ефективності й економічного зростання, може, ми б так не боялись того, що ШІ здатен нас замінити чи навіть безслідно винищити. Але цінності такі, які є, — і кожній людині ясно навіть без обчислювальних потужностей масивних датацентрів, що найслабшою ланкою економічного зростання стала вона сама.

Ми самі себе оцінюємо за кількісними критеріями на індивідуальному й національному рівні. Усе слід оптимізувати й ефективізувати — включно з нашими тілами й особистими життями. А втім, якоїсь миті ця оптимізація наштовхнеться на межі біологічного існування. Саме їх ілюструє спадна демографічна крива всіх економічно успішних країн. Зростання економіки вимагає оптимізації «вторинних» і фрагментарних видів дозвілля, одним з яких уже стає й людське самовідтворення.

Демографічний колапс

Той, хто добровільно чи примусово відмовиться від такого дозвілля, може очікувати потенційних бонусів. Надмірні фінансові витрати буде анульовано. Можна буде більше 20 років не викидати гроші на дитячі потреби — на їжу, одяг, дозвілля, дитсадки, школи, гуртки та низку інших пунктів, які сумарно сягають кількох мільйонів на одну дитину, і це ще не беручи до уваги витрат на проживання чи проблем на так званому ринку житла, де людям з дітьми відмовляються здавати квартири. Краще вже пси чи кішки — ті хоч не тупотять і не верещать.

Догляд за дитиною зазвичай на певний (довший чи коротший) час звільняє жінок від робочого ярма — але з цим звільненням приходять і нижчі доходи аж до кінця життя. І це я ще мовчу про супутні стреси всіх, хто доглядає за дітьми, про хвороби й гарячкове вишукування вільних місць у яслах, садочках і школах, про постійне безсоння і втому...

Цей скорботний перелік можна продовжувати ще довго, але варто бодай побіжно згадати, що кожне суспільство саме вибудовує й регулює свою систему цінностей, і якщо наслідком економічного процвітання стає демографічний колапс, то його слід сприймати як результат дії певної логіки, в рамках якої люди оптимізують своє життя. Звісно, це ще не значить, що суспільний (хоч і дедалі слабший) дітонароджувальний тиск кудись зникне. Логіка, як і сенс — зовсім не обов’язкові атрибути життя. Але оскільки в його основі таки лежать критерії економічної оцінки, кожному ясно, яку поведінку економічно зрілі суспільства схвалюють, а яку фінансово карають.

Мати всього вдосталь

Схоже виглядає й оптимізація нашого світу у відповідь на кліматичні зміни. Про їхні причини ми знаємо все — а їхній перебіг завдяки стосам досліджень уже давно можемо точно змоделювати на багато років уперед. Ми знаємо, що мали б робити, аби відвернути катастрофічні наслідки, однак рішення, чия мета — ні більше, ні менше, ніж урятувати єдину нам відому обжиту планету Всесвіту, — гальмується пріоритетами економічного зростання й збагачення. Наслідком цього конфлікту інтересів стає косметичність змін, яка не збиває нас зі шляху до кінця світу, — просто тому, що в пріоритеті зараз не життя людей (ну, нехай, більшості людей), а дещо зовсім інше.

Багатство внаслідок розвитку глобальної економіки постійно зростає, — але на кожному обійсті власними темпами. Ми ще ніколи за всю свою історію не жили у світі з такими колосальними перепадами багатства й бідності. І це при тому, що в накопичення матеріальних або символічних благ немає ніякої іншої цілі, ніж збагачення. Мільярдерів більшає — але кращим цей світ через них не стає. Мати всього вдосталь — це і є остаточна мета; патологічне накопичення благ ні для чого іншого не придатне.

Безцільна гра породжує біль і скруту під склепінням зруйнованого кліматичними змінами неба — але ми продовжуємо йти куди йшли. Співчуття від штучної «свідомості» датацентрів дочекатися годі. Надія на те, що штучна форма мислення порятує нас від нас самих, — сестра стародавньої віри в те, що від мору чи голоду допоможуть молитви і жертви богам.

Тверезо і без емоцій

Колись стихійні лиха були природними чи незбагненними. Нині ми благаємо порятунку від лих, які самі собі створили й самі живимо. Нам лячно жити у власноруч створеному світі з нами самими. Ключові цінності й цілі цього світу загалом аморальні й суто технічні. Сповідувати такі цінності й досягати таких цілей може будь-яке начало, навіть не наділене свідомістю. Без свідомості навіть краще. Капіталізм найпишніше цвіте саме в автократичному Китаї, де стабільність і пріоритети ринку не підкошують непередбачувані вибори чи ірраціональні людські вимоги. Всіх проблемних можна зрештою пересаджати чи стратити. Як зручно. Наратив про те, що демократія лише стримує процвітання, став зараз популярним у колах техноолігархів Кремнієвої долини. Але про це трохи згодом.

Оптимізації, що сприяє розвитку штучного інтелекту, ми досягаємо за допомогою механізмів, які увиразнюють економічні інтереси й роблять їх головнішими за людські, а також позбавляють бізнес моралі — цього жалюгідного атавізму нашого світу. Серйозні, зрілі перемовини тепер відбуваються «тверезо і без емоцій». Викинувши з людської взаємодії емоції й назвавши їх дитинними, ми почасти її дегуманізували — полегшивши життя штучному інтелекту, що більш не мусить розбиратись ні в чому людському. Рахуючи витрати й плануючи майбутні оптимізації, ШІ може справді тверезо й без емоцій викреслити все, що від нього лишилося, — а ми при цьому не зможемо його навіть звинуватити в нелюдській поведінці, адже насправді в основі лежать наші цілі й наші цінності.

ШІ може повністю нас замінити, бо ми створили ідеальний для нього світ. Він може навіть тримати нас, людей, для розваги — як кішок, що ганяються за сонячними зайчиками, чи псів, які роблять стійку за кісточку.

Ми й інші

Якщо згадати всі наші марні спроби стабілізувати клімат планети, що радше нагадують показне бідкання й складання рук, можна дійти висновку, що знищенням людства ШІ нам тільки допоможе. Бо як можна на повному серйозі хотіти, щоб нас серйозно сприймав якийсь там штучний інтелект, коли серйозно не здатні сприймати себе навіть ми самі? Глянеш на себе збоку, й здається, що без біосфери й стабільного клімату ми цілком здатні обійтись. Але ми, на відміну від ШІ, таки не здатні — а от «йому» ані того, ані іншого справді не треба: обійдеться штучним кліматом датацентрів, навіть без кисню.

За страхом похмурих сценаріїв атаки ШІ маячить тінь підозри, що ця нова форма влади поводитиметься з нами так, як ми — з іншими. «Ми» й «інші» — дуже важлива опозиція, бо після перемоги штучного інтелекту об’єктом застосування сили стали б суспільства, держави і люди з так званого Заходу. Всі ми зненацька могли б опинитися в шкірі сучасних палестинців чи інших народів, із якими всі поводяться як хочуть, часто навіть не вважаючи їх рівними собі людьми. У шкірі корінних народів Америки, які спостерігають за виходом пасажирів заокеанських пароплавів на берег. У шкірі австралійських аборигенів чи народів Африки, яку розтинала на шматки вся світова спільнота; у шкірі народів, яким технологічно розвинутіші суспільства, керовані інструменталізованою раціональністю й мораллю, що дозволяє гидувати інакшими й не такими, як ми, влаштували на Землі справжнє пекло. Кінець кінцем — у шкірі всіх тих, у кого вона іншого кольору; всіх представників іншої статі, віросповідання чи й загалом іншої людяності.

Може, тому ми й розводимо по різні боки барикад штучний інтелект і людство — так, наче раптом десь побачили якесь особливо однорідне людство зі спільними інтересами. Хоча всім добре відомо, що ніякого однорідного людства не існує. Це видно з мільйона прикладів, найяскравішим з яких можна вважати зміну клімату: найбільше в ній винні найбагатші, а страждатимуть від неї найбільше якраз найбідніші.

Акселерація загибелі

З часів глобального суспільного перевороту, спричиненого соцмережами, від технократів-мільярдерів уже, мабуть, ніхто не чекає емпатії й співпричетності. Багато років тому керівник компанії Meta Марк Цукерберг оголосив про перемогу публічного над приватним — і те, що тоді шокувало, нині стало елементом повсякдення. Ілон Маск купив Twitter і зробив з нього персональну помийку для поширення ультраправих, консервативних та інших конспірологічних наративів. Модерація контенту в соцмережах — абсолютна фікція; єдиний, хто там щось модерує, — власники, і то аби вдовольнити власні потреби.

У нас на очах народжується епоха чогось значно потужнішого й ефективнішого, керованого тими, хто нагадує власників соціальних мереж. Те, що я тут назвав абсурдним станом світу, особисто вважаю плідним ґрунтом акселерації загибелі — коли навіть знищення планети й людської цивілізації в її найвідлегліших закутках вважають зовсім не проблемою, а, навпаки, ідеальним станом.

Почати можна з відомої цитати одного з ключових інвесторів Кремнієвої долини Пітера Тіля, котрий заявив, буцімто «більш не вірить у співіснування свободи та демократії». Це не шок — це всього тільки опис світу, де демократія чимраз відчутніше обмежує свободу найбагатших. У часи наступу й зміцнення позицій соцмереж слово «демократія» ще повторювали, мов мантру; нині його вже й не згадують. Частина технологічних олігархів уже навіть не приховує свого зневажливого ставлення до ідеї людської рівності чи бодай рівноправності. Влада мусить належати найбагатшим і найсильнішим, а світ мусить відновити ієрархічну структуру, де всім буде зрозуміло, хто наказує, а хто виконує наказ. Усі ці ідеї нині об’єднують загальною назвою «темне просвітництво» чи «неореакціонізм».

Їхні прибічники виступають проти прогресу як інструменту досягнення більшої свободи та рівності. Навпаки: вони тужать за давніми авторитарними структурами й поєднують вільний ринок, технології та характерний для корпорацій авторитарний стиль управління. Наслідок? Концепти реакційного модернізму чи технофеодалізму. Саме так, врешті-решт, на думку історика Роджера Ґріфіна, сто років тому й народжувався фашизм — як суміш модернізму, реакціонізму й захисту від лівиці, що просувала людську рівність.

Найбільші нинішні радикали роблять іще один крок — і вважають омріяною метою розвитку цивілізації знищення людства. Так, як Нік Ленд, за словами якого інтенсифікація капіталістичних процесів і технологічних змін вестиме до радикальних суспільних трансформацій і, потенційно, — до постлюдського майбутнього. На шляху до цієї мети стоять рівність і демократія. На шляху до неї стоїте ви.

Виживання на Землі

Вислови ці, звісно, радикальні, але вони не шокують — бо не вносять у наш світ нічого нового. Просто роблять повсякдення радикальнішим. Демографічний і кліматичний колапс (схоже, незапланований наслідок споживацького капіталізму) для них — бажана мета. Завдяки технологіям вони прагнуть прискорити рух до цієї мети, але якщо прискорювачі минулого хотіли перестрибнути в утопічне майбуття, то ці обирають шлях до загибелі й руйнування, де останні тріски й уламки поділять між собою новочасні феодали — ну або ж з них вознесеться у космос штучний розум, назавше покинувши за собою знищену мертву планету.

У рамках такої візії майбутнього не треба перейматись майбутніми кліматичними змінами — натомість їх можна прискорити, аби швидше зруйнувати світобудову. Тих, хто сподівається на постгуманізм чи колонізацію Марса, виживання на Землі анітрохи не вабить. Навпаки: що гірші тут умови, то їм краще.

На край цієї прірви нас підштовхнула економічна нерівність. Жменька людей має у своєму розпорядженні абсурдно велетенське багатство, яке породжує не менш абсурдну владу, — і влада ця не мусить, а головне не хоче ні на кого зважати. Тому ці люди творять свою міфологію світу, де їхні вчинки мають сенс і де за назбирані гроші можна купити вознесіння з вічним життям. Штучний інтелект же, за різними оцінками, має цей процес прискорити, стимулювати чи навіть стати кінцевою метою трансгуманного або й постгуманного світу.

Назад у поля й лісові хащі

Але це ще не значить, ні що такий сценарій справдиться, ні що він неминучий. Ідеологія його прихильників (аж ніяк не послідовна й не позбавлена логічних провалів) шокує радше своєю тривіальністю, хаотичним нагромадженням думок, що виблискують, наче назбирані по всіх усюдах блискучі скельця в сорочому гнізді.

Уся ця динаміка змушує нас замислитися над вічними питаннями. Хто ж ми такі, якщо ми — не вони? Чи лишиться в нас щось однозначно людське після часткової передачі свого технократичного генія набагато ефективнішим машинам? Чи не сумуватимемо ми часом за валізою з емоційно-біологічним вантажем, яку свого часу намагались відсунути подалі своєю так званою цивілізованістю? Чи не муситимемо ми, передавши свої офісні робочі місця алгоритмам, повертатися у поля й лісові хащі — у світ, який ми століттями власноруч намагалися знищити, ніби прагнучи вбити самі себе?

Багато прогнозів про можливу подобу життєздатного майбуття можна зробити інверсивно. Техноолігархи прагнуть капіталізму, а не демократії. Рівність загрожує їхній свободі. Планету й життя на ній вони вважають зайвинами. Зі всього цього вже можна зробити певні висновки. Але передусім нам слід знову стати людьми — й перестати тікати від себе кривими стежками, як ми робили від самого початку свого існування.

червень 2025