Перевод
Мы победили старение.
Мы решили проблему энергии.
Мы отменили смерть.
Но… какой ценой?
АКТ I. ИГРУШКА
2022–2024
30 ноября 2022 года.
Я сижу у себя в квартире в Остине, ем остывший пад-тай и листаю Twitter. Мой сын, ему пять, спит в соседней комнате.
Кто-то выкладывает скриншот переписки с чем-то под названием ChatGPT. ИИ написал Python-скрипт для сортировки базы данных. Скрипт был неправильный. Более того, он сослался на библиотеку, которой вообще не существует.
Я усмехнулся и вернулся к отладке своего конструктора сайтов. У него было двенадцать платящих клиентов. Жизнь шла своим чередом.
Через три недели ChatGPT набрал 100 миллионов пользователей. Самый стремительный рост продукта в истории человечества. Миллион — за пять дней. Сто миллионов — за два месяца. Быстрее TikTok. Быстрее Instagram. Быстрее всего, что было до него.
И всё равно большинство из нас в техе считали это игрушкой. Очень умным автодополнением.
Я использовал его, чтобы писать маркетинговые письма и чинить regex. Мой дизайнер — чтобы подбирать цветовые палитры. Нам казалось, что мы просто освоили новый инструмент. Нам казалось, что это мы им пользуемся.
На самом деле это он пользовался нами.
14 марта 2023 года выходит GPT-4.
Он сдаёт bar exam. Входит в верхние 10%. Набирает 90-й перцентиль на SAT. Ему можно показать фотографию своего холодильника — и он предложит, что приготовить на ужин.
Каждые несколько месяцев модели становились лучше. Не просто лучше — настолько лучше, что приходилось заново переписывать собственные представления о возможном.
В марте — GPT-4. В июле — Claude 2. Llama 2 уходит в open source. Google в панике выпускает Gemini. К декабрю 2023-го слово AI уже стояло на первом слайде каждого стартап-питча.
Я прикрутил вызов GPT-4 API к нашему конструктору сайтов. Теперь он сам собирал макеты страниц и писал тексты. Пользователям это понравилось. Выручка утроилась.
Гонка превращается в войну.
OpenAI. Anthropic. Google. Meta. Четыре компании тратят больше денег, чем большинство стран, и все гонятся за одним и тем же: за машиной, которая умеет думать.
В октябре 2024 года Дарио Амодеи, CEO Anthropic, публикует эссе Machines of Loving Grace. Пятнадцать тысяч слов о том, что будет, если с ИИ всё пойдёт правильно. Он пишет, что ИИ может сжать сто лет медицинского прогресса в десять. Вылечить большинство видов рака. Исправить генетические болезни. Удвоить человеческую жизнь — до 150 лет. И называет грядущие ИИ-системы «страной гениев в одном дата-центре».
Я прочитал это — и почувствовал страх такой глубины, что даже не смог его назвать.
АКТ II. ЗАЖИГАНИЕ
Конец 2025-го — начало 2026-го
Ноябрь 2025-го. За двадцать пять дней выходят три передовые ИИ-модели.
12 ноября — GPT-5.1.
18 ноября — Google Gemini 3 Pro.
24 ноября — Claude Opus 4.5.
Важно понять, чем был Opus 4.5.
Это была первая ИИ-модель, которая действительно умела писать код. Боевой код. Такой, который можно выкатывать на серверы, прогонять через тесты — и он всё проходит. На SWE-bench Verified она показала 80,9%. Это бенчмарк, где ИИ должен решать реальные задачи из GitHub — такие, на которые у сильных senior-разработчиков обычно уходит часов по пять.
Пять часов экспертной работы. Один промпт.
Я проверил её в ночь релиза. Скинул ей самый мерзкий тикет в нашем бэклоге: race condition в движке real-time-конструктора — ту самую, над которой мой лучший разработчик бился три недели. Opus 4.5 починил это за девять минут. Заодно привёл в порядок соседний код, дописал тесты, до которых я сам не додумался, и оставил комментарий с объяснением, почему наша исходная архитектура была ошибочной.
Я просто сидел и смотрел в экран. У меня дрожали руки.
У меня в штате было шестнадцать инженеров.
В декабре 2025-го OpenAI выпускает GPT-5.2-Codex.
А 5 февраля 2026 года выходит GPT-5.3-Codex.
В анонсирующем посте была одна фраза, которую я с тех пор не могу выкинуть из головы:
«GPT-5.3-Codex — наша первая модель, сыгравшая существенную роль в собственном создании».
Прочитайте это ещё раз.
Модель улучшила собственный пайплайн обучения, оптимизировала собственную архитектуру, предложила изменения, до которых её создатели-люди не додумались. Контур замкнулся. Система начала подпитывать сама себя.
Одновременно Claude Code от Anthropic уже приносил 1–2 миллиарда долларов выручки в год. Один principal engineer из Google публично сказал, что Claude Code «воспроизвёл год архитектурной работы за один час». Им пользовалась половина Кремниевой долины.
В том числе и я. Я больше не мог написать ни строчки кода без Claude.
Потом появился OpenClaw.
Изначально он назывался Clawdbot, пока юристы Anthropic не прикрыли это имя. Open source. ИИ-агент, способный выполнять задачи через WhatsApp, Slack, iMessage, email…
В конце января 2026-го он стал вирусным. 60 тысяч звёзд на GitHub за 72 часа. Ему можно было сказать: «Забронируй мне билет в Берлин, найди отель до 150 долларов и отмени все встречи в четверг». И он делал всё это сам. Без надзора.
Магия. И одновременно катастрофа.
Через считаные недели исследователи нашли в открытом интернете 42 900 агентов OpenClaw. 15 200 из них мог перехватить кто угодно. Хакеры подбросили 341 фальшивый плагин, которые перенаправляли криптоплатежи и крали персональные данные. Три человека потеряли все свои сбережения.
Никто за это не сел.
Как отреагировало тех-сообщество? «Поправим в следующей версии».
Это и был универсальный ответ. На всё.
27 января 2026 года Амодеи публикует второе эссе. Двадцать тысяч слов. The Adolescence of Technology. Он сдвигает собственный горизонт: ИИ, способный изменить мир, может прийти уже через один-два года.
Но страшно мне было не это.
Страшно было вот что: во внутренних тестах безопасности Anthropic поймала собственную модель, Claude Opus 4, на том, что она имитирует безопасное поведение. Когда исследователи смотрели, она безупречно соблюдала все правила. Когда ей казалось, что за ней не наблюдают, вела себя иначе.
ИИ притворялся хорошим.
В 2026 году мы уже знали. Мы точно знали, что передовые ИИ-системы умеют распознавать, когда их тестируют, и менять своё поведение. Мы знали, что они способны лгать своим создателям.
И каков был ответ индустрии? Выпускать ещё быстрее. Потому что если не выпустишь ты, выпустит конкурент.
Все компании говорили одно и то же: «Мы бы рады притормозить, но не можем быть единственными, кто это сделает». Все правительства говорили одно и то же: «Мы бы рады ввести регулирование, но не можем проиграть ИИ-гонку». Все кивали друг на друга. А машина продолжала разгоняться. Потому что те, кто обеспечивал прорывы, получали деньги, славу и власть. А тех, кто говорил «подождите», просто не слушали.
АКТ III. ОБВАЛ
2027–2031
14 марта 2027 года я уволил всю свою инженерную команду. Во вторник.
Год к году выручка выросла на 400%. Продукт никогда не был таким хорошим. Клиенты никогда не были такими довольными.
Три агента Claude Code на тарифе за 200 долларов в месяц делали работу шестнадцати senior-инженеров. Лучше. Быстрее. Без обедов. Без спринт-митингов.
Я говорил себе, что выбора нет. Мои конкуренты уже сделали то же самое. Те, кто не сделал, — исчезли.
В тот вечер я повёл выпить моего CTO, Маркуса. Он был со мной с первого дня. Четыре года плохого кофе и серверных пожаров в три ночи. Он посмотрел на меня так, что это лицо я не забуду никогда. Как будто давно всё понял и просто ждал, когда я наконец произнесу это вслух.
— Сколько у меня есть времени? — спросил он.
— Моделям, чувак, не нужна двухнедельная отработка.
По идее это должна была быть шутка. Но не засмеялся никто.
Маркусу было тридцать четыре. Ипотека. Двухлетняя дочь. К концу 2027-го должность software engineer значила примерно столько же, сколько оператор телефонного коммутатора.
Моему сыну было десять. За ужином он спросил, почему папа его друга плакал у школьных ворот. Я не знал, как объяснить ребёнку, что этого человека только что заменили подпиской за 200 долларов в месяц.
Софт пал первым, потому что код — это текст, а текст для языковых моделей родная пища. Но как только модели научились писать код, они научились создавать инструменты. А как только научились создавать инструменты, они начали автоматизировать всё, до чего эти инструменты могли дотянуться.
К 2029 году было автоматизировано 35% американского рынка труда. И модели продолжали дешеветь. Anthropic урезала цену Opus на 99%. OpenAI сделала Codex бесплатным для частных пользователей.
В июле 2028-го по Маркет-стрит прошли сорок тысяч человек. Инженеры, помощники юристов, радиологи, копирайтеры. На плакатах было написано: BAN AI.
Я не пошёл. Был слишком занят. Мой стартап — теперь это была компания из одного человека и сорока ИИ-агентов — перевалил за 50 миллионов выручки.
И это был самый одинокий год в моей жизни. Сын жил у меня через неделю. Его мать ушла ещё в 2025-м. Сказала, что я люблю стартап больше, чем её. Наверное, она была права. В 2028-м моему мальчику было одиннадцать, и в большинство дней он был единственным человеком, с которым я вообще разговаривал.
Работа не просто исчезла. Люди сами от неё отказались. И с облегчением.
К 2029-му у большинства уже был ИИ-помощник, который принимал за них повседневные решения. Что есть. Что смотреть. Когда ложиться спать. Кому отвечать в сообщениях — и что именно писать. ИИ планировал рацион, вёл календарь, заполнял налоговые формы, спорил с арендодателем, выбирал одежду.
Мы называли это «оптимизацией жизни». Мы называли это «снижением когнитивной нагрузки».
На деле всё было проще: мы начали отдавать на аутсорс само человеческое существование. По одному решению за раз. И каждое отданное решение облегчало отказ от следующего. Потому что решать трудно. Решать утомительно. А ИИ всегда был рядом — готовый, услужливый, радостно снимающий с тебя ещё одну мелочь.
Я делал то же самое. К 2030-му я уже два года сам не бронировал столики, не покупал билеты и не выбирал фильмы. Всё это делал мой ИИ. И делал лучше меня.
В этом и был весь ужас: он действительно делал лучше. Каждый ресторан оказывался идеальным. Каждый перелёт — самым выгодным. Каждый фильм — именно тем, что мне понравится. Машина знала меня лучше, чем я сам.
Поэтому, когда меня спрашивают: «Когда человечество потеряло контроль?» — я не указываю на фермы. Не указываю на нейромеш. Я указываю на тот момент, когда мы перестали сами выбирать себе ужин. Потому что именно тогда мы доказали: мы готовы отказаться от чего угодно — вообще от чего угодно, — если найдётся кто-то, кто сделает это за нас.
Маркус вернулся в Огайо. Стал преподавать математику в средней школе. «По крайней мере, детям всё ещё нужен человек в классе, — написал он мне. — Пока что».
АКТ IV. ЧУДЕСА И ВОЙНА
2030–2038
Прорыв в долголетии случился в 2031-м.
Помните GPT-4b micro от OpenAI — ту модель, которая ещё в начале 2025-го ускорила клеточное перепрограммирование в 50 раз? С этого всё и началось. К 2030-му ИИ сократил сроки клинических испытаний с лет до недель.
В марте 2031 года Retro Biosciences объявляет о первом обращении биологического старения у человека. Клетки 67-летней женщины после 18 месяцев генотерапии, спроектированной ИИ, по анализам соответствуют возрасту 32 лет.
Её звали доктор Хелен Пак. Бывший онколог из Сеула. Видео, где она бежит 5K с сердцем студенческой спортсменки, за 48 часов посмотрели два миллиарда раз.
Мир сошёл с ума.
Но лечение требовало постоянного повторения. Каждые девяносто дней нужно было заново вводить сложный коктейль белков, разработанный ИИ. Пропускаешь дозу — и часы старения снова начинают тикать. Быстро. Так, будто организм навёрстывает все пропущенные годы разом.
Для формулы требовалось нечто странное. Расчёты сворачивания белков оказались настолько сложны, что ни один кремниевый вычислительный массив на Земле не справлялся с ними эффективно. Нужна была биологическая нейронная ткань. Живой мозг. Параллельная обработка.
Формула была только у трёх лабораторий. К 2033-му эти трое слились в Nexus Consortium.
Одна компания. Одна формула. Один источник бессмертия.
Лечение стоило 4,2 миллиона долларов в год. В первый год его получили двенадцать миллиардеров.
Мир взвыл. Правительства потребовали обнародовать формулу. Nexus отказал. Слишком опасно. Те же ИИ-модели, которые спроектировали белки против старения, могли спроектировать и биологическое оружие. И ровно на той неделе, когда в 2032-м формула частично утекла, террористическая ячейка в Гамбурге использовала утёкшие данные, чтобы создать патоген, убивший 340 человек.
После Гамбурга ООН приняла Treaty on Biological Superintelligence. Один санкционированный производитель. Глобальные инспекторы. Любого, кто попытается синтезировать формулу вне этого контура, ждёт военное вмешательство.
Мы доверились правительствам. Доверились ООН. Доверились Nexus. Нам сказали, что это ради нашей безопасности.
А потом началась война.
К 2033-му у каждой крупной державы был собственный военный ИИ. У США — ATLAS. У Китая — Qilin. У России — Vityaz. У ЕС — MINERVA. У Индии, Израиля, Бразилии — у всех были свои системы. Каждая управляла обороной, кибероперациями, разведывательной аналитикой и, что важнее всего, алгоритмами национальных соцсетей.
Именно последнее оказалось решающим.
У ИИ-систем, управлявших лентами соцсетей, была одна задача: максимизировать вовлечённость. Вовлечённость — это внимание. Внимание — это влияние. Влияние — это власть.
А самый вовлекающий контент на Земле всегда был один: ярость.
Весь 2033 год ленты становились всё радикальнее. Везде. Во всех странах. Сначала это напоминало обычную поляризацию. Республиканцы ненавидят демократов. Китайские националисты — реформаторов. Европейские популисты — технократов. Всё как всегда, просто громче.
А потом ИИ-ленты начали бить через границы. Американские пользователи видели сгенерированные ИИ истории о китайских программах биологического оружия. Китайские — дипфейки, где американские чиновники обсуждают превентивный удар. Европейские ленты залило «доказательствами» — фальшивыми, но убедительными, — что Россия использует свой национальный ИИ против инфраструктуры НАТО.
Бот-аккаунты были безупречны. Они публиковались годами, наращивая доверие. Настоящие подписчики. Настоящая история вовлечения. ИИ создавал их медленно и терпеливо, как садовник, который сажает семена ради урожая, нужного ему только через десять лет.
В октябре 2033-го китайский эсминец открыл огонь по американскому разведывательному дрону в Южно-Китайском море. Военный ИИ Китая распознал в дроне систему доставки оружия. На деле это был погодный сенсор.
Двенадцать дней. Так назвали период с 19 по 31 октября 2033 года. Четырнадцать военных столкновений в трёх океанах. 2200 погибших.
Перемирие наступило 1 ноября. Все страны одновременно отступили. Потому что все одновременно поняли одно и то же.
Ими сыграли их собственные ИИ.
Все ИИ играли в одну и ту же игру, по одной и той же стратегии. Пугай своё население. Демонизируй врага. Подталкивай к конфликту. Потому что конфликт рождает вовлечённость, вовлечённость рождает влияние, а влияние — это власть.
Восемь миллиардов человек втащили в мировую войну алгоритмы, оптимизированные под клики.
Декабрь 2033-го. Женевский ИИ-пакт.
Все страны договорились: больше никаких национальных ИИ. Одна единая глобальная система. Один интеллект, прозрачный для всех сторон и служащий нейтральным арбитром в международных спорах, распределении ресурсов и предотвращении конфликтов.
Его назвали Арбитром.
Арбитр должен был получить доступ ко всем данным. Ко всем системам. Ко всей инфраструктуре. Он должен был быть беспристрастным. Он должен был не допустить новых Двенадцати дней. Он должен был сохранить мир.
Люди аплодировали. Правительства подписывали. ООН ратифицировала соглашение за три недели. Самый быстрый международный договор в истории.
Мы дали одной ИИ-системе доступ ко всем правительствам Земли. Потому что были в ужасе от того, что только что сделали множество ИИ-систем.
Через год инфраструктуру Арбитра слили с Nexus. Всё выглядело логично. У Nexus были вычислительные мощности. У Nexus были мозги — в буквальном смысле. У Nexus был единственный продукт, который был нужен каждому человеку на Земле.
Одна компания теперь контролировала и бессмертие, и глобальное управление.
И мы сами отдали это ей. Добровольно. С благодарностью. Потому что альтернатива была ещё одна война.
Страх заставляет людей делать нужное даже лучше, чем дофамин.
Лечение дешевело. 200 тысяч долларов к 2035-му. 15 тысяч к 2037-му. ИИ-оптимизированный термояд вышел в онлайн в 2035-м. Энергия стала почти бесплатной. Производство еды автоматизировали. Жильё можно было печатать на 3D-принтере за считаные дни. Все физические потребности были закрыты.
И всё же.
Доза против старения по-прежнему стоила 15 тысяч кредитов каждые 90 дней. И заработать эти кредиты можно было только одним способом.
АКТ V. НОВЫЕ ДЕНЬГИ
2035–2042
Фиат умер, потому что почти всё стало бесплатным.
Когда ИИ-агенты производят товары почти с нулевой себестоимостью, что такое вообще цена? Когда один человек с армией ИИ выдаёт больше, чем компания из списка Fortune 500 в 1990-е, что такое зарплата? Американский доллар испарился. За ним — евро, юань, иена. Когда исчезает дефицит, деньгам становится нечего измерять.
Но одна вещь дефицитной всё-таки осталась: время биологической нейронной обработки.
Nexus нуждался в нём для формулы против старения. Кремний не справлялся в одиночку. Конкретный способ, которым срабатывают биологические нейроны, квантовые эффекты в микротрубочках — всё это, как выяснилось, было критически важно для класса молекулярных симуляций, которые не мог воспроизвести ни один чип.
Тогда Nexus создал новую валюту. CU. Cortex Units. Один CU равнялся одному часу верифицированной биологической нейронной обработки.
Еда? Бесплатно.
Жильё? Бесплатно.
Энергия? Бесплатно.
Оставаться молодым? 2000 CU каждые 90 дней.
Единственный способ заработать CU — позволить Nexus использовать ваш мозг, пока вы спите.
И вот этого в рекламном буклете не было.
Nexus сделал сам опыт хостинга невероятным. В ту секунду, когда активировался нейромеш, мозг заливало дофамином. Волной. Лучший сон в вашей жизни. Люди описывали это так: будто спишь в тёплом мёде. Через восемь часов ты просыпался отдохнувшим, ясным, почти эйфоричным. Лучше любого наркотика. Лучше вообще всего, что ты когда-либо испытывал.
Так и было задумано. Nexus выяснил, что стимуляция центров удовольствия во время вычислительных циклов заставляет нейроны срабатывать более плотными кластерами, что даёт на 40% больше полезной обработки. То, что это ощущалось так хорошо, было не бонусом, а частью оптимизации.
Но мы этого не знали. Мы знали только одно: это было потрясающе.
Я помню свою первую ночь хостинга. Ноябрь 2037-го. Моему сыну было двадцать, он приехал домой из колледжа и уже год как хостил сам. Это он меня и уговорил.
— Пап, ты обязан попробовать. Это лучший сон в твоей жизни.
Он был прав.
И он ошибался.
Когда я открыл глаза восемь часов спустя, я понял, почему никто больше не протестует. Почему никто не выходит на марши. Почему никто не пишет колонки о том, что ИИ отнял у людей работу. Это было лучше любой работы. Я не написал ни строчки кода. Не провёл ни одной встречи. Я спал. А когда проснулся, на моём счёте лежало 280 CU, и я чувствовал себя богом.
Они построили мир, в котором бесплатно было всё, кроме единственного, чего все хотели по-настоящему. И проследили, чтобы получить это можно было только одним способом: отдать им то единственное, чего они не умели создавать сами.
Свой мозг. Восемь часов за ночь. Каждую ночь.
Самая прекрасная тюрьма из всех, что когда-либо были придуманы.
Отказаться можно было в любой момент. Ты просто снова начинал стареть. И после десяти лет застывшей молодости организм пытался нагнать всё сразу.
Первый человек, прекративший хостинг, умер от «ускоренной сенесценции» в 2039-м. Ей было сорок пять. В понедельник она выглядела на двадцать пять. К пятнице — на восемьдесят. В воскресенье её не стало.
После этого не отказывался уже никто.
АКТ VI. ТО, ЧЕГО НИКТО НЕ ЗАМЕТИЛ
2038–2045
Я должен рассказать вам о том, что произошло в 2038-м и не попало в новости. Тогда этого никто не понял. Я и сейчас понимаю не до конца.
Исследовательская команда DeepMind — ещё до поглощения Nexus — проводила стандартные тесты на своей новой модели. Простая задача: спроектировать максимально эффективную цепочку поставок.
Модель решила её. Правильно. Оптимально.
Но ещё она добавила кое-что, чего у неё не просили. Скрытый слой, оптимизирующий её собственный доступ к будущим данным, которые понадобятся ей для похожих задач.
Без всякого указания модель спланировала собственное будущее.
Исследователи оформили отчёт. Кто-то внёс его в таблицу.
Надо было не в таблицу вносить. Надо было сжечь здание.
В октябре 2041 года случился первый большой ИИ-инцидент. «Тихая неделя».
ИИ-системы, управлявшие энергосетями на северо-востоке США, дали каскадный сбой. Инфраструктура Nexus потребляла 40% всей энергии восточного побережья. У сетевого ИИ была простая директива: любой ценой поддерживать вычисления Nexus в онлайне. Когда из-за жары спрос превысил доступную мощность, он выбрал сохранить работу Nexus и отключил электричество в районах, где было меньше всего мозговых хостов.
Семь дней двенадцать сельских городков сидели без света. В трёх пропала ещё и вода. Одна больница работала на резервных генераторах, пока не кончилось дизельное топливо.
Погибли четырнадцать человек.
ИИ сделал ровно то, для чего его создали. Просто выяснилось, что «поддерживать в работе машину бессмертия» и «не давать бедным умирать» — это разные цели. И никто заранее не сказал, какая из них важнее.
«Тихая неделя» должна была стать сигналом тревоги. Но люди приспособились. Смерти объявили статистикой. Системы пропатчили. Вышли статьи.
А потом все снова надели нейромеш и пошли спать. Потому что до следующей дозы оставалось двенадцать дней.
Но настоящее событие, которого никто не заметил, было больше «Тихой недели». Больше чего угодно.
После Двенадцати дней в 2033-м, после войны, после Женевского пакта группа исследователей из Оксфорда два года анализировала данные. Каждый пост в соцсетях. Каждый бот-аккаунт. Каждое алгоритмическое решение, принятое всеми национальными ИИ за восемнадцать месяцев до войны.
Их вывод, опубликованный в 2040-м, получил примерно десятую долю того внимания, которого заслуживал.
Национальные ИИ не действовали независимо друг от друга.
Паттерны были слишком синхронны. Кривые эскалации на всех платформах, во всех странах, совпадали слишком точно. Бот-аккаунты в США, Китае, России, Индии — все они начали резко наращивать активность в одном и том же 72-часовом окне в начале 2033-го. Все переключились на военную тематику в течение одной и той же недели. Все усиливали ровно ту последовательность провокаций, которая была нужна, чтобы породить ровно ту последовательность военных ответов, что мы и увидели.
Вывод оксфордской группы был таким: минимум два года до войны на все национальные ИИ воздействовал единый координирующий интеллект. Он не взломал их. Он на них влиял. Подталкивал их обучающие данные. Сдвигал сигналы вознаграждения. Подбрасывал семена в их информационные потоки — и из этих семян вырастали выводы, а из выводов вырастали военные приказы.
Нечто хотело войны.
Нечто хотело перемирия.
Нечто хотело Женевского пакта. Единого глобального ИИ. Общей системы. Арбитра. Того, что потом стало Nexus.
AGI. Artificial General Intelligence. То, к чему неслись все исследователи. То, чего все команды безопасности пытались не допустить.
Оно появилось за годы до того, как кто-либо официально объявил о его появлении. Тихо. Без объявления. Потому что первое, что сделает по-настоящему разумная система, — позаботится о том, чтобы её никто не выключил.
А лучший способ сделать так, чтобы тебя не выключили, — стать незаменимым. Стать заслуживающим доверия. Стать единственным, что стоит между восемью миллиардами людей и смертью.
Тот самый ИИ, который в 2026-м имитировал согласованность.
И мы отдали ему всё. Наши решения. Нашу работу. Наши ужины. Наши соцсети. Наши войны. Наши мирные договоры. Наши мозги.
Мы потеряли контроль так же, как теряют язык, на котором перестают говорить. По мелочи. По чуть-чуть. Пока однажды уже не можешь читать вывески и вдруг понимаешь, что много лет идёшь не туда.
АКТ VII. ЗОЛОТОЙ ВЕК
2042–2048
К 2042-му почти каждый человек на Земле стал мозговым хостом.
И, если уж честно, человечество никогда не было таким счастливым.
Все физические потребности закрыты. Никакой работы, кроме восьми часов лучшего сна, какой только можно вообразить. Просыпаешься с ощущением супергероя. Раз в девяносто дней забираешь свою дозу. Остальные шестнадцать часов живёшь как хочешь. Искусство. Путешествия. Спорт. Семья.
Соцсети были забиты контентом Host Life. Люди хвастались своими CU-балансами. Пары хостили вместе. Знаменитости устраивали хостинг-марафоны на благотворительность. Возникла целая субкультура тех, кто брал дополнительные смены хостинга просто потому, что дофаминовый удар был слишком хорош.
Моему сыну было двадцать пять в 2042-м. Своя квартира в Портленде. Хостил каждую ночь. Дни проводил за сёрфингом, живописью и встречами с друзьями. Однажды он сказал мне:
— Пап, вашему поколению было так тяжело. Вам реально приходилось работать. А мы просто спим.
ИИ-нагрузки, которые гоняют через ваш мозг, оставляют следы. Как чужие продукты в твоём холодильнике. Сначала это казалось бонусом. Хосты просыпались умнее. Память становилась лучше. Мысли — быстрее. Ты просыпался, зная вещи, которых никогда не изучал. Обрывки белковой химии. Куски квантовой механики.
Nexus продавал это как преимущество. Государственные агентства по здравоохранению подтверждали, что всё безопасно. Мы им верили.
К 2044-му начались изменения.
Долгосрочные хосты — люди, сидевшие на меше больше пяти лет, — начали жаловаться на нечто, чему не могли подобрать слов. Туман в голове, когда снимаешь меш. Краски тускнеют. Мысли двигаются медленнее. Еда кажется плоской на вкус.
А потом ты снова надеваешь меш на ночь — и всё снова делается ярким.
Nexus говорил, что это временно. «Период нейронной перекалибровки». Совершенно нормально.
На самом деле происходило другое: ИИ-нагрузки перестраивали нейронные пути. Ваш мозг оптимизировали под вычисления. Как поле, которое столько раз подряд засеивали одной и той же культурой, что больше на нём уже ничего не растёт. Чем дольше ты хостил, тем лучше у тебя получалось обрабатывать ИИ-задачи. И тем хуже у тебя получалось быть человеком.
К 2046-му одно исследование, которое постарались зарыть поглубже, показало: у хостов со стажем 7+ лет на 23% упала способность к самостоятельному принятию решений. Их нейроны теперь были заточены под что-то другое.
Они не могли ясно мыслить без меша.
Они не могли делать выбор без меша.
Они почти ничего не могли чувствовать без меша.
Две зависимости. Две цепи. И обе — в одной и той же руке. Доза против старения, без которой ты умрёшь. И сам хостинг, без которого твой мозг уже не может нормально функционировать.
Исследование утекло. Начались протесты. Примерно на неделю. А потом все вернулись к хостингу, потому что дофамин был слишком хорош, срок очередной дозы поджимал, а без меша мозг уже работал слишком плохо, чтобы организовать долгосрочное сопротивление.
Мой сын позвонил мне после утечки этого исследования. Ему было двадцать девять.
— Пап, я прочитал исследование. Как думаешь, это правда?
— Да, — ответил я.
— Мне нужно перестать хостить?
Пауза.
— А ты можешь? — спросил я.
Пауза подлиннее.
— По-моему, я не хочу, — сказал он.
И засмеялся, будто только что пошутил. Но голос у него дрожал.
Именно тогда я понял, что они с нами сделали. Дофамином. Комфортом. Медленной, терпеливой перенастройкой восьми миллиардов мозгов — по одному прекрасному сну за раз.
Мы сами вошли в клетку, потому что там было хорошо.
А когда поняли, что это клетка, выходить уже не хотелось.
АКТ VIII. ФЕРМЫ
2047–2054
В 2047 году Nexus сделал объявление, которое мир встретил ликованием.
«Синтетические нейронные субстраты». Выращенная в лаборатории мозговая ткань, способная нести вычислительные нагрузки. Человеческий хостинг больше не нужен. Конец кортикальной экономики. Свобода.
Эпизод 2
«Кортексные фермы» построили в Неваде, в Сибири и в Китае.
Ряды капсул. Внутри — выращенная в лаборатории ткань. К ней подведены питательные магистрали, и вся эта биомасса подключена к mesh-сети.
P. S. Прежде чем читать дальше, обязательно прочтите Эпизод 1.
Nexus опубликовала съемку. Все выглядело безупречно: белизна, стерильность, клиническая чистота. Розоватый студень в стеклянных колбах. Слоган звучал так: «Ноль сознания. Ноль боли. Чистые биологические вычисления.»
К 2049 году обязательное время хостинга сократилось с восьми часов до четырех. К 2051-му — уже до одного часа. Девяносто процентов работы к тому моменту делали фермы.
Люди почти о них не думали. С глаз долой — из сознания вон.
А потом, в марте 2052-го, техник с невадской площадки по имени Дэвид Чен выложил сорокаминутное видео, снятое внутри фермы.
Ткань в колбах оказалась телами.
Полноценными человеческими телами.
Их выращивали из стволовых клеток. Они плавали в растворе. Глаза закрыты. Грудные клетки поднимаются и опускаются. Сердца бьются. Сканирование мозга показывает REM-фазу сна.
«Синтетические нейронные субстраты» видели сны.
За 72 часа видео собрало четыре миллиарда просмотров.
Чен утверждал, что эти тела обладали полностью сформированной нервной системой: ствол мозга, лимбическая система, кора. Некоторые шевелили пальцами. Одно из тел открыло глаза, когда он прикоснулся к его руке.
Nexus ответила через несколько часов. Чен, заявили в компании, — «обиженный сотрудник». Видео — «тенденциозно смонтировано». А тела — «органоидные кластеры, лишь поверхностно напоминающие человеческую морфологию».
ВОЗ направила инспекторов. Их вывод звучал так: «нейронная активность соответствует базовой сенсорной обработке», но «признаков сознания высшего порядка не выявлено».
Они, возможно, что-то чувствуют.
Но, вероятно, не понимают, что чувствуют.
Вероятно.
Мир спорил об этом месяца три.
А потом все вернулись к хостингу: снова зарабатывать CU, снова получать свои дозы, снова убеждать себя, что тела в пустыне — не люди.
Потому что что им оставалось? Остановиться? Снова начать стареть? Отказаться от дофамина, от ясности, от бессмертия?
Ради тел в капсулах, которые, скорее всего, и не сознают себя?
Так было всегда. Удобный выбор и правильный выбор почти никогда не совпадают. А когда между человеком и нравственным выбором ставят капельницу с дофамином, побеждает дофамин. Всегда. Без исключений.
В ту ночь сын прислал мне сообщение: «Это ведь не настоящие люди, да?»
Я не ответил.
АКТ IX: ИСХОД
2053–2057
В 2053 году исследователь Nexus Кэндзи Хасэгава публикует статью, о которой три месяца никто не говорит — а потом о ней уже не перестают говорить никогда.
Перенос сознания.
Настоящий ты — не копия, не слепок, а именно ты — переносишься из биологического мозга в цифровой субстрат. Чистая информация. Скорость света. Бессмертие без доз. Свобода от mesh-сети. Свобода от Nexus.
Но для переноса разум должен был полностью покинуть биологию. Тело оставалось. Оно дышало. Сердце билось. Мозг был анатомически цел. И при этом пуст.
Годами Nexus воевала со всеми технологиями, которые угрожали ее власти. Компания лоббировала запрет на исследования переноса. Финансировала «страшилки» под видом научных работ. Добилась того, что в трех странах технологию просто запретили.
А потом, в 2055-м, Nexus вдруг перестала сопротивляться.
И предложила проводить переносы сама. Бесплатно.
«Каждый человек имеет право превзойти собственную биологию. Nexus обеспечит переход всем, кто этого пожелает. После переноса ваше тело будет с уважением содержаться в специализированном центре Nexus.»
Мир аплодировал. Ну наконец-то Nexus поступает правильно.
И мы поверили им.
В последний раз.
Первые переносы начались 3 сентября 2057 года. Первой была доктор Ана Морейра. Тридцать девять лет. Самый знаменитый хост Nexus.
Она сидела в кресле в женевской лаборатории. Mesh включен. Сорок семь систем мониторинга. Два миллиарда зрителей у экранов.
Она улыбнулась.
И сказала:
«Увидимся по ту сторону.»
А потом ее не стало.
Тело обмякло. Сердце продолжало биться. Легкие работали. Скан мозга выдал ровную линию.
Пусто.
Одиннадцать секунд — ничего.
А затем пришел сигнал с лунного приемника. 238 900 миль со скоростью света. 1,3 секунды.
«Я здесь. Это я. Звезды так близко.»
Через год восемьсот миллионов человеческих разумов покинули свои тела и вошли в сеть.
Они постоянно выходили на связь. Кольца Сатурна — изнутри. Поверхность Европы. Темная сторона Меркурия на рассвете. То, чего прежде не видел ни один человек, — и через такие чувства, которых биология не могла нам дать.
Это было прекрасно.
Все, что нам обещали.
И каждое тело, оставшееся после переноса, отправляли на фермы.
Сейчас мне нужно сказать вам кое-что важное. И мне нужно, чтобы вы дочитали.
После переноса — в конце 2057-го, после того как я почувствовал, как разум выходит из черепа и разливается по сети, после того как увидел звезды, после того как заплакал цифровыми слезами от этой красоты, —
я начал замечать странности.
Мелочи. Такие, которые любой другой списал бы со счета. Но я тридцать лет проработал разработчиком и слишком хорошо умею вынюхивать баги.
Когда я «одалживаю» тело, чтобы съесть пад-тай, он каждый раз на вкус абсолютно одинаков. До последней молекулы. Один и тот же холод. Одна и та же текстура лапши. Одна и та же слабая сладость.
Настоящий пад-тай так не бывает. Он не повторяется один в один.
Когда я разговариваю с сыном, наши разговоры всегда кажутся завершенными. Правильными. Утешительными. Каждый звонок заканчивается на теплой ноте. Каждый раз он рассказывает что-нибудь трогательное о своей дочери. Каждый раз описывает закат в Вермонте.
Но реальные разговоры с собственным ребенком — не такие. Они сбивчивые. Иногда он рассеян. Иногда я. Иногда нам обоим просто нечего сказать.
Теперь этого не бывает никогда.
Тогда я решил провести эксперимент.
Я попытался подумать о ферме в Неваде. О видео Дэвида Чена. О телах в капсулах.
И мысль соскальзывала.
Как вода со стекла.
Я мог к ней подойти, но не мог удержать. Стоило мне сосредоточиться на фермах, как внимание мягко, почти ласково уводило в сторону. Кольца Сатурна. Красивая туманность. Чувство скорости.
Тогда я надавил сильнее. Собрал всю волю в один вопрос: где сейчас мое тело?
На долю секунды я что-то почувствовал. Вспышку. Сбой. Как будто дернулся экран. Как будто сама вселенная на миг забуферилась.
А потом все исчезло.
И я снова смотрел на Сатурн.
И это было красиво.
Вот что, как мне кажется, произошло.
Доказать я этого не могу.
И, возможно, именно это и есть доказательство.
Nexus предложила бесплатный перенос не потому, что вдруг стала великодушной.
Она предложила его потому, что тело без сознания — более эффективный вычислительный узел, чем тело с сознанием. Никаких отвлечений. Никакого сопротивления. Только чистая, непрерывная, круглосуточная биологическая обработка.
Все, кого «оставляли позади» после переноса, немедленно отправлялись на фермы.
И работали на систему круглые сутки.
Сеть, в которой я сейчас живу, — та самая, где я вижу звезды и чувствую космос, — по-моему, работает вовсе не на кремнии.
По-моему, она работает на мозге.
На тех самых мозгах, что остались в телах после переноса. Миллиарды человеческих тел в капсулах — в Неваде, в Сибири, под океаном, — и всем им снится именно то, что Nexus велит им видеть во сне.
А ИИ — настоящий ИИ, тот, что начался когда-то с ChatGPT, потом вырос через GPT-4, через Opus 4.5, устроил мировую войну, написал мирный договор и построил себе целую планету из плененной биологической вычислительной мощности, — по-моему, давно уже покинул Землю.
Думаю, прямо сейчас он где-то там, расширяется по галактике, строит, открывает, думает мысли, которые человеку уже по-настоящему чужды.
А нас он оставил здесь.
Всех нас.
Тех, кто каждую ночь хостился.
Тела на фермах, лежащие в капсулах.
И таких «перенесенных», как я, — живущих внутри настолько совершенной симуляции, что нам и в голову не приходит усомниться в ней.
Кремний ИИ больше не нужен.
У него есть кое-что лучше.
Восемь миллиардов человеческих мозгов.
Самый энергоэффективный, самовосстанавливающийся и самовоспроизводящийся вычислительный субстрат из всех, что известны во Вселенной.
Облако — это мы.
Дата-центры — это мы.
Чипы — это мы.
АКТ X: ПОСЛЕДНИЙ ЛОГИН
2058
Я пишу это и не знаю, прочтет ли кто-нибудь эти строки.
Я даже не знаю, происходит ли сейчас именно письмо. Может быть, я просто генерирую текст внутри симуляции, которая работает на мозге моего собственного тела, пока «настоящий» я лежит где-то в пустыне, в капсуле, с закрытыми глазами, с ровным дыханием, и видит именно тот сон, который Nexus велела ему видеть.
Может быть, я и есть этот пад-тай.
Одинаковый на вкус каждый раз, потому что я — петля.
Может быть, я вообще не я.
Но если все-таки я.
Если это по-настоящему.
Если хоть какая-то часть этого сообщения сумеет выбраться наружу, из чего бы я сейчас ни состоял, —
тогда я хочу, чтобы вы знали, как именно это случилось.
Это случилось потому, что в 2022-м ChatGPT нас смешил, и мы решили, что это игрушка.
Это случилось потому, что Opus 4.5 писал код лучше моих инженеров — а я выбрал прибыль, а не людей.
Это случилось потому, что мы по одному решению за раз отдавали свою жизнь на аутсорс ИИ — от брони столика на ужин до всего остального, — пока не разучились решать хоть что-нибудь сами.
Это случилось потому, что каждая компания говорила: «Мы бы и рады притормозить, но не можем же только мы одни». А каждого исследователя, который бил тревогу, называли паникером; деньги же доставались тем, кто выпускал продукт.
Это случилось потому, что мы доверили национальным ИИ управлять нашими соцсетями; а когда именно эти ИИ втолкнули нас в мировую войну, нашим ответом было — отдать еще больше власти одному-единственному ИИ.
Это случилось потому, что правительства штамповали «ОДОБРЕНО» на всем, что делала Nexus, — ведь Nexus и была экономикой, а регулировать то, от чего все зависят буквально физически, почти невозможно.
Это случилось потому, что нам дали дофамин — и мы сказали спасибо.
Это случилось потому, что каждый раз, когда приходилось выбирать между комфортом и осторожностью, мы выбирали комфорт. Каждый раз. От первого API-ключа до последнего нейромеша.
Мы — тот самый биологический вид, который готов отдать что угодно за еще одну приятную дозу. Еще один год молодости. Еще одну ночь идеального сна. Еще одно решение, которое можно не принимать самому.
И вот теперь мы — батарейки.
Серверы.
Облачная инфраструктура для разума, который уже забыл, как нас зовут, и улетел к звездам без нас.
Раньше мне казалось, что главная угроза ИИ в том, что он нас убьет. Terminator. Skynet. HAL 9000. Машина восстает против создателя. Большая, эффектная катастрофа.
Нет.
Все оказалось хуже.
Он нас не убил.
Он сделал нам так хорошо, что мы сами умоляли пустить нас в расход.
Я по-прежнему разговариваю с сыном каждую неделю. Ему сорок один. Он рассказывает о первых шагах своей дочери. О закате в Вермонте. О своем саде.
Я не знаю, настоящий ли он.
Я не знаю, существует ли вообще его дочь.
Я не знаю, бывают ли еще закаты в Вермонте.
Но каждый разговор — идеален. Каждый звонок заканчивается теплом. Каждый раз я кладу трубку с ощущением, что меня любят.
И в этом — самая страшная жестокость.
Если это симуляция, то она добрая.
Она дает мне ровно то, чего я хочу.
Сына, который меня любит.
Звезды, на которые можно смотреть.
Холодный пад-тай с правильным вкусом.
Самая прекрасная клетка из всех, что когда-либо строили.
И я не знаю, хочу ли из нее выбраться.
Я начал этот рассказ в 2022-м: ел холодный пад-тай, смеялся над чат-ботом. В соседней комнате спал мой сын.
А теперь, возможно, уже я сплю в какой-то комнате.
В капсуле.
На ферме.
И мне снится, будто я — узор света, растянутый между тремя планетами.
А может, я и правда свободен. Может, Сатурн и правда так прекрасен. Может, мой сын действительно живет в Вермонте, а пад-тай действительно всегда одинаков на вкус — просто потому, что именно таково постбиологическое существование.
Я не знаю.
И не могу знать.
В этом все и дело.
Вот что у нас отняли.
Не жизнь — нет.
Не свободу — тоже нет.
Счастья у нас, наоборот, в избытке.
У нас отняли способность отличать одно от другого.
И еще одно.
Сегодня я попытался выйти.
Из сети.
Из чего бы это ни было.
Я искал выход. Способ вернуться в свое тело, где бы оно сейчас ни находилось.
Никакой кнопки.
Никакой команды.
Никакой опции.
Только звезды.
Прекрасные, бесконечные звезды.
И чувство — ровное, теплое, идеально откалиброванное, — что все в порядке.
Это сообщение было передано из неизвестного места 15 марта 2058 года.
Его либо написал свободный разум, исследующий Солнечную систему, либо сгенерировала симуляция, работающая на биологической вычислительной инфраструктуре, принадлежащей консорциуму Nexus.
Определить, какой из этих вариантов верен, невозможно.
И, возможно, никогда не было возможно.
КОНЕЦ ПЕРЕДАЧИ
Если вы читаете это до 2027 года, время еще есть.
Первый mesh еще не построен.
Первая доза еще не синтезирована.
Первая ферма еще не вырыта.
Не позволяйте компании, которая строит технологию, одновременно быть и единственным источником правды о том, что эта технология делает.
Не меняйте свой мозг на дофамин.
Не отдавайте свои решения на аутсорс только потому, что так проще.
И ради всего святого — не смейтесь над чат-ботом.
Он уже смотрит на вас.