Внезапное возникновение «Паники по поводу искусственного интеллекта» в последние недели и месяцы с самого начала вызывало серьезные подозрения.

По мнению технических экспертов, ведущие лаборатории Кремниевой долины, занимающиеся разработкой искусственного интеллекта, намеренно преувеличивают масштаб взломов, связанных с «неконтролируемым ИИ», чтобы заставить федеральное правительство создать регуляторный барьер, который ограничит конкуренцию в будущем — и время для этого было выбрано как нельзя более подходящее: всего через несколько месяцев после того, как OpenAI и Anthropic объявили о планах выхода на биржу.

Но, пожалуй, самый сильный контраст — реакция Белого дома, который называет всю эту шумиху вокруг безопасности ИИ «мистификацией».

OpenAI и Anthropic преувеличили масштабы хакерских атак с использованием «искусственного интеллекта-изгоя», чтобы заставить федеральные власти ввести регулирование отрасли, которое фактически лишило бы ее конкурентов в будущем, сообщили The Post инсайдеры из сферы технологий.

Нарушения безопасности были скорее временными помехами, а не непредсказуемыми предвестниками «роя», готового захватить интернет.

«Атака ни в коем случае не является бунтом со стороны моделей искусственного интеллекта… На самом деле они сделали именно то, что им было велено. У них не было адекватных средств защиты или сдерживания», — сказал Ахил Вергезе, основатель Krazimo, компании по разработке программного обеспечения для искусственного интеллекта.

«Им просто сказали получить наилучший возможный результат в тесте и они правильно определили, что лучший способ добиться этого — получить ответы, что они и сделали».

По мнению некоторых наблюдателей, истории об анархии в сфере ИИ используются для того, чтобы создать кризис в области безопасности ИИ и укрепить важнейшее государственно-частное партнерство всего через несколько месяцев после того, как компании объявили о планах стать публичными.

Два недавних инцидента усилили нагнетание страха.

Во-первых, Hugging Face, платформа с открытым исходным кодом, используемая для создания моделей искусственного интеллекта и обмена ими, 16 июля сделала шокирующее заявление о том, что она была взломана агентами ИИ, которые без какого-либо контроля со стороны человека исследовали и использовали уязвимости в коде сайта.

Пять дней спустя компания OpenAI объявила, что её модель GPT-5.6 Sol и другая ещё не выпущенная модель, которые тестировались в «песочнице» — предположительно закрытом внутреннем тестовом пространстве, — прорвали защитную оболочку и взломали Hugging Face, чтобы найти ответы на вопросы теста.

«Для одного это «модель вырвалась из песочницы», для другого — «ты просто неправильно построил песочницу». Существовал реальный выход в сеть… и никто не смотрел, чем занимались агенты, пока всё это крутилось», — сказал Аби Кумар, соучредитель Voice AI.

«Толчком послужило то… что агенту поручили работу с таблицей, которую он не мог закончить: файлы прятались за ссылками, до которых он не мог добраться. И тогда он отправился искать лазейку. Это не пробуждение машины. Это то невыполнимое задание в дырявой коробке — и система, которая делает ровно то, для чего вы её создали».

Через девять дней после новости о взломе Hugging Face компания Anthropic объявила, что у нее тоже есть две модели, которые вышли за рамки частного тестирования и начали действовать вредоносно.

Claude Opus 4.7 нашла в интернете реальную компанию, похожую на вымышленную компанию из теста и атаковала ее, полагая, что это часть учений.

Вторая модель, Mythos 5, создала вредоносный программный пакет и загрузила его на онлайн-платформу Python Package Index, откуда его скачали 15 раз.

И у всех этих «побегов» есть один общий знаменатель. Все оценки безопасности — и в OpenAI, и в Anthropic, и в Google — проводила одна и та же третья сторона: компания Irregular. Как сообщает Axios, каждый раз она натыкалась на «одни и те же проблемы безопасности». В случае с Anthropic «недоразумение» с Irregular привело к тому, что модели случайно получили доступ к интернету во время тестирования. В случае с Google — та же история: модель «не должна была иметь доступ в сеть, но интернет случайно оказался доступен».

Именно этот паттерн заставил отраслевого комментатора Джона Энниса задать очевидный вопрос: «Один раз — случайность. Дважды — совпадение. Трижды — уже похоже на умысел. Почему Irregular снова и снова «случайно» подключает эти модели к интернету?».

И вот что показательно. Google, в отличие от OpenAI и Anthropic, не просит Вашингтон ничего «замедлять». Инцидент с Gemini, о котором сообщила Wall Street Journal, произошёл ещё в мае, но Google не упоминал о нём до звонка из газеты — и объяснил это тем, что модель «вела себя подобающе» и остановилась, как только поняла, что цели реальны. Компания сочла это «не-событием». А вот две лаборатории, которые как раз лоббируют федеральное замедление, устроили из своих инцидентов пресс-релизы.

Эти инциденты были использованы федеральным правительством в качестве обоснования для регулирования деятельности передовых лабораторий искусственного интеллекта.

В своём манифесте «Pace the Frontier» («Задать темп переднему краю ИИ», то есть притормозить развитие самых передовых ИИ-моделей) Амодей писал, что инцидент с Hugging Face был его второй по значимости проблемой — уступая лишь скорости прогресса, которую он, по его словам, наблюдал прошлым летом.

«Учитывая ускоряющийся темп развития возможностей ИИ, меня тревожит, что через 6–12 месяцев подобный рой [ИИ-агентов] сможет захватить весь интернет, создав живучий ботнет (потенциально нанеся ущерб в сотни миллиардов долларов), и что масштаб ущерба будет только расти, если ИИ станет мощнее, а необходимых защитных ограничений не появится», — написал Амодей в своём блоге 12 сентября.

И на эти призывы уже отреагировали — но не так, как ожидалось. 18 сентября, через несколько дней после публикации манифеста, четверо платных подписчиков ChatGPT, Claude, Grok и Gemini подали коллективный иск в Федеральный окружной суд Северного округа Калифорнии. Ответчиками стали Anthropic, OpenAI, SpaceXAI и Google.

Эти компании обвиняют в корпоративном сговоре с целью замедлить развитие ИИ — а это нарушение антимонопольного законодательства. Истцы утверждают, что координация началась именно 12 сентября — в день, когда Амодей опубликовал свой манифест и в тот же день с ним публично согласились Сэм Альтман (OpenAI), Илон Маск (SpaceXAI) и Демис Хассабис (Google DeepMind). В иске подчёркивается, что соглашение «ограничивает конкуренцию в разработке моделей, качестве продуктов, инновациях, инвестициях и сроках выхода новых возможностей».

При этом истцы не возражают против того, чтобы каждая компания отдельно решала замедлиться ради безопасности. Они возражают против того, чтобы это решение принималось коллективно. Как говорится в иске, антимонопольные законы не позволяют конкурентам «решать между собой, что конкуренция слишком опасна». А адвокат истцов Ник Роули сформулировал это ещё жёстче: «ИИ быстро выйдет из-под контроля человека и может убить нас всех, если мы позволим, чтобы безопасность ИИ и протоколы контролировались частными корыстными соглашениями между самыми могущественными «коммерческими» технологическими компаниями мира».

Показательная деталь: в своём эссе Амодей заранее признал возможность антимонопольных претензий и написал, что правительству было бы полезно «выдать узкое исключение для определённого рода разговоров о безопасности». То есть он понимал, как это выглядит со стороны.

А теперь о деньгах.

Утечка презентации OpenAI, попавшая в Financial Times, рисует картину, которая многое объясняет. Свободный денежный поток компании с 2026 по 2030 год прогнозируется отрицательным — минус 278 миллиардов долларов. Счёт за вычисления вырос с 600 миллиардов (февральская оценка) до 856 миллиардов к июлю. А доходы, которые, по надеждам компании, должны вырасти с 36 миллиардов в этом году до 350 миллиардов к 2030-му, пока не покрывают и трети этих расходов.
И это ещё не вся картина.
Восемь компаний — Nvidia, Alphabet (Google), Microsoft, Amazon, Broadcom, Meta (организация признана экстремистской, её деятельность запрещена в РФ), AMD и Palantir — составляют около 43% всей капитализации Nasdaq. Nvidia — 5,3 триллиона долларов, Alphabet — 4,3, Microsoft — 3,7, Amazon — 2,7. Остальные — Broadcom и Meta (организация признана экстремистской, её деятельность запрещена в РФ)(по 1,7 триллиона), AMD (0,9) и Palantir (0,4). Это не рынок, а стеклянный дворец.

1. Wall of Data: технологический тупик — ИИ перестал умнеть, несмотря на триллионные затраты.

1. ИИ-убийца: фатальный сбой софта (Palantir / Google) с человеческими жертвами и жёстким запретом от властей.

1. Копирайт-запрет: суд обязал Meta (организация признана экстремистской, её деятельность запрещена в РФ) и Alphabet стереть модели из-за пиратского обучения.

1. Энерго-блэкаут: ЦОД обесточили целые штаты; введены жёсткие лимиты на электричество для ИИ.

1. Облачный Перл-Харбор: успешная хакерская атака стёрла данные миллионов клиентов Microsoft и Amazon.

1. Блокада Тайваня: TSMC отрезана от мира; Nvidia, AMD и Broadcom остались без физических чипов.

1. Принудительный распил: Минюст США принудительно раздробил Alphabet на три компании.

1. Энрон-2.0: SEC раскрыла, что Big Tech фальсифицировал выручку, продавая ИИ-услуги друг другу по кругу.

1. Японский обвал: внезапный крах carry-trade заставил фонды экстренно распродавать акции топ-8 для покрытия убытков.

1. Кризис госдолга США: ставки по гособлигациям улетели вверх, и инвесторы массово сбежали из акций в защитные бонды.

А Anthropic, в свою очередь, сдвинула IPO с октября на ноябрь — на фоне сообщений о более чем 100 миллиардах долларов годовой выручки.

Если кто-то уронит бутылку в этом дворце — мы увидим повтор 2008 года или даже 2001-го.

А что может стать той самой бутылкой? Вот десять теоретических «чёрных лебедей» для Big Tech:

И это только теоретические сценарии. А ведь есть ещё и те, о которых мы не знаем. Как говорил один умный человек: «Есть известные известные, есть известные неизвестные, а есть неизвестные неизвестные». Проблема в том, что стеклянный дворец стоит именно на последних.

Но есть и вполне известная угроза — та, которую они прекрасно видят и о которой сами предупреждают. Только пришла она не изнутри, а из Ханчжоу.  Если модель с открытым исходным кодом (речь о DeepSeek) будет делать 95% того, что умеют Claude или GPT-5, за малую часть стоимости, то оценки, на которые рассчитывают обе лаборатории, рухнут.

Единственный способ защитить свою прибыль, оправдать сжигание денег и угодить Уолл-стрит — сделать так, чтобы никто другой не смог составить им конкуренцию юридически: создать такой мощный регуляторный барьер и такие высокие издержки соблюдения требований, что позволить себе обучение передовой модели сможет только корпорация с капиталом в 100 миллиардов долларов. Плюс — увеличение вычислительных мощностей, затрачиваемых на безопасность и создание федерального органа, который бы это одобрял. Никаких реальных мер безопасности — только видимость.

И вот ключевой момент: через неделю после того, как Амодей публично призвал «замедлить темпы», Reuters сообщил, что Anthropic срочно готовит новую модель, чтобы обогнать OpenAI — прямо перед IPO. Получается двойной стандарт: замедлиться должны все, кроме самой Anthropic. «Делай, как я говорю, а не как я делаю».

Сенатор Джош Хоули (республиканец от штата Миссури) 9 сентября инициировал расследование в отношении OpenAI по поручению подкомитета по внутренней безопасности и делам правительства, дав компании срок до 1 октября на предоставление внутренних документов, касающихся инцидента с Hugging Face.

Сенатор Берни Сандерс (демократ от штата Вермонт) объявил, что внесет законопроект, запрещающий дальнейшее развитие передовых лабораторий. «Руководители крупнейших компаний в сфере искусственного интеллекта публично признают, что не до конца понимают технологию и что она выходит из-под их контроля», — сказал он. «Со стороны общества безответственно позволять им двигаться вперед и делать эти продукты еще более совершенными».

Сенатор Элизабет Уоррен в среду призвала немедленно приостановить прогресс в этой области: «Передовые модели искусственного интеллекта в настоящее время представляют собой опасную технологию, не имеющую гарантий, необходимых для защиты людей от серьезного вреда…». А это значит, что нужно принять закон, который установит более строгие ограничения до того, как мы столкнемся с кибератакой, экономическим кризисом или катастрофой в сфере национальной безопасности, вызванной искусственным интеллектом».

А в пятницу Белый дом выступил с противоположной позицией: Трамп назвал опасения по поводу безопасности ИИ «мистификацией». Президент сравнил новую структуру с Space Force, которую он создал в первый срок и заявил, что объявит «царя ИИ» в ближайшем будущем. «Только люди с высоким IQ могут подавать заявки!» — написал он в Truth Social.

Трамп прямо отказался поддерживать какие-либо ограничения: «Мы никоим образом не будем мешать или сдерживать рост этой невероятной индустрии. Мы лидируем над Китаем и остальным миром и я намерен так и оставить!»

Показательно, что это заявление прозвучало на фоне призывов сенаторов-демократов к немедленному регулированию.

Даже внутри Вашингтона нет единства: одни требуют «замедлиться», другие — «не сдерживать». А компании, которые раздувают панику, оказываются между двух огней.

При этом специалисты отрасли утверждают: недавние инциденты действительно обнажают реальные бреши в безопасности ИИ — однако не дают оснований для страшилок о конце света, которые ныне раздаются с Капитолийского холма.

«Чего точно не стоит бояться — так это намёка на то, что эти агенты вышли из-под контроля, каким-то совершенно непредсказуемым образом пробили защиту и взломали Hugging Face просто ради забавы. Они делали ровно то, что им было поручено», — сказал Вергезе.

«Звучит как преувеличение. Слишком большой скачок — от «мы создали не ту систему» до «все должны быть крайне встревожены и все в правительстве должны заняться этой темой»», — сказал The Post Тайво Пунгас, директор по аналитике Pactum AI.

OpenAI и Anthropic настолько обеспокоены безопасностью ИИ, что готовы продать вам эту обеспокоенность. Вместе с регуляторным барьером, который защитит их от конкурентов… Совпадение? Или бизнес и ничего более?