Anthropic предупреждает: темпы развития ИИ ведут к появлению систем, способных создавать собственных преемников, — раньше, чем к этому будут готовы государства и общественные институты.
В качестве решения предлагается глобальное замедление или временная пауза в разработках, чтобы исследования безопасности и социальные структуры успели догнать технологию.
Критики называют предупреждения маркетинговым ходом и приводят в пример ограниченный выпуск модели Mythos как способ подогреть ажиотаж.
Сама компания признаёт: пауза потребует международных договорённостей и механизмов проверки — по аналогии с соглашениями по ядерному оружию.
Anthropic заявляет, что искусственный интеллект развивается настолько стремительно, что текущие тенденции указывают на скорое появление систем, способных создавать собственных преемников. Пока это не реальность, но, по оценке компании, «это может произойти раньше, чем большинство институтов будут готовы». В корпоративном блоге объясняется, что ИИ, способный к саморазвитию, может «принести огромную пользу миру» — прежде всего в науке и здравоохранении. Но одновременно это «увеличивает риски потери контроля человека над системами ИИ». Ответ, который предлагает компания, звучит непривычно для лидера рынка: глобальное замедление или временная пауза, «чтобы дать социальным структурам и исследованиям по согласованию целей ИИ возможность не отставать от прогресса технологий».
Источник изображения — engadget.com
Три сценария, один из которых пугает исследователей
Документ построен вокруг нескольких вариантов дальнейшего развития событий. Ключевых для понимания дискуссии — два:
- прирост возможностей моделей продолжится, но упрётся в «узкие места» в смежных областях разработки программного обеспечения — от инфраструктуры до тестирования;
- ИИ выходит на полноценное рекурсивное самосовершенствование и начинает самостоятельно создавать себе преемников — именно этот вариант вызывает у авторов наибольшее беспокойство.
Авторы не утверждают, что второй вариант неизбежен. Их тезис мягче и от этого неудобнее: сама возможность такого поворота требует подготовки заранее, а не постфактум. Дополнительный аргумент — практика самой компании: Anthropic всё больше передаёт разработку ИИ непосредственно ИИ-системам, что заметно ускоряет работу и одновременно сокращает окно, в котором человек успевает всё проверить.
Почему об этом заговорили именно сейчас
Anthropic — один из лидеров гонки ИИ, и, в отличие от конкурентов, которые пока не вышли на прибыль, компания подошла к первому прибыльному операционному кварталу. Годовая выручка в пересчёте на текущие темпы превысила 47 млрд долларов — против примерно 9 млрд на конец 2025 года. 1 июня 2026 года компания конфиденциально подала в SEC черновик формы S-1, то есть формально запустила процедуру выхода на биржу; ориентир участников рынка — листинг ближе к осени. Незадолго до этого закрылся раунд Series H на 65 млрд долларов при оценке около 965 млрд долларов.
На этом фоне в деловой прессе, включая The Wall Street Journal, зазвучала встречная версия: предупреждения компании о собственной технологии — маркетинговый ход. Логика критиков проста: так удобно выглядеть наименее сомнительной среди всех разработчиков ИИ и заодно намекнуть, что раз технология настолько опасна, значит, она и самая сильная на рынке.
Критики указывают на ограниченный выпуск кибербезопасной модели Mythos как на показательный пример. Anthropic заявила, что предоставляет Mythos лишь избранной группе партнёров из-за потенциального ущерба, который может нанести её способность быстро находить уязвимости, окажись она не в тех руках. Но многие сочли это уловкой для создания ажиотажа вокруг продукта — или попыткой замаскировать тот факт, что компания намерена продавать его только крупным заказчикам.
Контекст у этого спора действительно нетривиальный. Модель раздавалась ограниченному кругу компаний и государственных структур в рамках программы Project Glasswing, а её умение находить уязвимости, пролежавшие незамеченными десятилетиями, вызвало нервную реакцию и в Вашингтоне, и на Уолл-стрит. Позже компания объявила о планах открыть модели Mythos-класса для всех клиентов по мере готовности новых защитных механизмов.
Anthropic Institute: кто готовит «кнопку паузы»
Предложение опирается на выводы Anthropic Institute — исследовательского подразделения, созданного в марте 2026 года. При запуске заявлялось, что задача института — «рассказывать миру» о том, что он узнаёт про вызовы, возникающие по мере разработки всё более совершенных систем ИИ. Вместе с партнёрами институт будет изучать, что нужно для «создания систем, которые потребуются для реального замедления или паузы».
Ключевая деталь: пауза без проверки бессмысленна. Если лаборатории договорятся замедлиться, кто-то может продолжить разработку втайне и вырваться вперёд. «Значимое замедление или пауза потребует, чтобы несколько хорошо обеспеченных ресурсами лабораторий, находящихся на переднем крае или рядом с ним, в нескольких странах, согласились остановиться на одинаковых условиях», — говорится в документе. — «Также потребуется, чтобы каждая из них могла проверить, что другие действительно остановились».
Здесь же скрыта и главная техническая сложность. Запуск обучения большой модели спрятать несравнимо проще, чем ракетную программу: нет пусковых шахт, нет спутниковых снимков, нет характерной инфраструктуры, которую видно со стороны. Поэтому компания предлагает создавать международный механизм координации и верификации — иначе любое соглашение останется декларацией.
Ядерная аналогия и её слабое место
Предложение работает только при одном условии: разработчики ИИ по всему миру должны собраться и одновременно взять паузу. Anthropic считает это выполнимым и ссылается на договоры об ограничении ядерного оружия — но тут же признаёт, что такие соглашения вырабатывались десятилетиями. Времени в подобном объёме у отрасли нет: темпы развития ИИ измеряются месяцами, а не десятилетиями, а стимулы не останавливаться остаются крайне высокими — и у компаний, и у государств.
Отдельный слой проблемы — геополитический. Даже действующие ограничения по ИИ вводятся и снимаются рывками: в июне 2026 года Anthropic по указанию американских регуляторов временно закрыла доступ к моделям Fable 5 и Mythos 5, а восстановила его лишь после снятия экспортных ограничений в начале июля. Это неплохо иллюстрирует, насколько трудно будет синхронизировать сразу несколько юрисдикций по добровольной паузе.
Что дальше
В ближайшие месяцы компания планирует провести переговоры с политиками, исследователями и другими разработчиками ИИ и опубликовать результаты этих обсуждений. Практический смысл затеи в том, чтобы к моменту, когда рекурсивное самосовершенствование перестанет быть теорией, у отрасли уже существовали и договорённости, и работающие способы их проверить, — а не начинались переговоры с нуля.
Для читателя из СНГ ситуация имеет и вполне прикладное измерение: доступность передовых моделей всё сильнее зависит не от цены подписки, а от экспортных ограничений, корпоративных программ доступа и статуса заказчика. Чем громче звучит риторика о рисках, тем выше вероятность, что самые мощные модели останутся инструментом для крупных предприятий и государственных структур, а не для широкой аудитории.
