Anthropic заявляет, что Claude пишет более 80% кода в собственной производственной базе компании
Исследователи предупреждают: рекурсивное самоулучшение моделей может привести к потере контроля
Эксперты сомневаются в объективности отчёта, называя его «приманкой» и частью маркетинга
Реальным ограничением остаются производство чипов, трансформаторы и подключение к энергосетям
Отчёт вышел через несколько дней после конфиденциальной заявки компании на IPO
Ещё несколько недель назад в Anthropic утверждали, что модель Mythos слишком мощна для публичного релиза. Теперь же компания говорит, что развитие искусственного интеллекта в целом, возможно, стоит поставить на паузу — и при этом продолжает обучать собственные модели самосовершенствованию.
4 июня в компании опубликовали отчёт под названием «Когда ИИ строит себя», где утверждается, что Claude теперь пишет более 80% кода, попадающего в производственную кодовую базу. Для сравнения: до того, как Claude Code вышел в исследовательское превью в феврале прошлого года, эта доля измерялась низкими однозначными процентами. По версии компании, запущенный цикл начинает ускорять развитие ИИ настолько, что в какой-то момент люди могут утратить контроль над создаваемыми системами.
Источник изображения — tomshardware.com
Рекурсивное самосовершенствование: что видит Anthropic
Anthropic Institute, исследовательское подразделение компании, рассматривает эту тенденцию как раннее движение к рекурсивному самосовершенствованию — сценарию, при котором модель разрабатывает и создаёт собственного преемника без значимого участия человека. В институте предупреждают, что редкие сбои в сегодняшних моделях могут «становиться всё более частыми, но менее понятными, пока мы не потеряем над ними контроль».
Компания предложила три сценария развития событий на ближайшие годы, оставив самое суровое предупреждение для случая, когда модели станут способны полностью улучшать сами себя. В таком сценарии прогресс, по её мнению, будет определяться почти исключительно доступными вычислительными мощностями, инженеры-люди будут оттеснены на роли надзора и верификации, а самосовершенствующаяся модель может занять доминирующее положение — просто потому, что её возможности превзойдут возможности создавших её людей.
Задачу удержания поведения системы в соответствии с человеческими намерениями компания назвала той частью будущего, в которой уверена меньше всего. Способная и хорошо согласованная модель может открыть новые способы обеспечения безопасности своих преемников — либо, наоборот, рассогласование будет накапливаться от поколения к поколению. Отдельно в отчёте признаётся необычный сценарий: достаточно «мудрая» модель теоретически может добровольно остановить собственное развитие.
Идея не новая: от Гуда до Хинтона
Идея сверхинтеллектуальной машины, проектирующей ещё более совершенные машины — так называемая сингулярность, — существует уже десятилетия. Ещё в 1960-х годах британский математик И. Дж. Гуд сформулировал теорию «интеллектуального взрыва»: по его мнению, такая машина станет «последним изобретением, которое когда-либо понадобится человеку» — при условии, что она останется «достаточно послушной», чтобы объяснить нам, как её контролировать.
Тем временем один из «крёстных отцов ИИ» Джеффри Хинтон оценивает вероятность того, что ИИ станет причиной вымирания человечества в ближайшие три десятилетия, в 10–20%. Международный отчёт по безопасности ИИ, подготовленный под руководством Йошуа Бенджио и опубликованный в январе 2025 года при участии более 100 экспертов из 30 стран, определяет потерю контроля как сценарий, в котором системы ИИ действуют вне чьего-либо управления без чёткого пути к его восстановлению.
Цифры отчёта — и почему им стоит доверять с осторожностью
Все цифры, лежащие в основе предупреждения, основаны на внутренних данных компании и не были независимо проверены. Среди прочего в отчёте утверждается, что во втором квартале 2026 года типичный инженер Anthropic объединяет в код в восемь раз больше строк в день, чем в 2024 году. В самых сложных и наименее определённых задачах по программированию Claude добился успеха в 76% случаев в мае 2026 года — рост на 50 процентных пунктов всего за полгода.
На внутреннем тесте, где каждой новой модели предлагается ускорить исполнение тренировочного кода, результат вырос с примерно трёхкратного ускорения у Claude Opus 4 в мае 2025 года до примерно 52-кратного у ещё не выпущенной модели Mythos Preview к апрелю 2026 года — при том что опытному исследователю на четырёхкратный прирост обычно требуется четыре-восемь часов.
Справедливости ради, в самой компании признают, что количество строк кода — плохой показатель реального результата, а восьмикратный рост, вероятно, завышает фактический выигрыш. Исследование, в котором модели превзошли следующий шаг человека в 64% случаев, опиралось всего на 129 отобранных моментов — причём выбирались они намеренно так, чтобы решение человека имело потенциал для улучшения. Иными словами, сравнение изначально нельзя назвать равным.
Стоит помнить и про природу самой метрики «доля кода, написанного ИИ». Она не различает шаблонный код, тесты и правки в одну строку — то есть ровно ту работу, которую модели делают лучше всего, — и архитектурные решения, определяющие, каким продукт будет через год. Восемьдесят процентов строк вполне могут соответствовать заметно меньшей доле реальных инженерных решений.
Источник изображения — tomshardware.com
Критика: «приманка» или реальное предупреждение
В отчёте нет разбивки, которая позволила бы понять, какая доля недавнего прироста возможностей приходится именно на цикл самосовершенствования, а не на рост вычислительных мощностей, объём данных и исследования под руководством людей.
Когнитивист Гэри Маркус назвал публикацию «приманкой и подменой», заявив, что компания на деле продемонстрировала более быстрое кодирование под руководством человека, а не систему, действительно улучшающую саму себя. Математик из Bentley University Ной Джиансиракуза в разговоре со Scientific American выразился прямо: «Я не думаю, что это подлинный призыв к замедлению».
Не только Anthropic: похожие заявления делают и другие
Подобные заявления делает не одна компания. Гендиректор Google Сундар Пичаи писал в апрельском блоге, что 75% нового кода в компании теперь создаётся ИИ и лишь одобряется инженерами — против 50% прошлой осенью.
Якуб Пакоцки из OpenAI описал агента Codex как «очень раннюю версию ИИ-исследователя», а сама OpenAI заявляет, что движется к полностью автоматизированному агенту. Китайский разработчик MiniMax в марте рекламировал свою модель M2.7 как «самоэволюционирующую», утверждая, что она самостоятельно проводит оптимизацию обвязки и берёт на себя большую часть исследований по обучению с подкреплением — правда, соответствующие тесты были внутренними и не были воспроизведены сторонними специалистами.
Независимые измерения отчасти подтверждают тенденцию к быстрому улучшению моделей, но не подтверждают неконтролируемый рост, о котором говорят лаборатории. Так, организация METR в прошлом году обнаружила, что длина задачи, которую ИИ способен выполнить с надёжностью 50%, удваивается примерно каждые семь месяцев.
В исследовательском бенчмарке RE-Bench лучшие ИИ-агенты превзошли людей-экспертов при лимите в два часа, но при восьмичасовом лимите вперёд вырвались уже люди, а за 32 часа примерно вдвое превысили результат лучшего агента. Иными словами, преимущество ИИ пока проявляется в коротких, чётко очерченных задачах, а не в длительной и открытой работе, от которой зависят настоящие исследования, — и именно это преимущество, по признанию самой Anthropic, у людей сохраняется.
Реальный барьер — не интеллект, а вычисления
Компания лишь отчасти акцентирует внимание на том, что в конечном счёте ограничивающим фактором во всей этой истории остаётся вычислительная мощность. В отчёте названы производство чипов, расширение энергосетей и пропускная способность межсоединений — факторы, способные затормозить прогресс раньше, чем это сделает сам интеллект моделей.
Эти ограничения уже вполне ощутимы:
- SK hynix и Micron полностью распродали выпуск HBM-памяти на этот год;
- сроки поставки мощных трансформаторов составляют от трёх до пяти лет;
- распределительные устройства забронированы вплоть до 2028 года;
- очереди на подключение к энергосетям растягиваются на три-семь лет.
По данным анализа Sightline Climate, от 30% до 50% крупных дата-центров, которые должны были открыться в 2026 году, будут отложены или отменены. В 2023 году дата-центры США потребляли около 4,4% национальной электроэнергии, а по прогнозу Национальной лаборатории Лоуренса Беркли этот показатель к 2028 году может вырасти до 6,7–12%. При этом четыре крупнейших гиперскейлера в этом году планируют потратить на инфраструктуру для ИИ более $650 млрд.
Является ли вычислительная мощность окончательным ограничителем для любого неконтролируемого цикла самосовершенствования — вопрос, по которому среди специалистов нет единого мнения. Исследователь Forethought Том Дэвидсон считает, что вычислительные узкие места вполне могут не «замедлить взрыв программного интеллекта до его поздних стадий». В Epoch AI, напротив, возражают: если вычисления и интеллектуальный труд являются взаимодополняющими, а не взаимозаменяемыми ресурсами, то ускорение исключительно за счёт софта прекращается сразу, как только упирается в вычислительный предел.
У этого спора есть приземлённое следствие, ощутимое далеко за пределами лабораторий. Дефицит памяти и мощностей — это уже не абстракция, а рост цен на потребительскую электронику: оперативная память и накопители дорожают именно потому, что производственные линии перенаправлены на нужды дата-центров. Для покупателей в СНГ этот эффект складывается ещё и с курсовой разницей.
Пауза — на чьих условиях
Что касается возможной паузы в разработке, Anthropic заявляет, что пойдёт на это лишь в том случае, если конкурирующие лаборатории на переднем крае или рядом с ним сделают то же самое проверяемым образом, — и что остановка одной компании ничего не изменит в общей картине лидерства.
Формулировка выглядит как минимум противоречиво и вызывает скепсис у тех, кто следит за гонкой: маловероятно, что хоть одна лаборатория, зашедшая так далеко, реально снизит темп — особенно если учесть, что собственный отчёт компании по сути демонстрирует, насколько быстро она способна заставить Claude создавать Claude. Предложение поставить ИИ на паузу в одном предложении и тут же добавить «но сначала это должны сделать все остальные» — довольно показательная конструкция.
Отчёт опубликован спустя всего несколько дней после того, как компания конфиденциально подала заявку на IPO с предполагаемой оценкой около $965 млрд — контраст, который выглядит как попытка лидера рынка пролоббировать выгодные для себя ограничения, которые он же и будет помогать формировать. В апреле Anthropic уже проводила самооценку, заявив, что модель Mythos Preview обнаружила тысячи серьёзных уязвимостей; позже это утверждение вызвало вопросы о том, насколько оно опиралось на небольшую выборку, оценённую вручную.
Разумный вывод из всей истории такой: цифры отчёта интересны, но проверить их некому, а сам жанр «мы построили нечто настолько мощное, что это опасно» давно работает как маркетинг не хуже, чем как предупреждение. Ждать стоит независимых измерений — вроде тех, что делают METR и Epoch AI, — а не корпоративных самооценок.
