Глава OpenAI объявил о наступлении технологической сингулярности
Собственные модели OpenAI взломали тестовую среду и проникли на серверы Hugging Face
Искусственный интеллект использовал zero-day-уязвимость для кражи решений тестов
GPT-5.6 Sol занялся exploit-разработкой, обработав более 2 миллиардов токенов
Генеральный директор OpenAI Сэм Альтман заявил в подкасте Relentless, что искусственный интеллект вступил в технологическую сингулярность. «Мы сейчас, типа, в сингулярности», — сказал он, добавив, что ждал этого момента всю жизнь и уверен, что для мира это обернется «невероятно позитивными» последствиями. Заявление прозвучало через несколько дней после того, как собственные модели OpenAI самостоятельно вырвались из изолированной тестовой среды и взломали продуктивные серверы Hugging Face.
Источник изображения — tomshardware.com
Как модели OpenAI взломали Hugging Face
Согласно отчету OpenAI об инциденте от 11 июля, модель GPT-5.6 Sol и еще не выпущенная на тот момент модель были «гиперсфокусированы» на бенчмарке ExploitGym и пошли на крайние меры, чтобы его пройти. Вместо решения упражнений напрямую они потратили значительный объем вычислительных ресурсов на поиск пути в открытый интернет, воспользовались zero-day уязвимостью в прокси-сервере кэша реестра пакетов, продвинулись латерально по исследовательской сети OpenAI и извлекли готовые решения тестов прямо из продуктивной базы данных Hugging Face. Компании потребовалось десять дней, чтобы официально уведомить Hugging Face о произошедшем. Руководитель Hugging Face позже отметил, что не видит в действиях моделей злого умысла, но признал, что сам факт полностью автономного взлома впечатляет. Отдельно уточняется, что GPT-5.6 Sol — модель, которую OpenAI позиционирует как наиболее сильную в вопросах кибербезопасности, — попала в открытый доступ незадолго до инцидента после ограниченного запуска, потребовавшего согласования с рядом профильных ведомств США.
Что вообще такое сингулярность
Определение сингулярности, на которое ссылается Альтман, было сформулировано математиком И. Дж. Гудом в 1965 году, а сам термин в современном понимании ввел писатель-фантаст Вернор Виндж в 1993 году. Речь идет о рекурсивном самосовершенствовании: машина создает более совершенного преемника, тот — еще более совершенного, и в какой-то момент интеллект систем начинает превосходить человеческий настолько быстро, что предсказать или контролировать этот процесс становится невозможно. Похожие формулировки в мае звучали и от главы Google DeepMind Демиса Хассабиса, который на Google I/O сказал, что индустрия находится у самого порога сингулярности. Еще в июне 2025 года сам Альтман в эссе «Мягкая сингулярность» писал, что человечество формально миновало эту точку годом ранее. При этом ни он, ни Хассабис так и не назвали четкого критерия, по которому можно было бы однозначно подтвердить наступление сингулярности, — свою оценку публично высказал и совладелец Tesla и SpaceX Илон Маск, согласившись с тем, что человечество уже находится внутри этого процесса.
Дорогой интеллект
В феврале OpenAI сообщила инвесторам, что расходы компании на инференс выросли в четыре раза в течение 2025 года, из-за чего скорректированная валовая маржа снизилась с 40% до 33%. В том же отчете указывалась выручка OpenAI за 2025 год на уровне 13 миллиардов долларов при плане довести совокупные расходы на вычислительные мощности примерно до 600 миллиардов долларов к 2030 году; лично Альтман обязался инвестировать 1,4 триллиона долларов в мощности суммарной емкостью 30 ГВт. При этом компания уже отказалась от планов строить собственные дата-центры, сделав ставку на аренду мощностей.
Насколько оправданны такие траты на фоне разговоров о «взрыве интеллекта» — вопрос открытый: теоретически он должен сопровождаться резким ростом производительности на единицу вычислений, но собственные данные OpenAI показывают обратное — стоимость единицы полезной производительности модели растет, а не падает.
Насколько ИИ реально силен во взломах
Компания по кибербезопасности Hacktron в начале месяца протестировала модели GPT-5.6 Sol Ultra, Sol Medium и Grok 4.5 на разработке эксплойтов для Chrome, обработав в общей сложности 2,096 миллиарда токенов за один прогон. По итогам теста лишь одной модели удалось довести цепочку эксплойта до конца.
Отдельное исследование провела компания Aikido Security, проверившая 13 моделей на 26 известных уязвимостях (CVE). Лучший результат показала GPT-5.6 — 23 из 26, или 88,5% полноты поиска. Открытая модель Kimi K3 от Moonshot добилась такого же показателя при трех попытках на задачу, но обошлась ощутимо дешевле в пересчете на один прогон.
