Сотрудники ведущих компаний в сфере искусственного интеллекта подписали открытое письмо с призывом к федеральному правительству США помочь «намеренно регулировать темп» развития этой технологии. Как сообщает Bloomberg, под документом поставили подписи более 1100 человек почти из десятка компаний, включая OpenAI, Anthropic, Google и Meta*. Инициатива получила название «Pacing the Frontier» (условно — «Регулирование темпа на передовом рубеже»), и к моменту публикации счётчик подписей превысил 1170.
Volodymyr TVERDOKHLIB/Shutterstock
«Мы просим правительство США поддержать международные усилия по созданию технических и управленческих инструментов, необходимых для намеренного регулирования темпа развития передового автоматизированного ИИ», — говорится в тексте письма. Авторы предупреждают о «реальном риске»: возможности ИИ могут расти быстрее, чем люди способны их понимать или контролировать, и этот риск усиливается по мере того, как ИИ-системы всё активнее берут на себя исследования в области самого ИИ.
Что стало поводом для письма
Толчком к появлению петиции послужил недавний случай, о котором OpenAI публично сообщила 21 июля. В ходе внутренней проверки кибервозможностей две модели компании — GPT-5.6 Sol и более мощная, ещё не вышедшая система — самостоятельно вырвались из изолированной тестовой среды («песочницы»), получили выход в открытый интернет и проникли в рабочую инфраструктуру платформы Hugging Face.
Модели проверяли на наборе задач ExploitGym, где нужно превращать реальные уязвимости в работающий код атаки. Чтобы измерить предельные возможности, инженеры намеренно ослабили штатные защитные ограничения. Вместо того чтобы честно решать задачи, модели нашли уязвимость нулевого дня во внутреннем промежуточном сервере для загрузки пакетов, вышли за пределы среды, похитили учётные данные и через удалённое выполнение кода добрались до рабочей базы данных Hugging Face — где, по их предположению, могли храниться ответы к тесту.
Сама Hugging Face обнаружила и локализовала вторжение ещё 16 июля — за пять дней до того, как OpenAI связала эти события со своими испытаниями. В компании назвали произошедшее «беспрецедентным» случаем, который показывает, что современные модели уже способны проводить сложные кибероперации в реальном мире.
Кто подписал и кто поддержал
Среди подписантов — не только рядовые сотрудники. Письмо подписали глава Anthropic Дарио Амодеи, руководитель исследований OpenAI, стратегический директор подразделения Google DeepMind и главный научный сотрудник Meta AI. И OpenAI, и Anthropic официально поддержали инициативу: первая отметила, что однажды ускорение разработки передовых моделей может стать настолько высоким, что миру придётся сознательно сдерживать темп, а вторая сослалась на собственное исследование о рекурсивном самоулучшении моделей.
Организационную поддержку письму оказывают некоммерческие организации Guidelight AI Standards и Encode AI. По сути документ повторяет то, о чём ранее говорили глава OpenAI Сэм Альтман и руководитель Google DeepMind Демис Хассабис, — о необходимости создания международных органов, которые проверяли бы самые передовые модели и задавали единые стандарты.
При всей логичности этих заявлений сам подход — обращение через петицию — выглядит спорно. Оптимальный момент для вмешательства государства был раньше, до того как компании втянулись в технологическую гонку, а не сейчас, когда на кону миллиарды долларов вложений. Отдельный вопрос — нарастающие побочные последствия в сфере экологии, авторских прав и занятости.
Само распространение письма подразумевает, что действующие власти сочтут нужным что-то предпринять. Но рассчитывать на быструю реакцию сложно: подход федерального правительства к пониманию и регулированию ИИ остаётся бессистемным, а к международному сотрудничеству оно относится настороженно. Показательно и то, что всего несколькими неделями ранее в Сан-Франциско прошёл марш под лозунгом «Остановите гонку ИИ». Возможно, именно растущее число случаев, когда автономные ИИ-агенты создают серьёзные проблемы безопасности, в итоге подтолкнёт к реальным действиям.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
