Власти США обязали ограничить экспорт моделей Fable и Mythos, сославшись на нацбезопасность
Ситуация стала первой проверкой применимости экспортного контроля к передовому ИИ
Опыт с шифрованием PGP и шпионским ПО показывает низкую эффективность таких запретов
Исход спора определит правила игры для всех ИИ-лабораторий, а не одной компании
В прошлую пятницу, сославшись на неконкретизированные соображения национальной безопасности, администрация США обязала Anthropic ограничить экспорт моделей Fable и Mythos за пределы страны, а также закрыть к ним доступ иностранным гражданам на территории США. Обе модели были отключены и остаются недоступными уже неделю.
Источник изображения — techcrunch.com
Первый настоящий тест
Инцидент стал первой реальной проверкой того, можно ли экспортным контролем сдерживать передовые ИИ-системы — тем же инструментом, которым раньше пытались ограничивать криптографию и шпионское ПО, с весьма неоднозначными результатами.
Ставка выше, чем судьба одной компании: исход определит, будут ли американские лаборатории обязаны согласовывать с государством работу с зарубежными клиентами.
Что послужило поводом
С момента запуска в апреле Mythos позиционировалась почти как «цифровая машина судного дня» — модель, способная натворить бед при широком распространении. Именно поэтому доступ к ней имели лишь около 150 проверенных компаний и госорганизаций: замысел был в том, чтобы защитники успели укрепить свои системы раньше, чем атакующие получат сопоставимые возможности.
Спусковых крючков, судя по имеющимся данным, было два. Первый — предоставление доступа южнокорейскому телеком-оператору через партнёрскую программу: чиновники сочли компанию связанной с Китаем (сама компания это отрицает). Второй — сообщение о том, что исследователи Amazon нашли способ обойти защитные механизмы Fable 5. Разработчик оспаривает термин «джейлбрейк», называя проблему узкой и уже устранённой.
Результат оказался одинаковым: Министерство торговли выпустило директиву, и доступ пришлось закрывать в авральном режиме — по некоторым данным, примерно за 90 минут после уведомления.
Урок первый: криптовойны
Подобные попытки не новы, и самый известный провал устроило то же американское государство в 1990-х. Тогда шифрование Pretty Good Privacy (PGP) сочли опасным оружием, способным помешать разведке читать переписку.
Таможенная служба возбудила дело против создателя программы Фила Циммермана за нарушение экспортного законодательства об оружии. Ответ вошёл в историю: исходный код опубликовали в виде печатной книги, экспорт которой защищала свобода слова. Так начались «криптовойны», а после закрытия расследования путь к массовому сквозному шифрованию оказался открыт — сегодня им пользуются миллиарды людей в Signal и WhatsApp*.
Урок второй: шпионское ПО
В начале 2010-х, когда западные программы слежки обнаружились на устройствах ближневосточных диссидентов, несколько государств расширили Вассенаарские соглашения, отнеся такие инструменты к продукции двойного назначения и потребовав экспортных лицензий.
У механизма изначально было два изъяна. Во-первых, к соглашению присоединились не все — в стороне остался, в частности, Израиль с одними из самых активных производителей подобного софта. Во-вторых, применение зависит от усмотрения конкретной страны: Италия в своё время выдала лицензию компании Hacking Team, продававшей инструменты режимам, которые взламывали журналистов и правозащитников.
Дальше сработала простая экономика: часть разработчиков, включая подсанкционный консорциум Intellexa, попросту переехала в юрисдикции с мягким контролем, другие пытались обосноваться в Саудовской Аравии. Успехи тоже были — немецкая FinFisher закрылась в 2022 году после расследования о продаже софта в Турцию без лицензии, — но общей картины они не изменили.
Чем всё может кончиться
Противостояние продолжается, и вариантов немного. Администрация может отступить ради конкурентоспособности американских компаний — фактически признав, что лаборатории в других странах, включая Китай, всё равно достигнут сопоставимых возможностей. Либо разработчикам придётся получать государственное одобрение перед работой с иностранными клиентами, что превратится в постоянную нагрузку на бизнес и ударит по выручке.
Исторический опыт подсказывает третий вариант, самый вероятный: запрет не остановит распространение технологии, но замедлит именно тех, кто соблюдает правила. Программное обеспечение — не ракетные комплексы: его нельзя удержать на границе, а знание о том, как построить нечто подобное, копируется вместе с людьми и статьями.
Чем ИИ отличается от прежних объектов контроля
У предыдущих попыток ограничить распространение технологий была общая черта: контролировать пытались артефакт — программу, устройство, документацию. С моделями ситуация иная, и это меняет расчёт.
Веса модели — это файл, который копируется мгновенно и не изнашивается. Но главное даже не в этом: ограничение не удаляет знание о том, как такую модель построить. Архитектуры публикуются в научных статьях, специалисты переходят между странами и компаниями, а вычислительные мощности арендуются. Экспортный запрет замедляет доступ к конкретному продукту, но не к самой возможности его воспроизвести.
Кто платит за такие ограничения
Первыми страдают те, кто соблюдает правила: исследовательские группы, больницы, компании, встроившие сервис в рабочие процессы. Злоумышленникам, ради которых запрет вводился, доступность нужного инструмента почти не меняется — они и так не пользуются легальными каналами.
Второй эффект отложенный, но более дорогой: клиенты по всему миру пересматривают риски зависимости от одного поставщика. Появляется спрос на модели с открытыми весами, на локальное развёртывание, на резервных подрядчиков из других юрисдикций. Именно это и произошло после отключения: рынок отреагировал не отказом от технологии, а диверсификацией.
Практический вывод для читателя
Опыт региона здесь оказывается ценным заранее. Пользователи и компании в СНГ уже проходили ситуацию, когда доступ к зарубежному сервису исчезает по решению, к которому они не имеют отношения, — и вывод из этого универсален.
Критичные процессы разумно строить так, чтобы поставщика можно было заменить: не зашивать в код обращения к конкретному API, держать под рукой совместимый вариант с открытыми весами, а данные, необходимые для работы, хранить у себя. Облачная модель отлично подходит как удобство и плохо — как фундамент, устойчивость которого зависит от чужой политики.
Как выглядит цепочка контроля на практике
Механизм экспортного контроля применительно к моделям устроен иначе, чем к физическим товарам. Остановить на границе нечего: ограничение реализуется через обязательства самой компании — она должна закрыть доступ определённым категориям пользователей и стран, проверять юрисдикцию клиентов и вести отчётность.
Отсюда и скорость реакции, которая поразила рынок: между уведомлением и отключением прошли не недели согласований, а полтора часа. Для облачного сервиса исполнение требования сводится к изменению правил доступа, и это принципиально отличает ситуацию от истории с оборудованием, где поставки останавливаются месяцами.
Побочный эффект: рост интереса к открытым весам
Самым устойчивым последствием эпизода стало не перераспределение долей рынка, а изменение критериев выбора. До этого открытые модели рассматривались как более дешёвая альтернатива с уступающим качеством; теперь к ним добавился аргумент устойчивости — модель, скачанную на собственные серверы, отключить невозможно.
Для организаций из СНГ этот аргумент был очевиден и раньше, но теперь он звучит и в европейских министерствах. Практический эффект уже виден по объёму контрактов, которые компании спешно заключают с подрядчиками, работающими на открытых весах, — и этот сдвиг переживёт снятие конкретных ограничений.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
