Ложный разведывательный отчёт, частично сгенерированный искусственным интеллектом, едва не подтолкнул вооружённые силы США к захвату китайского судна на Ближнем Востоке. Как сообщает CNN, инцидент, по словам одного из источников, «чуть не начал войну» и наглядно показал риски внедрения ИИ в чувствительную работу Министерства обороны США.
Источник изображения — engadget.com
Оценку подготовил аналитик командования спецопераций, который обратился к ИИ-чат-боту с запросом о грузовой декларации китайского корабля. По данным CNN, чат-бот объединил «разведданные из открытых источников с секретной радиотехнической разведкой» и сделал вывод, что на борту находятся «компоненты программы создания ядерного оружия». Именно это заключение едва не привело к перехвату судна — пока военные не выяснили, что отчёт был сгенерирован ИИ.
Установить, что именно перевозило судно и каким ИИ-инструментом — коммерческим или разработанным по заказу правительства — пользовался аналитик, CNN не удалось. С учётом общего курса Пентагона на внедрение ИИ вариантов может быть несколько.
В январе министр обороны Пит Хегсет опубликовал меморандум, предписывающий ведомству стать «ИИ-ориентированным» (AI-first) и экспериментировать с моделями ведущих американских ИИ-компаний. С Anthropic этот план сработал не вполне гладко: компания отказалась разрешить военным использовать свои модели для разработки автономного оружия и на короткое время попала под запрет со стороны правительства. Тем не менее курс привёл к ряду других партнёрств.
Так, компания xAI, по сообщениям, в феврале заключила соглашение, позволяющее военным использовать чат-бот Grok, а в мае NVIDIA, Microsoft и Amazon договорились предоставлять Минобороны свои ИИ-технологии. Подобные государственные контракты крайне прибыльны — именно поэтому компании за них борются. Но распространение ИИ явно несёт риски, которых нет у обычного корпоративного ПО.
На момент публикации Министерство обороны США не прокомментировало сообщение CNN.
Этот эпизод превращается в наглядный аргумент для дискуссии о пределах применения ИИ в военной сфере: даже вспомогательные аналитические системы, склонные к «галлюцинациям», способны приводить к ошибочным выводам с потенциально катастрофическими последствиями. По мере того как языковые модели проникают в разведку и процессы принятия решений, цена подобных сбоев многократно возрастает.
