Специалисты Google Threat Intelligence Group (GTIG) опубликовали новый отчёт о применении искусственного интеллекта в кибератаках, и обрисованная в нём картина выглядит весьма отрезвляющей. Хакеры по всему миру не просто используют ИИ-скрипты для автоматизации рутинных операций — они находят изобретательные способы применения нейросетей практически во всех направлениях киберпреступности, включая разработку как минимум одной уязвимости нулевого дня. Ещё тревожнее выглядит появление вредоносного ПО, способного самостоятельно модифицировать собственный исходный код, на лету создавать полезные нагрузки для эксплойтов и даже генерировать код-приманку для введения аналитиков в заблуждение.
Источник изображения — tomshardware.com
Эксплойт с помощью ИИ обошёл двухфакторную аутентификацию
В центре внимания отчёта — атака, в ходе которой использовался скрипт на Python, позволявший обходить двухфакторную аутентификацию в популярном open-source-инструменте для администрирования серверов через веб-интерфейс. По данным GTIG, код эксплойта носил все признаки создания при помощи ИИ и использовал логическую ошибку: разработчики инструмента заложили в схему авторизации своеобразное «доверенное исключение», которое и позволяло обходить проверку — при этом злоумышленникам всё равно требовались действительные учётные данные пользователя. Специалисты отмечают, что даже самые современные большие языковые модели (LLM) «испытывают трудности с навигацией по сложной корпоративной логике» систем авторизации, но при этом отлично справляются с анализом контекста: они умеют сопоставлять замысел разработчика с фактической реализацией кода и быстро находить непредусмотренные пограничные случаи. Эксплойт готовился как часть массовой кампании, однако раннее обнаружение позволило Google уведомить производителя ПО и предотвратить широкую эксплуатацию уязвимости.
Кто стоит за атаками
В GTIG связывают повышенный интерес к автоматизированному поиску уязвимостей с группировками, ориентированными на КНР и КНДР. Северокорейский кластер, которого в отчёте относят к APT45, по данным Google, использует ИИ для массовой проверки тысяч потенциальных эксплойтов и пополнения собственного арсенала инструментов. Связанные с Китаем операторы, в свою очередь, экспериментируют с системами ИИ для поиска уязвимостей и автоматизированного сканирования целей. Отдельно в отчёте упоминаются вредоносные программы, «разбавленные» сгенерированным ИИ бессмысленным кодом — таким способом злоумышленники пытаются запутать аналитиков и затруднить разбор угрозы.
Вредоносное ПО, которое переписывает само себя
Отдельный раздел отчёта посвящён семействам вредоносного ПО, которые обращаются к языковым моделям прямо во время работы — то есть буквально «на лету» генерируют или изменяют собственный код. Среди них GTIG выделяет несколько показательных примеров:
- PROMPTFLUX — дроппер, использующий LLM для динамической генерации вредоносных скриптов;
- PROMPSTEAL — инструмент для сбора данных с заражённых устройств;
- PROMPTLOCK — программа-вымогатель с элементами ИИ;
- FRUITSHELL — реверс-шелл для удалённого управления заражённой системой;
- QUIETVAULT — похититель данных (info-stealer).
Все перечисленные семейства объединяет одно: вместо того чтобы «зашивать» вредоносные функции в код заранее, они запрашивают их у модели непосредственно в процессе атаки, что заметно усложняет обнаружение и анализ угрозы классическими средствами защиты.
В Google подчёркивают, что описанные техники пока находятся на экспериментальной стадии и в большинстве случаев не позволяют злоумышленникам напрямую обходить встроенную защиту современных ИИ-моделей. Тем не менее в компании прогнозируют, что уже в ближайшее время подобные подходы станут куда более массовыми, а значит специалистам по кибербезопасности стоит заранее готовиться к новому витку атак, построенных на автономных и адаптивных вредоносных программах.
