На фоне роста числа атак программ-вымогателей корпоративные службы безопасности всё иначе расставляют приоритеты среди угроз. Новое исследование, заказанное компанией Exabeam и проведённое агентством Sapio Research, показало: 48% руководителей в сфере ИТ и информационной безопасности считают своей главной угрозой автономных ИИ-агентов с избыточными или непреднамеренными правами доступа к системам — опережая внешних хакеров, скомпрометированных инсайдеров и злонамеренных сотрудников.
Автономные ИИ-агенты для взлома
Что показал опрос
В опросе приняли участие 600 руководителей, принимающих решения в области безопасности и финансов, из США, Канады, Великобритании, Франции, Германии, Нидерландов и Австралии — все из организаций со штатом от 500 сотрудников. Внешние злоумышленники заняли второе место с 28%, а на скомпрометированных инсайдеров и злонамеренных сотрудников пришлось по 12%.
Exabeam определяет такие ИИ-агенты как целеустремлённые автономные системы, которые имеют доступ к корпоративным ресурсам и действуют при минимальном контроле со стороны человека — в отличие от обычных чат-ботов. Поскольку эти агенты, как правило, работают с легитимными административными учётными данными, ключами API и повышенными привилегиями, действия сбойного или неверно настроенного агента способны обойти привычную защиту периметра и эталонные модели поведения пользователей, не вызывая стандартных тревог. Для этого агенту вовсе не нужен злой умысел — достаточно бесконтрольного доступа.
От мониторинга к пониманию поведения агентов
По мере того как компании всё шире применяют автономный ИИ в бизнес-процессах, поставщики средств защиты начинают создавать отдельную аналитику поведения агентов, чтобы отслеживать «машинные» решения наравне с журналами доступа людей. В отчёте Exabeam под названием The Agentic Insider: From Monitoring to Understanding отмечается, что многие организации уже расширяют мониторинг ИИ-агентов, но по-прежнему с трудом понимают их поведение в контексте разных систем и бизнес-процессов.
Стоит учитывать, что опрос измеряет воспринимаемый риск среди руководителей, а не подтверждённую статистику инцидентов. Поэтому его не следует читать как доказательство того, что ИИ-агенты уже обошли хакеров по реальному числу взломов. Тем не менее результат указывает на явный сдвиг приоритетов: по мере расширения доступа агентов к корпоративным системам всё острее встаёт задача сократить разрыв между выдачей такого доступа и реальным контролем за тем, как он используется.
Патчи, обновления и растущая нагрузка на службы ИБ
Вывод появляется в момент, когда ИТ-отделы и без того разбираются с непрерывным потоком обновлений и патчей Windows на своём парке машин. Например, недавнее предварительное обновление Microsoft KB5124010 принесло как новые функции, так и две официально признанные проблемы — напоминание о том, что поддержание базовых систем в актуальном и стабильном состоянии по-прежнему требует постоянных усилий. Добавляя поверх этой нагрузки автономных ИИ-агентов, тем же администраторам придётся расширить свой контроль с операционных систем и конечных устройств на агентов, которые теперь работают бок о бок с ними.
