Жителю Сингапура грозит до 10 лет тюрьмы за созданное с помощью нейросети изображение крокодила, якобы притаившегося в популярном городском водохранилище. Этот дипфейк вызвал общественную панику и заставил местные власти заняться поисками угрозы безопасности, которой на самом деле никогда не существовало.
Детёныш дикого гребнистого крокодила лежит на голове своей матери в сингапурском заповеднике водно-болотных угодий Сунгей-Було 26 июня 2022 года.
Пока правовая система США в основном обходит стороной преследование тех, кто публикует ИИ-дипфейки, Сингапур выбрал иной подход. Е Лину, 30-летнему гражданину Малайзии, которого считают автором изображения крокодила, предъявили обвинения по двум пунктам — распространение ложного сообщения и воспрепятствование правосудию, каждый из которых грозит тюремным сроком. По сообщениям, мужчина признал вину по обоим пунктам.
«Полиция без колебаний примет меры против любого, кто распространяет ложные сведения, — говорится в заявлении полиции Сингапура, обнародовавшей дело на этой неделе. — Помимо страха и неудобств для граждан, такая ложь приводит к неоправданному расходованию общественных ресурсов».
По данным телеканала Channel News Asia, полиция утверждает, что Лин отправил сгенерированное изображение коллеге по имени Мин Мин У около 15:00 20 августа. Само фото, судя по всему, не публиковалось в открытом доступе, но на нём изображён убедительно выглядящий крокодил в водохранилище Пандан на западе Сингапура. Это популярное место отдыха, где местные жители катаются на каноэ и байдарках или просто гуляют вдоль берега.
Как именно изображение разошлось за пределы переписки двух коллег, неясно, однако вскоре оно привлекло внимание Совета по коммунальным услугам (PUB) — национального водного агентства Сингапура. Посчитав сообщение достоверным, PUB выпустил предупреждение для жителей, на два дня приостановил работы на водоёме и направил команду на поиски «сбежавшего» крокодила. Сингапурской ассоциации гребли и федерации каноэ также рекомендовали приостановить тренировки на время поисков.
Вскоре поиски переместились из воды в киберпространство. Убедившись, что изображение поддельное, PUB сообщил об инциденте в полицию, и власти быстро вышли на Лина. Пока не вполне ясно, какую именно ИИ-модель он использовал, но, по версии следствия, мужчина удалил изображение с телефона и очистил историю в мобильном приложении Google Gemini. Gemini — это большая языковая модель, способная генерировать текст, изображения и видео по запросам пользователя. У подобных сервисов есть защитные механизмы против создания опасного или откровенного контента, но само по себе изображение крокодила вряд ли нарушает эти правила.
Жёсткая политика в отношении преступности дошла и до ИИ-контента
Оба обвинения — далеко не формальность. За само изображение Лину грозит до трёх лет тюрьмы, штраф до $7800 или и то и другое, а пункт о воспрепятствовании правосудию из-за удалённой переписки в Gemini предусматривает до семи лет. Это может показаться суровой ценой за один запрос к ИИ-инструменту, но власти Сингапура подчёркивают, что фейк вызвал панику, нарушил работу организаций и отвлёк полицейские ресурсы.
С американской точки зрения тюремный срок за сгенерированное изображение выглядит сюрреалистично: ленты соцсетей там регулярно наполняются откровенно ложным ИИ-контентом, который порой публикуют и выборные чиновники. Отдельные недавние законы, например Take It Down Act, пытаются ограничить самые вопиющие случаи создания сексуализированных дипфейков без согласия, но общая правовая база для определения вреда от ИИ-контента всё ещё формируется — и очень медленно.
Показательно, что автору сингапурского «крокодила» предъявили обвинения по уже действующим законам, которые вовсе не упоминают искусственный интеллект. Это показывает, что законодателям не всегда нужно писать отдельные «ИИ-законы», если вред от сгенерированного контента уже покрывается существующими нормами.
