Представлены инструменты Content Seal для невидимого маркирования созданного ИИ контента
Веб-инструмент определяет водяные знаки даже на обрезанных, сжатых или скриншотных изображениях
Маркировку Content Seal планируют расширить на ИИ-видео в рамках модели Muse Video
Новая система несовместима с форматами SynthID и C2PA, а её точность ограничена только моделью Muse Image
Компания Meta* работает над инструментом для распознавания изображений и видео, созданных её новой генеративной моделью Muse Image. Публике показали предварительную версию веб-инструмента, проверяющего невидимые водяные знаки, которые эта модель проставляет автоматически.
Источник изображения — engadget.com
Как работает маркировка
Система под названием Content Seal сохраняет метку «даже при обрезке, сжатии, изменении размера или создании скриншота», говорится в блоге компании. «Мы показываем предварительную версию инструмента обнаружения, который позволяет проверить, содержит ли изображение водяной знак Content Seal, предоставляя начальный способ лучше понять, было ли изображение создано с помощью нашего ассистента».
Подход для компании относительно новый. Проприетарная версия встроена в Muse Image, хотя открытые варианты технологии выпускались и раньше. Важное отличие от прошлых поколений: видимых водяных знаков новые модели не ставят — прежде в правом нижнем углу изображения появлялся небольшой логотип.
Что показала проверка
Пока обнаружение ограничено изображениями, созданными или отредактированными именно этой моделью, но маркировку обещают распространить и на сгенерированное видео — параллельно ведётся разработка модели Muse Video, выход которой заявлен как «скорый».
На практике инструмент отрабатывает заявленное: он корректно определяет водяной знак и на отредактированных изображениях, и на полностью сгенерированных, и даже на их скриншотах. Формулировки в справке аккуратные: «Положительный результат означает, что изображение было сгенерировано или отредактировано» в сервисах компании, а отрицательный — что это маловероятно.
Правая рука не знает, что делает левая
Любопытный нюанс: сами возможности обнаружения, похоже, пока не интегрированы в мобильное приложение ассистента. На вопрос об изображении, которое веб-инструмент однозначно определил как сгенерированное, ассистент отвечает, что проверить это не может: «Я не могу точно сказать, было ли это конкретное изображение создано с помощью нашего сервиса, просто взглянув на него. Автоматической маркировки изображений нет, и у меня нет инструмента для определения, какая ИИ-модель создала существующее изображение».
Претензии к маркировке ИИ-контента у компании возникали и раньше: наблюдательный совет ранее в этом году заявлял об обеспокоенности непоследовательным внедрением цифровых водяных знаков для контента, создаваемого её же инструментами.
Ограничения
Их пока хватает. Content Seal несовместим с SynthID и C2PA Content Credentials — двумя распространёнными методами маркировки, которые используют другие компании, что фактически лишает отрасль единого стандарта проверки. Изображения, созданные более ранними моделями компании, инструмент не опознаёт: при загрузке картинок из старых диалогов результат отрицательный. Наконец, проверки по неясным причинам подпадают под квоты — после нескольких загрузок появляется уведомление о достижении «дневного лимита на проверки идентификации».
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
