Наблюдательный совет (Oversight Board) снова требует от Meta* навести порядок с потоком сгенерированного нейросетями контента на своих платформах. Совет опубликовал два новых решения о том, как компания обращается с ИИ-контентом, и пришёл к выводу, что её правила «последовательно и принципиально не справляются» с быстрым ростом объёма такого контента.
Источник изображения — engadget.com
Оба разобранных случая касались публикаций со сгенерированными нейросетью видео. В первом ролике использовали образ шотландского политика, которому приписали оскорбительные и ксенофобные высказывания о беженцах. По оценке совета, видео выглядело «реалистично», хотя было полностью синтетическим, а сам политик, чей голос воспроизвели без разрешения, назвал произошедшее крайне травмирующим для себя лично.
Meta пояснила совету, что не удалила ролик после жалобы, поскольку его не отметили доверенные партнёры компании и потому, что видео, по мнению модераторов, не мешало голосованию или другим общественно значимым процессам. Публикацию также не пометили как созданную искусственным интеллектом — потому что автор поста сам не указал использование ИИ.
Совет посчитал, что ролик следовало удалить за нарушение правил компании о ненавистническом контенте, а также обязательно снабдить пометкой об ИИ-происхождении. По мнению совета, сам факт того, что видео не попало в поле зрения модераторов из-за отсутствия жалобы от «доверенного партнёра», показывает: нынешняя система приоритизации жалоб плохо справляется с быстро расходящимся синтетическим контентом.
Второй случай — травля через подделанное интервью
Второе дело также связано со сгенерированным видео с участием реального человека. За основу взяли телевизионное интервью с волонтёром, которая рассказывала о просветительских программах по менструальному здоровью. Спустя некоторое время аккаунты в разных социальных сетях смонтировали и исказили запись, чтобы высмеять героиню интервью, — эти ролики быстро разошлись в сети.
По данным совета, компания автоматически закрыла и первичную жалобу, и последующую апелляцию по этой публикации, которую так и не пометили как созданную ИИ. Видео удалили за нарушение правил о травле — но только после того, как в ситуацию вмешался Наблюдательный совет.
В совете отмечают: оба случая показывают, что ИИ-контент всё чаще используют для травли конкретных людей, а отсутствие последовательной маркировки только усиливает вред. По словам сопредседателя совета, от политиков до простых пользователей — сгенерированные нейросетью подделки всё активнее применяют, чтобы травить и заставлять замолчать женщин, публично высказывающихся по важным темам; такие случаи складываются в системную, тревожную закономерность.
Прислушается ли компания к рекомендациям
Критика Наблюдательного совета не стала неожиданностью: этот орган, который вырабатывает рекомендации для Meta, уже не раз указывал компании на проблемы с подходом к ИИ-контенту и призывал ввести новые правила. Куда более важный вопрос — станет ли компания всерьёз считаться с этими оценками. Пока изменения в маркировке ИИ-контента минимальны: чаще всего это небольшой значок с подписью «AI Info». Многие рекомендации совета по маркировке, звучавшие и в других делах, компания так и не внедрила.
Meta не ответила на запрос прокомментировать последние выводы совета. При этом у компании есть 60 дней на официальный ответ на новые рекомендации — в том числе на предложение в первую очередь проверять контент с явными признаками ИИ-происхождения.
Оба разобранных случая объединяет и ещё одна деталь: в обоих система модерации сработала лишь тогда, когда в дело включился сам Наблюдательный совет, а не автоматические фильтры или жалобы пользователей. Для площадки, которая регулярно заявляет о масштабных инвестициях в борьбу со злоупотреблением ИИ, это выглядит как признание, что действующие инструменты пока не поспевают за темпами появления синтетического контента, а окончательные решения по спорным публикациям нередко принимаются постфактум, уже после того как ролик успевает разойтись по другим площадкам.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
