Наблюдательный совет компании Meta* обязал её удалить с платформы Facebook два ролика, созданных при помощи искусственного интеллекта, и потребовал усилить меры борьбы с распространением дипфейков. Решение стало одним из самых заметных за последнее время, поскольку затрагивает сразу два болезненных вопроса — травлю обычных людей и политиков поддельными видео и качество автоматической модерации на крупнейших платформах.
В состав Совета входят независимые эксперты из разных стран — юристы, журналисты и правозащитники. Формально его финансирует сама Meta, однако по заявлению самой организации, решения по конкретным жалобам принимаются без вмешательства компании, а её обязанность — исполнить вынесенный вердикт.
Что случилось с шотландским депутатом
Один из случаев касается муниципального депутата из Шотландии, которого в ролике, сгенерированном нейросетью, ложно изобразили произносящим оскорбительное и разжигающее ненависть высказывание о беженцах — с обвинением этой группы людей в противоправном поведении. Совет пришёл к выводу, что ролик действительно синтетический: звуковая дорожка не совпадает с движениями губ депутата на видео. Сам депутат назвал использование подделанного голоса крайне тяжёлым личным переживанием.
Почему компания сначала не стала удалять ролик
Известно, что после жалобы на публикацию Meta решила её не удалять. Ролик не был отмечен ни одной из «доверенных партнёрских» организаций и, по оценке модераторов, не мешал избирательному процессу и не влиял на голосование, поэтому его сочли неопасным. Отметку об ИИ-происхождении к видео тоже не добавили.
По мнению Совета, ролик всё же следовало удалить: он нарушал внутренние правила о разжигании ненависти, поскольку приписывал целой группе людей — беженцам — противоправное и хищническое поведение. Кроме того, видео, как сочли в Совете, должно было получить заметную маркировку как созданное искусственным интеллектом. Существующие меры защиты компании в решении назвали «неизменно и принципиально недостаточными» для сдерживания стремительного роста объёма ИИ-контента на её платформах.
Что рекомендует Совет
По итогам разбирательства Совет предложил компании девять изменений в политике модерации. Среди них — донастройка алгоритмов так, чтобы контент с высоким риском причинения вреда распространялся реже и не попадал в топ пользовательских лент, а также предупреждающие экраны, которые потребуют от человека осознанного клика, прежде чем открыть отдельные виды ИИ-контента. В более развёрнутом виде рекомендации выглядят так:
- расширить перечень ситуаций, в которых на ролик можно ставить метку «высокий риск»;
- добавить больше инструментов для снижения распространения заведомо обманного ИИ-контента;
- ужесточить наказания для аккаунтов, которые систематически публикуют дипфейки;
- повысить прозрачность данных о том, когда и к каким роликам применяется отметка об ИИ-происхождении.
Дипфейки на основе ИИ всё чаще используют, чтобы травить женщин и вытеснять их из публичного пространства, — отмечает сопредседатель Наблюдательного совета Памела Сан-Мартин.
По её словам, схожая картина повторяется в целом ряде похожих случаев: женщины, которые публично высказываются на острые темы, непропорционально часто становятся мишенью травли и дезинформации, а платформам явно не хватает действенных инструментов, чтобы этому противостоять.
Что дальше
Наблюдательный совет Meta существует с 2020 года и разбирает наиболее спорные решения о модерации контента, поступившие как от пользователей, так и от самой компании. Его вердикты по конкретным публикациям обязательны для исполнения компанией, а вот рекомендации по общей политике носят необязательный характер — Meta вправе принять их частично или отклонить вовсе. Отчитаться о том, какие из предложенных мер будут приняты, компания должна в течение 60 дней после публикации решения.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
