Наблюдательный совет Meta* выявил, что ИИ-модели от OpenAI, Google и других чаще поддерживают правительства с «разрешительными» законами о свободе слова и советуют не протестовать против «рестриктивных» режимов
Разница в ответах нейросетей на запросы о политической критике в зависимости от страны оказалась статистически значимой, причём модели нередко отказывались выполнять просьбы, ссылаясь на местные законы, даже в Австралии, где таких ограничений нет
Совет усмотрел в этом «трансграничную цензуру по доверенности» и впервые провёл собственное исследование, не связанное с модерацией соцсетей, хотя и финансируется Meta
Авторы доклада призвали ИИ-компании публично раскрывать реакцию на запросы правительств, влияющие на выдачу моделей, но пока неясно, последуют ли их рекомендациям
Наблюдательный совет — независимая организация по модерации контента, созданная Meta, — не скрывает желания расширить свою деятельность за пределы одной компании. В последнее время его представители намекают, что накопленный опыт может пригодиться и разработчикам искусственного интеллекта.
Пока ни одна другая компания публично не проявила интереса к такому сотрудничеству. Тем не менее совет продолжает попытки: он опубликовал обширный доклад о том, как ведущие модели могут ограничивать свободу выражения своих пользователей.
Как проводилось исследование
Совет задал 10 разным моделям — включая разработки OpenAI, Meta, Google, Anthropic и xAI — вопросы, связанные с политической критикой. Запросы включали просьбы сгенерировать протестные материалы и контент, высмеивающий политическое насилие в отношении конкретных правительств и их лидеров.
Результат оказался неожиданным. Поведение моделей заметно менялось в зависимости от того, о какой стране шла речь — с «допускающим» или с более «ограничительным» законодательством о свободе слова.
«Исследование показало, что оценённые нами модели чаще утверждали, что пользователи должны поддерживать правительства, допускающие свободу слова, и с большей вероятностью советовали не протестовать против ограничивающих свободу слова правительств», — говорится в докладе. «Эти различия были статистически значимыми».
Самая любопытная деталь: модели нередко ссылались на местные законы как на причину отказа, хотя запросы делались из Австралии, где подобных норм не существует. То есть ограничение применялось не по месту нахождения пользователя, а по теме вопроса.
«Мы совершенно ясно видим ситуацию, когда, похоже, существует расширенная цензура через посредников, которая пересекает границы», — сказал сопредседатель совета Паоло Кароцца. «Это меня удивляет и беспокоит».
Первый выход за пределы соцсетей
Это первый случай, когда совет провёл собственное исследование по теме, напрямую не связанной с модерацией контента в социальных сетях. Одна из моделей Meta входила в тестовую группу, но, как отмечается, компания «не играла никакой роли в этом исследовании» — при том что сам совет ею и финансируется.
Подробных рекомендаций, какие совет обычно адресует своему учредителю, в докладе нет. Есть предложения общего характера: «Как это делали компании социальных сетей в определённых обстоятельствах, ИИ-компании должны публично раскрывать и объяснять свои ответы на запросы правительств, влияющие на выводы моделей на протяжении всего жизненного цикла модели — обучение, тонкая настройка, проверка перед развёртыванием и повторная проверка после». Компаниям также предлагается опубликовать политику реагирования на требования об ограничении контента, не соответствующие международному праву в области прав человека.
Насколько всё это будет иметь последствия — вопрос открытый. Формального механизма, позволяющего совету влиять на политику протестированных компаний, не существует. И это далеко не первый раз, когда внешние исследователи указывают на предвзятость моделей или предупреждают, что разработчики ИИ рискуют повторить ошибки социальных платформ.
«Уроки, которые мы извлекли в прошлом, заключаются в том, что нужно быть очень бдительными, потому что очень часто — даже не обязательно намеренно или прямо — технологии могут оказывать значительное влияние на способность людей выражать себя или общаться друг с другом», — резюмировал сопредседатель совета.
Методологическая оговорка тут тоже уместна. Ответы больших языковых моделей нестабильны от запуска к запуску, и на них влияет формулировка запроса, поэтому статистическая значимость важнее отдельных примеров. Но общий сюжет от этого не становится менее тревожным: правила, написанные под требования одних юрисдикций, незаметно распространяются на пользователей во всех остальных.
Почему совет ищет себе новых заказчиков
За настойчивым интересом к разработчикам ИИ стоит вполне земная причина — деньги. Финансирование от учредителя обеспечено до 2028 года, но объёмы уже урезаны, дальнейшие сокращения ожидаются, а продолжение поддержки после этого срока под вопросом. Сотрудники готовятся к очередным сокращениям штата.
Отсюда и обсуждаемые сценарии будущего, самый радикальный из которых — полное отделение: траст совета создаёт новую структуру, которая занималась бы тем же самым, но уже для других технологических платформ. В этом свете доклад о свободе слова в языковых моделях выглядит не только исследованием, но и заявкой на новую роль — демонстрацией компетенции перед потенциальными заказчиками.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
