OpenAI заблокировала две сети аккаунтов ChatGPT, которые вели информационные кампании из Китая
Первая группа делала комиксы о том, что дата-центры виноваты в росте счетов за электричество у американцев
Вторая генерировала карикатуры против пошлин с прямым запретом изображать председателя КНР
Поддельные аккаунты распространяли ложные сообщения об утечке данных пользователей ChatGPT
Эффективность кампаний OpenAI оценила как минимальную — без выхода за пределы одной платформы
OpenAI сообщила, что заблокировала две группы аккаунтов ChatGPT, которые, по её оценкам, действовали из Китая. Эти учётные записи использовались для скрытых кампаний влияния, направленных на обсуждение технологий и политики в США.
Источник изображения — tomshardware.com
Первая сеть получила название Data Center Bandwagon — «подножка дата-центров». Она создавала в социальных сетях комментарии и комиксы, обвиняющие центры обработки данных для задач ИИ в росте счетов за электроэнергию у домохозяйств. Операторы входили в ChatGPT через VPN на упрощённом китайском языке и выдавали себя в соцсети X за американцев с разным жизненным опытом. Однако в полном отчёте об угрозах отмечается, что практически вся эта активность не вызвала реального вовлечения аудитории.
Как была устроена кампания про дата-центры
По оценке OpenAI, за этой сетью скорее всего стояла команда специалистов по продвижению в соцсетях из частной китайской технологической компании, работающей на правительственных клиентов провинциального уровня. В числе прочего они просили ChatGPT создавать комиксы о ценах на аукционах мощности одного из операторов электросетей, опираясь на материалы региональной газеты. Готовый материал публиковался в X под тематическими хештегами вместе со ссылками на настоящие новостные репортажи.
Этот приём и есть самое интересное в истории. Кампания не выдумывала фактов — она подхватывала реально существующий и болезненный спор, добавляя к нему объём и нужную интонацию. Отличить такую активность от искреннего возмущения соседей по округу практически невозможно: и ссылки настоящие, и проблема настоящая.
Хотя название оператора сети не упоминалось, привязка к ценам на аукционах мощности отсылает к реальному и хорошо задокументированному конфликту. Независимый монитор рынка PJM Interconnection обвиняет дата-центры в «необратимом» росте затрат на электроэнергию на 75,5% в крупнейшем регионе энергосистемы США. Оптовые цены вблизи некоторых кластеров центров обработки данных за пять лет выросли до 267%. Три сенатора США потребовали от Amazon, Google и Meta* объяснений по поводу роста тарифов для розничных потребителей.
«Это не тот случай, когда влияние создаёт дискуссию», — заявил Бен Ниммо, ведущий следователь OpenAI. Компания оценила активность как первый уровень по внутренней шкале Breakout Scale: это означает ограничение одной платформой без признаков охвата реальной аудитории.
Вторая сеть: пошлины, карикатуры и «водяная армия»
Кластер Tech and Tariffs высмеивал американо-китайское соперничество в сферах пошлин, редкоземельных металлов, искусственного интеллекта, связи пятого поколения и промышленной устойчивости. Он генерировал массовые пакеты комментариев на английском, итальянском, японском и традиционном китайском — последний предназначался для аудитории на Тайване.
Показательная деталь: указания предписывали изображать президента Трампа, но никогда — председателя КНР Си Цзиньпина. Такая односторонность в инструкциях и есть один из самых надёжных признаков организованной кампании: подлинная сатира редко имеет запретные фигуры.
Один из операторов описал свои аккаунты термином «водяная армия» — так в Китае называют скоординированные сети платных комментаторов — и попросил ChatGPT разработать систему для сбора и анализа публикаций от лиц, помеченных как угроза. По утверждению OpenAI, модель вернула лишь общие рекомендации по хранению данных и отказалась помогать со сбором информации о людях.
Поддельные аккаунты в той же сети многократно распространяли сфабрикованные заявления о компрометации данных пользователей ChatGPT — по мнению компании, это была попытка нанести ущерб её репутации. Иными словами, один и тот же инструмент здесь применялся и как средство производства материалов, и как мишень для дискредитации.
Не первый случай: связь с пятилетними планами
В полном отчёте об угрозах OpenAI сравнила эти кампании с операцией Spamouflage 2022 года, которую исследователи ASPI и Mandiant обнаружили нацеленной на компании Lynas Rare Earths, Appia и USA Rare Earths — после того как 14-й пятилетний план Пекина приоритетно определил редкоземельные металлы.
Новая активность последовала за принятием рекомендаций 15-го пятилетнего плана, который возвёл искусственный интеллект в статус стратегической отрасли для Китая. Совпадение выглядит закономерным: направление, объявленное приоритетным, почти сразу получает и информационное сопровождение.
Что из этого следует читателю
Практический вывод здесь не про геополитику, а про гигиену чтения. Кампании подобного типа устроены так, что фактическая проверка не срабатывает: факты в них подлинные, ссылки ведут на настоящие издания, а искажается лишь масштаб возмущения — впечатление, будто некое мнение разделяют многие.
Признаки, на которые стоит обращать внимание:
- множество аккаунтов повторяют одну и ту же мысль почти одинаковыми словами;
- учётные записи созданы недавно или долго молчали, а затем внезапно активизировались по одной теме;
- критика в материалах строго односторонняя — «свою» сторону не задевают вовсе;
- картинки и комиксы выглядят однотипно и явно сделаны генератором изображений.
Отдельно стоит держать в уме и вторую часть истории: слухи об утечке данных из популярного сервиса тоже бывают инструментом кампании. Проверять такие сообщения имеет смысл на сайте самого сервиса и в профильных изданиях, а не по репостам в ленте.
Наконец, полезно помнить о самой уязвимости момента: тема роста тарифов на электроэнергию из-за дата-центров реальна и остра в США, а в перспективе станет актуальной и для других регионов, включая СНГ, где строительство вычислительных мощностей упирается в ту же энергосеть. Именно поэтому такие сюжеты и выбирают для кампаний влияния — работает не ложь, а подлинная боль, усиленная в нужный момент.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
