Reddit ежедневно блокирует 23 миллиона спам-просмотров с помощью собственных ИИ-инструментов

Автоматика выявляет около 25 тысяч подозрительных постов и комментариев в сутки и отзывает почти 2 миллиона нечестных голосов

Время от обнаружения нарушения до применения санкций сократилось до 5 секунд

Воздействие вредоносного контента на пользователей снизилось более чем на 40 процентов

Reddit рассказал, как использует собственные инструменты искусственного интеллекта в борьбе с растущим потоком сгенерированного контента на платформе. По данным компании, автоматизированные системы блокируют 23 миллиона спам-просмотров в сутки, ежедневно выявляют около 25 000 подозрительных постов и комментариев и отзывают почти два миллиона нечестных голосов. Об этом Reddit объявил в понедельник, 6 июля 2026 года, в собственном блоге. С января по март 2026 года (первый квартал) пользователи стали видеть на 20 процентов меньше спама по сравнению с предыдущими тремя месяцами, а воздействие спам-аккаунтов дополнительно снизилось ещё на 10–15 процентов.

RedditReddit

Как работает система защиты

По словам Reddit, платформа использует языковые модели (LLM) для анализа поведения ещё на этапе создания аккаунта — система ищет скрытые, скоординированные паттерны фальшивой активности и искусственно раздутой популярности постов. Аккаунты, прошедшие первичную проверку, но проявившие подозрительные признаки позже, могут получить запрос на подтверждение того, что за ними стоит живой человек, а не бот.

Защита строится на трёх уровнях, которые работают одновременно:

  • Модерация платформы. Общие для всего Reddit правила применяет служба безопасности компании — одна из крупнейших внутренних команд Reddit, сочетающая автоматизированные инструменты и ручную проверку.
  • Модерация сообществ. Волонтёры-модераторы отдельных разделов получили в распоряжение ИИ-инструменты: Reputation Filter (фильтр репутации) для отлова спамеров, Crowd Control (контроль толпы) для ограничения аккаунтов с низким доверием и Ban Evasion Detection (обнаружение обхода бана) для блокировки пользователей, ранее забаненных под другими именами.
  • Реакции пользователей. Голоса «за» и «против» по-прежнему напрямую влияют на видимость постов: некачественный или манипулятивный контент быстро опускается в ленте благодаря реакции самих читателей.

Время между обнаружением нарушения и реакцией на него сократилось до менее чем пяти секунд — заметно быстрее, чем при использовании только классических алгоритмических фильтров.

Зачем ИИ-компаниям вообще нужен Reddit

Всплеск спама на платформе объясняется просто: Reddit превратился в один из ключевых источников данных для больших языковых моделей. OpenAI и Google заключили с компанией лицензионные соглашения на использование её контента для обучения своих систем, а сервисы вроде ChatGPT от OpenAI и AI Overviews от Google нередко цитируют обсуждения на Reddit как мнение реальных пользователей. Из-за этого маркетологи и недобросовестные компании всё активнее заполняют платформу фальшивыми постами и накрученными отзывами, рассчитывая попасть в цитаты ИИ-сервисов и подняться в поисковой выдаче.

Осенью 2025 года Reddit вместе с Yahoo, Medium, Quora и другими крупными издателями поддержал запуск протокола Really Simple Licensing (RSL) — открытого стандарта, созданного по аналогии с RSS. Он позволяет сайтам прописывать в файле robots.txt условия платного доступа для роботов ИИ-компаний: разовую плату за каждое сканирование, оплату за каждое обращение модели к контенту при генерации ответа или подписку. Это не первая попытка Reddit монетизировать интерес ИИ-индустрии к своим данным: по имеющимся оценкам, только соглашение с Google уже приносит платформе около 60 миллионов долларов в год.

Не только спам: борьба с ненавистью и насилием

Помимо чистки от ИИ-мусора, новые меры Reddit нацелены на более жёсткое правоприменение в отношении контента, связанного с ненавистью и насилием, — пока только в англоязычных текстах на платформе, но в компании обещают в ближайшее время распространить подход и на другие языки. Число мер, принятых против такого контента, выросло более чем на 200 процентов, при этом доля ошибочных блокировок снизилась более чем на 40 процентов, а общее воздействие вредоносных материалов на пользователей — более чем на 40 процентов.

Сложные отношения Reddit с искусственным интеллектом

История Reddit и ИИ складывается непросто. В апреле 2025 года выяснилось, что исследователи из Цюрихского университета несколько месяцев без ведома администрации и модераторов проводили эксперимент в разделе r/changemyview: боты на базе языковых моделей оставили там свыше 1700 комментариев от имени вымышленных персонажей — включая жертву сексуального насилия и консультанта по домашнему насилию, — чтобы проверить, насколько убедительно ИИ способен менять мнение собеседников. По расчётам самих авторов исследования, аргументы ботов оказались заметно убедительнее человеческих — разница достигала шестикратной величины. Руководство Reddit назвало произошедшее грубым нарушением как этических норм, так и пользовательского соглашения, забанило все связанные с экспериментом аккаунты и заявило о намерении добиваться правовых последствий для университета; этический комитет вуза вынес научному руководителю проекта официальное предупреждение, а сами исследователи отказались от публикации результатов.

Несмотря на этот опыт, Reddit не отказывается от технологии, а старается использовать её на собственных условиях. Пример — поисковая функция Reddit Answers, которая формирует ответы на вопросы пользователей на основе постов и комментариев со всей платформы. За неполный 2025 год её еженедельная аудитория выросла с 1 до 15 миллионов человек, сейчас Reddit объединяет её с обычным поиском в единый продукт и готовится к третьему кварталу 2026 года убрать разницу в персонализации между авторизованными и анонимными посетителями сайта.