Из-за бага в модерации Discord с мая 2026 года ошибочно заблокировали около 8200 аккаунтов
Причиной ложных блокировок стало ошибочное распознавание ИИ изображений сеток как противоправного контента
Баг блокировал автоматическое снятие наказания даже после проверки и оправдания пользователя командой Trust & Safety
Компания признала ошибку и заявила о восстановлении всех несправедливо заблокированных аккаунтов
Команда поддержки Discord опубликовала объяснение того, как ошибка в инструментах модерации привела к неверным блокировкам аккаунтов. За минувшие выходные пострадало около 200 учётных записей, однако в целом инцидент мог затронуть примерно 8200 пользователей начиная с мая 2026 года.
Источник изображения — engadget.com
Что именно срабатывало
Проблема оказалась связана с публикацией изображений в виде квадратных сеток: система ошибочно маркировала их как материалы с насилием над детьми. Под удар попадали совершенно безобидные вещи — электронные таблицы, шахматные доски или экраны инвентаря из Minecraft.
Мы понимаем, что это неудовлетворительное объяснение, если пострадал ваш аккаунт, и нам следовало заметить это раньше. Мы работаем над улучшением механизмов защиты, чтобы такая ситуация не могла повториться незаметно, и в более широком смысле — чтобы системы безопасности не наказывали тех, кто не сделал ничего плохого.
— Discord Support (@discord_support) 7 июля 2026 г.
Где сломался процесс
Компания использует инструменты модерации на базе искусственного интеллекта, сравнивающие публикуемые материалы с известными вредоносными образцами. В поддержке признают, что система склонна к ложным срабатываниям, — именно поэтому помеченные аккаунты обычно проверяет сотрудник отдела Trust & Safety прежде, чем к пользователю применят меры.
«Ожидаемое поведение — временно приостановить загрузку во время проверки, а не блокировать аккаунт», — поясняют в компании. «У нас возникла ошибка, которая приводила ко второму сценарию. Когда наши сотрудники проверяли и снимали блокировку с этих аккаунтов, та же самая ошибка мешала автоматической отмене блокировки, поэтому она просто оставалась в силе». То есть сбой обесценил и сам механизм апелляции: человек проверял, оправдывал — а система этого не учитывала.
Ошибка оставалась активной около двух месяцев. Все аккаунты, заблокированные из-за ложных срабатываний, по заявлению компании, восстановлены. История хорошо иллюстрирует общий риск автоматической модерации: чувствительность алгоритма настраивают с запасом, а цена ошибки — потеря доступа к переписке и серверам без внятного объяснения.
