Кнопкой жалобы на «ИИ-шлак» в LinkedIn воспользовались более миллиона раз за несколько недель
Просмотры таких постов, по данным платформы, снизились на 40%
Авторы теперь получают уведомление, если их публикацию пометили как сгенерированную
Исследование оценивало долю длинных постов, написанных ИИ, более чем в 40%
LinkedIn недавно начал тестировать отдельный инструмент для жалоб на ИИ-шлак — так в сети называют бессодержательные тексты, сгенерированные нейросетью ради самого факта публикации. Спустя всего несколько недель компания заявляет, что качество постов в лентах пользователей уже улучшилось.
Источник изображения — engadget.com
Миллион жалоб и минус 40% просмотров
Кнопкой «похоже на ИИ-шлак» воспользовались более миллиона раз с момента запуска, сообщил директор по продуктам платформы Хари Сринивасан. «Участники сейчас видят на 40% меньше просмотров того, что мы классифицируем как ИИ-шлак, по сравнению с ситуацией всего несколько недель назад», — написал он.
Компания пока уклончиво описывает, как именно использует жалобы пользователей для отсева. Сринивасан отметил, что платформа опирается на «множество сигналов» при определении охвата поста и что были «построены предохранители, помогающие не допустить использования отдельных отзывов для несправедливого преследования других участников».
Оговорка про предохранители не случайна: любая кнопка жалобы мгновенно превращается в инструмент сведения счётов, а в профессиональной сети, где от охвата зависят карьера и заказы, цена такой атаки особенно высока. Ранее платформа уже правила алгоритм, снижая охват постов с типичными для нейросетей оборотами — вроде конструкции «это не X, это Y».
Новое уведомление для авторов
Сокращение просмотров на 40% всё же говорит о том, что новый инструмент даёт эффект. Теперь платформа вводит и новое уведомление: пользователь узнает, если его публикацию другие участники пометили как похожую на сгенерированную. Оно появится в разделе аналитики поста.
Ход разумный, хотя и обоюдоострый. С одной стороны, автор получает обратную связь и понимает, почему у поста просел охват. С другой — жалоба на текст перестаёт быть анонимным сигналом для алгоритма и превращается в публичный упрёк, что вполне может сделать площадку ещё более нервной, чем она есть.
Почему именно LinkedIn
Хотя ИИ-шлак заполонил практически все социальные платформы, LinkedIn заслужил особую известность как сеть, забитая сгенерированными текстами. Исследование компании Pangram, занимающейся выявлением машинных текстов, оценило, что более 40% длинных постов в профессиональной сети, вероятно, написаны нейросетью.
Причина такой концентрации не в технологии, а в стимулах самой площадки. Здесь публикация — это инструмент саморекламы: люди пишут не потому, что им есть что сказать, а потому что «надо быть заметным». Ровно в таком режиме генератор текста и оказывается идеальным решением, а результат — потоком бодрых историй с моралью, которых никто не переживал.
Ирония: платформа сама к этому подталкивала
Отдельного упоминания заслуживает то, что принадлежащая Microsoft платформа временами прямо поощряла пользователей пользоваться нейросетевыми инструментами для письма. За последние годы она внедрила несколько функций на базе языковых моделей — включая заметную кнопку, позволявшую «улучшить» пост или сообщение с помощью искусственного интеллекта.
Эту кнопку убрали одновременно с запуском инструмента жалоб на ИИ-шлак. Последовательность событий говорит сама за себя: сначала компания снизила порог для генерации текстов до одного нажатия, затем обнаружила, что лента стала нечитаемой, и теперь борется с последствиями руками самих пользователей.
Что это значит на практике
Главный вопрос, на который платформа ответа не даёт: как отличить сгенерированный текст от просто плохого. Надёжных детекторов машинного текста не существует — все они ошибаются в обе стороны и особенно часто помечают тексты тех, для кого язык публикации неродной.
Это касается и пользователей из СНГ, пишущих на английском: аккуратный, выученный по учебнику стиль без разговорных неровностей как раз и выглядит для алгоритмов «машинным». Практический вывод простой и от технологий не зависящий: ценность посту придают конкретика и личный опыт — цифры, детали, обстоятельства, — а не гладкость формулировок. Именно этого сгенерированный текст обычно и лишён, и именно поэтому читатели узнают его без всяких детекторов.
