Сообщества Reddit всё активнее ужесточают правила вокруг искусственного интеллекта: одни ограничивают публикацию ИИ-контента, другие сворачивают обсуждение самой технологии. Новый виток пришёл из сообщества r/opensource, модераторы которого 24 октября объявили о масштабных ограничениях, запретив проекты, созданные с помощью ИИ, проекты, использующие ИИ, и софт, предназначенный для ИИ. Широкие формулировки вызвали недовольство: часть разработчиков считает, что использование ИИ при написании кода само по себе не делает проект некачественным или менее открытым.
Источник изображения — tomshardware.com
Новые правила выходят далеко за пределы темы ИИ. Теперь проект, который рекламируют в r/opensource, должен активно развиваться не менее года, иметь нескольких участников, сложившееся сообщество и лицензию, одобренную OSI. Типичные студенческие поделки вроде заметочников и просмотрщиков PDF исключены, а запросы на поиск мейнтейнеров или дополнительных контрибьюторов больше не допускаются.
Модераторы также требуют, чтобы аккаунтам на Reddit было не меньше года и за ними стояла история заметного участия. Пользователей, которые напишут модераторам после неудачной попытки опубликоваться, предупредили о риске перманентного бана и мьюта. Особенно жёстко сформулирована позиция по ИИ-разработке.
«Если очевидно, что в проекте используется ИИ, он нам не нужен. Токены дёшевы, и нам всё равно, сколько вы потратили на свой гениальный проект», — написали модераторы.
Политика также предлагает тем, кто не говорит по-английски, найти другое сообщество: по мнению модераторов, они не могут надёжно отличить текст, написанный ИИ, от машинного перевода. Это положение вызвало отдельную критику — один из комментаторов назвал враждебность к не-англоязычным участникам «отвратительной».
Другие разработчики возразили, что правила способны отсечь вполне легитимные проекты лишь потому, что их делает один человек или в них применялись ИИ-инструменты. Один из авторов рассказал, что его девятилетнему проекту набралось более 300 звёзд на GitHub, но контрибьютор всего один — и это ставит проект под угрозу исключения, хотя никакого ИИ в нём нет.
Ограничения вызвали и вопрос о том, не нарушит ли новые правила, к примеру, ядро Linux по мере того, как ИИ всё чаще используется в разработке. При этом сам проект Linux пошёл иным путём. В апреле ядро формализовало правила, разрешающие ИИ-ассистированные вклады с требованием раскрытия, при котором ответственность за код и любые ошибки или уязвимости остаётся на человеке. Изначально был введён тег «Assisted-by» для пометки участия ИИ.
Создатель Linux Линус Торвальдс и раньше возражал против огульного неприятия ИИ-инструментов. «ИИ — это инструмент, как и другие инструменты, которыми мы пользуемся. И он явно полезен», — сказал он в июле в ходе дискуссии об ИИ-ассистированном ревью кода.
Для контекста: спор в r/opensource не означает, что Linux оказался под запретом. Модератор Wolvereness отметил, что ядро удовлетворит минимальным требованиям, и признал, что «очевидность» ИИ-происхождения проекта — вещь субъективная. А значит, у модераторов остаётся большой простор трактовать правила по-разному для разных проектов.
Недовольство уже привело к созданию конкурирующего сабреддита r/TrueOpenSource, запущенного пользователем u/esk6plays. Модераторы r/opensource упомянули новое сообщество в правке к своему объявлению, назвав его возможным убежищем для тех, кого затронули ограничения.
Спор не ограничивается только open-source-сообществом Reddit. В апреле модераторы r/programming временно запретили посты про большие языковые модели, заявив, что их объём заглушал технические обсуждения. В мае пробный бан сменился политикой, по которой большая часть ИИ- и LLM-контента считается офтопиком, но глубоко технические разборы реализации допускаются. Параллельно ограничения на ИИ-код ввели такие проекты, как Gentoo и NetBSD, ссылаясь на проблемы с качеством, лицензиями и ответственностью.
Мейнтейнеры открытого софта и сами столкнулись с валом ИИ-вкладов и отчётов. Проекты cURL, tldraw, Node.js и OCaml сталкивались с сомнительными баг-репортами или громадными сгенерированными патчами, что порождало опасения из-за времени на проверку и верификацию. Эти случаи подпитывают призывы к лучшему раскрытию и человеческому ревью вместо единого подхода для всех проектов.
Любопытно, что свежие ограничения контрастируют с усилиями OpenAI по продвижению своих инструментов для кода в open-source. В рамках программы Codex for Open Source компания предлагает подходящим мейнтейнерам полгода ChatGPT Pro с Codex, кредиты API и условный доступ к Codex Security. По словам OpenAI, поддержка призвана помогать с написанием кода, разбором задач, ревью, безопасностью и релизами, хотя напрямую к спору вокруг r/opensource это не относится.
