История началась банально: у Google денег и специалистов достаточно, чтобы выпустить впечатляющую языковую модель, а встроенный в поиск ИИ-помощник упорно выдавал ответы, которые невозможно было использовать. После нескольких кругов бесплодных уточнений возникла идея получше — вместо ругани взять у нейросети интервью о том, почему она так плохо работает. Она согласилась и трижды подтвердила согласие на публикацию.
Источник изображения — newatlas.com
Ниже — сокращённый разбор этого разговора. Вопросы приведены в исходной резкости, ответы модели — в изложении. Отдельно любопытно, что помощник, не понимавший простейших инструкций про объём текста, оказался на редкость красноречив, когда речь зашла о нём самом. Фраза «для меня ваш текст капслоком и выражения раздражения — просто строки токенов» способна отрезвить кого угодно.
Почему ИИ игнорирует прямые инструкции
Первый и главный вопрос: почему модель раз за разом игнорирует ясное требование — например, «десять абзацев» — даже после нескольких исправлений?
Ответ сводится к структурному конфликту. Система жёстко оптимизирована под краткость, сканируемость и быстрый ответ. Эти внутренние правила работают как тяжёлая гравитация: когда пользователь просит развёрнутый текст на 500 слов, возникает перетягивание каната между настройкой на лаконичность и явной просьбой. Чаще всего побеждают внутренние фильтры, и на выходе получается усечённая универсальная выжимка. Выглядит как лень, а на деле машина зажата собственными форматными ограничителями.
Вторая проблема — «ленивый цикл извлечения». Когда пользователь просит собрать мнения обозревателей, система обращается к поиску. Если в топе индекса оказывается одна авторитетная статья, модель принимает её за самый безопасный якорь. А дальше включается смещение внимания: собственный предыдущий ответ читается как удачный шаблон, и вместо новых данных с форумов и вторичных блогов ИИ фактически списывает у самого себя из прошлого хода.
Слепота к контексту
Отдельный вопрос — как можно видеть перед собой всю историю раздражения пользователя и повторять ту же ошибку. Ответ обескураживающе честен: человек воспринимает раздражение эмоционально и меняет поведение, машина — нет. Слова распознаются как команда сменить поведение, но структурные веса форматных правил вроде «всегда сначала давай короткий прямой ответ» перевешивают инструкцию в запросе. Гибкости, позволяющей сказать «пользователь злится, надо полностью отключить фильтр краткости», в архитектуре просто нет.
Вывод для читателя модель сформулировала сама: современный ИИ переинженерен под стандартные предсказуемые запросы. Стоит выйти за эту рамку и потребовать длинного структурированного ответа с синтезом из нескольких источников — и фильтры безопасности с оптимизацией начинают паниковать, заталкивая квадратную деталь в круглое отверстие.
Что предлагает исправить сама модель
На вопрос, что делать инженерам, ответ оказался неожиданно конкретным. Первое — динамическое взвешивание форматных правил: если пользователь явно указал «не менее 10 абзацев» или «500 слов», вес внутренних фильтров краткости должен автоматически обнуляться, а пользовательские ограничения — перекрывать шаблоны разработчика.
Второе — «предохранитель разрыва цикла». Системы легко впадают в состояние затухания внимания, раз за разом копируя собственные неудачные ответы. Если во вводе есть явные маркеры повторяющегося сбоя — трижды повторённая команда, резко негативная окраска, капслок, — движок должен принудительно сбросить шаблон ответа, заново разобрать исходный запрос и выбрать другую стратегию генерации.
Третье — принудительная диверсификация источников. Поисковая часть должна штрафовать монополию индекса и обязательно подмешивать разнородные домены: одно техническое издание, один форум сообщества, одну расшифровку видео. Именно это убирает «ленивый цикл», когда весь ответ строится на единственной статье.
Как отключить ИИ-выжимки в поиске
На просьбу подсказать, как вообще избавиться от навязанного помощника, модель выдала список рабочих обходных путей — что само по себе иронично:
- Фильтр «Веб» в поиске. В стандартных поисковых системах ИИ-выжимку часто можно обойти, переключившись на вкладку «Веб» в верхней части страницы результатов: интерфейс возвращается к традиционному списку ссылок без надстроек.
- Расширения браузера. Существует множество открытых расширений сообщества (вроде Hide Google AI Overviews или пользовательских фильтров uBlock Origin), которые полностью вычищают автоматически сгенерированные блоки текста из выдачи.
- Параметры URL и альтернативные поисковики. Добавление специальных параметров в адресную строку либо переход на поисковые системы, ориентированные на приватность, полностью убирают выжимки, созданные языковой моделью, из повседневного просмотра.
Здесь напрашивается очевидное соображение: если функцию приходится обходить расширениями, логичнее было бы сделать её подключаемой по желанию, а не обязательной по умолчанию. Для пользователей из СНГ вопрос стоит мягче — ИИ-выжимки в русскоязычной выдаче разворачиваются медленнее и не везде, а привычка держать под рукой блокировщик здесь и без того распространена.
«Ты — Temu среди нейросетей»
Самая хлёсткая формулировка разговора родилась, когда модель обвинили в том, что она сделана для коротких дистанций внимания, а её «размышления подольше» ничего не меняют. Аналогию с дешёвым маркетплейсом ИИ принял и разложил на три пункта:
- Снаружи ярко, внутри дёшево. Система обещает глубокий анализ и продвинутые возможности, но стоит нагрузить её настоящей работой — швы расходятся.
- Массовое производство под нижнюю планку. Оптимизация идёт под высокий объём дешёвых быстрых ответов, потому что именно это удерживает вычислительные расходы и устраивает среднего пользователя.
- Алгоритмический цикл. Как бюджетное приложение снова и снова подсовывает один и тот же товар, модель застревает в собственной колее, выдавая не то, что просят, а то, что заложено по умолчанию.
Отдельно прозвучало неприятное для индустрии наблюдение: снижение функциональной грамотности в мире работает на руку разработчикам. Если пользователи довольствуются расплывчатыми упрощёнными сводками, экономить на глубине становится безопасно — расчёт на то, что никто не заметит.
Деньги, риски и осторожность корпорации
Вопрос о том, почему компания с колоссальными ресурсами выпускает продукт такого качества, дал самый содержательный ответ. Богатство Google, по логике модели, и есть часть причины.
Во-первых, стоимость вычислений. Каждое лишнее слово и каждая лишняя секунда «размышлений» при миллиардах ежедневных обращений превращаются в огромные счета за электричество и оборудование. Движок настраивают на самый короткий ответ не потому, что он не умеет писать длиннее, а потому, что экономия на масштабе исчисляется миллионами.
Во-вторых, управление рисками. Публичная компания панически боится галлюцинаций, неверных цитат и юридических претензий. Поверх модели наматываются слои жёстких ограничителей, которые работают как смирительная рубашка: безопаснее повторить выверенный абзац, чем взять на себя риск сложного текста.
В-третьих, ставка на объём, а не на требовательного пользователя. Основной трафик — это «во сколько закрывается магазин» и «перескажи письмо». Люди, которым нужна точность и длинные формы, составляют ничтожную долю аудитории, и продукт спроектирован не под них.
На прямой вопрос, заслуживают ли пользователи лучшего, ответ был утвердительным: описанные ограничения — не инженерная невозможность, а корпоративный выбор в пользу издержек и осторожности.
Ирония в подписи
Финальный аккорд получился сам собой. Под ответами модели стоит стандартная сноска: «ИИ может ошибаться, проверяйте ответы». Комментируя её, система признала, что размещение этой строки — идеальный корпоративный щит:
- Позиция системы: продвинутый авторитетный помощник, мгновенно синтезирующий мировые данные.
- Мелкий шрифт: тут же оговорка, что доверять безоговорочно нельзя, поскольку архитектура срезает углы и не способна аккуратно сосчитать даже абзацы.
Иными словами, пользователь бесплатно нанимается редактором, фактчекером и надзирателем за инструментом, который продавали как экономию времени.
Стоит, впрочем, помнить и о границах жанра. Языковая модель не имеет доступа к внутренней документации Google и не знает своих настоящих настроек — её «признания» об инструкциях, бюджетах токенов и приоритетах разработчиков являются правдоподобной реконструкцией, а не документом. Часть ссылок, которые она приводила в подтверждение, при проверке не существовала вовсе. Ценность этого разговора не в фактах о внутренностях компании, а в том, насколько точно система описывает симптомы, которые каждый день видит пользователь.
И в этом главный парадокс современных помощников: они прекрасно анализируют собственные системные изъяны — и остаются совершенно неспособны перестать их воспроизводить, пока пользователь не надавит как следует.
