Google AI Overview путает буквы: неправильно считает их количество в словах и допускает ошибки в написании.
Причина — в токенной архитектуре языковых моделей: они не воспринимают текст как последовательность букв.
Google признаёт проблему подсчёта символов известным ограничением LLM и обещает над ней работать.
Исследователи сомневаются, что идеальный токенизатор для решения орфографических задач вообще возможен.
Сколько букв «p» в слове Google? По версии собственного ИИ-поиска компании — целых две. Ошибка разошлась по соцсетям в конце мая 2026 года и быстро переросла в мем: пользователи начали проверять AI Overview на других простых словах — и находили всё новые провалы.
Источник изображения — techcrunch.com
В ответах AI Overview также утверждалось, что в слове «poop» ровно одна буква «r», а в слове «журналистика» (journalism) — целых две буквы «d», хотя правильно писать j-o-u-r-n-a-l-i-s-m. Фамилию президента США Google сосчитал верно — одна «p», — но написал её как t-r-p-u-m. Похожая путаница нашлась и в ответах о собственном продукте Google — Gemini: некоторые пользователи получили ответ, что в названии две буквы «m». А один из самых показательных вирусных примеров — «две L в Google» — объяснился просто: сервис опирался на статью 2009 года о праздничном дудле к 11-летию компании, где было написано «Goog11e», и принял цифру «11» в логотипе за буквы.
Предсказать провал было несложно — мы это уже проходили. Когда Google впервые добавил AI Overviews в поиск, сервис цитировал сатирические посты с The Onion и Reddit, советуя людям есть камни и класть клей на пиццу.
На этот раз Google ещё активнее делает генеративный ИИ центральным элементом своего 29-летнего флагманского продукта — и неудивительно, что снова спотыкается. Последний виток критики совпал с масштабным обновлением поиска, в рамках которого компания расширила присутствие AI Overviews практически на все типы запросов.
В официальном заявлении Google подтвердил проблему: подсчёт букв в словах — давняя и известная трудность для LLM, и компания работает над её устранением.
Такие орфографические ошибки могут показаться до боли знакомыми. LLM — тип искусственного интеллекта, лежащий в основе чат-ботов и других текстовых генераторов, — изначально не создавались для работы с орфографией. Уже много лет существует шутка: при запуске новой модели ИИ стоит спросить её, сколько букв «r» в слове strawberry. Модели, способные написать приложение за секунды или решить задачи, над которыми математики бились десятилетиями, в орфографии не превосходят дошкольника.
Но проблемы AI Overview не ограничиваются забавными опечатками. Ранее Google уже исправил похожий баг: запрос слова «disregard» выдавал не словарное определение, а фразу, больше похожую на ответ чат-бота — «Понял. Дайте знать, когда у вас будет новый запрос или вопрос!». Тот баг устранили быстро, а вот орфографические ошибки держатся упорно — именно потому, что убрать их технически куда сложнее.
Дело в устройстве самой архитектуры. ИИ не воспринимает предложения как единицы языка, состоящие из слов и букв. Многие LLM построены на архитектуре трансформеров, которая разбивает текст на токены — это могут быть целые слова, слоги или отдельные буквы, в зависимости от модели. Вместо «чтения», как это делает человек, ИИ преобразует текст в числовые представления, которые затем обрабатываются, чтобы сформировать связный ответ.
Источник изображения — techcrunch.com
Архитектура трансформеров, на которой строятся такие LLM, на самом деле не «читает» текст, объясняет Мэттью Гуцциал, исследователь ИИ и доцент Университета Альберты. Когда пользователь вводит запрос, тот переводится в кодировку: модель «знает», что означает слово the, но ничего не знает о буквах «Т», «Н», «Е» по отдельности.
Токен-ориентированная архитектура, на которой строится AI Overview от Google, ограничена по своей природе — и исследователи не питают особого оптимизма насчёт того, что орфографическую проблему вообще можно решить полностью.
Сложно однозначно определить, что вообще должно считаться «словом» для языковой модели, — отмечает Шеридан Фойхт, аспирантка Северо-Восточного университета, изучающая интерпретируемость больших языковых моделей. Даже если бы эксперты сумели согласовать идеальный словарь токенов, модели, вероятно, всё равно сочли бы полезным дробить текст ещё мельче. По её мнению, идеального токенизатора не существует именно из-за этой неоднозначности.
Показательна и реакция аудитории: по некоторым данным, установки DuckDuckGo выросли примерно на 30% за две недели после майского редизайна поиска Google — часть пользователей явно решила поискать альтернативу. А апрельское исследование, представленное на конференции SIGIR 2026 года и проверившее AI Overviews на 11,5 тысячи запросов, лишь подтвердило системный характер подобных сбоев.
Для самих исследователей это не самая острая проблема — ценность LLM не в умении расставлять буквы по местам. Но подобные провалы напоминают: ИИ несовершенен, даже если порой кажется почти всеведущей силой. Слепо доверять его ответам не стоит — точность в любом случае нужно перепроверять.
