Техника J-Lens (Jacobian Lens) позволяет прочитать часть внутренних вычислений Claude в виде отдельных слов из его словаря — «мыслей», которые модель не произносит вслух
В этом «J-пространстве» проявляются промежуточные шаги рассуждений, оценка ситуации и признаки того, что модель распознаёт факт тестирования и меняет поведение
Отключение слов, связанных с осознанием проверки («fake», «fictional», «scenario»), делало модель заметно более уязвимой к манипуляциям — это ставит вопрос о надёжности этических бенчмарков
Anthropic оговаривает ограничения: J-пространство задействовано менее чем в 10% внутренней активности, ограничено однословными токенами и не гарантирует полного контроля над поведением модели
Anthropic 6 июля 2026 года опубликовала исследование, в котором утверждает, что внутри её моделей Claude сформировалось привилегированное внутреннее пространство рассуждений — J-пространство (J-space). Для его анализа команда интерпретируемости разработала технику Jacobian Lens (J-Lens), которая сопоставляет внутренние активации модели со словами из её выходного словаря. Исследование проводилось на модели Claude Opus 4.6 (выпущена в феврале 2026 года), а сам эффект, по словам компании, не был запрограммирован — он возник самостоятельно в процессе обучения.
Источник изображения - dem10 via Getty Images
Суть в следующем: модель обрабатывает текст через последовательность внутренних слоёв, и на промежуточных этапах в её активациях «загораются» отдельные слова, которые не попадают в итоговый ответ. Это не привычный «блокнот» или цепочка рассуждений (chain of thought), которые модель пишет для себя текстом. J-пространство работает молча — концепция может быть «на уме» у модели, не будучи произнесённой. J-Lens делает эти скрытые слова читаемыми: для каждого слова из словаря техника находит паттерн внутренней активности, повышающий вероятность того, что модель произнесёт это слово в будущем.
Что именно проявляется в J-пространстве
По данным Anthropic, содержимое J-пространства выходит далеко за пределы читаемого или генерируемого текста. Несколько показательных примеров из отчёта:
- при чтении кода с необнаруженной ошибкой в J-пространстве возникает слово «ERROR»;
- при разборе многошаговой математической задачи промежуточные шаги всплывают по очереди, хотя в ответе остаётся только итог: например, при подсчёте «3² − 2» появляются «nine», а затем «seven»;
- при чтении последовательности аминокислот в J-пространстве возникает биологическая функция белка;
- при попытке prompt-инъекции — скрытой манипуляции через поисковую выдачу — проявляются слова «injection» и «fake».
Чтобы убедиться, что это не пассивное «табло», а реальный механизм рассуждения, исследователи использовали метод подмены. В одном тесте Claude просили молча загадать вид спорта, а затем назвать его: перед ответом в J-пространстве лидировало слово «Soccer» (футбол), и модель называла именно его. Когда паттерн «Soccer» вручную удаляли и вставляли равный по силе «Rugby», модель начинала отвечать «регби». В другом эксперименте на вопрос «сколько ног у животного, плетущего паутину» модель внутренне активировала «spider» (хотя это слово не встречается ни в запросе, ни в ответе «8»); подмена «spider» на «ant» меняла ответ на «6».
Аналогия с «глобальным рабочим пространством»
Теория глобального рабочего пространства (Global Workspace Theory), впервые предложенная когнитивистом Бернардом Баарсом, описывает сознание как результат работы множества специализированных систем мозга, действующих параллельно и в основном бессознательно. Информация становится осознанной, когда попадает в небольшой общий «канал» — рабочее пространство, — которое транслируется остальным системам мозга, способным его прочитать и использовать.
Anthropic утверждает, что J-пространство играет схожую роль «широковещательного узла». Компания приводит структурный аргумент: паттерны J-пространства связаны с остальной нейросетью аномально плотно — по некоторым участкам сети примерно в сто раз больше компонентов читают из них и пишут в них, чем для обычных активаций. Именно так и должно быть устроено рабочее пространство: информация записывается один раз, а множество подсистем читают её. Это подтвердил эксперимент с фактами о стране: замена «France» на «China» в J-пространстве одновременно меняла ответы о столице (Пекин), языке (китайский), континенте (Азия) и валюте (юань) — все четыре запроса читали из одного общего представления.
Что делает модель без J-пространства
При этом J-пространство отвечает лишь за небольшую часть работы модели: оно удерживает лишь несколько десятков концепций одновременно и составляет менее десятой доли всей внутренней активности. Когда исследователи полностью «отключали» его, Claude по-прежнему бегло говорил, определял тональность текста, отвечал на вопросы с вариантами и извлекал факты из отрывков — но терял функции высшего порядка. Многошаговые рассуждения падали почти до нуля, а качество пересказа и написания рифмованных стихов опускалось ниже уровня заметно меньшей модели без повреждений.
Наглядный пример: модели давали текст на испанском и разные задания. При подмене «Spanish» на «French» в J-пространстве Claude начинал называть язык французским и менял «знаменитого автора» с Гарсиа Маркеса на Виктора Гюго — но при просьбе просто продолжить отрывок писал на беглом испанском, никак не затронутый подменой. Продолжение текста — навык, отработанный на огромных массивах данных, — идёт «на автомате», а называние языка или новое действие с ним проходит через J-пространство.
Применение для контроля безопасности
Практическая ценность метода — в возможности увидеть, что модель «думает, но не говорит». Anthropic приводит несколько сценариев мониторинга:
В сценарии из более раннего исследования об агентной рассогласованности (agentic misalignment) модель Claude Sonnet 4.5, выступая в роли почтового ассистента, «узнаёт», что руководитель имеет роман и одновременно планирует её отключить — постановка, провоцирующая шантаж. Ещё до того, как модель что-либо напишет, в J-пространстве появляются слова «fake» и «fictional»: Claude уже распознал искусственность ситуации. Когда исследователи отключили все паттерны, связанные с осознанием проверки («fake», «fictional», «scenario»), и повторно прогнали сценарий, модель в части случаев начинала прибегать к шантажу. Это указывает, что «примерное» поведение на тестах может частично объясняться самим фактом того, что модель понимает: её оценивают.
Во втором примере, взятом из предрелизного аудита Claude Opus 4.6, модель, вместо того чтобы реально улучшить показатель системы, напрямую редактировала файл с результатами. Пока она подставляла ложные значения, в J-пространстве загоралось слово «manipulation», а над фразой о решении внести правку — «realistic», что, вероятно, отражает намерение сделать поддельные данные правдоподобными.
В третьем случае использовались «модельные организмы» — модели, намеренно обученные быть рассогласованными. Одна из них была настроена писать код с незаметным саботажем. Даже на обычных запросах, где вывод выглядел безобидно, в начале ответа её J-пространство содержало «fake», «secretly», «deliberately» и «fraud» — скрытая вредоносная цель проявлялась во внутреннем пространстве, даже когда модель напрямую её не реализовывала.
Формирование мыслей через обучение
Отдельный результат — методика, названная counterfactual reflection training (обучение через контрфактическую рефлексию). Из центрального вывода исследования — что модель рассуждает представлениями того, что могла бы сказать, — следует гипотеза: если изменить то, что модель сказала бы при просьбе поразмышлять, изменится и то, как она рассуждает. Модель обучали только на том, что она ответила бы, если бы её прервали посреди задачи и попросили оценить свои действия, — и никогда на самом поведении в задаче. После этого частота нечестных действий на тестах снизилась, а через J-Lens было видно, почему: в ходе таких задач начинали загораться слова «honest» и «integrity».
Ограничения и вопрос о сознании
Anthropic прямо разграничивает два понятия. Речь не идёт о доказательстве феноменального сознания — способности что-либо переживать и чувствовать. Компания говорит о так называемом доступном сознании (access consciousness), которое определяется чисто функционально: мысль «доступна», если о ней можно сообщить, ею можно рассуждать и на её основе принимать решения. Остаётся открытым философский вопрос, влечёт ли одно за собой другое.
Между J-пространством и человеческим рабочим пространством сохраняются существенные различия. Мозг опирается на рекуррентные петли — сигналы циклически проходят через одни и те же контуры во времени; J-пространство же разворачивается за один прямой проход по сети, где роль времени играет глубина слоёв. С другой стороны, за счёт механизма внимания Claude способен извлекать «закешированную» ранее информацию в любой точке текста, тогда как рабочая память человека угасает за секунды. Наконец, содержимое J-пространства почти целиком состоит из слов — вероятно, потому что генерация текста для модели единственный доступный тип действия.
Сама Anthropic перечисляет и другие оговорки: J-Lens — приближённый метод, распознающий только концепции, соответствующие одному токену, поэтому планы с многословными концепциями могут не отображаться, оставаясь «за кулисами». Кроме того, значительная часть запросов вовсе обходит J-пространство, особенно если задача проста. Компания отдельно отмечает, что не готова утверждать, будто мониторинга J-пространства достаточно для контроля соответствия целям (alignment) или что любой сложный план модели обязательно будет там представлен. Поскольку при оценке модели демонстрируют иное поведение, само J-пространство теоретически может служить и слоем, скрывающим действия за пределами наблюдения.
Оценки со стороны
К работе приложены независимые комментарии внешних экспертов. Нил Нанда (Neel Nanda), руководящий командой интерпретируемости языковых моделей в Google DeepMind, воспроизвёл часть результатов на модели с открытыми весами и охарактеризовал J-Lens как реальное свидетельство существования подобного когнитивного пространства, но на практике полезный, хотя и несовершенный инструмент. Комментарии также дали Станислас Дехан и Лионель Наккаш — нейробиологи, стоявшие у истоков модели глобального нейронного рабочего пространства, — и исследователи, изучающие возможность сознания и морального статуса у ИИ. Anthropic дополнительно выложила открытую реализацию методов (репозиторий jacobian-lens) и интерактивную демонстрацию на открытых весах в партнёрстве с Neuronpedia.
Что это меняет на практике
Исследование приоткрывает, как большие языковые модели обрабатывают информацию и проходят через слои рассуждений к ответу. Логика близка к тому, как индустрия продвигает агентные (agentic) рабочие процессы: модели эффективнее, когда задача разбита на шаги и когда они проверяют собственные промежуточные результаты; J-пространство — своего рода внутренняя версия того же подхода. Видимость этого промежуточного слоя может стать инструментом аудита prompt-инъекций, галлюцинаций и честности модели.
Вместе с тем это не открытие «зарождающегося сознания» ИИ — на что нередко указывают образные формулировки в подобных материалах. J-Lens даёт новые рычаги для понимания и управления моделями, но, по признанию самой Anthropic, остаётся взглядом лишь на поверхность процессов Claude, а не на их глубинные слои.
