Anthropic обнаружила в Claude незапланированную важную структуру

Anthropic обнаружила внутри своих моделей Claude структуру, которую разработчики не закладывали в план при проектировании. Внутренний механизм под названием «J-space» работает как общее рабочее пространство: к нему обращаются разные компоненты модели.

Исследование от 6 июля стало заметным продвижением в понимании того, что именно происходит внутри больших языковых моделей.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Что такое J-space внутри Claude

J-space — это внутреннее пространство, где Claude собирает и передает важные данные по всей модели. Проще всего представить его как виртуальную доску внутри искусственного интеллекта.

Когда Claude отвечает на вопрос, решает задачу или выполняет инструкцию, ключевая информация появляется в J-space, чтобы разные части модели могли с ней работать.

Антропик выявила J-space с помощью инструмента для исследований под названием «J-lens». С его помощью исследователи наблюдали, как информация перемещается внутри модели во время выполнения задания. J-space возник сам по себе в процессе обучения — он не был заложен конструкторами напрямую.

J-space у Claude во многом повторяет то, что ученые называют «глобальным рабочим пространством» в человеческом мышлении. Источник: Anthropic

Похожая идея встречается в нейронауках и носит название «глобальное рабочее пространство».

У человека эта система обеспечивает доступ к важной информации сразу для нескольких мыслительных процессов. Например, когда человек слышит вопрос, вспоминает нужный факт и решает, как ответить, мозг сводит все необходимые данные в одном месте.

Claude работает схоже. Anthropic показала, что модель может описывать содержимое J-space по запросу, а также изменять его, если об этом попросить.

Более того, когда исследователи вручную меняли J-space, менялись и ответы Claude, и его поведение при выполнении заданий.

Почему это важно для безопасности и интерпретируемости ИИ

Открытие имеет большое значение для безопасности искусственного интеллекта. Если ученые смогут отслеживать активность J-space, у них появится шанс выявлять скрытые мотивы в поведении ИИ-моделей. За счет этого можно будет эффективнее отмечать, когда система начинает работать ненадежно.

В том числе — выявление атак. Мониторинг J-space позволяет увидеть момент, когда модель сталкивается с попытками prompt-injection (внедрение вредоносных инструкций в запрос, чтобы перехватить управление ответом модели). Кроме того, даже частичный доступ к такому «осознанному» слою обработки открывает важные перспективы для исследований.

Пока возможности ограничены. Большая часть обработки информации у Claude по-прежнему идет вне J-space.

Тем не менее Anthropic открыла исходный код реализации J-lens и выложила демоверсию Neuronpedia, предложив исследовательскому сообществу проверить результаты на практике.

Исследование опирается на серию более ранних работ. В октябре 2025 года Anthropic опубликовала доклад о формирующейся интроспективной осознанности. Ранее, в апреле 2025 года, компания запустила инициативы по изучению благополучия моделей, шаг за шагом продвигаясь в понимании того, что происходит внутри ее систем.

Есть и важная оговорка. Anthropic подчеркивает, что не заявляет, будто Claude обладает сознанием или субъективным опытом. В работе используется термин «осознанно доступная» информация, заимствованный из когнитивной науки, — он не означает наличия настоящего сознания.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!

Источник: https://ru.beincrypto.com/anthropic-claude-j-space-issledovanie/

Наверх