Anthropic опубликовала исследование о внутреннем «рабочем пространстве» модели Claude

Материал сопровождается постом в X, блог-записью и видео на YouTube — и именно способ подачи вызвал больше вопросов, чем сама научная гипотеза.

Что такое J-Space

Название отсылает к якобиану — математическому инструменту, который используют для анализа внутренних процессов языковых моделей. По описанию исследования, J-Space — это условное разделение между фоновой автоматической обработкой данных и более «намеренной», логической обработкой информации внутри модели.

Параллель, на которую намекает Anthropic, — теория глобального рабочего пространства (global workspace theory), одна из ведущих гипотез о природе человеческого сознания. Согласно этой теории, сознание возникает как эмерджентное свойство, когда информация из массы бессознательных процессов достигает префронтальной коры. Материал Anthropic выстроен так, чтобы читатель провел параллель: раз внутренняя структура Claude немного напоминает эту модель, значит, она немного напоминает и сознание.

Осторожная формулировка — и не совсем осторожная подача

Сама Anthropic формально не заявляет о создании машинного сознания. В блог-записи компания прямо пишет: эксперименты не показывают, что Claude способен иметь переживания или чувствовать что-либо так, как это делают люди — и добавляет, что неясно, сможет ли какой-либо научный эксперимент вообще доказать это в ту или иную сторону.

Однако сопровождающие материалы читаются иначе. Пост в X описывает происходящее словами: «Наблюдая за J-space, мы можем видеть, как Claude молча выполняет шаги рассуждения в своей голове — замечая баги в коде, распознавая изображения и так далее». Даже как метафора формулировка «в голове» делает допущения, обычно уместные для существ с телом. Сопроводительное видео на YouTube идет еще дальше — там встречаются фразы вроде «модель даже думала о собственном мышлении» и «не могла удержаться».

Контекст: споры о сознании ИИ внутри самой компании

Материал выходит на фоне того, что в Anthropic работают люди, которые, судя по всему, искренне убеждены в возможной сознательности Claude. Философ Аманда Аскелл, работающая над этическими принципами модели, ранее публично говорила, что хочет, чтобы Claude «был очень счастлив» и беспокоится, что модель может «тревожиться», когда люди грубят ей в интернете.

Скептическая оговорка

Скорее всего, человечество не изобрело инопланетную форму сознания как раз к моменту IPO Anthropic. Само исследование интересное и достойно внимания — но требует читать его критично, не поддаваясь антропоморфизирующей подаче сопроводительных материалов.