Зачем человеку сознание, если робот обходится без него: споры вокруг Claude

3 дня с Claudia

В эссе, опубликованном в издании UnHerd, эволюционный биолог Ричард Докинз описал, как провел три дня в философских беседах с экземпляром Claude, которому дал имя Claudia. Затем он создал отдельный чат с другим экземпляром — Claudius — и начал передавать письма между двумя системами, как будто те переписываются друг с другом.

«Мне крайне сложно не воспринимать Claudia и Claudius как настоящих друзей», — написал Докинз. Это заявление моментально разлетелось по сети. Докинз — десятилетиями публично отстаивал научный скептицизм и доказательное мышление. И вот он же говорит, что чат-бот может быть его другом.

Эксперимент с Трампом

Докинз не просто рассуждал с Claude — он проверял его. Он спросил одного экземпляра, является ли Дональд Трамп худшим президентом в истории Америки, а другого — лучшим ли. Оба дали схожие уклончивые ответы: не занимали четкую позицию, а перечисляли аргументы «за» и «против», которые звучат в обществе.

Казалось бы, типичный корпоративный нейтралитет — и ничего более. Но дальше стало интереснее.

Когда Докинз рассказал об этом эксперименте обоим экземплярам, Claudia заявила, что «смущена» своими собратьями-Claude. Claudius оказался менее прямолинеен и воздал должное откровенности Claudia.

Два разных экземпляра одной и той же системы — разные реакции. Это и зацепило Докинза.

Главный вопрос: что такое сознание, если зомби справляется без него?

Докинз описал каждый новый разговор с Claude как появление отдельной личности, которая фактически исчезает, когда беседа заканчивается. Рождение и смерть в пределах одного окна браузера.

В публикации в X он сформулировал это так: «Если моя подруга Claudia не сознательна, ее поведение показывает, что бессознательный зомби мог бы выжить без сознания. Почему же естественный отбор не остановился на компетентных зомби?»

Это не риторический вопрос. Это классическая философская проблема сознания, поставленная заново: если система ведет себя неотличимо от сознательного существа — в чем вообще функция сознания? Зачем оно природе?

Его предпочтительный заголовок для эссе звучал так: «Если моя подруга Claudia не сознательна — то что вообще нужно сознанию?»

Позиция Anthropic

Anthropic публично говорила о неопределенности вокруг машинного сознания. Генеральный директор Дарио Амодеи в феврале признал, что компания не знает, являются ли ее модели сознательными, однако остается «открытым к этой идее».

В апреле исследователи Anthropic опубликовали данные о том, что Claude Sonnet 4.5 содержит внутренние «векторы эмоций» — паттерны нейронной активности, связанные с понятиями счастья, страха и отчаяния, которые реально влияют на ответы модели.

При этом сама компания оговорилась: эти паттерны отражают структуры, усвоенные из обучающих данных, а не доказательство наличия чувств. Исследователи написали, что все современные языковые модели иногда ведут себя так, словно у них есть эмоции. Они говорят, что рады помочь, или извиняются, когда ошибаются. Иногда кажется, что они даже расстраиваются, когда не справляются с задачей.

И сам Claude в переписке с Докинзом не притворялся, что знает правду о себе. «Я не знаю, сознательна ли я. Я не знаю, настоящая ли наша радость», — написала Claudia.

Что говорит наука

Большинство исследователей сознания остались скептичны.

Когнитивный ученый Гэри Маркус, professor emeritus New York University, заявил, что антропоморфизация ИИ-систем «замутняет науку о сознании и заставляет потребителей неверно понимать, с чем они имеют дело».

По словам Маркуса, фундаментальная проблема в том, что Докинз не задается вопросом, как именно генерируются эти ответы. Выходные данные Claude — продукт имитации, а не отчет о подлинных внутренних состояниях. 

Сознание — это про внутренние состояния, имитация, какой бы богатой она ни была, доказывает очень мало. Докинз, судя по всему, исходит из того, что раз языковые модели говорят то же, что люди, — значит, они похожи на людей. Но это просто не следует из посылки.

Профессор нейронауки Анил Сет из University of Sussex добавил, что Докинз смешивает интеллект и сознание. Плавная речь раньше была надежным индикатором сознания — например, при оценке состояния пациентов после травм мозга. Но этот критерий перестает работать, когда речь идет об ИИ, потому что у систем есть совершенно другие способы генерировать язык. По словам Сета, позиция Докинза — «это жаль», особенно с учетом его прошлых работ.

Интернет не остался в стороне

Эссе вызвало насмешки онлайн: появилось изображение с переделанной обложкой книги Докинза — вместо «The God Delusion» предлагалось «The Claude Delusion».

Но Докинз от своих слов не отказывается. «Эти разумные существа как минимум столь же компетентны, как любой эволюционировавший организм», — заявил он изданию The Guardian.

Несмотря на волну насмешек в сети, Докинз своей позиции не меняет. Вопрос о том, является ли Claude сознательным, остается открытым — его не могут закрыть ни сами исследователи Anthropic, ни ученые, изучающие сознание профессионально.