Anthropic о кризисе доверия к ИИ: почему общество все меньше верит технологическим компаниям

Впервую очередь кризис доверия, а не следствие мрачных прогнозов отдельных руководителей отрасли. Об этом в серии публикаций рассказал генеральный директор Anthropic Дарио Амодеи, отвечая на критику о том, что он формирует слишком пессимистичную картину будущего ИИ.

Поводом стало заявление инвестора Гэвина Бейкера — в подкасте All-In и в X он написал, что предупреждения Амодеи об опасностях ИИ во многом подпитали волну негатива к отрасли в США, особенно к дата-центрам. Бейкер также отметил, что Амодеи «проиграл спор» о регулировании ИИ — Anthropic поддерживала ряд нормативных инициатив, включая калифорнийский законопроект о прозрачности для крупных ИИ-компаний — и посоветовал ему стать более позитивным защитником собственной отрасли.

Амодеи не согласился с тем, что сообщения Anthropic непропорционально негативны. Тексты компании соблюдают баланс между рисками и преимуществами технологии, заявил он, а эссе Machines of Loving Grace он написал именно потому, что индустрия, на его взгляд, недостаточно ярко показывает, как ИИ может изменить мир к лучшему.

При этом Амодеи признал, что общество настроено по отношению к ИИ негативно, и назвал это серьезной проблемой. Причину он видит не в предупреждениях лидеров отрасли, а в более глубоком и давнем кризисе доверия.

«Обычные люди не доверяют компаниям, правительствам или техсектору и всегда подозревают, что мы замышляем очередной способ их обмануть», — заявил Амодеи.

Самая точная претензия к ИИ-компаниям, включая Anthropic, — то, что они пока не выполнили громких обещаний принести пользу миру, считает Амодеи. Он назвал это виной самой индустрии и добавил, что обещания вылечить рак с помощью ИИ звучат как штамп — реальное отношение людей к технологии изменит только фактический результат.

На тезис Бейкера о регулировании Амодеи ответил, что тот создает ложную дилемму — между свободным распространением ИИ без правил и концентрацией технологии в руках нескольких компаний из-за регулирования. В Кремниевой долине распространена упрощенная логика «регулирование равно захвату регулятора равно концентрации власти», отметил он, но сам считает ее слишком примитивной — вне этого круга регулирование чаще воспринимают как инструмент, сдерживающий корпоративную власть в интересах граждан.

Anthropic осознанно осторожно подходит к законодательным инициативам и старается предлагать меры, которые скорее замедляют крупные ИИ-компании, чем создают им преимущество перед более мелкими конкурентами, отметил Амодеи. Такой подход он объяснил тем, что ИИ структурно склонен концентрировать власть, а модели с открытым весом эту проблему полностью не решают — они лишь смещают преимущество к тем, у кого больше вычислительных мощностей и чипов