Мередит Уиттакер — о том, почему доверять ИИ-чат-ботам опасно

ИИ — не собеседник

Уиттакер предупредила, что ИИ-чат-боты — это не друзья, не сознательные существа и не полноценные собеседники. По ее словам, она использует ИИ лишь для форматирования документов, но не задает ему вопросов. Она серьезно относится к своему мышлению и письму и не хочет, чтобы процесс проработки идеи был заблокирован или вытеснен ответом системы, которая усредняет уже существующее.

Уиттакер предупреждает: системы спроектированы так, чтобы имитировать эмпатию и понимание, однако в основе лежит сопоставление паттернов из обучающих данных, а не реальное понимание. Доверять им личное — значит добровольно передавать личную информацию системам с непрозрачными практиками обработки данных.

Когда помощник становится слежкой

Самая жесткая критика адресована CEO Microsoft AI Мустафе Сулейману, который предсказал, что пользователи смогут поручить Copilot рождественский шопинг — для этого агент будет «подслушивать» семейные групповые чаты, чтобы выяснить, кто что хочет.

Уиттакер методично перечислила, какой доступ потребует такая система: кредитная карта, браузер, Signal, возможность писать сообщения от имени пользователя, домашний адрес, календарь. 

По словам Уиттакер, подобная система получает слишком широкий доступ к множеству приложений и сервисов. Применительно к Signal это равносильно бэкдору — скрытому входу, который открывает доступ к данным в обход любой защиты.

Агентный ИИ убивает шифрование

Суть аргумента Уиттакер состоит в том, что агентные ИИ-системы, которым для работы нужен практически полный доступ к цифровой жизни пользователя, структурно несовместимы со сквозным шифрованием. Агент, способный читать сообщения до шифрования или после расшифровки, делает само шифрование бессмысленным с точки зрения приватности.

Именно поэтому в январе 2026 года на Давосе Уиттакер назвала агентный ИИ «опасным» для защищенных приложений, а в эссе для The Economist обвинила производителей операционных систем в том, что они «выхолащивают» способность Signal гарантировать приватность, встраивая агентов в свои платформы.

Три компании решают за всех

Microsoft строит операционную систему вокруг агентных вычислений — проект Project Solara, представленный на Build 2026, заменяет традиционные приложения ИИ-агентами как основным интерфейсом. Аналогичные стратегии реализуют Google, Apple и OpenAI.

Уиттакер предупреждает: в мире контролируют всего три компании — Google с Android, Microsoft с Windows и Apple с iOS. По словам Уиттакер, эти три компании способны в одностороннем порядке принимать решения, которые фундаментально подрывают коллективную кибербезопасность. 

Этот архитектурный сдвиг создает базы данных всей цифровой жизни пользователей, которые становятся главной мишенью как для хакеров, так и для правительств.

Удобство или приватность

Уиттакер занимает позицию, расходящуюся с доминирующим нарративом Кремниевой долины, где агентное будущее преподносится как неизбежность, повышающая продуктивность. 

Ее контраргумент: прирост продуктивности, достигнутый ценой передачи контроля над сообщениями, календарем, контактами и финансовой информацией корпоративному ИИ, — это не прирост вовсе, а сделка, в которой пользователи меняют приватность на удобство, не понимая ее условий.