Глава Brex объяснил, почему CEO больше не могут делегировать тему ИИ

Педро Франчески, сооснователь и CEO FinTech-компании Brex, рассказал в подкасте Y Combinator Lightcone, как компания перестроила внутренние процессы вокруг ИИ-агентов, зачем понадобился собственный сетевой прокси для «свободных» агентов и почему руководитель компании обязан лично осваивать границы возможностей технологии.

Почему топ-менеджеру сложнее менять процессы, чем CEO

Руководителю компании ломать устоявшиеся процессы в 10 раз проще, чем топ-менеджеру. А топ-менеджеру — в 10 раз проще, чем рядовому сотруднику, которому легче оставить процесс как есть, чем инициировать изменения и спорить с коллегами. Поэтому путь согласования решений об использовании ИИ нужно максимально ускорять. Если риски и границы технологии понятны, решение можно принять за 10 секунд, а не за 10 часов совещаний.

Как в Brex решили вопрос безопасности агентов

Прежде чем компания смогла смелее экспериментировать с ИИ, нужно было закрыть вопрос безопасности. Франчески предоставил агенту доступ только на чтение почти ко всем своим личным сервисам через OAuth-токены и был удивлен, насколько далеко с этим можно продвинуться.

Сложнее оказался следующий шаг. Нужно было разрешить агентам не только читать, но и записывать данные в системы компании, против чего изначально выступала команда безопасности.

Решение нашли за четыре недели. Контролировать нужно не действия модели, а сетевой уровень. Так в Brex появился инструмент Crab Trap, который компания открыла в открытый доступ. Весь трафик агента проходит через прокси и становится доступным для аудита. Другой агент анализирует этот трафик и формирует политику допуска запросов. Для внутреннего агента-рекрутера по имени Джим 98% запросов проходят автоматически, и лишь 2% требуют отдельной проверки.

Три скорости освоения ИИ внутри одной компании

Франчески делит сотрудников на три группы. «Максимизаторы токенов» — это инженеры, которые живут внутри агентных сред разработки. Обычные инженеры тоже используют ИИ, но их производительность примерно в десять раз ниже. Вся остальная компания пока пользуется ИИ как обычным поиском с парой подключенных сервисов.

Задачей Brex было дать нетехническим командам такой же мощный инструмент, каким пользуются разработчики. По сути, это виртуальный сотрудник с доступом к почте и Slack, способный участвовать во встречах и вести заметки.

Момент, после которого Франчески изменил подход

Переломным для самого Франчески стал декабрь, когда вышла новая модель ИИ. Он сравнивает этот момент с изобретением электричества. По его словам, мир сейчас находится примерно в той же точке, что и через пять-шесть месяцев после появления электричества, и только начинает понимать, что можно сделать с новой технологией.

До этого Франчески был обычным веб-разработчиком и написал около полумиллиона строк кода на Rails.

Почему успешный продукт умещается на салфетке

Франчески уверен, что успешные компании объединяет одна черта — предельно узкая точка входа для клиента. У Stripe на старте был только API. У Brex — только терминал без веб-интерфейса. У Airbnb — простая форма на сайте. Если идею невозможно уместить на салфетке, значит, проблема выбрана неверно.

Главная опасность ИИ, по его мнению, заключается в том, что технология создает соблазн распыляться на множество направлений вместо того, чтобы дисциплинированно решать одну конкретную задачу.

Главный вопрос для основателей

Франчески предлагает держать в голове один простой вопрос: какую бы проблему в жизни вы ни встретили, почему ее нельзя решить с помощью ИИ?

Там, где готовый чат-бот не справляется, стоит разобраться, почему, и построить решение самостоятельно. Роль основателя в итоге сводится к двум вещам: определять, какими проблемами стоит заниматься, и собственными силами закрывать те пробелы, с которыми языковые модели пока не справляются.