Марк Цукерберг о Muse, открытом ИИ и будущем персональных агентов

Почему Meta говорит об открытом ИИ

Я написал большой текст о будущем искусственного интеллекта, потому что Meta много инвестирует в эту область, и мне важно было объяснить, почему мы это делаем и каких принципов придерживаемся. Я считаю, что у развития ИИ есть три важных принципа. Первый — технологии должны расширять возможности людей. Именно способность людей создавать новое и использовать инструменты для решения задач в конечном счете двигает экономику и общество вперед.

Второй — главная задача ИИ должна заключаться не только в автоматизации существующей работы. Намного интереснее, если он позволит людям создавать то, чего раньше не существовало.

Третий принцип связан с безопасностью. Безопасность должна строиться не только на ограничении доступа к технологиям. Важную роль играют баланс сил, конкуренция и возможность разных компаний и исследователей проверять и развивать технологии.

Поэтому я скептически отношусь к ситуации, когда наиболее мощные AI-системы контролирует небольшое количество организаций. Чем больше людей и компаний могут работать с технологией, тем больше возможностей для конкуренции, проверки и новых идей.

Именно поэтому Meta продолжает развивать открытые модели Llama. При этом мы не считаем, что вся работа должна быть открытой. У нас есть и закрытые исследования, но мы хотим, чтобы разработчики могли использовать наши модели и создавать на их основе собственные продукты.

Персональный агент должен работать на человека

Одно из направлений, которое меня особенно интересует — персональные AI-агенты. Я думаю, что следующий этап развития ИИ будет отличаться от привычных чат-ботов.

Сегодня вы задаете вопрос, получаете ответ и продолжаете диалог. Персональный агент должен работать иначе. Вы можете дать ему цель или описать проект, а дальше он самостоятельно работает над задачей.

Я использую Muse в повседневной жизни. Например, мы с семьей экспериментируем с выпечкой, и Muse помогает искать идеи и развивать проекты. В другой ситуации он помогал мне разобраться с разрешением для похода моей дочери в горы.

Мне нравится и возможность использовать его для тренировок. Например, камеры в нашем зале позволяют анализировать движения во время занятий и давать обратную связь.

В будущем персональный агент сможет работать практически постоянно. Он сможет изучать ваши предпочтения, запоминать контекст, предлагать новые идеи и самостоятельно продолжать работу над проектами.

ИИ сможет помогать людям зарабатывать и экономить

Персональные агенты смогут не только экономить время, но и помогать людям зарабатывать деньги. Например, агент сможет искать способы снизить расходы, находить новые возможности для бизнеса или помогать человеку запускать собственные проекты.

Мы хотим, чтобы базовые возможности Muse были доступны широко. В дальнейшем мы можем создавать бизнес-модели, связанные с транзакциями между пользователями и компаниями.

Есть и другой интересный эффект. Если у людей появятся персональные агенты, они смогут взаимодействовать друг с другом. При соблюдении требований конфиденциальности такие системы смогут обмениваться обобщенными знаниями и идеями.

В результате агент одного человека может помочь ему обнаружить возможность, которую другой человек уже использовал в своей работе.

Безопасность и конфиденциальность

Для персонального агента особенно важна безопасность, потому что он получает доступ к большому количеству информации о пользователе. Мы строим Muse так, чтобы даже Meta не могла видеть содержимое его виртуальной среды. Для этого используются изолированные вычислительные среды и защищенное хранение данных.

Еще один принцип — минимальные привилегии. Агент не должен автоматически получать доступ ко всему, что есть у пользователя. Он должен получать только те разрешения, которые необходимы для конкретной задачи.

Мы также используем дополнительные системы, которые следят за действиями агента и пытаются обнаружить потенциальные атаки, утечки данных или попытки внедрить вредоносные инструкции. Для чувствительных действий, например входа в аккаунт или платежа, может потребоваться подтверждение человека.

Я думаю, что это станет особенно важно по мере того, как агенты будут получать все больше возможностей.

Почему Meta снова инвестирует в собственные модели

Meta давно занимается машинным обучением, но современные большие языковые модели требуют другого подхода. Мы поняли, что должны серьезно усилить нашу AI-лабораторию. Поэтому сейчас мы концентрируемся на небольшой команде с высокой плотностью талантов и значительно увеличиваем вычислительные мощности.

Мы также строим крупные AI-кластеры. Это необходимо, если мы хотим создавать модели, которые находятся на переднем крае развития технологии.

У нас есть новые модели с рабочими названиями, связанными с фруктами. Например, avocado и watermelon. Watermelon — более крупная и продвинутая модель.

Для меня важно, чтобы Meta могла контролировать весь технологический стек — от базовой модели до конечного продукта. Особенно это важно для персональных агентов. Им недостаточно просто хорошо отвечать на вопросы. Они должны уметь программировать, понимать контекст, принимать решения и соблюдать ограничения, связанные с конфиденциальностью и безопасностью.

О дата-центрах

Строительство AI-инфраструктуры требует огромных инвестиций, и вокруг крупных дата-центров иногда возникает недовольство.

Я понимаю эти вопросы, но важно разделять краткосрочные проекты и долгосрочные инвестиции. Большие инфраструктурные проекты создают рабочие места, налоговые поступления и спрос на специалистов.

Нам также нужны люди, которые смогут строить и обслуживать эту инфраструктуру. Поэтому мы развиваем программы подготовки специалистов — от монтажников оптоволокна и электриков до специалистов по строительству.

ИИ требует не только программистов и исследователей. Нам нужна большая экосистема людей, которые смогут физически создавать инфраструктуру для этой технологии.

Что будет с умными очками

Умные очки могут стать одним из главных способов взаимодействия с ИИ. Но здесь особенно важна конфиденциальность. В очках есть заметный индикатор, который показывает, когда камера ведет запись. Мы также принимаем дополнительные меры, чтобы человек не мог просто отключить этот индикатор и продолжить незаметную съемку.

По мере того как такие устройства становятся более распространенными, нам придется постоянно объяснять людям, как они работают и какие меры защиты используются.

Безопасность подростков

Мы также много работаем над безопасностью подростков. Например, Meta развивает Teen Accounts с ограничениями на время использования, уведомления и другие функции. Важно, чтобы подобные правила не существовали только на одной платформе.

Если одна компания вводит ограничения самостоятельно, подростки могут просто перейти на другую платформу. Поэтому я считаю, что здесь необходим более широкий подход, который может создать общие правила для индустрии.