Google DeepMind запустила институт для обсуждения будущего AGI
Руководителями института стали соучредитель DeepMind Шейн Легг, исполнительный директор Google Джеймс Манника и глава совета директоров Google DeepMind Демис Хассабис. Легг также занял должность главного редактора. Институт намерен объединить разные взгляды на развитие AGI — как внутри Google и Goog
Руководителями института стали соучредитель DeepMind Шейн Легг, исполнительный директор Google Джеймс Манника и глава совета директоров Google DeepMind Демис Хассабис. Легг также занял должность главного редактора.
Институт намерен объединить разные взгляды на развитие AGI — как внутри Google и Google DeepMind, так и среди исследователей по всему миру. Авторы отмечают, что позиции участников могут меняться по мере появления новых данных и результатов исследований.
Первый выпуск института включает четыре эссе. В них рассматриваются экономическая политика при возможных изменениях из-за AGI, прозрачность рассуждений ИИ-моделей, принципы человеческого благополучия и подходы к оценке передовых систем искусственного интеллекта.
В одной из работ исследователи безопасности Google DeepMind Рохин Шах и Анка Драган рассматривают проблему снижения прозрачности ИИ. Они предлагают изучать ограничения на так называемую «непрозрачную последовательную глубину» — объем вычислений, который модель выполняет без формирования понятной для человека цепочки рассуждений.
Отдельное эссе Хассабиса посвящено созданию органа по разработке стандартов для передовых ИИ-моделей под руководством США. Согласно предложению, разработчики могли бы добровольно передавать модели на проверку за 30 дней до запуска. В дальнейшем успешное прохождение таких тестов может стать условием для внедрения наиболее передовых систем в США.
По мере развития системы оценки институт предлагает перейти к независимым закрытым тестам, результаты которых не будут известны разработчикам заранее. Хассабис также допускает возможность координированного замедления разработки ИИ, если риски от передовых систем потребуют таких мер.
Запуск DeepMind Institute отражает переход дискуссии о безопасности AGI от общих предупреждений к обсуждению конкретных механизмов оценки, контроля и регулирования передовых моделей.
Источник: TechCrunch
The Tech в Telegram Подписывайтесь на The Tech в Telegram
Будьте в курсе всех последних новостей из мира технологий и стартапов.
Читайте по теме
Другие материалы автора
Новость
test
The Tech
Новость IT
Стартапы Узбекистана и Гонконга получат новые возможности для выхода на рынки
The Tech
Новость IT
Microsoft представила обновленный Copilot с кодингом и ИИ-агентом
The Tech
Новость IT
Xsolla открыла центр исследований и разработок в Азербайджане
The Tech
Статья
Эндрю Ын рассказал, где находятся главные возможности ИИ
The Tech
Новость IT
NVIDIA, Kraken, Higgsfield AI: кто приедет на AI & Digital Bridge 2026 в Астану
The Tech