AI нового поколения: почему Recursive Superintelligence называют одной из самых амбициозных компаний года

Партнерами Сочера по проекту стали известные исследователи в области AI, включая Питера Норвига и сооснователя Cresta Тима Ши. Команда работает над созданием рекурсивно самоулучшающейся модели искусственного интеллекта — системы, способной самостоятельно выявлять собственные ограничения и совершенствовать себя без участия человека. Именно эту задачу многие считают одной из ключевых целей современной AI-индустрии.

Что отличает Recursive Superintelligence

В интервью журналисту Расселу Брэндому Сочер объяснил, что ключевая особенность подхода компании заключается в использовании концепции open-endedness для достижения настоящего рекурсивного самоулучшения.

По словам исследователя, многие ошибочно считают, что рекурсивное самоулучшение уже существует — например, когда ИИ помогает улучшать другую модель или редактирует текст. Однако это, по мнению Сочера, нельзя считать полноценным самоулучшением.

Главная цель Recursive Superintelligence — создать систему, которая сможет полностью автоматизировать исследовательский процесс: от генерации идей и формулирования гипотез до их проверки. На первом этапе речь идет об AI-исследованиях, но в будущем технология может применяться и в других научных областях.

Что означает open-endedness

Сочер также объяснил значение термина open-endedness. Один из сооснователей компании, Тим Рокташель, ранее руководил направлениями open-endedness и self-improvement в Google DeepMind и участвовал в разработке модели Genie 3.

В качестве примера Сочер привел биологическую эволюцию: виды адаптируются к окружающей среде, другие виды реагируют на эти изменения, и процесс продолжается миллиарды лет. По его словам, именно такой механизм лежит в основе постепенного развития сложных биологических систем.

Один из практических примеров применения этого подхода — технология rainbow teaming для стресс-тестирования AI-моделей. Вместо того чтобы специалисты вручную придумывали сценарии нежелательного поведения ИИ, одна модель автоматически тестирует другую, пытаясь спровоцировать ошибки или опасные ответы. В процессе миллионы итераций позволяют системам постепенно совершенствоваться.

Как отметил Сочер, сегодня подобные методы уже используются крупнейшими AI-лабораториями.

Можно ли завершить рекурсивное самоулучшение

Отвечая на вопрос о том, существует ли конечная точка такого развития, Сочер заявил, что многие процессы самоулучшения потенциально бесконечны.

По его мнению, всегда существует возможность совершенствовать навыки программирования, решения математических задач и научных исследований. Хотя теоретические пределы интеллекта существуют, человечество, как считает исследователь, все еще находится очень далеко от них.

Не только исследования, но и продукты

Сочер также подчеркнул, что Recursive Superintelligence не хочет оставаться исключительно исследовательской лабораторией.По его словам, компания намерена создавать полноценные продукты, которыми люди будут пользоваться в повседневной жизни. Он отметил, что команда сочетает сильную исследовательскую экспертизу с опытом построения успешных технологических компаний.

Так, Тим Ши ранее развивал Cresta, а Джош Тобин был одним из первых сотрудников OpenAI и руководил командами Codex и Deep Research.

Когда появятся первые продукты

По словам Сочера, развитие проекта идет быстрее ожидаемого, поэтому первые продукты могут появиться уже в ближайшие кварталы, а не через несколько лет.

Отдельно Сочер затронул вопрос вычислительных мощностей. Он согласился, что развитие рекурсивно самоулучшающихся систем напрямую связано с доступом к большим объемам вычислений.

По его мнению, в будущем одним из ключевых вопросов станет распределение вычислительных ресурсов между различными научными и социальными задачами. Например, какие проблемы человечество будет решать в первую очередь и сколько ресурсов потребуется для их решения.