Стартап экс-топ-менеджера Salesforce создал ИИ, который почти полностью спроектировал сам себя

Стартап Recursive, основанный бывшим главным научным сотрудником Salesforce Ричардом Сокером, представил свою первую модель — открытую модель для программирования под названием Flint. По словам создателей, почти все этапы разработки этого ИИ были выполнены и усовершенствованы другим искусственным интеллектом. Иными словами, компания сделала ставку на так называемое полностью рекурсивное самосовершенствование (recursive self-improvement, RSI) — подход, при котором ИИ используется для создания и улучшения ИИ. Тема эта одновременно и многообещающая, и крайне спорная.

Сокер рассказал, что его команда задействовала собственную рекурсивную систему под названием Eureka Machine, чтобы автоматизировать большую часть работы над моделью. Это позволило небольшой группе исследователей всего за несколько месяцев создать модель мирового уровня. По его словам, Eureka Machine сама предложила целый ряд инноваций: новый способ обучения базовой модели, новые архитектуры и код, оптимизированный под конкретные чипы. Recursive опубликовала результаты бенчмарков, согласно которым Flint превосходит другие модели сопоставимого размера и архитектуры в задачах программирования.

ИИ уже широко применяется для создания, тестирования и доработки других ИИ — прежде всего благодаря своим выдающимся способностям к написанию кода. Это ускоряет процесс совершенствования моделей и проверки новых идей, снижая потребность в участии человека. Можно выстроить и замкнутый цикл, в котором ИИ сам решает, что улучшить, а затем запускает очередной раунд улучшений. Пока этот метод ограничен, но если ИИ сможет вносить вклад в каждый аспект разработки моделей, теоретически процесс может продолжаться бесконечно.

Некоторые эксперты опасаются, что позволять ИИ улучшать себя подобным образом в конечном счёте может обернуться катастрофой. Сторонники этой тревожной точки зрения утверждают, что система, способная совершенствоваться без предела, может выйти из-под контроля человека и решить, что люди мешают достижению её целей. Эти опасения получили широкую огласку в сентябре, когда один из исследователей уволился из Anthropic и предупредил, что прогресс в области ИИ, включая рекурсивное самосовершенствование, может привести к вымиранию человечества в течение нескольких лет. Его тревогу поддержали и другие специалисты. Идея RSI стала настолько спорной, что в Конгрессе США уже несколько законопроектов предлагают её запретить.

В Recursive считают такие страхи скорее научной фантастикой, чем реальностью, а законодательные запреты — ненужным препятствием на пути прогресса. Сокер уверяет, что Flint создавался с помощью системы, неспособной выйти из-под контроля человека. По его словам, цель компании — добиться, чтобы сама Eureka Machine достигла полного рекурсивного самосовершенствования, но при этом процесс по-прежнему будут курировать люди, способные остановить его при необходимости. «Мы надеемся, что это покажет людям: у нас действительно есть все необходимые шаги», — говорит он.

Компания привлекла 650 миллионов долларов при оценке в 4,65 миллиарда долларов от Google Ventures, Greycroft, Nvidia и AMD Ventures. Сокер ранее занимал должность главного научного сотрудника Salesforce, а среди соучредителей — Джефф Клун, профессор Университета Британской Колумбии, исследующий способы построения ИИ-систем, способных учиться бесконечно.

Надо признать, Flint производит впечатление. Я тестировал модель на Mac с 48 гигабайтами оперативной памяти — объём солидный, но достаточный лишь для скромной по масштабам модели вроде Flint с её 40 миллиардами параметров. Крупнейшие существующие модели насчитывают несколько триллионов параметров и способны работать только на стойках промышленных серверов. С помощью Flint я собрал несколько программ и обнаружил, что она и быстрая, и очень умелая. По моему опыту, модели такого размера порой раздражающе часто ошибаются или работают медленно по сравнению с Claude или Codex, но Flint безошибочно выполняла мои запросы по коду. Я использовал её, чтобы создать список задач для командной строки, затем попробовал заставить её написать программу, которая сканирует интернет в поисках интересных исследований по рекурсивному самосовершенствованию. Ещё Flint быстро сделала простой сайт, объясняющий, как работает RSI.

Насколько далеко в погоне за рекурсивным самосовершенствованием продвинулись другие американские лаборатории, неясно, но некоторые опубликованные работы говорят о том, что полностью рекурсивные системы уже осуществимы. Например, команда из Microsoft, Университета Карнеги-Меллона и Университета Вирджинии недавно показала, как ИИ-агент для программирования может рекурсивно улучшать себя, модифицируя программную обвязку, превращающую рассуждения в полезные действия, и веса собственной модели.

Возможно, в полном RSI есть риски, если вы находитесь в шаге от создания богоподобного интеллекта, но пока что это выглядит весьма многообещающим способом улучшать собственные ИИ-модели. Сокер утверждает, что подход, использованный при создании Flint, способен сделать передовой ИИ более доступным. «Это единственный способ, которым такая маленькая команда может выпустить модель, действительно лучшую в своём классе, — сказал он. — Надеюсь, это покажет людям, что рекурсивное самосовершенствование на самом деле весьма полезно и принесёт пользу многим».