ModelSphere выходит под Apache 2.0 и бросает вызов закрытым платформам

Китайская компания «Фаньши Чжинэн» (Phancy Group, Гонконгская фондовая биржа, тикер 6682) вместе с пекинской «Жуйсы Чжилянь» (Ruisilink) вывела на рынок открытую платформу для промышленного развёртывания искусственного интеллекта под названием ModelSphere, что по-китайски звучит как «Моюй». Платформа распространяется бесплатно по лицензии Apache 2.0, её код уже доступен на GitHub, и это прямой вызов закрытым корпоративным решениям, которые до сих пор доминировали в сегменте промышленной эксплуатации больших моделей.

По замыслу разработчиков, ModelSphere объединяет в одном окне три вещи, которые обычно живут в разных командах и разных системах: управление вычислительными ресурсами, развёртывание моделей и оптимизацию их работы. Предприятию больше не нужно держать штат инженеров, которые день и ночь компилируют драйверы и подгоняют код под конкретное железо. Платформа берёт эту рутину на себя, а команда разработки наконец занимается продуктом и бизнес-задачами, а не борьбой с инфраструктурой.

Проблема, которую решает новинка, знакома любому, кто пытался запустить большую модель в реальном производстве. Вычислительные мощности простаивают, чипы разных производителей несовместимы друг с другом, порог входа высокий, а тонкая настройка под нагрузку превращается в бесконечный эксперимент. По словам создателей, ModelSphere сводит всё это к единому процессу развёртывания и управления, и предприятиям больше не приходится переписывать нижнюю логику под каждый тип ускорителя.

Платформа предлагает графическую панель и готовые шаблоны развёртывания, что заметно сокращает объём кода конфигурации. Внутри уже есть автоматическое масштабирование, раздельное развёртывание стадий Prefill и Decode, трёхуровневый кэш KV, отказоустойчивая балансировка нагрузки и автоматическое продолжение работы сервиса при обрыве потока. Всё это относится к корпоративному классу и позволяет модели работать стабильно не в тестовой песочнице, а в реальной эксплуатации. Кроме того, встроен интеллектуальный планировщик AutoTune и адаптивная балансировка с учётом возможностей железа. Разработчики утверждают, что предельная пропускная способность системы выросла примерно на 285 процентов по сравнению с базовым уровнем, а производительность увеличилась вчетверо — то есть вычислительные ресурсы наконец начинают работать на полную мощность.

Отдельный козырь — поддержка разных чипов. Через встроенный движок вывода EngineX платформа умеет единообразно и смешанно распределять ресурсы на ускорителях Huawei Ascend, Iluvatar CoreX, Moore Threads и Hygon DCU. Пользователю не нужно переписывать нижний слой под каждый чип, что особенно важно для китайского рынка, где парк оборудования крайне разнороден. Команда также обещает оперативно адаптировать свежие открытые модели: заявлена поддержка DeepSeek-V4 и V4-Flash, семейства Qwen, Kimi, MiniMax и GLM, причём новинку можно быстро развернуть и довести до производственного уровня сразу после релиза.

Технически ModelSphere не пытается заменить движки вывода вроде vLLM или SGLang, а работает в связке с ними. Движок отвечает за эффективность отдельного сервера, а платформа берёт на себя управление и оптимизацию на уровне кластера: маршрутизацию запросов с учётом нагрузки и кэша, единый пул KV-кэша, автоматическое масштабирование по качеству обслуживания, продолжение работы при обрыве, настройку производительности на основе живых данных, мониторинг и управление сервисами. Именно эта связка и обеспечивает высокую производительность и доступность в промышленной среде.

Выбор Apache 2.0 — пожалуй, самый громкий сигнал. Лицензия максимально свободная, а значит, инженерные наработки по развёртыванию и оптимизации больших моделей открываются широкому кругу компаний и разработчиков. Ставка на открытое сообщество должна ускорить поддержку новых чипов и моделей, снизить барьеры аппаратной совместимости и помочь предприятиям выжать максимум из уже закупленного железа. Если закрытые платформы продают удобство за деньги и привязывают клиента к вендору, то ModelSphere предлагает тот же класс возможностей бесплатно — и это может заметно перекроить рынок промышленного ИИ.