Китайский стартап MoXin привлёк ещё 10 млрд юаней на чипы для разреженных вычислений
В основе успеха MoXin лежит ставка на разреженные вычисления — подход, который в последнее время стремительно выходит из тени. Ещё недавно разреженность воспринималась лишь как вспомогательная оптимизация, но сегодня, на фоне эволюции архитектур больших моделей, она превращается в один из центральных принципов проектирования вычислительных систем для ИИ. С распространением архитектуры смеси экспертов (MoE) инференс больших моделей всё чаще носит характер условных вычислений: для обработки каждого токена активируется лишь часть параметров. Показательный пример — модель DeepSeek-V4-Pro с общим числом параметров около 1,6 триллиона, которая при обработке каждого токена задействует лишь порядка 49 миллиардов параметров, то есть примерно три процента от общего объёма. Вопрос о том, как превратить эту экономию на уровне модели в реальный прирост эффективности инференса и снижение затрат, становится ключевым для всей отрасли.
И здесь решающую роль играет выбор архитектуры чипа. Универсальные графические процессоры вынуждены обслуживать обучение, инференс и научные расчёты одновременно, из-за чего не могут глубоко оптимизировать алгоритмы и аппаратуру под конкретные паттерны разреженности. Специализированные чипы для разреженного инференса, напротив, позволяют за счёт совместного проектирования алгоритмов, компилятора и аппаратной части сократить объём бесполезных вычислений и накладные расходы на перемещение данных. Именно эту ценность архитектурного различия отрасль сегодня переосмысливает.
MoXin работает в этом направлении с момента основания в 2018 году. Компания разработала собственный алгоритм двойной разреженности — по весам и по активациям, — на базе которого постепенно выстроила технологическую систему совместного проектирования «алгоритм — программное обеспечение — аппаратура». Чтобы довести эту систему до зрелых серийных чипов, требуется полный инженерный стек компетенций: от алгоритмов и компиляторов до архитектуры чипов и программных инструментов. Основатели компании пришли из Университета Карнеги — Меллона, а также из Intel, Qualcomm и Marvell, сочетая исследовательский бэкграунд с опытом серийного производства десятков продуктов и более пяти миллиардов чипов. Эффективность разработок MoXin подтверждена в международных отраслевых бенчмарках: в тестах MLPerf Inference вычислительная карта S30 трижды подряд занимала первое место в ряде категорий, демонстрируя лидирующие показатели энергоэффективности и пропускной способности инференса на токен в таких задачах, как компьютерное зрение и обработка естественного языка.
Масштабное развёртывание укрепляет позиции компании. Построенные на собственных чипах вычислительные кластеры MoXin стратегически размещены в четырёх крупных регионах Китая — на северо-западе, юго-западе, востоке и севере страны. Выручка компании в третьем квартале 2026 года выросла в разы. Разреженные вычисления всё глубже встраиваются в национальную вычислительную инфраструктуру: MoXin участвовал в проекте первой в стране «морской фабрики токенов», созданной шанхайской государственной платформой. Проект опирается на энергию морского ветра и охлаждение морской водой для снижения энергопотребления и стоимости электроэнергии, однако затраты на инференс на универсальных графических процессорах могли бы нивелировать эту экономию. Используя преимущества разреженной архитектуры и гетерогенные вычислительные схемы, MoXin снижает стоимость инференса одного токена на уровне чипа, позволяя сложить эффект «зелёной» энергии и эффект архитектуры вычислений.
Отдельное направление — геопространственный ИИ и большие пространственно-временные данные. В сотрудничестве с исследовательским институтом Земли и космических технологий Шанхайского международного центра инноваций в области науки и технологий при Пекинском университете компания адаптировала и протестировала на своих картах две международные базовые модели интеллектуального анализа спутниковых снимков. Практически без потери точности и без дообучения под конкретные задачи пропускная способность инференса выросла до 2,88 раза, а сжатие модели достигло 7,64 раза. Это означает, что сэкономленные на уровне модели вычисления благодаря совместной работе программного обеспечения и аппаратуры превращаются в реальный рост производительности обработки: масштабная расшифровка снимков выполняется с меньшими вычислительными затратами и за меньшее время.
Сейчас компания переводит накопленный опыт в способность к постоянным итерациям, продвигая специализированные чипы для разреженного инференса от состояния «работоспособно» к состоянию «удобно в работе». До конца года должна выйти новая плата SP200, а вскоре будет представлена обновлённая программная платформа SECA (Sparse-native Efficient Computing Architecture) — разреженно-нативная архитектура эффективных вычислений, которая усилит поддержку развёртывания инференса больших моделей и обслуживания кластеров, снизив порог миграции и внедрения моделей. Кроме того, в августе компания выступила инициатором создания отраслевого альянса по разреженным вычислениям, объединяющего науку и промышленность для прорывных исследований и трансфера технологий.
Конкуренция в области больших моделей смещается от «считать больше» к «считать умнее». Когда рост масштабов моделей всё сильнее упирается в стоимость вычислений и энергопотребление, главный вопрос отрасли меняется: как вместить больше интеллекта в меньшее количество вычислений. Разреженные вычисления — один из прямых ответов на этот вопрос, а ценность MoXin в том, что она предлагает китайским чипам для ИИ дифференцированный технологический путь к конкуренции на следующем этапе.
Источник: www.qbitai.com
Поделиться