Meta открыла ИИ-модель Muse Glimmer с 30B параметров: работает на GPU с 24 ГБ VRAM

Чтобы модель можно было запускать без мощных серверов, инженеры применили 4-битное квантование. Благодаря этому Muse Glimmer работает локально на Mac или PC с 24 либо 32 гигабайтами видеопамяти. В Meta утверждают, что сжатие почти не влияет на качество: деградация производительности на агентских задачах минимальна, а скорость остаётся достаточной для живого диалога и интерактивного взаимодействия в реальном времени. Тесты проводились на MacBook M4 Max, M5 Max и настольной видеокарте RTX 5090; все вычисления полностью выполняются на самом устройстве.

По словам разработчиков, в популярных бенчмарках для больших языковых моделей Muse Glimmer уверенно конкурирует с такими моделями, как Gemma4-31B и Qwen3.6-27B, и показывает сильные результаты в своём классе. Скачать веса можно на Hugging Face.