Nvidia представила открытую ИИ-модель Nemotron 3.5 Lightning с 30 млрд параметров
По заявлению разработчиков, новая модель обеспечивает до четырехкратного ускорения инференса по сравнению с аналогичными решениями. Благодаря этому общее время выполнения агентных задач сокращается примерно на 30 процентов, что особенно важно для сценариев с высокой нагрузкой и множеством взаимодействующих агентов.
Nemotron 3.5 Lightning может работать как на локальных системах, так и в корпоративной инфраструктуре. Из коробки она поддерживает ПК на базе NVIDIA RTX, компактные модули DGX Spark, рабочие станции DGX Station и платформы Jetson для периферийных устройств. В enterprise-среде модель легко масштабируется на edge-системы, рабочие станции RTX PRO, серверы дата-центров и облачные платформы.
Модель уже доступна для загрузки через ведущие платформы машинного обучения и интегрирована в облачные сервисы Nvidia. Серия Nemotron 3 продолжает расширяться: ранее компания выпустила модели Embed и Ultra, а версия Lightning стала ответом на растущий спрос на быстрые и эффективные решения для мультиагентных систем.
Источник: www.ithome.com
Поделиться