Ling-3.1-flash: ИИ для реальных дел, а не для бенчмарков

Китайская компания Ant Group представила новую открытую модель Ling-3.1-flash, которая, по замыслу разработчиков, должна решать реальные рабочие задачи, а не гнаться за строчками в рейтингах. Анонс приурочили к началу сезона распродаж «Двойной одиннадцати» — главного торгового марафона года в Китае, когда сотрудники e-commerce буквально тонут в отчётах, таблицах и презентациях. Именно на таких вымотанных офисных тружеников и рассчитана новинка.

Разработчики из исследовательского подразделения Ant Group, известного как Bailing, прямо формулируют главный тезис: красиво отвечать — вторично, важно довести задачу до сдаваемого результата. Если руководитель бросает расплывчатое «соберите итоги распродажи», модель должна сама разобраться, какие данные искать, чего не хватает, как свести цифры в Excel и превратить всё это в презентацию. При этом информация обычно разбросана по разным файлам, веб-страницам и инструментам — и Ling-3.1-flash учили работать именно в такой среде, связывая понимание запроса, декомпозицию задачи, сбор сведений, вызов инструментов и проверку результата. Модель умеет делать таблицы и слайды, генерировать и тестировать код, работать с документами и веб-контентом.

У новинки уже есть вполне конкретное применение: её встроили во внутренний корпоративный агент для настольных компьютеров под названием Xiaohu, который получил доступ к файлам, запуску программ и записи результатов. Архитектура модели гибридная: около 560 миллиардов параметров всего, но на каждый токен активируется примерно 25 миллиардов. Это позволяет сохранить объём знаний и снизить вычислительные затраты на каждом шаге. В части внимания разработчики продолжили линию Ling-3.0-flash и увеличили долю линейного внимания: семь слоёв KDA чередуются с одним слоем Gated MLA, что даёт линейную сложность обработки последовательностей и сохраняет глобальный канал внимания. Контекстное окно достигает миллиона токенов, так что модель вмещает много документов, кода и истории задач без ручного дробления. Кроме того, настроено 512 маршрутизируемых экспертов, из которых на каждый токен выбираются восемь, плюс один общий эксперт. Смысл связки «линейное внимание плюс разреженная MoE» простой: чтобы модель не срывалась при долгом выполнении задач и не сжигала вычислительные ресурсы.

Отдельно команда поработала над снижением порога развёртывания. За счёт смешанной точности квантования вес модели уменьшился примерно с 534 до 292 гигабайт, а число необходимых ускорителей в тестовой конфигурации на Hopper сократилось с восьми до четырёх. Для бизнес-задач предусмотрены схемы параллельного инференса с длинным контекстом и усиленная поддержка JSON Schema, что упрощает стыковку с существующими интерфейсами.

В офисном бенчмарке GDPVal-AA V2.1 модель набрала 1673 балла ELO, показав конкурентоспособность на многошаговых рабочих задачах. По свежим данным Artificial Analysis, индекс интеллекта Ling-3.1-flash составляет 41, скорость вывода — около 210 токенов в секунду, а цена при смешанном использовании — примерно 0,19 доллара за миллион токенов. В медицинском тесте HealthBench Professional модель также держится в лидерах. В качестве примера приводят внутреннюю задачу Ant Group по разработке нативного компилятора Lua: процесс длился около 17 часов, модель многократно дорабатывала и исправляла код, а итоговая доля прохождения независимых тестов составила 97,8 процента.

В тестах на реальных сценариях модель получила задание составить план распродажи для бренда товаров для хранения дома. Вместо того чтобы слепо принять завышенные цели начальства, она оценила ограничения по эффективности рекламы, запасам и отгрузке, предложила пути корректировки и выдала смету и календарь этапов с проверяемыми цифрами, а заодно сама добавила послекampанийный разбор и расчёт прибыли, хотя её об этом не просили. В медицинском кейсе с размытым описанием симптомов и виртуальными анализами крови модель не стала ставить диагноз, а сначала уточнила недостающие детали, разделила известные факты, неопределённости и вопросы к врачу и постоянно напоминала о необходимости очного визита, не давая указаний по лекарствам.

Есть и слабые места. При подаче большого объёма текста одним куском внимание модели иногда смещается, поэтому сложные задачи лучше сдавать поэтапно. Нативная поддержка визуального понимания в текущей версии отсутствует — нужен отдельный визуальный модуль, что увеличивает стоимость процесса. Тем не менее общий вектор понятен: Bailing делает ставку на «интеллектуальную эффективность» вместо простого наращивания параметров и уже применила подход в финансах и медицине, выпустив специализированные модели LingFin и LingSante. Пока спор о том, должен ли AGI проверяться только на задачах программирования, далёк от разрешения, но тренд на встраивание моделей в реальные рабочие процессы становится общим для всей отрасли.