Филдсовский лауреат вступил в гонку ИИ: связка Qwen-3.5 и GLM-5.2 штурмует ARC-AGI 3
Сгенерировав токен, большая модель накапливает около двух мегабайт скрытых состояний, а наружу отправляет лишь около 17 бит — один токен из словаря на 150 тысяч слов. Остальное выбрасывается, и любой разговор между моделями опирается на эти крохи, хотя именно там, внутри, скрыта суть вычислений.
Mostik по-русски значит «мостик», и компания строит настоящий мост: обученная прослойка напрямую передаёт скрытые состояния большой модели малой, без текста. Веса Qwen и GLM заморожены, учится только мост. В демонстрации 753-миллиардный GLM-5.2 делал лишь дешёвое предзаполнение, а ответ целиком писала мобильная Qwen-3.5.
Эффект: малая модель закрыла половину разрыва с гигантом, точность выросла на четверть, на трудных подмножествах улучшение двукратное, а вычислительные затраты большой модели упали примерно в 20 раз.
За проектом стоит созданный четыре месяца назад стартап: 15 человек, 12 из которых доктора наук. Научный руководитель Станислав Смирнов — филдсовский лауреат 2010 года, доказавший конформную инвариантность перколяции и плоской модели Изинга. Он признаёт: найти общий математический язык между двумя сетями очень трудно, подходящего формализма пока нет.
Источник: www.qbitai.com
Поделиться