Будущее ИИ решится не в лабораториях, а в экосистеме

Российские пользователи всё чаще слышат о «локальных» и «малых» моделях искусственного интеллекта, которые должны работать прямо на смартфоне или ноутбуке, без обращения к облаку. Однако разговоры о том, что периферийный ИИ вот-вот вытеснит облачный, ведутся уже не первый месяц, а обещанного прорыва всё нет. На недавней конференции, посвящённой интеграции больших моделей в интеллектуальные терминалы, эксперты попытались разобраться, где на самом деле находится отрасль, какие препятствия ей мешают и когда стоит ждать появления по-настоящему массового продукта.

Заместитель директора Центра глобального управления инновациями в области ИИ, старший научный сотрудник Фуданьского университета Цзян Чанцзянь предложил смотреть на периферийный ИИ шире: речь идёт не только о переносе вычислений из облака на устройство, но и о перераспределении полномочий, рисков и ответственности. В качестве примера он привёл недавний анонс персонального ИИ-агента Muse от Meta, отметив, что за подобными разработками стоят серьёзные технологические ограничения и коммерческие правила. По его мнению, для устойчивого развития периферийного ИИ необходимо сформировать открытые и справедливые правила взаимодействия, которые позволят совместить безопасность, автономность, честность и ответственность.

Сдвиг вычислений к устройству меняет и расклад сил в полупроводниковой отрасли. Основатель и генеральный директор компании Хоумодай Интеллидженс У Цян рассказал, что с 2020 года компания занимается интеграцией памяти и вычислений на периферии, и за последний год изменения в индустрии стали особенно заметными. Взрывной рост ИИ-агентов увеличил потребление токенов на два-три порядка, и эта тенденция только ускоряется, из-за чего эффективность вычислений выходит на первый план. Чипы с интегрированной памятью M50 меньше чем за год получили более 150 проектных внедрений и обслуживают свыше сотни клиентов. Самыми быстрорастущими сегментами У Цян назвал агентские компьютеры и периферийные серверы, а в сегменте ИИ-ПК видит потенциал благодаря миллиардам установленных персональных компьютеров, которые постепенно будут переходить на ИИ-ПК.

Ключевым фактором для периферийного ИИ У Цян считает стоимость и экосистему. Если предельная стоимость токена приблизится к нулю, а локальные вычисления можно будет использовать без ограничений после разовых вложений, отрасль получит мощный ускоритель. Компания продвигает концепцию «бесплатной фабрики токенов на устройстве», рассчитывая стать вычислительной базой для периферийного ИИ. При этом, по его словам, большинство сложных сценариев пока требуют совместной работы пограничных моделей и облака, а чипы быстро прогрессируют как по производительности, так и по экономичности. Примерно через год-два, прогнозирует он, может быть достигнута критическая точка.

Представитель Alibaba Cloud Intelligence в области интеллектуального оборудования Сюй Чао видит ключ к развитию периферийного ИИ в эффективном использовании вычислительных ресурсов нейропроцессоров и памяти, а также в миниатюризации моделей и повышении их интеллектуальной плотности. Он полагает, что к середине 2027 года пограничные модели смогут закрывать большинство рабочих задач, а «персональный суперкомпьютер» станет стандартной конфигурацией. Любопытно, что на фоне роста спроса на инференс и превращения экономики токенов в отдельную дисциплину метрики стоимости токена и стоимости токена на ватт стали ключевыми ориентирами для рынка.

По словам соучредителя и вице-президента по продуктам компании Хоумодай Синь Сяоси, в основе технологической стратегии лежит технология вычислений в памяти на базе SRAM, а также две ветви развития — 2D и 3D, ориентированные на больший объём и большую пропускную способность. Он особо отметил, что взрыв агентов ускорил внедрение периферийного ИИ, сравнив нынешний момент с началом эры мобильного интернета, когда зрелость платформ iOS и Android открыла дорогу массовым приложениям.

Основатель и генеральный директор компании Ваньгэ Чжиюань Ван Гуаньцзо напомнил, что с 2023 года ИИ растёт экспоненциально, но сейчас действительно наблюдается перенос вычислений на устройство. Пользователю нужна не самая дорогая и мощная модель, а та, что решает его задачу, и по мере роста плотности моделей периферийный ИИ будет закрывать всё больше запросов. Отрасль, по его мнению, перейдёт от «заимствования интеллекта» к «обладанию интеллектом», а устройство станет главной точкой входа в ИИ для всех.

Однако на пути стоят серьёзные барьеры: внедрение сценариев, порог развёртывания и бизнес-модели. Технический директор компании Логодата Лю Сюэфэн заметил, что пользователь не станет платить за возможности модели «в километре от него», а заплатит за последние сто метров, и чтобы периферийный ИИ их прошёл, нужно преодолеть три препятствия — объединение данных, встраивание в рабочие процессы и стабильность вероятностных моделей. Многие эксперты сходятся в том, что безопасность, приватность, стабильность и стоимость периферийного ИИ пока остаются обещаниями, а главные проблемы — нехватка сценариев и недостаточное масштабное внедрение. Именно экосистема, а не отдельные чипы, определит будущее этого направления, и переход от точечных партнёрств к системной кооперации станет решающим.