Nvidia вложилась в стартап Simplismart, помогающий экономить на GPU

Пока бум искусственного интеллекта продолжает пожирать вычислительные ресурсы, Nvidia нашла способ поддержать тех, кто учится эти ресурсы экономить. Американский производитель чипов принял участие в раунде финансирования индийской стартап-компании Simplismart, которая привлекла 14 миллионов долларов. Деньги пойдут на развитие софта, повышающего эффективность работы AI-моделей: в некоторых случаях такой софт позволяет предприятиям обходиться меньшим количеством графических процессоров.

Раунд стал для Simplismart уже вторым по счёту крупным вливанием — это так называемая серия B, и все деньги представлены новыми акциями. Помимо Nvidia, в сделке поучаствовали фонды Accel, Shastra VC и Micromax, а возглавила её техасская Dallas Venture Capital. После закрытия сделки капитализация компании, которой всего четыре года, оценивается примерно в 100 миллионов долларов с учётом привлечённых средств.

Сегодня корпорации тратят огромные суммы на закупку GPU, чтобы обеспечить работу приложений на базе искусственного интеллекта. Но добиться того, чтобы модели при масштабном развёртывании работали стабильно и при этом не разоряли заказчика, совсем непросто. Разные рабочие нагрузки предъявляют разные требования к скорости, стоимости и производительности, и для удовлетворения бизнес-задач компаниям зачастую приходится вручную заниматься сложной настройкой параметров при развёртывании и эксплуатации моделей.

Simplismart утверждает, что её программное обеспечение берёт значительную часть этой работы на себя: оно само подстраивает работу модели под реальные запросы на уже имеющейся вычислительной инфраструктуре, избавляя клиента от необходимости управлять всеми этими сложными конфигурациями. Сооснователь и генеральный директор компании Амританшу Джайн в интервью заметил, что на самом деле никому не нужна ни самая быстрая, ни самая дешёвая схема инференса. Бизнесу, по его словам, нужно решение, подходящее под конкретный сценарий применения, — такое, при котором модель работает в разумных рамках скорости и затрат.

Софт Simplismart располагается между AI-моделью и вычислительной инфраструктурой и настраивает развёртывание и управление моделью под нужды заказчика. Компания говорит, что её решение оптимизирует скорость отклика, объём обрабатываемых запросов и потребление вычислительных ресурсов, помогая предприятиям полнее использовать уже имеющиеся у них GPU. У стартапа с головным офисом в Бангалоре есть несколько вариантов развёртывания моделей: можно работать через собственную платформу Simplismart, а можно задействовать облачную инфраструктуру клиента или его локальное оборудование. Кроме того, компания предлагает инструменты тонкой настройки моделей, автоматическое масштабирование вычислительных ресурсов под меняющиеся запросы и мониторинг работы моделей. Провайдеры облачных услуг тоже могут использовать софт Simplismart, чтобы строить и обслуживать собственные сервисы инференса на GPU-инфраструктуре.

По словам компании, её технология помогла платформе генерации видео InVideo сократить расходы на GPU-сервисы на 56 процентов. Среди партнёров Simplismart — видеогенераторы HeyGen и Higgsfield, корпоративный AI-стартап Ema, а индийский облачный провайдер Yotta использует её технологию на платформе Shakti Studio для поддержки бессерверного инференса.

Джайн рассказал TechCrunch, что за последние полгода годовая выручка компании выросла в 14 раз и достигла восьмизначных значений. Правда, показатель рассчитан по фактическому использованию сервиса недавними клиентами, а не по подписанной регулярной выручке, и не включает деньги, которые перечисляются провайдерам инфраструктуры. Конкретную сумму компания не раскрывает. При этом, несмотря на то что большинство клиентов Simplismart находится в Индии, больше половины выручки приходит из США.

Параллельно с инвестициями Nvidia налаживает с Simplismart технологическую интеграцию, в том числе вокруг собственного программного обеспечения для инференса Dynamo. По словам Джайна, в совместной работе задействованы инженеры Simplismart и архитекторы решений Nvidia, а сама корпорация помогает стартапу выходить на потенциальных клиентов и партнёров.

Любопытно, что в этой инвестиции есть видимое противоречие: доминирующий поставщик AI-чипов поддерживает софт, который помогает businesses сокращать использование части GPU. Джайн считает, что рост эффективности инференса в итоге может пойти Nvidia на пользу: более производительный инференс делает её железо привлекательнее для клиентов и подталкивает к запуску новых AI-приложений, а значит, расширяет весь рынок.

Рынок программного обеспечения для инференса при этом становится всё теснее. Конкурировать Simplismart приходится не только с решениями самой Nvidia, но и с крупными облачными провайдерами и гиперскейлерами вроде Amazon Web Services, Google Cloud и Microsoft Azure. По мере роста спроса на AI-приложения компании всё сильнее хотят выжимать максимум из дорогих GPU, и на этом фоне появляется всё больше стартапов, пытающихся заставить модели работать быстрее и дешевле.

Джайн говорит, что у Simplismart есть преимущество там, где клиент предъявляет жёсткие требования к соглашениям об уровне обслуживания и совокупной стоимости владения, то есть требует одновременно строгого соблюдения стандартов производительности и контроля над расходами. В отличие от некоторых конкурентов, предлагающих заранее заданные схемы быстрого или дешёвого инференса, Simplismart ищет более подходящий баланс между скоростью, стоимостью и производительностью под нужды каждого конкретного заказчика.

Компания основана в 2022 году Джайном, бывшим инженером Oracle, и Дэваншем Гхатаком, выходцем из Google. Они познакомились во время учёбы в индийском технологическом институте Бирла в Пилани, а затем, опираясь на опыт построения и развёртывания систем машинного обучения, создали собственный бизнес. Сейчас в штате Simplismart 58 сотрудников.

Вырученные деньги компания планирует направить на дальнейшее расширение в США, рост команды и разработку софта для инференса. Джайн подтвердил TechCrunch, что американский рынок остаётся для Simplismart ключевым и компания хочет наращивать там присутствие, отталкиваясь от уже имеющейся клиентской базы. Любопытно, что незадолго до объявления о сделке индийская англоязычная газета The Economic Times писала, будто Simplismart ведёт переговоры о привлечении 40–50 миллионов долларов при оценке в 300–400 миллионов. Джайн от комментариев по этой публикации отказался, заявив, что компания сейчас не ищет новый раунд, а завершённая серия B закрыта и расширять её не планируется.