От ладони до колеса: периферийный ИИ начинает битву за вход

Облачная архитектура даёт три сбоя. Задержка в десятки и сотни миллисекунд критична для автопилота. Чувствительные данные — речь, видео, геолокация — по закону во многих странах обязаны обрабатываться локально. Массовое обращение к облаку с миллионов устройств стоит дорого.

Периферийный ИИ, или edge AI (端侧AI), решает все три задачи: отклик занимает миллисекунды, данные не покидают устройство, работа продолжается даже без сети. Поэтому терминалы становятся главной ареной борьбы за распределение интеллектуальных услуг.

Первая и самая ценная арена — автомобили. Распознавание препятствий, планирование маршрута и голосовой ассистент работают на борту. Примеры — модель Mind-Edge от Li Auto и 7B-модель Mogo AI. Второй фронт — смартфоны: 3B-модели Apple Intelligence занимают около двух гигабайт памяти и потребляют примерно 750 миллиампер-часов. Третий — миллиарды устройств интернета вещей: умные часы, камеры, промышленные датчики.

Внедрение сложнее, чем кажется. Устройства ограничены по энергии и теплоотводу, требуют тонкой настройки под конкретный чип и соответствия стандартам функциональной безопасности. Фрагментация аппаратных платформ замедляет масштабирование.

Итог — не замена облака, а симбиоз: облако обучает модели, устройство исполняет их мгновенно. Главный вопрос — кто возглавит эту экосистему: производители устройств, чипов или платформ. Каждая смена точки входа в истории ИТ перекраивала рынок, и нынешняя вряд ли станет исключением.