От LLM-портала до фабрики агентов: в Авито строят ассистента Виталик

Согласно данным McKinsey, к концу 2025 года 71% компаний уже пробовали интегрировать искусственный интеллект хотя бы в один бизнес-процесс. Но, как показывают отчёты MIT, до реального продакшна доходят лишь около 5% пилотных проектов. Разрыв между демонстрацией и реальностью объясняется тем, что production-ready система должна отвечать на сложные вопросы. Как из множества разносторонних источников выбрать ту информацию, которая приведёт к успешному выполнению процесса? Как обогатить языковую модель инструментами, чтобы она могла довести процесс до конца? И как оценить качество траектории, по которой движется модель, пока решает задачу?

В Авито нашли ответы, создав систему, которая постепенно превращает внутренние знания компании в корпоративных агентов. «Виталик» — это экосистема таких агентов, доступная сотрудникам. Она позволяет автоматизировать процессы, опираясь на корпоративные данные и инструменты. Старший DS-инженер Авито рассказал, как процесс становится агентом, как сделать систему production-ready и куда её развивать дальше. По его словам, ключ к успеху — не просто внедрить LLM, а построить инфраструктуру, где агенты могут безопасно работать с внутренними системами, получать нужные данные и самостоятельно оценивать результаты своих действий. Такой подход превращает разрозненные пилоты в единую фабрику агентов, способную масштабироваться на новые задачи.

Материал будет полезен ML-инженерам, AI-архитекторам и техническим лидам, которые строят агентные системы на базе LLM в корпоративной среде.