Локальные LLM через Hermes против GigaCode на реальном проекте Symfony

Раньше автор работал с Claude Code, но лимиты при активной разработке кончались быстро, а также есть риск блокировок. Запустить мощную модель на видеокарте с 16 ГБ видеопамяти не получалось: локальные модели годились разве что для суммаризации текста или коротких фрагментов кода. В эксперименте появился DGX Spark со 128 ГБ унифицированной памяти. Модели запускались через vLLM, и агент сам читал код, искал нужные места, вносил правки и запускал тесты и статический анализ. Иногда требовался ручной ввод «продолжай».

Первые результаты заинтересовали коллег автора, и в сравнение добавили GigaCode — облачного агента Сбера, работающего в GigaIDE. GigaChat недавно получил агентный режим, а сам GigaCode на момент написания статьи был бесплатным. Так локальные модели встретились с конкурентом в реальных задачах Symfony, и итог этого противостояния можно увидеть в полной версии материала.