НОВОЕ ускорение агента Hermes (Обновите СЕЙЧАС)

Агент Hermes получил ускорение на 4 PR — время запуска сократилось с 10–15с до 2–3с, инструменты терминала теперь опрашивают каждые 5 мс вместо 200 мс.

Что изменилось

Четыре пул-реквеста были внесены в Hermes, и они суммируются. Создатель называет комбинированный эффект «адаптивным контекстом» — агент прекращает предварительную загрузку ненужной работы и перестает спать дольше, чем для выполнения команд.

PR 28864 — запуск CLI

Раньше Hermes импортировал полный SDK OpenAI при каждом холодном старте только для того, чтобы исправить один внутренний класс. Это стоило примерно 160–170 мс и ~30 МБ RAM на процесс, даже если вы никогда не вызывали OpenAI. Теперь клиент OpenAI загружается лениво, в момент обращения к модели, которая его требует. На машине с Windows, которую тестировал создатель, время холодного старта сократилось с 10–15 с до 2–3 с; на Mac это было мгновенно. Пользователи VPS с несколькими рабочими процессами почувствуют это сильнее всего, потому что излишняя нагрузка накапливается.

PR 28866 — очистка цикла чата

Запуск из 31 шага с вызовами инструментов достигал примерно 400 000 вызовов функций Python за один разговор. После очистки это примерно 213 000. Два конкретных изменения: повторное использование уже загруженной конфигурации вместо её глубокого копирования на каждом шаге и кэширование решения reasoning-pad для каждого провайдера вместо его повторного вычисления. Экономия на каждом шаге невелика (~1 мс для одного чата) — выигрыш проявляется на загруженных шлюзах и при высокой конкуренции, когда административная работа перестаёт задерживать время ожидания LLM.

PR 28957 — ленивая настройка сжатия

Раньше каждая конструкция агента сразу обращалась к вспомогательному провайдеру с вопросом «может ли эта модель сжатия удерживать полное контекстное окно?» — это занимало примерно 400 мс на сетевой вызов. Большинство коротких чатов никогда не достигают порога сжатия, так что затраты были напрасны. Теперь проверка выполняется только тогда, когда сжатие действительно срабатывает. Короткие чаты стали быстрее; длинные чаты по-прежнему получают полное сжатие.

Сестринский PR 28957 — адаптивный опрос терминала (любимый)

Терминальный инструмент опрашивал завершение подпроцессов с фиксированным интервалом 200 мс. 30 мс echo/ls/cat будет блокироваться до следующего тика — фиксированная пауза составляла большую часть видимой задержки. Новое поведение: старт с 5 мс, увеличение до 200 мс только для длительных команд. Создатель отметил это как изменение, которое наконец ставит Hermes на один уровень с Claude Code или Aquilo по ощущению, если не по возможностям.

Итог

Быстрый холодный старт, меньше RAM, более оптимальный цикл чата, более отзывчивые инструменты. Обновляйтесь сейчас.