Использование гибридной модели для кодирования стало стандартом
Маршрутизируйте задачу, а не всю сессию
- A использование гибридной модели — это управляющий слой, который распределяет различные части одной задачи кодирования между разными моделями. Тезис Рона заключается в том, что теперь эта архитектура важнее, чем выбор единственного победителя рейтинга. (исходное видео JwMcTYNRztw, , )
- Cognition представила Devin Fusion как гибридный инструмент кодирования, который заявлял о снижении стоимости на 35% при сохранении того, что он называл «качеством интеллекта на уровне сказки». Видео сообщает об этом утверждении; измерения не воспроизводятся. (исходное видео JwMcTYNRztw, , , )
- Назначайте дорогую модель-планировщика для сложных решений и более дешевые модели для ограниченной работы, не выбрасывая повторно контекст и кэш. (исходное видео JwMcTYNRztw, , , , )
- Обвязка также должна управлять оркестрацией, поиском контекста и оценкой: писать код распределения задач, искать с помощью нескольких методов извлечения и использовать специализированного судью для выявления ошибок в траектории агента. (видеоматериал JwMcTYNRztw, , , )
- Вопрос о прочном операторе больше не "какая модель выигрывает?". Теперь это "какая комбинация выполняет эту задачу с лучшей маршрутизацией, непрерывностью контекста и экономикой отладки?" (видеоматериал JwMcTYNRztw, , )
Агенты кодирования с одной моделью — это старый стандарт по умолчанию. Держите самую сильную модель там, где суждение влияет на направление работы, а повторяющиеся или строго ограниченные задачи направляйте на более дешевые модели. Но только маршрутизация недостаточна: если каждая передача разрушает полезный контекст, или если агент не может найти нужный файл и объяснить, где произошел сбой выполнения, экономия может исчезнуть из-за дополнительных токенов, задержек и времени на отладку. Этот риск затрат следует из режимов отказа, которые отмечает Рон; видео не измеряет его. Создавайте и оценивайте обвязку как единый продукт: планировщик, исполнителей, кэши, методы поиска и модель-судью, а не как тонкую оболочку вокруг какой-либо модели, возглавляющей эту неделю. (источник видео JwMcTYNRztw) , , , , )
Смотрите отчет
- : Рон перемещает целевую для оценки модель из одного LLM в обвязку вокруг неё.
- : заявленная стоимость приводит к архитектуре «планировщик и исполнитель».
- : меньшие модели выполняют повторяющуюся работу, в то время как большая модель остаётся доступной для критических вызовов.
- : основной агент начинает писать код оркестровки вместо того, чтобы только вызывать инструменты.
- : семантический поиск, grep, список файлов и чтение файлов объединяются в один цикл.
- : Trace Judge представлен как более дешёвый способ поиска ошибок в работе агентов.
- : маршрутизация, эффективность кеша и программируемость заменяют одноразовый запрос в качестве преимущества.
Рон своими словами
Четыре слоя вокруг модели
Один ремень, четыре операционных слоя
Видео представляет собой брифинг по архитектуре, а не практический тест. Его ценность заключается в том, как четыре операционных слоя указывают на одну и ту же системную разработку. Граница доказательств имеет значение: запись предоставляет рассказ Рона, но не содержит соответствующих результатов задач, счетов, конфигураций или независимого воспроизведения.
| Уровень | Пример, приведённый в видео | Чтение оператором |
|---|---|---|
| Маршрутизация модели | Devin Fusion разделяет работу, вместо того чтобы запускать одну большую модель на каждом этапе. Рон связывает это с дорогим планировщиком и более дешёвыми ограниченными работниками. (исходное видео JwMcTYNRztw) , , ) | Маршрут по форме задачи. Планирование и трудные решения остаются за более мощной моделью; хорошо определённое выполнение может перейти на более низкую стоимость. |
| Непрерывность контекста | Помощник LlamaIndex и маршрутизация в середине сессии позволяют меньшей, более быстрой модели выполнять повторяющуюся работу, пока большая модель остаётся готовой к критическим вызовам. Суть Джерри Лиу, как передал Рон, заключается в эффективности кэша. (источник видео JwMcTYNRztw, , , , ) | В качестве краткой подсказки, локальность кэша означает сохранение повторно используемого контекста достаточно близко, чтобы следующий вызов не восстанавливал его заново; в записи используется этот термин, но не дается определение. Потерянный контекст и добавленная задержка учитываются как затраты на маршрутизацию. (источник видео JwMcTYNRztw, , , ) |
| Оркестрация и извлечение информации | Рон описывает динамические рабочие процессы подагентов, в которых основной агент пишет код распределения, затем используется механизм извлечения LlamaIndex, объединяющий семантический поиск, grep, перечисление файлов и чтение файлов. (источник видео JwMcTYNRztw, , , , ) | A программируемая плоскость управления — это уровень, который решает, как работа распределяется. Ему также нужно более одного способа найти правильный контекст. |
| Оценка | Судья трассировки LangChain представлен как средство обнаружения ошибок траектории примерно за 1/100 стоимости закрытых моделей. (исходное видео JwMcTYNRztw) , , ) | A траектории — это последовательность решений и действий в ходе выполнения. Более дешевый судья мог бы сделать частые проверки практичными, но видео не воспроизводит соотношение стоимости или качество судьи. |
Важная связь заключается в том, что эти слои нельзя оптимизировать независимо. Дешевый работник, который инициирует полную перестройку контекста, может сэкономить на скорости модели, но потерять на токенах и времени. Умный скрипт оркестровки, который получает неправильный файл, быстрее распределит неправильную работу. Агент, который завершает запуск без полезного трассирования, может оставить дорогую часть — поиск ошибки — человеку. Это сопутствующие выводы из архитектуры, которую описывает Рон, а не новые результаты тестов.
Прежде чем проектировать систему
Рон не демонстрирует полную реализацию в этой записи. Приведённые ниже вопросы превращают его архитектуру в обзор дизайна.
- Содержит ли задача реальное плановое решение? Сохраните эту часть с самым мощным доступным планировщиком. Маршрутизируйте только ту работу, которую можно ограничить и проверить. (исходное видео JwMcTYNRztw, , )
- Сохранит ли передача полезный контекст? Если работнику нужно заново создавать тот же контекст, включите этот токен и задержку в решение о маршрутизации. (исходное видео JwMcTYNRztw, , )
- Может ли контроллер организовать параллельное выполнение? Шаблон в видео показывает, как главный агент рассуждает о задаче и пишет скрипт, который её распределяет. (исходное видео JwMcTYNRztw, , )
- Может ли извлечение использовать метод, необходимый для работы? Не предполагайте, что один только текстовый поиск покрывает семантическое сходство, обнаружение каталогов и проверку файлов. (исходное видео JwMcTYNRztw, , , )
- Можно ли дешево проверить неудачную траекторию? Оценивайте систему по тому, показывает ли она, где произошла ошибка в запуске, а не только по тому, успешно ли она началась. (исходное видео JwMcTYNRztw, , )
Примечание о свежести
Видео было опубликовано 30 июня 2026 года. Транскрипт проверен 18 июля 2026 года. Включены только видео-материалы; страницы продуктов, примечания к релизу, страницы с ценами, тесты производительности или более поздние тесты не добавлялись. Снижение стоимости Devin Fusion, качество уровня «сказки», маршрутизация и поведение поиска LlamaIndex, а также соотношение стоимости Trace Judge — это устаревшие утверждения, приведенные в видео, а не подтверждение их состояния на 18 июля. Проверьте текущее поведение и экономику на своей рабочей нагрузке перед изменением производственного маршрута.