Можно ли сейчас обучить собственного агента с триллионом параметров? (Новости Prime Intellect)
Открытая инфраструктура — это не рецепт для ноутбука
- PrimeRL v0.6 от Prime Intellect представлен как открытый стек, способный к обучению с подкреплением (RL) на модели с триллионом параметров и комбинировании экспертов с временем шага менее пяти минут. Рон сообщает примерно 1000 шагов за три дня. (исходное видео JHOSn3FXzzI, 01:04) Здесь RL означает обучение модели на основе оцененных результатов.
- Заявленная скорость достигается благодаря инфраструктуре для инференса, обучения и оркестровки развертывания, включая параллелизованных экспертов, интеграцию Mooncake, выгрузку на CPU для KV-кэша, повторное проигрывание маршрутизатора и переписанное ядро. (видео-источник JHOSn3FXzzI, 01:43)
- «Открыто» не означает «легко» или «дешево». В видео нет информации о стоимости оборудования, команд настройки, топологии кластера или независимого воспроизведения. Оно подтверждает утверждение на уровне стека, а не обещание, что один разработчик сможет запустить это локально.
- Для обучения агентов Рон утверждает, что полные, проверенные траектории задач важнее, чем количество сырых токенов в секунду. (видео-источник JHOSn3FXzzI, 03:56; видео-источник JHOSn3FXzzI, 04:10) Он также указывает на живой бенчмарк Shopify как доказательство той же инфраструктурной перестройки. (видео-источник JHOSn3FXzzI, 04:19)
- Строители должны конкурировать по скорости итераций, стоимости верификации и количеству моделей, которые помещаются в их каркас, а не только на основе трюков с подсказками. (источник видео JHOSn3FXzzI, 05:37)
Это значимое открытие стека обучения агентов, но это не момент «обучите триллионную модель параметров на вашей рабочей станции». PrimeRL v0.6 имеет значение, потому что Рон говорит, что он превращает закрытую лабораторную задачу пост-обучения в инфраструктуру, которую другие могут развертывать и на которой могут проводить итерации. Если вы уже управляете серьёзными распределёнными вычислениями, изучите стек. Если вы обычный создатель агентов, перенимайте операционную модель: сокращайте цикл экспериментов, измеряйте завершённые траектории, проверяйте результаты и сохраняйте гибкость каркасной модели. Ров вокруг модели — это система вокруг модели. (источник видео JHOSn3FXzzI, 02:19; источник видео JHOSn3FXzzI, 05:54)
Смотрите отчет
- : Рон представляет заявленный запуск RL с триллионными параметрами и переход от алгоритмов к инфраструктуре.
- : в видео показано заявленное время шага, длина контекста и три уровня работы системы.
- : открытая инфраструктура и более короткие шаги делают эксперименты проще для повторного запуска.
- : W&B и OpenPipe повышают пропускную способность с стороны завершённого развертывания.
- : EcomBench от Vibrant Labs предоставляет живые детерминированные задачи для браузер-агентов.
- : итерация, проверка и гибкость модели становятся практическими конкурентными вопросами.
Рон своими словами
«И оказывается, настоящим узким местом здесь была не математика, ладно? Это была инфраструктура.» — Рон, исходное видео JHOSn3FXzzI, 00:35
«Обучение агента теперь является проблемой инфраструктуры.» — Рон, исходное видео JHOSn3FXzzI, 00:53
«Потому что количество токенов в секунду — это показатель тщеславия, когда ваши подсказки представляют собой огромный общий контекст.» — Рон, исходное видео JHOSn3FXzzI, 03:56
«Итак, алгоритм сейчас является обязательным условием, а мы видим, что инфраструктура — это рв.» — Рон, исходное видео JHOSn3FXzzI, 05:54
Что изменяет PrimeRL v0.6
A смесь экспертов (MoE) модель содержит многие специализированные группы параметров, но активирует только часть модели для данного токена. Рон сообщает, что PrimeRL v0.6 запускает RL на MoE с триллионом параметров с шагами меньше пяти минут и около 1 000 шагов за три дня. Он также описывает агентскую установку GLM 5 с длиной контекста 131K. Это показатели, приведенные в видео, а не независимо воспроизведенные результаты в этом материале. (источник видео JHOSn3FXzzI, 01:12)
Важная часть — это то, как распределяется работа. Последний столбец переводит каждый указанный слой в его вероятное рабочее значение:
| Уровень | То, что говорит Рон, указано в релизе | Почему оператору это важно |
|---|---|---|
| Вывод | Параллелизация широких экспертов, интеграция Mooncake и разгрузка на CPU для кэша KV, сохранённое состояние внимания, используемое во время генерации. (исходное видео JHOSn3FXzzI, 01:43) | Более быстрые прогонки уменьшают время ожидания перед началом обновления обучения. |
| Обучение | Повтор маршрутизации. (исходное видео JHOSn3FXzzI, 01:55) | Видео показывает работу маршрутизации как часть процесса практического обучения очень больших MoE. Здесь недостаточно деталей реализации, чтобы превратить это в руководство по настройке. |
| Оркестрация | Переписанное ядро прогонки с поддержкой моделей GLM 5, Kimi и NeMo-Megatron. (исходное видео JHOSn3FXzzI, 01:58) | Поддержка нескольких моделей снижает зависимость от одной архитектуры и позволяет сделать систему надёжным слоем. |
| Верификация | EcomBench, описанный как 40 живых задач Shopify с детерминированной проверкой для браузерных агентов. (исходное видео JHOSn3FXzzI, 04:19) | Выполнение полезно для обучения только в том случае, если система может определить, действительно ли агент выполнил задачу. |
Постобучение формирует предварительно обученную модель для поведения, такого как рассуждение и использование инструментов. Рон говорит, что посттренировка на триллионной шкале параметров раньше требовала закрытых лабораторий и специализированных вычислительных кластеров. Его утверждение заключается в том, что Prime Intellect открыл слой инфраструктуры, а не в том, что потребность в вычислениях исчезла. (источник видео JHOSn3FXzzI, 02:19)
Используйте правильную метрику пропускной способности
В видео PrimeRL сопоставляется с утверждениями от W&B и OpenPipe. Рон передаёт утверждение о 12-кратном увеличении пропускной способности от бэкенда Megatron для ART. (исходное видео JHOSn3FXzzI, 03:37) Он также сообщает о скорости до 35 траекторий в секунду на четырёх GPU для того, что расшифровка транскрипта называется «нагрузками, похожими на Grippo», с интенсивно общими подсказками. (исходное видео JHOSn3FXzzI, 03:44) Это утверждения поставщиков, переданные Роном; транскрипт не предоставляет метод тестирования или независимую проверку.
Изменение метрики всё ещё полезно. A траектории — это полное выполнение задачи, которое можно проверить, а не просто поток сгенерированных токенов. Рон говорит, что агентная система обучения с подкреплением (RL) должна генерировать и проверять полные выполнения задач, а не просто быстро выдавать один длинный запрос. (исходное видео JHOSn3FXzzI, 04:10) Когда многие выполнения задач используют один и тот же большой запрос, количество токенов в секунду может выглядеть высоким, хотя система обучения завершает слишком малое количество проверенных попыток. Количество траекторий в секунду приближает измерение к прогрессу обучения. (исходное видео JHOSn3FXzzI, 03:53)
Следует ли вам действовать на основании этого релиза?
Видео оставляет несколько практических вопросов без ответа. Используйте их, чтобы решить, релевантен ли этот релиз для вашей работы:
- Вы управляете распределённой инфраструктурой для обучения? Ознакомьтесь с релизом как с набором, который стоит оценить. В записи называются слои оптимизации, но нет достаточного количества команд или деталей по оборудованию, чтобы воспроизвести запуск.
- Вы создаёте агентов, а не обучаете базовые модели? Применяйте шаблон вместо копирования масштаба: отслеживайте полностью проверенные задачи, сокращайте циклы повторных попыток и держите модель за заменяемой оболочкой. (исходное видео JHOSn3FXzzI, 05:37)
- Вы выбираете эталон производительности по пропускной способности? Измеряйте траектории в секунду вместе с стоимостью и коэффициентом успеха. В видео аргументируют против того, чтобы считать токены в секунду единственным полезным числом. (исходное видео JHOSn3FXzzI, 03:56)
- Ваш оценщик использует статические задачи или задачи, которые можно обмануть? Добавляйте живые детерминированные проверки там, где это позволяет рабочий процесс. EcomBench — это пример Рона, а не доказательство того, что для каждой области сейчас есть достаточный оценщик. (исходное видео JHOSn3FXzzI, 04:19)
Примечание о свежести
Видео было опубликовано 24 июня 2026 года. Этот материал был проверен на источник 18 июля 2026 года на основе сохраненной полной транскрипции и сегментов с временными метками. Никакие текущие заметки о выпуске PrimeRL, состояние репозитория, стоимость оборудования, последующие тесты или независимое воспроизведение не добавлялись. Рассматривайте возможности v0.6, показатели пропускной способности, поддержку моделей и детали EcomBench как устаревший отчет о том, что сообщил Рон, а не как утверждение о текущих инструментах или экономике.