Qwen 3.5 В ВАШЕМ БРАУЗЕРЕ (Руководство по настройке)

Qwen 3.5 теперь полностью работает в браузере через WebGPU, но вам всё равно нужно ~8 ГБ для загрузки и обработка токенов медленнее.

Как это работает

Проект Эрика загружает модель Qwen напрямую на ваш GPU через WebGPU API браузера. Создатель подчеркивает, что это возможно только потому, что современные браузеры теперь имеют полный доступ к GPU — «ранее» браузер не мог получить доступ к VRAM, поэтому это не было опцией. Ни LM Studio, ни llama.cpp, ни Python-среда.

Загвоздка: потолок 3060

Демонстрационная машина — это ПК под управлением Windows с NVIDIA 3060. У этой видеокарты ограниченный объем VRAM, что ограничивает используемые модели до ~8 ГБ или меньше. 3060 «предназначена для игр» — «вам нужна она только для текстур». Mac с объединенной памятью обходится без этого ограничения; у Windows-пользователей нет. Создатель говорит прямо: сборка Qwen с 27B / 37B параметров еще больше весит, и при его соединении загрузка идет крайне медленно.

Целевая производительность

Жесткий потолок составляет ~30 токенов/секундa. Ниже этого показателя "вы не будете ждать" — модель с 1 токен/с воспринимается как "30 секунд на привет". Модели, которые думают, работают хуже, потому что они расходуют токены на планирование перед ответом. Модель Qwen, которая думает, на экране явно тормозила во время вывода в демонстрации.

Вопросы конфиденциальности и стоимости

Локально = ничего не покидает ваше устройство. Создатель нацеливает это прямо на зрителей, обеспокоенных передачей данных в Китай, и на всех, кто устал платить за кредиты API. "Вы можете делать всё бесплатно на собственной видеокарте."

Вердикт от создателя

Браузер предназначен для экспериментов и для ленивых, кто предпочитает установку в один клик. Для реального кодинга, вибрационного программирования или запуска больших вариантов Qwen 3.5 (особенно дистиллированной версии Opus-Reasoning, которую он приберёг для следующего видео) используйте локальный сервер. Браузерный путь — это забавный флекс 2026 года, а не инструмент для ежедневного использования.