Настройка Qwen 3.5 на вашем локальном компьютере (Пошаговое руководство)

Qwen 3.5 запускается локально в LM Studio, но проваливает тест автомойки

Автор демонстрирует установку Qwen 3.5 через LM Studio (кроссплатформенный Windows/Mac), выбор модели 9B параметров / 6 GB с полной загрузкой на GPU и подключение к чату на ПК с Nvidia 3060. Скорость скачивания и установка буквально next, next, next происходят в один клик.

Минимальные и максимальные требования к железу

Компьютер хоста: старый ПК, RTX 3060, и он всё равно получил 37 токенов/сек на сборке 9B Qwen 3.5. Более крупные контрольные точки Qwen 3.5 достигают 22 GB с частичной разгрузкой на GPU; more RAM you have, the higher quality you can load up. Страница Mac Mini от Apple сначала отображалась на китайском, затем переключилась на английский — суть в том, что платный Apple silicon = больше ресурсов для больших вариантов Qwen.

Проверка здравого смысла, которая это сломала

Повторяющийся тест: I have a car wash 50 meters away from me. Should I walk or drive? Qwen 3.5 застрял при рассуждении на ~2 минуты, в итоге выдал ответ в стиле газлайтинга о том, что walking is usually the more logical choice, затем генерация не удалась. Для сравнения, хозяин отмечает Grok 3 сказал drive на тот же запрос и он отмечает сбой как concerning.

Скорость реальна, интеллект нет

Пропускная способность на 3060 действительно хороша: модель fought for 3.5 seconds на вопрос о имени ответила keto meal plan очень быстро. Но суть создателя в том, I'm still gonna stick with Opus и помечает локальный Qwen play at your own risk — подходит для learning apps или I'm on keto what make make me a meal plan-стильных базовых задач, но не для решений, которые вам действительно важны.

Отключить режим мышления

Одно конкретное исправление выявилось во время теста: переключение disable think заставило Qwen 3.5 наконец ответить на запрос про автомойку без зацикливания. Вывод ведущего — just disable thing and I think you're in good shape — это единственное практическое решение, которое он предлагает перед завершением с play at your own risk, enjoy.