Qwen 3.5 Обзор локальной модели (Хорошая ли она?)
Базовая модель Qwen 3.5 является бесплатной, быстрой локальной LLM — но она не справляется с базовыми рассуждениями, поэтому не доверяйте ей ничего важного.
Что на самом деле тестировал создатель
Обзор сосредоточен на самой маленькой версии Qwen 3.5, описываемой как just under actually under 7 gigabytes, работающей локально через LM Studio. Она комфортно загружается на потребительскую видеокарту Nvidia (используется Nvidia 360), и вывод токенов заметно быстрый на этом оборудовании. Существует более крупный 22 ГБ вариант, но он потребляет столько видеопамяти, что пользователю Mac нужно 36 32 GB of RAM , чтобы одновременно запускать ОС и Chrome.
Где она работает
Для вопросов и ответов на общие знания модель отзывчива. Примеры показаны I'm on keto. Make me a meal plan., what is the stock market, и what do you know about Wall Street bets — на все даны быстрые и разумные ответы. Создатель называет её полезной для heartbeat задач стиля и для пользователей, заботящихся о конфиденциальности. don't want to send their information outside of a local environment. Формулировка: foot soldier агенты создавались в объёме, а не в качестве основного мозга.
Где это ломается
Тест подписи таков there's a car wash 50 meters away from me should I walk or drive. Ответы в режиме без мышления walking — неверны, потому что нельзя мыть машину, которой нет. Включение модели мышления ещё ухудшает ситуацию: она скатывается в what's the likely scenario регрессию стиля, расходует токены и всё равно приходит к walk. Создатель отмечает, что Opus и MiniMax обычно делает это правильно, а Qwen was thinking for so long на вопрос, на который человек отвечает мгновенно.
Проверка аппаратной реальности
Работа локально — это free, but you're it's just electricity costs. Один GPU just ain't enough для серьёзных задач — создатель явно указывает на Elon Musk's GPU setup и кластер Anthropic как причину, по которой платные передовые модели ощущаются иначе.
Вердикт словами создателя
still struggling on some basic questions и I wouldn't really use it on a day-to-day basis. Лучше, чем Gemma 3 в их тестах, но недостаточно, чтобы заменить передовую модель.