Qwen3.8-27B: обзор, характеристики и требования к ПК

Qwen3.8-27B: что это и кому подходит

Qwen3.8-27B — открытая модель Alibaba для работы с текстом, кодом, изображениями и видео. Эта страница посвящена конкретному checkpoint Qwen/Qwen3.8-27B. Дата проверки материалов — 10 сентября 2026 года.

Выбор для локального запуска: начните с Q4 и короткого контекста. Практический ориентир — 32 ГБ системной памяти для экспериментов на CPU, 24–32 ГБ видеопамяти для GPU или 64 ГБ объединённой памяти Mac для запаса. Это расчётные рекомендации, а не результаты нашего тестового стенда.

Для первого внедрения полезнее проверить десять собственных документов и задач, чем покупать компьютер по месту модели в рейтинге. Успешная генерация одного ответа ещё не подтверждает приемлемую задержку, качество русского языка или устойчивую работу нескольких сотрудников.

Какие версии нельзя смешивать

Даты сверены с репозиторием Qwen. Отличия крупной версии — в её карточке модели, Flash-Next — в анонсе разработчика. Для 2.4T даже идеализированное хранение всех весов в 4 битах даёт около 1,2 ТБ до накладных расходов: активные параметры не заменяют полный объём весов при расчёте памяти. Один Mac Studio или DGX Spark 128 ГБ для этого не подходит.

Возможности и ограничения

Модель выдаёт текст. Понимание изображения не означает генерацию изображений; просмотр видео не означает создание ролика. Браузер, поиск и исполнение кода нужно подключать в приложении. Для локальных файлов и внешних инструментов полезно заранее определить, какие действия требуют участия человека.

Thinking включён по умолчанию и допускает отключение; глубина рассуждения настраивается. Возможности и режимы описаны в официальной карточке 27B. Длинное рассуждение увеличивает задержку и расход токенов. Для извлечения короткого поля сначала сравните качество с reasoning и без него.

Что известно об архитектуре

Значения взяты из config.json. Идентификатор qwen3_5 обозначает семейство реализации архитектуры: он не означает, что вы скачали другую версию. Плотная архитектура не имеет отдельного малого набора активных экспертов, характерного для MoE.

Результаты тестов: показатели разработчика

Источник — таблицы Qwen. Это опубликованные авторами значения в шкалах соответствующих тестов, не наши измерения и не обещание той же точности в Q4. Результаты разных тестов нельзя усреднять в единый «процент интеллекта». Для SWE-bench Pro важны использованный агентный harness и исправленный набор заданий: сравнение с другой таблицей без совпадающей методики может вводить в заблуждение.

Сколько памяти нужно для Qwen3.8-27B

Размер файлов — только начало расчёта

Размеры относятся к конкретным файлам ggml-org, в десятичных ГБ. Общий размер репозитория складывает альтернативные файлы: скачивать все варианты не нужно. У другого конвертера даже Q4_K_M может иметь иной размер. Дополнительные MTP-веса в этот бюджет не включены.

Бюджет памяти = веса + KV-кэш + состояния модели + рабочие буферы + запас для ОС. Для изображений добавляются encoder/projector и обработка входа. Системная RAM и VRAM дискретной карты — разные пулы. На Mac и Spark память общая, и её часть занимает система.

Для полного внимания этой конфигурации расчёт BF16 KV-кэша составляет примерно 64 КиБ на токен одной последовательности: 16 слоёв × 4 KV-головы × 256 × 2 × 2 байта. Это даёт около 0,5 ГиБ при 8 192 токенах, 2 ГиБ при 32 768 и 16 ГиБ при 262 144. Здесь не учтены состояния DeltaNet, дополнительные запросы и служебные буферы. Размеры и особенности recurrent-state pool разобраны в документации SGLang.

Практический минимум и рекомендуемый запас

Все оценки ниже предполагают одного пользователя, текстовый запрос и отключённое дополнительное speculative decoding.

Для Q4 оставьте минимум 40 ГБ свободного SSD, для Q8 — 60 ГБ, для BF16 — 100 ГБ. Это наш запас на загрузку, временные файлы и служебные данные, а не размер весов. Для нескольких форматов и документов удобнее SSD от 1 ТБ.

16 ГБ VRAM недостаточно для полного размещения выбранного 19-ГБ Q4-файла. Частичная выгрузка на CPU возможна при достаточной RAM, но требует отдельной проверки задержек. Контекст 1 млн не следует выбирать по умолчанию: сначала измерьте короткий запрос, затем увеличивайте длину и число одновременных обращений.

Как запустить

Mac или обычный ПК: GGUF

Используйте сборку llama.cpp с поддержкой Qwen3.8. Для конвертации bartowski указан минимум b10419. Этот пример намеренно использует её собственный репозиторий; таблица размеров выше относится к ggml-org.

llama-server -hf bartowski/Qwen3.8-27B-GGUF:Q4_K_M \
  --ctx-size 8192 --host 127.0.0.1 --port 8080

После установки подходящей сборки откройте http://127.0.0.1:8080. При первом запуске скачиваются веса. Проверьте журнал: какой backend выбран, сколько слоёв размещено на GPU и загружен ли vision projector. Для CPU будет иной профиль скорости. Вручную скачанные мультимодальные файлы требуют корректного --mmproj; один языковой GGUF не обеспечивает обработку картинок.

RTX 5090: рецепт vLLM

Официальный рецепт vLLM проверен на версии 0.26.1rc1.dev608+g99a10304d; требуется Transformers ≥ 5.8.0. Для одной RTX 5090 приведён следующий вариант:

vllm serve Inferact/Qwen3.8-27B-NVFP4 \
  --tensor-parallel-size 1 \
  --max-model-len 32768 \
  --kv-cache-dtype fp8 \
  --enforce-eager \
  --reasoning-parser qwen3 \
  --host 127.0.0.1

--enforce-eager отключает CUDA graphs: без него авторы рецепта получили нехватку памяти при старте. Это подтверждение текстового serving на указанной связке, а не универсальный тест всех мультимодальных режимов. Используйте совместимое Linux-окружение с драйвером NVIDIA; предустановленная Windows на готовом ПК сама по себе не означает готовность vLLM.

API и стоимость

Идентификатор API — qwen3.8-27b, совместимый endpoint — https://dashscope-intl.aliyuncs.com/compatible-mode/v1. В текущей карточке QwenCloud указаны контекст 1 млн, максимальный финальный вывод 131K и reasoning-бюджет 262K. Лимиты конкретного запроса нужно сверять с режимом и входом; это не гарантии для локального GGUF.

Пример расчёта: 1 млн обычных входных и 100 тыс. оплачиваемых выходных токенов стоят $0,80 без дополнительных инструментов и налогов. Итог зависит от reasoning и правил тарификации. Локальный запуск не имеет платы за токен со стороны владельца весов, но требует оборудования, электричества и сопровождения. Доступность аккаунта, оплаты и поставки в России здесь не проверялась; долларовые цены не являются российским предложением.

Какой готовый компьютер выбрать

Это подбор по памяти, программной совместимости и сценарию, а не рейтинг скорости. Переход с Q4 на BF16 не оправдывает покупку сам по себе: сначала сравните ответы на своём наборе задач. Ссылки на отдельные карточки конфигураций находятся ниже.

Mac: официальная конфигурация и дата доступности. ПК: спецификация CORSAIR. Spark: характеристики NVIDIA и US-магазин: $4 699. Цены остальных выбранных конфигураций не удалось надёжно подтвердить; они намеренно не подменены ценами базовых моделей.

Частые вопросы

Qwen3.8-27B бесплатна и разрешена для коммерческого проекта?

Веса опубликованы под Apache 2.0. Лицензия предусматривает коммерческое использование при соблюдении её условий, включая необходимые уведомления. Платный API — отдельная услуга. Открытые веса не означают публикацию полного обучающего корпуса.

Будет ли работать без интернета?

После скачивания весов и зависимостей локальный inference может работать без облачного API. Поиск в интернете, внешние инструменты и обновления — отдельные подключения. Если важна автономность, проверьте её с отключённой сетью на всей цепочке обработки документов.

Почему нет обещания «токенов в секунду»?

Мы не измеряли эту модель на перечисленных компьютерах. Скорость зависит от формата, длины входа, обработки изображений, reasoning, кэша и числа пользователей. Для сравнения фиксируйте время до первого токена, скорость продолжения и пиковую память, а не только одну цифру из короткого запроса.

Что выбрать первым для компании?

Подготовьте контрольный набор реальных задач и эталонных ответов. Проверьте облачную или имеющуюся локальную конфигурацию, измерьте качество и задержки, затем оцените нужный объём оборудования. Для локального пилота начинайте с одного пользователя и 8K контекста; увеличивайте нагрузку после замеров.

Как поддерживается актуальность этой страницы?

Характеристики, deployment-профили и связанные компьютеры сохранены отдельно в AI Models и доступны автоматическому сравнению. Текст объясняет ограничения этих цифр. Дата проверки относится к источникам; она не означает проведение аппаратного теста. Неизвестные показатели явно отмечены, расчётные требования отделены от подтверждений разработчиков runtime.