Qwen Instruct и базовая модель того же размера ведут себя по-разному: первая отвечает на команду и держит диалог, вторая продолжает текст оттуда, где он оборвался, без ответа на прямой вопрос. Разница на первый взгляд техническая, а на практике решает, подойдёт ли модель для чат-бота или для сценария без диалога с сотрудником. Суффикс в названии файла весов — первая подсказка о том, какую версию поставить на свой сервер.
Что значит Instruct
Instruct в названии модели означает: версию дополнительно обучили отвечать на команды и держать диалог, а модель Qwen без такого суффикса — базовая, она лишь продолжает текст.
Базовая модель обучена предсказывать следующее слово в тексте и на прямой вопрос сотрудника отвечает продолжением похожего текста — предсказание работает статистически, без ответа по существу вопроса. Так устроено обучение на большом массиве текста, без отдельного этапа под диалог. Инструктивная версия проходит дополнительный этап обучения именно на парах «вопрос — полезный ответ», и после него модель ведёт себя как собеседник вместо генератора продолжения. Разбор этого этапа обучения — в глоссарии по дообучению модели.
Деление на базовую и Instruct-версии действует по всей линейке Qwen, независимо от размера конкретной модели — какую версию по размеру и назначению выбрать под задачу, разобрано отдельно в статье Qwen: версии и как выбрать модель.
Путаница с версией чаще всего возникает при переносе готового сценария с одной модели на другую — пайплайн, который работал с инструктивной версией одного семейства моделей, требует проверки заново при переходе на Qwen: структура ответа и поведение на команду у разных семейств отличаются, даже когда оба помечены как Instruct.
Разница между базовой и инструктивной моделью похожа на разницу между черновиком и готовым письмом: базовая модель предсказывает вероятное продолжение текста, а инструктивная учится держать роль собеседника и отвечать по существу заданного вопроса. Для сотрудника, который открывает чат и печатает вопрос, эта разница ощущается сразу в первом ответе модели.
База против Instruct
| Что важно | Базовая модель | Instruct-версия |
|---|---|---|
| Поведение на вопрос | продолжает текст статистически похожим фрагментом | отвечает на прямую команду по существу |
| Формат ответа | без устойчивой структуры | держит структуру и диалог из нескольких реплик |
| Типичная задача | дообучение под узкий сценарий компании | чат-бот, помощник, обработка запроса сотрудника |
Для большинства задач бизнеса строка «типичная задача» в таблице и определяет выбор: там, где сотрудник ставит вопрос или прямую команду, инструктивная версия подходит без дополнительных условий.
Строка «формат ответа» в таблице выше объясняет частую жалобу на базовую модель — «отвечает странно», «уходит в сторону от вопроса». Причина здесь в самом устройстве базовой версии, а инструктивная версия для диалога с сотрудником подходит по построению лучше.
На практике разница между базовой и инструктивной версией заметна уже на первом тестовом вопросе — команда обычно тратит на такую проверку считаные минуты, прежде чем принять решение по версии для своего сценария.
Почему обычно Instruct
- Сотрудник формулирует задачу вопросом или командой вместо текста на продолжение
- Диалог из нескольких реплик подряд держит контекст предыдущего вопроса
- Формат ответа предсказуем — это важно для автоматической обработки результата в сценарии или боте
- Готовое поведение из коробки экономит отдельный этап дообучения под диалог
Список выше — общий принцип для любой модели с делением на базовую и инструктивную версию, а Qwen здесь скорее типичный пример, чем исключение. Тот же выбор в пользу инструктивной версии сотрудник делает и для других семейств моделей, если задача — диалог с моделью, тогда как продолжение готового текста подобных моделей интересует реже.
Какую задачу вашей команды сейчас держит модель без Instruct-версии?
Когда нужна база
Базовая модель нужна там, где компания планирует собственное дообучение под узкую задачу вместо диалога с сотрудником — как принцип, без привязки к конкретному объёму данных или процессу.
- Узкий отраслевой стиль текста, которому модель учится на массиве документов компании
- Генерация по строгому фиксированному шаблону без диалоговой формы вопрос-ответ
- Собственный процесс дообучения на данных компании с нуля, без опоры на готовое диалоговое поведение
Оценка целесообразности собственного дообучения обычно занимает у команды больше времени, чем сам процесс подготовки данных, — стоит заранее прикинуть, покрывает ли задача достаточно узкий и повторяющийся сценарий, чтобы вложенное время окупилось на объёме реальных запросов.
Разница на практике ощутима на этапе постановки задачи для дообучения: под узкий отраслевой стиль или строгий шаблон проще с самого начала брать чистую базовую модель, чем сначала переучивать инструктивную версию отказываться от диалоговых привычек, которые ей уже заложили на предыдущем этапе обучения.
Для команды без отдельного специалиста по дообучению моделей путь с базовой версией требует больше подготовки — данные под обучение собирают и размечают заранее, а готовое диалоговое поведение из коробки здесь взять неоткуда: его собирают с нуля вместе с самим дообучением.
Как читать имена файлов
Имя файла модели редко читают целиком с первого раза — обычно достаточно найти в нём суффикс Instruct или Base и пометку квантованного варианта, а остальные технические детали названия смотрят по необходимости, когда встаёт конкретный вопрос про совместимость с инструментом запуска.
Незнакомое имя файла модели лучше сверять с официальной страницей вендора — случайное форумное обсуждение держит формулировки разными, и путаница в терминах легко приводит к выбору неподходящей версии под свою задачу.
- Найти в имени файла модели суффикс Instruct или Base — это первая и главная метка
- Проверить пометку квантованного варианта в названии — она влияет на требования к железу, без конкретных цифр в самом имени
- Сверить выбор с описанием модели на странице вендора перед скачиванием
- Уточнить связь версии с форматом файла — для запуска на своём сервере вес обычно берут в формате GGUF
Формат GGUF и инструменты запуска вроде Ollama разобраны отдельно в статьях Qwen в формате GGUF: локальный запуск без облака и Qwen локально: как запустить для компании — оба принципа применимы что к базовой, что к Instruct-версии, разница только в поведении самой модели.
Выбрать версию Qwen под конкретную задачу компании и настроить контур запуска, с учётом того, какая версия и формат весов подойдут под имеющееся железо, помогает команда на странице внедрения ИИ.