Контекстная инженерия.

01 Простыми словами

Промпт-инжиниринг отвечает на вопрос «как правильно сформулировать задачу для модели». Контекстная инженерия отвечает на другой вопрос: «что именно модель должна увидеть, чтобы ответить верно». Это похоже на инструктаж нового сотрудника: удачная формулировка поручения важна, но без нужных документов и вводных сотрудник справится с задачей хуже, каким бы точным ни было само поручение.

02 Как это работает

Контекст модели обычно собирается из нескольких источников сразу, и задача инженера — выбрать нужное и отсеять лишнее в пределах ограниченного окна.

1. Системный промпт задаёт роль и общие правила ответа.
2. Через RAG или похожий механизм подтягиваются релевантные документы вместо всей базы знаний целиком.
3. История диалога добавляется выборочно — последние сообщения вместо переписки за весь месяц.
4. При необходимости добавляются один-два примера похожей уже решённой задачи, чтобы модель держала нужный формат ответа.

Модели с большим окном контекста — например, Gemini или Claude — позволяют загрузить больше исходных материалов за один раз, но само по себе оно требует такого же тщательного отбора релевантного материала, что и модель с маленьким окном: лишний документ внутри контекста способен размыть внимание модели на действительно важной части.

03 Где применяется

• Юристы. В контекст загружается только нужный раздел договора вместо всего документа на полсотни страниц.
• Поддержка клиентов. Модель получает историю заказов конкретного клиента и актуальный раздел базы знаний вместо полного руководства по всем товарам.
• Продажи. В контекст добавляется стадия сделки в CRM и предыдущие возражения клиента вместо всей истории компании с этим клиентом целиком.
• Финансы. Для анализа отчёта модель получает только цифры текущего квартала вместо полного архива за пять лет.
• HR. Для отбора кандидата в контекст загружается конкретная вакансия и резюме вместо архива всех вакансий компании за прошлые годы.

04 Договор на сорок страниц

Юридический отдел настроил бота для ответов по договорам аренды и первым делом загружал модели в контекст весь договор целиком — на сорок страниц — при любом вопросе клиента, включая простой вопрос про размер неустойки.

Разбор того, что реально попало в контекст при таком запросе:

• Системный промпт — роль юридического ассистента и правила ответа, около 200 слов.
• Весь текст договора — аренда, залог, порядок продления, неустойка, реквизиты сторон — около 9000 слов, из которых к вопросу относится один абзац.
• Вопрос клиента — одна строка: «какая неустойка при просрочке платежа на неделю».

После настройки поиска по разделам контекст для того же вопроса стал выглядеть иначе:

• Системный промпт — тот же, без изменений.
• Найденный раздел про неустойку — один пункт договора, около 120 слов.
• Краткая справка о сторонах — для правильных имён в ответе, около 40 слов.
• Вопрос клиента — та же строка.

Модель получила заметно меньше слов на входе, при этом именно те, что нужны для ответа, — точность на таких точечных вопросах заметно выросла, а сам ответ модель стала готовить быстрее.

05 Ограничения и ошибки

• Окно контекста остаётся ограниченным по объёму — даже у моделей с самым большим окном есть предел, после которого документы приходится приоритизировать.
• Каждый лишний токен в контексте — это расход: больше данных в запросе означает более высокую цену обработки и обычно более медленный ответ.
• Устаревший или дублирующий документ в базе для поиска легко попадает в контекст вместе с актуальным и путает модель без явной пометки приоритета.
• Хорошая контекстная инженерия требует регулярной проверки того, что именно модель получает на входе, — тестировать стоит на реальных запросах вместо придуманных примеров.

Основы формулировки самого запроса к модели — в статье про промпт-инжиниринг с нуля. Как выстроить обучение команды такому подходу — в разделе про обучение сотрудников работе с ИИ.