01 Простыми словами
GPT (Generative Pre-trained Transformer) — архитектура языковой модели, обученной на огромном массиве текстов и способной поддерживать разговор, отвечать на вопросы и писать тексты на заданную тему. Модели GPT получают вопрос или задачу текстом и отвечают текстом же, опираясь на закономерности языка, усвоенные при обучении.
02 Как это работает
Путь от обучения модели до готового ответа бизнесу проходит несколько этапов.
- Разработчик обучает базовую модель на огромном массиве текста из разных источников — она усваивает закономерности языка и общие факты о мире.
- Модель дополнительно дообучают следовать инструкциям и отвечать полезно вместо механического продолжения текста.
- Готовую модель публикуют через API и через собственный интерфейс ChatGPT.
- Бизнес обращается к модели напрямую через API из своего сервиса или пользуется готовым чатом.
При обращении через API вместе с вопросом обычно передают системную инструкцию — как модели вести себя в рамках конкретного сервиса, какой тон использовать и что делать при непонятном запросе, — а также историю предыдущих сообщений в пределах доступного окна контекста, если разговор продолжается.
03 Где применяется
- Поддержка клиентов. Чат-бот на основе GPT отвечает на типовые вопросы клиентов и передаёт сложные случаи живому оператору.
- Продажи. Черновик письма клиенту или ответа на возражение готовит модель, а менеджер дорабатывает финальную версию.
- Маркетинг. Варианты заголовков и черновики постов для соцсетей генерируются через API прямо из внутреннего редактора компании.
- HR. Черновик описания вакансии или письма кандидату готовится моделью по краткому брифу рекрутера.
- Юристы. Резюме длинного документа или поиск нужного пункта в договоре ускоряется моделью, а итоговое решение остаётся за юристом.
- Разработка. Код и его объяснение генерируются моделью прямо в редакторе кода разработчика.
- Аналитика. Резюме длинного отчёта или сводка по нескольким источникам готовится моделью за пару минут вместо ручного разбора.
04 Путь одного запроса клиента
Клиент интернет-магазина пишет в чат вопрос: «где мой заказ, оформленный вчера вечером?»
- Сообщение клиента вместе с системной инструкцией сервиса и историей прошлых обращений этого же клиента передаётся в GPT через API.
- Модель находит в переданном контексте номер заказа, упомянутый клиентом в прошлом сообщении, и формулирует ответ с уточнением статуса.
- Сервис получает готовый текст ответа и показывает его клиенту в том же чате, где он задал вопрос.
- Лог всего разговора сохраняется в системе — при жалобе клиента команда поддержки может позже перечитать переписку целиком.
Если бы вопрос клиента ушёл без истории переписки и без номера заказа в контексте, модель ответила бы обобщённо — данные о конкретном заказе ей в таком случае неоткуда взять, кроме самого текста запроса. Качество ответа в реальном сервисе зависит от модели ровно настолько же, насколько и от того, какой контекст ей передаёт разработчик при каждом обращении.
05 Ограничения и ошибки
- Модель отвечает на основе данных, на которых её обучили, и на основе того, что передано в запросе, — о событиях позже даты обучения модели узнать неоткуда, кроме как через специальную интеграцию с внешними источниками.
- Модель иногда уверенно формулирует неточный или выдуманный факт точно тем же уверенным тоном, что и проверенный, — важные цифры и утверждения стоит проверять человеком, особенно в юридических и финансовых текстах.
- Без системной инструкции модель отвечает в общем стиле — под конкретную задачу компании тон, формат и уровень детализации ответа настраивают отдельно.
- Стоимость использования через API растёт вместе с объёмом переписки и историей контекста — она считается в токенах, поэтому длинные диалоги обходятся дороже коротких.
- Данные, отправленные в API, проходят через инфраструктуру стороннего поставщика — для чувствительных документов и персональных данных стоит заранее уточнить условия обработки данных у поставщика.
Как GPT применяют для разбора накладных на практике — в статье про использование GPT для обработки накладных. Как выстроить внедрение такой модели в свои процессы — в разделе про внедрение ИИ в бизнес.