01 Зачем нужен
- Видите каждый вызов LLM — что отправили, что получили, сколько стоило.
- Делаете A/B двух промптов на реальных данных.
- Регрессионные evals — модель не должна ухудшиться после изменений промпта.
- Считаете точную стоимость токенов по проектам.
- Дебажите «странные» ответы — вся история разговора как на ладони.
Без LangfuseЗапуск AI-агента в проде без observability — это «лечу вслепую». Один из самых частых факапов команд в 2026.
02 Как поставить
- Cloud: регистрируетесь на langfuse.com, получаете API-ключи, добавляете 2 строки в код.
- Self-hosted: docker-compose с PostgreSQL и Clickhouse. Ставится на VPS 4GB+ за 10 минут.
- SDK для Python, Node, Go, OpenAI-обвязка.
- Drop-in для LangChain, LlamaIndex, OpenAI SDK.
03 Что включает
- Tracing — каждый LLM-вызов с deep-tracing на агентских flows.
- Prompt Management — версионирование промптов с rollback.
- Evals — автоматические и manual.
- Datasets — собираете типичные кейсы, прогоняете при изменениях.
- Sessions — группировка вызовов по диалогу/задаче.
- Users — атрибуция вызовов конкретным пользователям.
04 Self-hosted или cloud?
Для compliance и больших объёмов — self-hosted. Для скорости и экспериментов — cloud. До 100K traces/месяц cloud-версия бесплатна. Self-hosted — open-source с лицензией MIT.