// 001
LLM
Large Language Model — большая языковая модель. Базовый компонент любого AI-агента: понимает запросы и генерирует ответы.
КонцепцияLarge Language Model — большая языковая модель. Базовый компонент любого AI-агента: понимает запросы и генерирует ответы.
КонцепцияПрограмма на основе LLM, автономно решающая задачи: понимает запрос, разбивает на шаги, использует инструменты, доводит до результата.
КонцепцияАрхитектура из специализированных AI-агентов, работающих через оркестратор. Каждый агент решает свою подзадачу.
АрхитектураRetrieval Augmented Generation — добавление поиска по корпоративным документам к генерации LLM. База знаний компании в диалоге.
АрхитектураМетодология формулировки запросов к LLM для стабильных предсказуемых результатов. Применяется при настройке агентов.
МетодологияHuman-in-the-Loop — паттерн, где AI делает черновик, а человек подтверждает или правит перед финальным действием.
МетодологияОбъём текста, который модель удерживает за один запрос. У Claude 4.7 — до 1М токенов, у Gemini Pro — до 2М.
КонцепцияВекторное представление текста для семантического поиска. Близкие по смыслу тексты дают близкие векторы. Основа RAG.
АрхитектураДообучение готовой модели на узких корпоративных данных — стиль, терминология, специфические задачи.
МетодологияСпособность модели вызывать функции и API через структурированный JSON. Превращает LLM в полноценного агента.
КонцепцияКусочки текста, по которым LLM считает цену и контекст. 1 русское слово ≈ 2-3 токена. Биллинг и оптимизация.
КонцепцияПроцесс генерации ответа моделью. Скорость в токенах/сек влияет на UX. Латентность критична для real-time.
КонцепцияТехника промптинга: модель рассуждает шаг за шагом перед ответом. Прирост качества на сложных задачах 20-40%.
КонцепцияДва режима работы LLM: без примеров и с примерами в промпте. Базовый рычаг качества классификации и форматирования.
МетодологияМодель уверенно выдаёт правдоподобный, но фактически ложный ответ. Главный источник риска в продакшне.
РискПараметр случайности генерации 0-2. 0 — детерминированно, 1 — креативно, 2 — иногда бред. Базовая настройка LLM.
КонцепцияLLM, которые «думают» перед ответом. Claude thinking, o1/o3, Gemini deep-think. В 5-15 раз дороже, экспертное качество.
АрхитектураLLM, которая принимает текст, изображения, аудио, видео в одном запросе. Стандарт у Claude 4.7, GPT-5, Gemini.
КонцепцияПодкласс мультимодальных: чтение скриншотов, анализ фото, разбор сканов, оценка дизайна. Стандарт у топ-LLM.
АрхитектураОбучение маленькой быстрой модели на ответах большой. 80% качества за 5% цены — для типовых задач рабочий компромисс.
МетодологияReinforcement Learning from Human Feedback. Метод, благодаря которому LLM научились следовать инструкциям. Основа ChatGPT и Claude.
МетодологияАрхитектура, где активируется только часть модели на запрос. Триллион параметров с инференсом как у 70B. Mixtral, DeepSeek, GPT-5.
АрхитектураСжатие весов модели (INT8, INT4) — экономия памяти в 4-8 раз с падением качества 1-5%. Базовая техника self-host.
МетодологияLow-Rank Adaptation. Метод дешёвого fine-tuning: обучаются только маленькие адаптеры рядом с весами. Стоимость падает в 1000 раз.
МетодологияЗакешированные токены стоят 10-50% от обычного input. Экономия 60-80% бюджета для агентных систем.
ОптимизацияLLM возвращает структурированный JSON с именем функции и аргументами вместо текста. Основа агентов.
КонцепцияРежим LLM, гарантирующий ответ строго по JSON-схеме. Решает 5% багов с поломанным JSON в продакшне.
КонцепцияСистемный промпт — скрытая инструкция, которая задаёт модели роль, тон и границы ответа ещё до первого сообщения пользователя в чате.
ПромптингТокенизация — разбивка текста на токены (части слов, целые слова, знаки препинания), по которым модель считает объём запроса и его цену.
МодельКонтекстная инженерия — это выбор того, какие документы, историю и примеры показать модели перед ответом, вместо одной лишь формулировки самого запроса.
ПромптингАвтономность агента — это то, сколько решений ИИ-агент принимает сам без подтверждения человека, от простой подсказки до полностью самостоятельного действия.
АгентыSpeech-to-text (ASR) — технология распознавания речи, которая превращает произнесённую вслух речь в письменный текст для чтения и поиска.
РечьДиаризация — разметка расшифровки речи по говорящим: кто из участников разговора произнёс каждую конкретную реплику в записи.
РечьИнтеллектуальная обработка документов (IDP) — технологии, которые превращают сканы и фото документов в структурированные данные для учётной системы.
ДокументыOCR (оптическое распознавание символов) — технология, которая превращает изображение текста — скан, фото, PDF — в редактируемый текст.
ДокументыSentiment-анализ — автоматическое определение эмоционального тона текста: позитивный, негативный или нейтральный отзыв, сообщение, комментарий.
ЗадачаИзвлечение сущностей (NER) — задача, в которой модель находит в тексте конкретные объекты вроде имён, дат, сумм и номеров и размечает их по типу.
ЗадачаСуммаризация — задача, в которой модель сокращает длинный текст до короткого пересказа, сохраняя главные факты и выводы вместо второстепенных деталей.
ЗадачаТранскрибация — перевод устной речи из аудио- или видеозаписи в текст, обычно с разбивкой по говорящим и таймингом реплик.
ЗадачаДатасет — организованный набор примеров, которые команда использует для обучения модели, теста промпта или регулярной проверки качества ответов.
ДанныеРазметка данных — процесс присвоения текстам, изображениям или другим примерам меток или категорий, по которым модель потом учится или проверяется.
ДанныеСинтетические данные — искусственно сгенерированные примеры, которые заменяют реальные данные при обучении или проверке модели, когда настоящих примеров мало.
ДанныеМаксимум токенов (max tokens) — параметр, который ограничивает длину ответа модели сверху и обрывает генерацию при достижении предела.
МодельСтриминг ответа — режим, при котором модель показывает текст по частям сразу по мере генерации, вместо ожидания полного ответа целиком.
МодельTop-p (ядерная выборка) — настройка модели, которая ограничивает выбор следующего слова только самыми вероятными вариантами по заданному порогу.
МодельAI governance — система правил, ролей и процессов, которая определяет, как компания внедряет, использует и контролирует ИИ.
УправлениеПолитика использования ИИ — внутренний документ компании, который определяет, какие ИИ-сервисы разрешены и кто отвечает за их использование.
УправлениеАнонимизация данных — удаление или замена идентифицирующих признаков в информации, чтобы по ней нельзя было узнать конкретного человека.
ДанныеGEO (генеративная оптимизация) — работа над тем, чтобы бизнес упоминался в ответах ИИ-поисковиков и чат-ботов вроде ChatGPT.
МаркетингГиперавтоматизация — сочетание RPA, ИИ-моделей и других инструментов, которое автоматизирует весь процесс целиком, от начала до конца.
АвтоматизацияRPA — программные роботы, которые повторяют рутинные действия человека в интерфейсах программ по заранее заданному сценарию.
Автоматизацияllms.txt — текстовый файл в корне сайта, который в сжатом виде объясняет языковой модели, что на сайте есть и куда идти за нужной страницей.
МаркетингModel Context Protocol от Anthropic — стандарт интеграции LLM с внешними системами через единый интерфейс.
ПротоколCLI-инструмент Anthropic для работы с Claude в командной строке. Доступ к файлам, командам, MCP-серверам.
HarnessCLI OpenAI для работы с кодом через GPT-5. Альтернатива Claude Code: те же возможности, модель от OpenAI.
HarnessIDE на основе VS Code с глубокой AI-интеграцией. Tab-completion, chat с проектом, агентский режим.
IDEOpen-source AI-extension для VS Code. Bring your own key, поддержка Claude, GPT-4, локальных моделей.
ExtensionOpen-source extension для VS Code и JetBrains. Альтернатива GitHub Copilot с конфигом через YAML.
ExtensionAI-first IDE от Codeium (после покупки OpenAI). Cascade-агент с multi-file правками. Конкурент Cursor.
IDEМолниеносный редактор на Rust от авторов Atom. Встроенный AI-чат, MCP-поддержка, multiplayer.
IDEClaude Code-совместимый CLI на MiniMax M2.7. Дешевле и быстрее Anthropic для рутинных задач.
HarnessSelf-hostable визуальный оркестратор workflow для бизнес-автоматизации. Низкий порог, работа с LLM-API.
ИнструментПионер AI-кодинга от GitHub и OpenAI. С 2021 года стандарт индустрии: автодополнение, чат, агент. От $10/мес.
ИнструментOpen-source CLI для парного программирования с LLM. Bring your own key, git-aware, минимализм. Любимец индустрии.
HarnessПервый коммерческий полностью автономный AI-инженер от Cognition. $500/мес. Идея — сильнее реальности 2026.
HarnessAI-агент внутри облачной IDE Replit: full-stack приложения из чата. От идеи до URL за 30-90 минут.
HarnessUI-генератор от Vercel. Описание → React/Next.js код с превью. Лучший инструмент для лендингов и форм.
HarnessFull-stack приложения в браузере через WebContainers от StackBlitz. Конкурент Replit Agent.
HarnessШведский full-stack по описанию: Supabase backend, Stripe-оплата. Production-ready SaaS из чата.
HarnessСамый известный Python/JS фреймворк для LLM-приложений. Любим за быстрый старт, критикуем за абстракции.
ФреймворкГрафовый фреймворк для агентов: явные состояния, переходы, checkpoints. От тех же авторов, что LangChain.
ФреймворкPython-фреймворк мультиагентных команд: каждая роль — отдельный агент с инструментами. Декларативный синтаксис.
ФреймворкOllama — бесплатная программа для запуска больших языковых моделей на своём компьютере или сервере, без обращения к облаку и без выгрузки данных наружу.
ЛокальноLM Studio — десктопное приложение для запуска открытых языковых моделей на своём компьютере или сервере без обращения к облачному API.
ЛокальноDeepSeek — китайская компания и линейка языковых моделей, доступных через API, известные заметно низкой ценой за объём токенов по сравнению со многими аналогами.
МодельGemini — семейство больших языковых моделей от Google, которое умеет работать сразу с текстом, изображениями и другими форматами данных в одном запросе.
МодельLlama — семейство больших языковых моделей с открытыми весами от компании Meta, которые можно скачать и запустить на собственном сервере.
МодельQwen — семейство больших языковых моделей с открытыми весами от компании Alibaba, известное сильной работой с китайским и другими азиатскими языками.
МодельvLLM — программа с открытым кодом, которая обслуживает языковую модель на сервере и отвечает на множество запросов быстрее прямого запуска модели.
ИнференсGPT — семейство больших языковых моделей от OpenAI, которое лежит в основе ChatGPT и доступно бизнесу через API для чат-ботов и других сервисов.
МодельMake (Integromat) — no-code платформа для связывания разных сервисов в автоматические сценарии без участия программиста.
АвтоматизацияZapier — платформа для автоматической связи разных сервисов в цепочки-сценарии, которые срабатывают без участия программиста.
АвтоматизацияCopilot — ассистент Microsoft, встроенный в Word, Excel, почту, Teams и Windows, который помогает писать письма, считать таблицы и готовить презентации.
АссистентAI-лаборатория из США, разработчик семейства Claude и протокола MCP. Один из трёх ведущих поставщиков LLM.
КомпанияСоздатель ChatGPT и серии GPT-4/GPT-5. Один из трёх ведущих поставщиков LLM на рынке.
КомпанияAI-подразделение Google. Создатели Gemini (контекст до 2М токенов), AlphaFold, AlphaGo.
КомпанияФранцузская AI-компания. Open-source модели (Mixtral) и enterprise API. Европейская альтернатива US-игрокам.
КомпанияКанадская enterprise-first AI-компания. Модели Command и Embed, private deployment в инфраструктуре клиента.
КомпанияИзраильская AI-лаборатория. Jurassic и Jamba (гибрид Transformer + Mamba, контекст 256К).
КомпанияЛинейка LLM Яндекса. Доступна через Yandex Cloud. Compliance с РФ-регулированием. Сильна на русском.
Компания · RUЛинейка моделей Сбера (GigaChat Pro/Max/Lite, GigaCode). Глубокая интеграция со Sберовской экосистемой.
Компания · RUAI Т-Банка: голосовой Олег, anti-fraud модели, open-source T-lite/T-pro для русскоязычной разработки.
Компания · RUVK Cloud + GenericGPT + AI-features в продуктах VK. Облачные GPU и интеграция с VK-экосистемой.
Компания · RUAlbato — российская no-code платформа для автоматической связи сервисов в сценарии, альтернатива Zapier и Make на российском рынке.
АвтоматизацияKandinsky — российская модель генерации изображений от Сбер, которая создаёт готовые картинки по текстовому описанию для маркетинга и дизайна.
КартинкиАлиса AI — голосовой ассистент Яндекса, который отвечает на вопросы, выполняет команды и управляет устройствами по голосу вместо набора текста руками.
АссистентCloud.ru Evolution — российская облачная платформа, через которую компании арендуют серверы и получают доступ к нейросетям вроде GigaChat.
ОблакоШедеврум — нейросеть Яндекса, которая создаёт картинку по текстовому описанию за пару минут вместо съёмки в фотостудии или найма дизайнера.
КартинкиYandex Cloud AI Studio — облачная платформа, через которую компания получает доступ к моделям YandexGPT и Alice AI LLM по API с оплатой за токены.
ОблакоVirtual Private Server. Основа self-hosted AI: боты, n8n, базы, LLM-инференс. От $5/мес на Contabo.
ИнфраКонтейнеры для упаковки приложений. De-facto стандарт деплоя AI-сервисов: ботов, n8n, моделей.
ИнфраApplication Programming Interface. Все LLM, инструменты и сервисы работают через REST или WebSocket API.
ИнфраHTTP-уведомления о событиях. Основа реактивной AI-автоматизации: событие → webhook → AI-обработка.
ИнфраAWS, GCP, Azure, Yandex Cloud, SberCloud, VK Cloud, Selectel. Compute, storage, AI-сервисы.
ИнфраОтчёт о прибылях и убытках. Первая таблица, которую мы открываем с фаундером, прежде чем обсуждать ИИ.
БизнесФонд оплаты труда. Главная статья, которую освобождают AI-агенты при правильном внедрении.
БизнесПлан поэтапного внедрения ИИ на горизонтах 30/90/180 дней. Строится от P&L конкретной компании.
БизнесOpen-source observability для LLM: трейсинг запросов, оценка качества, мониторинг стоимости токенов.
ObservabilityМетрика возврата инвестиций для AI-проекта. Формула простая, сложность — учесть четыре источника выгоды.
БизнесБазовая метрика юнит-экономики AI: сколько стоит один запрос. Без отслеживания AI-стартап быстро убыточен.
БизнесЗадержка для 95% пользователей AI-сервиса. Не средняя, а перцентиль 95. Влияет на retention.
МетрикаАтака на LLM через входные данные. Главный класс уязвимостей AI-систем, аналог SQL-injection.
БезопасностьАвтоматическое маскирование персональных данных перед отправкой в LLM. Базовое требование 152-ФЗ и GDPR.
БезопасностьТак по-английски называют использование сотрудниками сторонних нейросетей и чат-ботов на работе без ведома ИТ-отдела и без проверки безопасности.
РискБенчмарк нейросети — стандартный набор тестовых задач и способ подсчёта результата для сравнения моделей на конкретной задаче бизнеса.
ОценкаОценка LLM (LLM-as-judge) — метод, когда модель проверяет ответы другой модели по критериям вместо ручного разбора каждого ответа человеком.
ОценкаДипфейк — синтезированное голосовое или видеосообщение, выдающее себя за реального человека, которое злоумышленники используют для обмана сотрудников компании.
РискДжейлбрейк — приём, с помощью которого пользователь обходит встроенные ограничения ИИ-модели и получает от неё запрещённый обычно ответ.
БезопасностьДрейф модели — постепенное снижение качества её ответов из-за того, что реальные данные со временем меняются, а модель обучена на старых.
РискКрасная команда (red teaming) — проверка ИИ-системы намеренными попытками обмануть или сломать её раньше, чем это сделают реальные пользователи.
БезопасностьПерсональные данные и ИИ (152-ФЗ) — правила обращения с личными данными людей при использовании нейросетей и ИИ-сервисов в бизнесе.
ПравоСпециализированная СУБД для эмбеддингов. Основа RAG: релевантные документы за миллисекунды среди миллионов.
АрхитектураВторая модель в RAG-пайплайне: пересортирует топ-50 кандидатов по релевантности. Качество поиска +50-100%.
АрхитектураРазбиение документов на фрагменты для индексации. От стратегии напрямую зависит качество RAG.
МетодологияOpen-source ASR от OpenAI. Распознавание речи 99 языков. Через Groq — быстрее реального времени.
ИнструментText-to-Speech: ElevenLabs, OpenAI tts-1, Sesame. Современные модели почти неотличимы от живого диктора.
ИнструментAI управляет компьютером: видит экран, двигает мышью, заполняет формы. От Anthropic с октября 2024.
КонцепцияКомпозиция Whisper + LLM + TTS + телефония. Голосовой агент, заменяющий телефонного оператора.
АрхитектураLLM с веб-поиском, читает страницы, переформулирует запрос. Основа Perplexity, ChatGPT Search.
АрхитектураАвтоматическая оценка качества LLM-ответов. LLM-as-judge. Без evals продакшн-AI работает вслепую.
МетодологияЗащитные правила для LLM: фильтры тем, проверки PII, защита от prompt injection. Гигиена продакшна.
БезопасностьВекторный поиск — технология, которая находит документы по смыслу запроса вместо буквального совпадения слов, сравнивая числовые векторы значений.
RAGАгентный воркфлоу — цепочка шагов, которую модель проходит самостоятельно: сама решает, что делать дальше и какой инструмент вызвать.
АгентыОркестрация агентов — управление несколькими ИИ-агентами внутри одной задачи: кто что делает, в каком порядке и как передаёт результат дальше.
АгентыПамять агента — способ хранить и использовать факты из прошлых диалогов и действий: агент помнит предпочтения клиента и статус задачи между разговорами.
АгентыСкиллы агента — готовые узкие функции (поиск по базе, расчёт, отправка письма), которые агент вызывает для решения конкретной части задачи.
АгентыSub-agent — узкий вспомогательный агент, которого главный агент вызывает под одну конкретную подзадачу и получает от него готовый результат обратно.
АгентыГраф знаний (GraphRAG) — способ построить поиск по документам через связи между сущностями и получить обобщённый ответ по всему корпусу сразу.
RAGМодель-роутер — компонент, который перед каждым запросом выбирает, какая модель обработает его: дешёвая и быстрая или более дорогая и мощная.
АрхитектураГибридный поиск — сочетание точного поиска по ключевым словам с поиском по смыслу в одной системе; итоговый результат собирают из обоих сразу.
RAGСемантический поиск — широкое название для поиска по смыслу запроса вместо буквального совпадения слов; чаще всего реализуют через векторный поиск.
RAG