Ollama Cloud запускает модель на серверах сервиса Ollama, а ваш компьютер лишь отправляет запросы и получает ответы, тогда как в локальном режиме и модель, и данные остаются внутри вашего контура. Разница определяет три вещи: куда уходят документы, насколько быстро приходит ответ и что будет, когда сервис недоступен. Облачный режим выручает, когда железа для крупной модели нет, а данные безобидны; локальный нужен, когда информация обязана остаться внутри компании.
Что такое Cloud
В облачном режиме Ollama скачивать модель нужды нет: запрос уходит на серверы сервиса, ответ возвращается через приложение или программный доступ; в локальном режиме вычисления идут на вашем оборудовании.
По документации Ollama, облачные модели доступны двумя путями: через вход в приложение или командную строку и через программный доступ с ключом, который создают в настройках учётной записи на сайте Ollama. В командной строке такие модели помечены суффиксом cloud. Список моделей и тарифные условия меняются, поэтому актуальные данные смотрите на странице сервиса; использование видно в учётной записи. Ключ программного доступа превращается в канал, по которому документы уходят вовне, поэтому его выдают ограниченному кругу по правилам и хранят в хранилище секретов, а в коде и переписке ему делать нечего.
Принципиально важное место документации касается данных: облачные запросы и ответы обрабатываются на стороне Ollama, а сервис заявляет об отказе использовать их для обучения моделей. Полные условия изложены в политике конфиденциальности, и юрист должен прочитать её до первого вызова. Локальную работу программы описывает материал Ollama: как запустить локальную модель для компании.
Сотрудникам важно объяснить разницу простыми словами: в локальном режиме текст остаётся на машине, в облачном отправляется наружу, а суффикс cloud в названии модели подсказывает, какой режим включён. Облачные функции, по документации, можно отключить, если политика компании требует только локальной обработки. Сделайте это на рабочих машинах заранее, до первого случайного вызова.
Данные и контур
Для наглядности возьмите три типичные задачи отдела: поиск ответа в публичной документации, разбор внутреннего договора и подготовка текста для сайта. Первая без опасений идёт в облако, вторая остаётся локальной, третья зависит от содержания. Первый вопрос выбора — что именно уходит наружу. В локальном режиме ответ прост: ничего. В облачном уходит всё, что вы отправили в запросе: вопрос, вложенные тексты, фрагменты документов, результаты работы инструментов.
- Публичные сведения и общие вопросы: облачный режим допустим.
- Внутренние регламенты без персональных данных: решает политика компании и оценка юриста.
- Персональные данные клиентов и сотрудников: только с отдельным основанием и оценкой, чаще всего локальный режим.
- Коммерческая тайна, договоры, финансы: локальный режим по умолчанию.
- Исходный код продукта: локальный режим или явное согласие владельца.
Заранее разделите данные на классы и закрепите, какой режим допустим для каждого. Правила для сотрудников формулируйте письменно: без них вопрос «можно ли вставить это в облачную модель» решается по настроению. Подробнее о безопасных локальных контурах рассказывает статья локальный ИИ для конфиденциальных данных.
Какие данные вы обрабатываете моделями чаще всего?
Скорость и задержка
Скорость нельзя оценить по рекламным цифрам: она складывается из длины запроса, размера модели, загрузки сервиса и качества вашего канала. У облачного режима нет требований к вашему оборудованию, и крупные модели, которым на офисном сервере тесно, становятся доступны. Взамен возникает задержка сети и зависимость от загрузки сервиса.
| Критерий | Облачный режим | Локальный режим |
|---|---|---|
| Данные | Уходят на серверы Ollama | Остаются в вашем контуре |
| Крупные модели | Доступны без своего железа | Требуют мощного сервера |
| Задержка | Зависит от сети и нагрузки сервиса | Определяется вашим оборудованием |
| Доступность | Зависит от сервиса и интернета | Зависит от вашего сервера |
| Стоимость | Условия тарифа сервиса, смотреть на странице вендора | Оборудование, электричество, обслуживание |
| Управление версиями | Список моделей определяет сервис | Файлы весов у вас, версия фиксируется |
Сравнивайте на своих запросах: отправьте один набор вопросов в оба режима и запишите время ответа и качество. Так вы получите цифры своей сети и своего железа вместо чужих рекламных обещаний. Проверку ускорения на видеокарте описывает статья Ollama GPU: проверка ускорения и выбор модели.
Доступность и риски
Полезно заранее решить, кто в компании получает право создавать ключи доступа к облачному режиму: ключ в руках сотрудника без правил превращается в канал утечки. Облачный режим добавляет зависимость, которой у локального нет. Сервис может изменить условия, список моделей и лимиты, и сотрудники окажутся без привычного инструмента. Поэтому следите за страницей тарифов и списком моделей на сайте Ollama.
- Лимиты по тарифу и нагрузке: уточняйте на странице вендора, цифры меняются.
- Доступ и оплата: условия определяет вендор Ollama, оплата напрямую российскими картами недоступна, и этот вопрос решается до пилота.
- Изменения списка моделей: назначить ответственного, который следит за каталогом сервиса.
- План отката: запасной локальный сервер или альтернативная модель на случай недоступности.
- Журнал вызовов на вашей стороне: что отправлено, кем и когда.
Для критичных сервисов продумайте деградацию: если облачная модель недоступна, запросы автоматически уходят на локальную, пусть и меньшую, и пользователь получает ответ с пометкой о смене режима. Локальный режим тоже несёт риски, только другие: вы отвечаете за обновления, резервные копии, доступ и работоспособность сервера. Для небольшого отдела это посильно, а для круглосуточного сервиса нужен дежурный и резерв. Контейнерный запуск и хранение данных описаны в статье Ollama в Docker: сервер, модель и хранение данных.
Выбор для компании
Запишите итоговое решение одной страницей: какие данные, какой режим, кто отвечает, когда пересмотр. Такая страница снимает повторные споры и служит основой для обучения сотрудников. Выбор редко бывает чистым. Чаще всего компания использует оба режима: локальный для внутренних данных и рабочих задач, облачный для публичных вопросов и экспериментов с крупными моделями. Главное, чтобы граница между ними была прописана и проверялась.
- Разделите данные по классам чувствительности и согласуйте с юристом допустимый режим для каждого.
- Соберите тестовый набор вопросов и прогоните его в обоих режимах, записав время и качество.
- Оцените железо: хватает ли имеющегося сервера для нужной модели.
- Проверьте условия сервиса: лимиты, список моделей, порядок вывода из каталога.
- Закрепите правила для сотрудников и отключите облачный режим там, где он запрещён.
- Назначьте ответственного за пересмотр выбора раз в квартал.
Фиксируйте в таблице результаты каждого теста с датой: через полгода по ней видно, как менялись скорость и качество, и разговор о смене режима идёт на цифрах. Через квартал пересмотрите решение: модели и условия меняются, и вчерашний ответ перестаёт быть верным. Контур, где локальный и облачный режимы разведены правилами и журналом, собирают в рамках внедрения ИИ в компании. Начните с локального режима для внутренних данных и облачного для публичных задач, а границу уточняйте по результатам теста.