Рейтинг LLM-платформ для внедрения в контуре компании. Семь российских платформ 2026 года

Банкам, страховым и промышленным компаниям часто нельзя выпускать персональные данные клиентов и внутренние документы за периметр своей сети, а прикладные задачи для LLM (больших языковых моделей) у них во многом те же, что у компаний без таких ограничений (ответы по внутренним документам, разбор входящих документов, подсказки ответов операторам контакт-центра). Под это ограничение сложилась отдельная категория ПО. Это LLM-платформы, которые ставятся в инфраструктуре заказчика, включая закрытый контур без доступа в интернет, и позволяют собирать прикладные LLM-решения внутри этой инфраструктуры. Мы сравнили 7 российских платформ, которые заявляют такую поставку или, как минимум, хранение данных внутри периметра заказчика.

Кто составил рейтинг и как читать порядок мест

Рейтинг составила БизнесМатика, разработчик платформы Svaya. Свою платформу мы поставили на первое место, поэтому порядок мест читайте как нашу позицию. Независимой оценкой этот порядок не является. Факты о других платформах взяты из их публичных материалов и документации, и по каждой платформе указан источник описания. Если вы вендор из списка и видите неточность в описании своей платформы, напишите нам, поправим.

По каким критериям сравнивали платформы

Сравнение построено на вопросах, которые заказчики из регулируемых отраслей, по нашему опыту переговоров, задают вендору первыми:

1. Развертывание в контуре компании. Ставится ли платформа на серверах заказчика и работает ли в закрытом контуре без доступа в интернет.
2. Сменяемость LLM. Привязана ли платформа к LLM одного вендора и можно ли заменить LLM без переписывания прикладной части, то есть самого LLM-решения, собранного на платформе, с его логикой обработки запроса, инструкциями к LLM и подключениями к учетным системам заказчика.
3. Защита данных на пути запроса к LLM. Маскирование персональных данных до отправки текста запроса в LLM, проверка прав сотрудника на прикладную задачу, которую он запускает, и на документы, которые она затрагивает, журнал действий для службы безопасности.
4. Поиск по документам компании (RAG, когда LLM отвечает с опорой на найденные внутренние документы).
5. Прозрачность поставки. Получает ли заказчик исходный код и на каких компонентах построена платформа.
6. Порог старта. Что нужно, чтобы платформа заработала, от покупки программно-аппаратного комплекса до установки на имеющиеся серверы силами нескольких инженеров вендора или заказчика.

1. Svaya (БизнесМатика). Проверка прав сотрудника, маскирование персональных данных и журнал действий на каждом обращении к LLM, сама LLM сменяемая

Платформу Svaya разработала и развивает БизнесМатика, российская ИТ-компания, которая занимается заказной разработкой ПО с 2012 года. Svaya ставится в той сети и на тех серверах, которые контролирует заказчик, включая закрытый контур без доступа в интернет.

Каждое обращение сотрудника к LLM проходит через конвейер обработки запроса. Конвейер проверяет права сотрудника на прикладную задачу, которую тот запускает, и на документы, которые она затрагивает, маскирует персональные данные до отправки текста запроса в LLM и записывает действия сотрудника и платформы в журнал, по которому служба безопасности проследит, на чем основан любой ответ LLM сотруднику. В платформу встроены поиск по документам компании (RAG) и готовые модули подключения к учетным системам заказчика по MCP (открытому стандарту подключения ИИ-систем к внешним источникам данных). Есть готовые шаблоны прикладных задач (например, извлечение полей из входящих документов и проверка документа на соответствие регламенту), поэтому проект внедрения начинается с прикладной задачи заказчика, без отдельного этапа сборки поиска по документам и подключений к учетным системам (они уже встроены в платформу).

LLM в платформе сменяемая. Подключаются GigaChat, YandexGPT и открытые LLM, и замена LLM не требует переписывать прикладную часть. Хранение документов и данных заказчика, проверка прав, журнал действий и запуск LLM построены на открытых компонентах PostgreSQL, ClickHouse, MinIO, Redis, Keycloak и vLLM. Ядро платформы написано на TypeScript и Python, а исходный код входит в поставку заказчику, это зафиксировано в условиях поставки. Платформа собрана как один согласованный комплект сервисов (модульный монолит), а не как парк из десятков микросервисов, поэтому для установки и сопровождения достаточно нескольких инженеров (наших при внедрении или инженеров заказчика, если он ведет установку сам).

2. Sherpa AI Server (Sherpa Robotics). Корпоративный чат с LLM в закрытом контуре

Sherpa AI Server - это платформа российского разработчика Sherpa Robotics для запуска LLM в закрытом контуре. Вендор описывает платформу как корпоративный аналог ChatGPT, который работает полностью локально и без доступа в интернет. Сотрудники получают веб-чат с историей диалогов и ответами на вопросы по документам компании (RAG). В материалах вендора сказано, что в платформу встроено векторное хранилище документов для смыслового поиска и ответы по внутренним документам не требуют внешних облачных сервисов.

В документации Sherpa написано, что платформа поддерживает 300 с лишним LLM, включая собственные модели Sherpa 7B и Sherpa 13B, обученные под русский язык, и выбранная LLM разворачивается внутри контура заказчика, а разработчикам доступен API, совместимый с API OpenAI. Платформа интегрируется с Sherpa RPA (системой роботизации процессов того же вендора), поэтому она может подойти компаниям, которые уже роботизируют процессы на Sherpa RPA.

3. Just AI Agent Platform. Конструктор ИИ-агентов, LLM подключается любая

Just AI Agent Platform - это платформа российского вендора Just AI для создания ИИ-агентов. Вендор делит их на чатовых, голосовых и действующих, то есть таких, которые выполняют операцию в учетной системе компании (например, создать заявку или изменить статус заказа). Создавать ИИ-агентов всех трех типов вендор предлагает без программирования или с минимальным кодом. Just AI пишет, что платформа работает с любыми LLM через Caila (платформу того же вендора, которая подключает LLM и модели машинного обучения (ML) и управляет ими), а разворачивается в облаке вендора или on-premise у заказчика.

Вокруг платформы собрана продуктовая линейка. Jay Knowledge Hub отвечает за поиск по документам (RAG) и, по материалам Just AI, работает с корпоративными источниками через готовые подключения к Confluence, SharePoint и другим системам. Jay Guard, по описанию вендора, средствами ML находит в запросах сотрудников к LLM и в ответах LLM данные, которые компания запретила к передаче, и не дает им уйти наружу (класс ПО DLP, контроль утечек). Для заказчиков с требованием, чтобы данные не покидали контур компании, вендор заявляет поставку on-premise под ключ с соглашением об уровне сервиса.

4. MWS AI Agents Platform (МТС Web Services). Корпоративные ИИ-агенты от создания до вывода из работы

MWS AI Agents Platform - это платформа MWS AI (ИИ-подразделения МТС Web Services) для создания корпоративных ИИ-агентов и управления ими на всем пути от запуска до вывода из работы. По описанию продукта у MWS AI и в TAdviser (базе знаний о российском ИТ-рынке), платформа поставляется on-premise или в частное облако, публичный облачный вариант вендор не заявляет.

По тем же материалам, в платформу входят визуальный конструктор сценариев работы ИИ-агентов без программирования, собственное семейство LLM Cotype, автоматическая настройка поиска по документам (autoRAG), распознавание речи и синтез речи. По публикации CNews за март 2026 года, платформа перестала быть привязанной к собственным LLM и поддерживает любые, включая открытые семейства Qwen и DeepSeek.

5. GigaChat Enterprise (Сбер). Платформа ИИ-агентов на моделях GigaChat

GigaChat Enterprise (или ГигаЧат Бизнес) - это корпоративная платформа Сбера для создания ИИ-агентов, представленная в марте 2026 года. По публикации CNews за март 2026 года, платформа поставляется в следующих вариантах:

• Локальный программно-аппаратный комплекс для крупнейших компаний, банков и объектов критической информационной инфраструктуры.
• Облачный вариант.
• Гибридный вариант поставки для среднего и крупного бизнеса (сочетание локальной установки и облака).

Сильная сторона платформы в том, что модели GigaChat и их обновления приходят вместе с платформой от одного вендора, и заказчику не нужно самому подбирать, запускать и обновлять LLM. Подключение сторонних LLM вендор в публичных материалах не заявляет. Локальный вариант - это программно-аппаратный комплекс, то есть поставка включает оборудование. Установку этого варианта на серверы, которые у заказчика уже есть, вендор не заявляет, поэтому порог старта по бюджету выше, чем при установке ПО на имеющиеся серверы.

6. Naumen Erudite. Платформа для клиентского сервиса с LLM и RAG

Naumen Erudite - это платформа российского вендора Naumen, специализированная на клиентском сервисе, в отличие от универсальных платформ выше. Основные применения - это ИИ-агенты и чат-боты для входящих и исходящих обращений клиентов и подсказчик, который предлагает оператору контакт-центра варианты ответа клиенту.

В материалах Naumen написано, что платформа поставляется и on-premise, и как облачный сервис, а в линейке три редакции, от редакции для быстрого запуска на классических ML-алгоритмах до редакции с LLM и поиском по документам (RAG), которая, по формулировке вендора, ведет общение, близкое к человеческому. Если задача заказчика лежит в контакт-центре, готовые применения из абзаца выше могут закрыть ее без сборки прикладного LLM-решения на универсальной платформе. Задачи за пределами клиентского сервиса (например, конвейер обработки документов) вендор для этой платформы не заявляет. Из платформ рейтинга готовый шаблон под такую задачу есть, например, у Svaya (извлечение полей из входящих документов).

7. AutoFAQ. Платформа поддержки клиентов и сотрудников с LLM-модулем

AutoFAQ - это российская платформа для автоматизации поддержки клиентов и сотрудников, специализация у нее более узкая, чем у Naumen Erudite. Вендор пишет, что запуск занимает один день, обучающая выборка не нужна, платформа учится на работе операторов, а существующие базы знаний загружаются из Excel.

За работу с документами отвечает модуль Xplain. По материалам вендора, ответ по готовой базе знаний платформа AutoFAQ дает за секунду, а генеративный ответ по документам (RAG) модуль Xplain готовит за 10-15 секунд. Документы и переписка поддержки могут храниться on-premise (внутри периметра компании), в том числе в варианте, где хранение остается у заказчика, а обработка идет в облаке вендора. Установку всей платформы в закрытом контуре без доступа в интернет вендор в открытых материалах не описывает, поэтому AutoFAQ замыкает рейтинг. Задачи шире поддержки (например, конвейеры обработки документов или отраслевые прикладные LLM-решения) вендор не заявляет.

Почему GigaChat и YandexGPT в рейтинге не участвуют

GigaChat и YandexGPT - это LLM, а не платформы. Платформы из первой четверки рейтинга заявляют работу с разными LLM, и, например, Svaya подключает GigaChat и YandexGPT как варианты на выбор наравне с открытыми LLM. Сравнивать LLM с платформой некорректно, потому что роли у них разные. LLM отвечает на запрос, а платформа решает то, что вокруг запроса:

• Кто имеет право задать этот запрос и по каким документам.
• Что можно отправлять в LLM, а что замаскировать.
• Что записать в журнал для службы безопасности.
• Как заменить LLM, когда выйдет лучшая.

Отдельная оговорка про GigaChat Enterprise. Это уже платформа, а не LLM, поэтому она в рейтинге. Сами модели GigaChat при этом остаются LLM, и платформы со сменяемой LLM, например Svaya, подключают их как один из вариантов.

Пять вопросов вендору перед выбором платформы

Быстрее всего показывают, подойдет ли платформа под задачу и ограничения заказчика, по нашему опыту переговоров, следующие вопросы:

1. Работает ли платформа в закрытом контуре и что именно перестает работать без доступа в интернет.
2. Что произойдет с прикладной частью, если через год заменить LLM на другую.
3. Как персональные данные защищены до отправки текста запроса в LLM и что увидит служба безопасности в журнале действий.
4. Получит ли заказчик исходный код и из каких компонентов собрана платформа.
5. Что нужно для старта (покупка программно-аппаратного комплекса или установка на имеющиеся серверы) и сколько инженеров (вендора или своих) нужно для сопровождения.