16 июня 2026 года Банк России выпустил методические рекомендации № 3-МР о защите информации при разработке и применении ИИ финансовыми организациями. Мы прочитали рекомендации целиком, чтобы выяснить, что они предлагают банку, если внешний поставщик обновит ИИ-модель, на которой работает процесс банка (например, раскладка обращений клиентов по темам). Рекомендации описывают проверку безопасности поставщика и советуют следить за поведением ИИ-модели. Как заметить обновление ИИ-модели у сервиса поставщика, в рекомендациях не поясняется.

Поводом задать вопрос об обновлении ИИ-модели у поставщика стала статья «Коммерсанта» от 12 июля, в которой Тимур Аитов, председатель комиссии по финансовой безопасности совета Торгово-промышленной палаты России, описал сценарий, при котором сбой у поставщика или «незаметное изменение параметров на стороне поставщика» приводит к тому, что участники рынка сокращают лимиты (какие именно лимиты и чьи, статья не уточняет). Слова Аитова о незаметном изменении параметров мы толкуем как обновление ИИ-модели у поставщика.

Что после обновления ИИ-модели ответы могут измениться, показало исследование Стэнфордского университета и Калифорнийского университета в Беркли. У мартовской версии GPT-4 (LLM компании OpenAI) 2023 года просьба рассуждать по шагам поднимала долю верных ответов на вопросах о простых и составных числах с 59,6% до 84,0%. У июньской версии просьба рассуждать по шагам почти не меняла долю верных ответов (51,0% без неё и 51,1% с ней). Запрос к ИИ-модели, составленный для одной версии, может перестать работать на следующей. Исследование касается зарубежных LLM 2023 года. Замеров по LLM российских поставщиков среди использованных нами материалов нет.

В нашей статье на сайте БизнесМатики разобраны проверки, которые банк может ввести у себя, чтобы заметить обновление ИИ-модели у поставщика и подготовиться к нему. Первая проверка - это контрольный набор, то есть реальные обращения или документы банка с заранее известными правильными ответами. Контрольный набор по расписанию отправляется в ИИ-модель, а доля верных ответов сравнивается с результатом предыдущей отправки. Кроме контрольного набора, в статье разобраны такие проверки:
- запись о том, какая ИИ-модель какой версии работает в процессе, где она влияет на решение банка (например, на выбор темы обращения клиента) или на действие с деньгами клиента, и вопрос поставщику, может ли версия измениться без согласия банка;
- возможное условие в договоре, по которому поставщик заранее сообщает об изменении версии ИИ-модели;
- пробная замена на запасную ИИ-модель.
Мы считаем, что начинать стоит с контрольного набора. Эта проверка не требует согласия поставщика и для задач с проверяемым ответом показывает на вошедших в набор случаях изменение доли верных ответов независимо от того, кто и когда обновил ИИ-модель. Опыта применения этих проверок в банках в статье нет, они выведены из рекомендаций № 3-МР, других документов Банка России и исследования.

Статья целиком на сайте.

12 августа Билайн рассказал о своей ИИ-платформе для сотрудников «Экзоинтеллект». Среди вопросов, которые Билайн прорабатывает с появлением цифровых ИИ-сотрудников, в объявлении названы вопросы «штатного расписания и интеграции фонда оплаты труда со стоимостью токенов». Осенью компании собирают бюджеты на 2027 год, и вопрос о том, как сравнивать расходы на нейросети с зарплатой сотрудников, встаёт у каждой компании, которая уже платит за ИИ.

Месячный счёт за токены с месячной зарплатой сравнивать нельзя. Средний российский сотрудник вместе со страховыми взносами по общему тарифу обходится компании примерно в 149 тысяч рублей в месяц, а тысяча токенов GigaChat Max, ИИ-модели Сбера, стоит юридическому лицу 0,65 рубля с НДС. Если сравнить месяц работы офисного сотрудника с месячным счётом за токены, ИИ окажется дешевле в десятки и сотни раз. Но ИИ делает только часть работы сотрудника, и ещё часть своего времени сотрудник тратит на то, чтобы поставить задачу ИИ и проверить результат.

В статье мы посчитали в рублях, сколько токены российских ИИ-моделей добавляют к стоимости сотрудника на пяти должностях, по оценке расхода токенов на типовых задачах. У помощника руководителя токены добавляют к стоимости сотрудника 0,3-0,4%, у юриста 1,8-2,2%. У части программистов, которые работают с ИИ-агентами, расход на токены бывает сопоставим с зарплатой. По данным аналитической компании Jellyfish за первый квартал 2026 года, у 20% разработчиков с самым высоким расходом на токены расход примерно в 600 раз выше, чем у 20% с самым низким, а принятых изменений в коде только примерно вдвое больше.

Расход на ИИ удобнее держать в управленческом бюджете при подразделении и должности, рядом со строкой фонда оплаты труда, а там, где расход большой, связывать его с результатом работы. В конце статьи пять вопросов, которые руководитель должен задать, когда ему приносят расчёт «агент дешевле сотрудника». Первый вопрос о том, сколько стоит один принятый результат с учётом времени сотрудника на постановку задачи, проверку и исправления. С этого вопроса статья советует начинать, потому что без ответа на него остальные расчёты строятся на мнении.

Статья целиком на сайте.

Компания TypeSafe, разработчик ИИ-моделей, представила Jev, ИИ-модель для выбора и оценки внутри программ. Её результатом становятся выбранные варианты и вероятности. Jev задумана для повторяющихся коротких решений, например определения категории документа или оценки заполненности карточки товара по заданной шкале.

ИИ может вернуть существующее название отдела и ошибиться с назначением обращения.

В поддержке магазина такая задача возникает до подготовки письма клиенту. Обращение нужно отнести к доставке, возвратам или расчётам. Если клиент одновременно просит вернуть деньги и поменять адрес, одной категории может оказаться мало. Возврат денег требует отдельной проверки заказа и права на операцию.

У привычной LLM (большой языковой модели) тоже можно задать формат ответа. Поэтому для выбора ИИ приходится сравнивать результаты на обращениях компании. Сколько заявок назначено правильно? Сколько срочных пропущено? Сколько обращений осталось оператору и какое время операторов ушло на исправление ошибочных назначений?

В статье сначала объясняются отличия Jev от LLM, заявленная скорость, текущий тариф и подходящие задачи. Затем на примере поддержки магазина рассматривается, как проверить классификацию, передачу оператору и стоимость обработки обращения.

Как выбрать ИИ для классификации и маршрутизации обращений

Как проверить ИИ-агента в 1С и CRM до покупки

Допустим, оптовая компания хочет сократить ручной ввод заявок из почты. Она рассматривает передачу ИИ-агенту подготовки черновика заказа в 1С, ссылки на заказ в существующей сделке CRM и черновика ответа клиенту.

Такая работа может прерваться после сохранения заказа. Если ответ 1С о сохранении потерян, агенту при повторе поручения нужно найти существующий заказ и продолжить работу с ним. Повторная запись без проверки создаёт риск дубликата.

В новой статье разобрано, как проверить такой процесс до покупки агента. Внутри две схемы и таблица сценариев приёмки, включая потерю ответа 1С, недоступность CRM, отсутствие прав и уточнение договора. Для каждого сценария назван ожидаемый результат в рабочих записях.

Возможность записи в CRM проверяется у выбранного агента отдельно. Проведение заказа и отправка письма требуют соответствующих прав и отдельного согласования.

Полный текст со схемами и таблицей

ИИ-протокол совещания с решениями, ответственными и сроками

Допустим, на встрече с заказчиком руководитель проекта обещает подготовить план к четвергу, если исходные данные придут не позднее среды. Если в протоколе останется только срок, поручение будет выглядеть безусловным.

В новой статье разобрано, как проверять договорённости перед созданием задач. Что участники приняли, кто взял поручение, какие условия нужно сохранить и какие вопросы ещё предстоит уточнить? Отдельно показано, как учитывать пропуски поручений, ошибки в исполнителях и сроках, время на исправления протокола.

Внутри условная встреча консалтинговой компании с заказчиком, таблица записей в проекте протокола и схема перехода от записи разговора к подтверждённым задачам. Пример помогает увидеть разницу между поручением с условием и предложением, по которому участники ещё не приняли решение.

Полный текст с примером, таблицей и схемой

Как обновлять базу знаний ИИ-ассистента, чтобы он отвечал по действующим документам

Допустим, компания изменила внутренний порядок согласования возврата. Сотрудник поддержки спрашивает ИИ-ассистента, к кому направить обращение, и получает прежний ответ. Инструкция в общей папке уже заменена, но изменение ещё нужно проследить до ответа сотруднику.

В новой статье разобрано, как обновлять базу знаний после смены документа. Кто утверждает правило, кто обновляет поиск и кто проверяет результат? Как выбирать действующую, будущую или архивную редакцию для конкретного вопроса?

Внутри условный пример розничной сети, схема смены редакции и таблица проверок с ожидаемыми ответами. Отдельно разобран повтор прежнего вопроса в старом диалоге. Материал помогает определить, какие действия включить в приёмку обновления базы знаний.

Полный текст со схемой и таблицей проверок