Контроль ИИ-агентов: зачем бизнес строит цифровые клетки

Что случилось

7 сентября «Известия» написали, что российские вендоры взялись за контроль ИИ-агентов всерьёз. Речь про harness – обвязку вокруг языковой модели, которая связывает память, данные и инструменты и задаёт, что агент делает сам, а где обязан остановиться и позвать человека. Свои решения строят «Яндекс», MWS AI, «Сбер», Т1 и ГК «Солар».

Цифры собрал Anti-Malware: рост запросов втрое за год по оценке Т1, около 80% из них про доступ к корпоративным данным, утечки и подтверждение критичных решений человеком. В ГК «Солар» ждут, что рынок защиты ИИ в 2026 году дойдёт до 1–2 млрд рублей, с услугами до 4 млрд. RB.RU приводит прогноз около 5 млрд к 2029 году со ссылкой на сооснователя «Зерокодера» Кирилла Пшинника. Спрашивают банки, промышленность, госорганизации, ретейл. Фон законодательный: с 1 сентября действует закон № 243-ФЗ, рамка для больших моделей.

Что это значит для бизнеса

Самая важная цифра недели не про деньги. В исследовании ИИ-зрелости «Инфосистем Джет» и Smart Ranking (52 крупные компании, около 450 тысяч сотрудников) 86% используют или пилотируют языковые модели, проекты с полуавтономными агентами декларируют 59%, а в продуктивной среде такие агенты работают у 15%. Барьеры приземлённые: стоимость серверов – 58%, юридические риски – 56%, незрелость процессов и данных – 44%.

За этот разрыв сейчас и платят. Агенты почти не дошли до прода, а обвязку под них уже покупают. Глупостью рынка я это не считаю: компания приобретает возможность ответить безопасности и юристам до того, как бот что-то сделает с боевыми данными. Но платформа не отвечает на главный вопрос – что именно агенту разрешено. Этот список пишет бизнес, вендор его не заменит.

Если у вас один ассистент, который читает документы и ничего не меняет, платформа контроля пока не нужна: хватит отдельной учётки и журнала. Всё меняется, когда агент получает право писать – в базу, в CRM, в переписку с клиентом.

Как это выглядит на практике

У нас в CRT такая рамка живёт давно, только не для ботов, а для людей. В аутстаффе инженер получает доступы под задачу, к боевым данным ходит через ответственного на стороне клиента, изменения проезжают через ревью. Агенту нужно то же самое, но строже: он делает сотни действий в минуту и не сомневается. Широкий доступ с разбором логов постфактум мы пробовали и отказались: пока человек дочитает журнал, объяснять клиенту придётся уже последствия.

Порядок для компании, которая заводит первого агента:

1. Три-пять задач, где выигрыш во времени измерим. Не «помощник для всего».
2. Три корзины действий: делает сам, делает с подтверждением, не делает никогда.
3. Отдельная учётная запись с минимальными правами, без чужих доступов.
4. Журнал, который читает конкретный сотрудник, а не «пишется в систему».
5. И только теперь выбор платформы, уже со списком требований.

Первые два пункта – работа аналитика. На них обычно выясняется, что половине задач агент не нужен: хватает обычной автоматизации без модели и без рисков.