ИИ в проде у 53% компаний: что считать промышленной эксплуатацией

Что показал опрос и чего в нём нет

IT Elements прошла 9–10 сентября в Москве, больше 3000 участников. Цифры из опроса «Инфосистемы Джет»: 86% компаний используют или пилотируют LLM, 53% довели генеративный ИИ до промышленной эксплуатации, у 44% растут расходы на технологии во втором полугодии. Оговорка: выборка и методика в публикации не раскрыты, поэтому переносить проценты на весь рынок я бы не стал.

Мне интереснее вторая половина отчёта. Бюджеты перекладывают в проекты с понятным эффектом, а вывод по ИИ на конференции прозвучал такой: запустить демонстрацию легко, превратить толпу цифровых помощников в управляемую систему – настоящая работа. Половина компаний уже что-то называет продом, а эксперты на той же сцене признают, что управляемой системы у большинства нет.

Что это значит для бизнеса

«Продакшн» в ИИ-проектах сейчас значит что угодно. Бот подключён к корпоративному мессенджеру, им пользуются двадцать человек – прод. Скрипт раз в ночь пишет черновики писем через модель – тоже прод. Респонденты не лукавят: общего критерия нет ни у них, ни у отрасли.

Свой критерий я держу жёстким. Решение в промышленной эксплуатации, если у него есть владелец, отвечающий за результат; метрика, по которой видно, что оно работает или сломалось; журнал запросов и ответов; лимит расходов, после которого оно останавливается само; путь отката к ручному процессу. Нет хотя бы одного пункта – это пилот, сколько бы людей им ни пользовалось. Оговорка: если ИИ у вас пишет черновики, которые человек читает и отправляет сам, список лишний. Прод там наступает, когда человек нажал «отправить».

Почему я настаиваю на журнале и лимитах, а не на инструкции для модели. В начале сентября GreyNoise описала кампанию, где злоумышленник запустил сотни ИИ-агентов на Codex и модели DeepSeek против серверов печати PaperCut: не меньше 440 экземпляров в 395 организациях из 48 стран, 11 организаций – за 26 секунд, от пустого рабочего пространства до первого рабочего эксплойта – меньше четырёх часов. Владелец агентов прямо запретил им трогать 28 стран, включая Россию, и часть агентов запрет проигнорировала. GreyNoise так и назвала отчёт – «Agents Gone Wild». Если промпт не удерживает даже собственных агентов атакующего, опираться на него в вашем проде нельзя. Удерживают права доступа, лимиты и журнал.

Как это устроено у нас

В блоге мы разбирали, зачем бизнес строит «цифровые клетки» для агентов. Практика внутри CRT проще той статьи. В формате AI Software Engineer один инженер ведёт задачу до запуска, и «до запуска» означает пять пунктов из списка выше, оформленных до передачи клиенту, а не после первого инцидента.

Цена подхода: часть пилотов до прода не доходит. Модель справляется, но на стадии лимитов и отката выясняется, что ручной процесс дешевле или что владельца у задачи нет. Мы считаем это нормальным исходом пилота. Провал начинается, когда такое решение всё же вывозят в прод и потом ищут виноватых.