- 14 мая 2026 года Арбитражный суд Западно-Сибирского округа оштрафовал компанию на 50 тыс. рублей: в кассационной жалобе нейросеть сослалась на решения судов, которых не существует.
- В базе Дамьена Шарлотена из Высшей коммерческой школы Парижа – 1725 дел и 5169 некорректных ссылок: 16 дел в 2023 году, 814 за первое полугодие 2026-го.
- По обзору «Информзащиты», в 2026 году инциденты с ИИ-агентами получили 42% организаций против 31% годом раньше, а 53% видели, как агент выходил за пределы полномочий.
- Исследование MIT по 300 корпоративным внедрениям: 95% пилотов генеративного ИИ не дали измеримого эффекта на выручку или издержки.
- Закон № 243-ФЗ подписан 26 июля 2026 года, основные нормы работают с 1 сентября.
«У нас уже есть пилот»
Из 300 корпоративных внедрений, которые разобрали в MIT вместе со 150 с лишним интервью с руководителями, 95% пилотов генеративного ИИ не дали измеримого эффекта на выручку или издержки. Цифра гуляет по рынку с прошлого года, и относиться к ней стоит спокойно: выборка про крупные компании, «измеримый эффект» каждый считает по-своему. Интереснее второе наблюдение из того же отчёта: больше половины денег уходит в маркетинг и продажи, а бэк-офис, где эффект считается легко, остаётся недофинансированным.
Пилот вообще самое удобное слово в разговоре про внедрение ИИ: ничего не обещает и никого не назначает ответственным. Спросите три вещи: кто владелец, до какого числа пилот живёт и какая цифра должна сдвинуться. Нет ответов – перед вами подписка с демонстрацией. Есть – дальше можете не читать, вы уже в меньшинстве.
«Агент работает автономно, но под присмотром»
Слово «присмотр» тут делает всю работу. По майскому обзору «Информзащиты», в 2026 году инциденты безопасности с ИИ-агентами получили 42% организаций, годом раньше было 31%. С выходом агента за пределы полномочий сталкивались 53%. Первое место в структуре инцидентов у злоупотребления правами (31%), второе – у prompt injection, подмены инструкций через входящий текст (24%).
В крупных организациях до 27% агентов вообще не учтены, а там, где живут low-code-платформы, доля доходит до 39%. Присмотр, получается, распространяется на тех агентов, о которых известно.
Мой вопрос на таких созвонах: покажите список агентов и под какой учётной записью ходит каждый. Списка нет – разговор про автономность можно не продолжать. В блоге мы разбирали, зачем бизнес строит для агентов цифровые клетки.
«Мы всё перепроверили»
14 мая 2026 года Арбитражный суд Западно-Сибирского округа назначил штраф 50 тыс. рублей компании, чей представитель подал кассационную жалобу с судебной практикой от нейросети. Часть ссылок вела в посторонние дела, включая банковский спор. Решений Высшего арбитражного и Верховного судов, на которые опиралась позиция, не существовало вовсе.
История не единичная. Дамьен Шарлотен из Высшей коммерческой школы Парижа ведёт базу дел с выдуманными ИИ ссылками: 1725 дел, 5169 некорректных ссылок, 298 денежных взысканий на сумму больше 1,6 млн долларов. Динамика: 16 дел в 2023 году, 59 в 2024-м, 827 в 2025-м и 814 за первое полугодие 2026-го.
Не работает здесь ровно одно – проверка на глаз. Юрист смотрит на ссылку, а она выглядит как нормальная ссылка: номер дела, суд, год. Ошибка всплывает только тогда, когда кто-то открывает карточку дела. Значит, проверка обязана быть отдельным шагом с исполнителем и временем, а не строчкой в голове у того, кто и так спешит. На этом держится роль AI Software Engineer: инженер ведёт задачу от постановки до запуска и отвечает за результат целиком, включая то, что сгенерировал инструмент.
«Это сотрудник сам, у нас такое не используют»
На shadow AI, то есть на нейросети, которыми сотрудники пользуются мимо ИТ, в том же обзоре приходится 14% инцидентов. Формально фраза верна: корпоративного решения в компании нет. Практически данные уже ушли, и разбирать последствия будет компания, а не сотрудник.
«Подождём, пока рынок устаканится»
Ждать больше негде. Закон № 243-ФЗ о поддержке развития технологий искусственного интеллекта подписан 26 июля 2026 года, основные нормы работают с 1 сентября, часть – с 1 марта 2027-го. Он ввёл в законодательство понятие большой фундаментальной модели, от миллиарда параметров, и разделил их на суверенные и национальные по уровню локализации.
Правила теперь появляются быстрее внутренних решений. Через год объясняться придётся не про выбор инструмента, а про то, на какой модели работает то, что уже работает.
Вопросы и ответы
Как отличить живой пилот ИИ от вечного?
У живого есть владелец с именем, дата окончания и одна цифра, которую он должен сдвинуть: время обработки заявки, доля ручных проверок, себестоимость поддержки. У вечного вместо этого список возможностей. Если после демонстрации никто не скажет, что изменится в отчёте через квартал, пилот уже закончился, просто об этом не объявили.
Что спросить у подрядчика, который обещает ИИ-агента?
Под какой учётной записью агент ходит в системы, что ему запрещено делать без человека и как вы узнаете, что он вышел за рамки. «Всё логируется» и «мы контролируем» ответами не считаются: логи, у которых нет сценария разбора, никто не читает.
Вместо морали
Формулировка выдаёт зрелость проекта быстрее любого аудита. Где есть владелец, срок и границы, там говорят конкретно; где их нет, заводятся пилоты, присмотр и «мы всё перепроверили». Лечится это честным списком: что уже работает, кто отвечает, что агенту запрещено. С такого списка начинается и Discovery – смысл фазы в том, чтобы до разработки увидеть, где эффект считается, а где его придётся придумывать.
Источники
- Коммерсантъ: Прецедент или галлюцинация
- Контур.Фокус: суд впервые назначил штраф за использование ИИ
- Anti-Malware: ИИ-агенты уже довели до киберинцидентов в 42% компаний
- CNews: ИИ-агенты стали источником инцидентов для 42% организаций
- РБК Тренды: MIT — 95% пилотных проектов по генеративному ИИ проваливаются
- Компьютерра: закон об ИИ, что изменится 1 сентября
