Лидеры ИИ призвали замедлиться: что делать с планами внедрения

Что предложил Амодеи и почему это не мораторий

Эссе вышло в субботу на личном сайте Амодеи. Логика такая: модели заметно помогают строить сами себя, с лета это ускорило цикл, и разрыв между тем, что они умеют, и тем, чем их удерживают, растёт быстрее, чем его закрывают.

Первый шаг – embedded evaluators: независимые оценщики физически сидят внутри компании. Пропуск, права примерно как у внутренних команд по рискам, доступ к инцидентам и к оценкам моделей во время обучения, право публиковать выводы. Второй – общий потолок наращивания возможностей для лабораторий в демократических странах; без поддержки государства он упирается в антимонопольное право. Третий – переговоры с Китаем.

Пугает Амодеи убедительно: рой агентов за 6–12 месяцев способен захватить интернет устойчивым ботнетом с ущербом в сотни миллиардов долларов. Чисел замедления в эссе нет – ни по мощностям, ни по срокам релизов. Первый шаг Anthropic берёт на себя, остальное – приглашение к разговору.

Что это меняет в планах внедрения

Сдержат ли слово, я не знаю. Важнее, что компании, задающие темп отрасли, публично сняли с себя обязательство ускоряться. «Через полгода модель дотянет» работало как фоновая гарантия. Теперь это ставка против заявленного намерения тех, кто модели выпускает.

Бьёт по конкретному месту. В плане внедрения почти всегда есть хвост задач, которые сегодня делаются плохо: длинный контекст на пакете документов, агент без присмотра, распознавание того, что распознаётся через раз. Их отодвигают – «к следующему кварталу подтянется». Если фронтир притормозит, ждать придётся дольше, а бизнес-кейс всё это время висит несчитанным.

Цифра с оговорками. Gartner по опросу января 2025 года прогнозировал, что более 40 % проектов агентного ИИ отменят или приостановят до конца 2027-го: растущие затраты, неясная ценность, слабый контроль рисков. Там же оценка: из тысяч поставщиков «агентных» решений реальными новациями заняты около 130. Эти провалы не про скорость моделей.

Где написанное неважно: если ИИ у вас – суммаризация писем в готовом SaaS, темп фронтира вас не касается. Вопрос появляется там, где под ИИ переписывают процесс и защищают срок окупаемости перед собственником.

У российских компаний свой слой. Закон о поддержке развития технологий ИИ (243-ФЗ от 26 июля 2026 года) действует с 1 сентября, требования к суверенным и национальным большим фундаментальным моделям включаются с 1 марта 2027-го. Мировой фронтир обещает сбавить темп ровно тогда, когда здесь разворачивается регуляторный контур.

Как мы считаем это в проектах

Правило скучное: в оценку попадает то, что модель делает сегодня и воспроизводимо на данных клиента. Решается через раз – идёт в план как работа с человеком в контуре, а не как «дозреет к релизу».

Цена у подхода есть. Прыгнет модель – часть ручной обвязки окажется лишней работой. Мы платим ею за предсказуемый срок и считаем обмен честным: перенос запуска обходится дороже переписанного куска интеграции.

Мысль про оценщиков переносится внутрь проекта почти дословно: на поведение модели должен смотреть кто-то, кроме её авторов. У нас это измеримые проверки: на каком наборе тестируем, какую долю ошибок считаем приемлемой, кто читает логи. Без них агент из презентации и агент в проде – разные существа, и разницу находит клиент. Что делается на текущих моделях, а что остаётся ожиданием чуда, дешевле разобрать до разработки, на Discovery.