Контроль AI-агентов в продакшене

Этот курс собирает практики, которые обычно разбросаны по разным статьям и командам: routing, approval steps, prompt injection defense, safe retries, freshness knowledge base и production observability. Вместе они образуют не "ещё одну тему про агентов", а control plane для систем, которые уже умеют действовать и поэтому требуют управляемости.

Первый модуль разбирает границы автономии: как распределять workload между моделями, где останавливать агента перед risky action и почему tool use без control layer быстро становится источником инцидентов. Второй модуль посвящён защите: trust boundaries, prompt injection, policy-layer и red teaming для acting systems. Третий модуль закрывает операционный слой: safe retries, idempotency, freshness источников, traces и эксплуатационные метрики.

Курс рассчитан на инженеров, техлидов и продактов, которые уже вышли за пределы демо-агентов и упёрлись в вопрос: как сделать агент не просто полезным, а предсказуемым под реальной нагрузкой. Лучше всего проходить его после базового знакомства с агентами, production LLM и evals. Внутри курса модули идут от control decisions к safety boundaries и только потом к operational reliability.