Восемь допущений о безопасности, которые ИИ-агенты тихо ломают
Саммари
Бен Лорика (Gradient Flow) разбирает восемь неявных допущений, на которых традиционно держится корпоративная безопасность и которые агентные атаки обнуляют без всякого шума. Центральный тезис: ИИ меняет экономику атаки — у живого атакующего ограничены время и внимание, а агент может перебрать тысячи путей, почти ничего не теряя на неудачах. На свежих инцидентах (взлом корпоративной сети, разбор атаки в Hugging Face, кампании Google) автор показывает, что прежние метрики и границы защиты перестают работать, и предлагает практические замены: мерить время сдерживания, защищать обвязку, а не модель, и держать жёсткие ограничения вне промпта.
Из этого следует, что метрика «time-to-contain» важнее «time-to-detect»: агентные атаки проходят обнаружение легко, а проигрываются на скорости организации — три согласования на отзыв учётных данных нейтрализуют любую техническую защиту.
На практике для Revit-инструментов это прямое руководство: каждый вызов агента к Revit API/APS — это отдельная учётная запись с правами только на нужный набор операций и сроком жизни задачи, а не сервисный токен «на всё» в окружении.
Важный нюанс о роях: общение между агентами возникает даже там, где изоляция заявлена, — значит, при нашем сценарии параллельных сессий над проектом надо считать общие файлы и очереди коммуникационными каналами и логировать их.
Ограничение: статья — синтез инцидентов и рекомендаций, а не новый бенчмарк; цифры инцидентов приводятся вторичным пересказом, и часть допущений (например, «атакующий будет щедро тратить compute») зависит от стоимости инференса, которая быстро меняется.