OWASP AI Agent Security Cheat Sheet — эталон безопасности агентов
Саммари
Официальный OWASP Cheat Sheet по безопасности AI-агентов — эталонное практическое руководство. Покрывает: tool security (least privilege для MCP-tools, sandboxing, HITL), multi-agent security, prompt injection defence, output guardrails, мониторинг, adversarial-тестирование. Содержит рабочий код на Python.
Из этого следует, что безопасность AI-агентов — это не одна «волшебная» защита, а стэк из семи независимых слоёв, каждый из которых должен быть bypassed атакующим. Это dramatically повышает стоимость атаки по сравнению с одиночной защитой.
На практике для Revit-агентов критичны HITL для destructive BIM-операций (удаление элементов, изменение параметров целой модели) и output guardrails, предотвращающие утечку BIM-данных через текстовый output агента.
Важный нюанс: HITL не должен быть переопределяем агентом — иначе любая многослойная защита рушится одним tool call'ом с override_human_review=true.