MetaPermit — масштабируемый контроль доступа для AI-агентов
Саммари
Обычная защита агента — это статические permission-правила плюс LLM-судья над каждым вызовом. Первое не масштабируется на открытые задачи, второе даёт непоследовательные решения и уязвимо к indirect prompt injection. MetaPermit разделяет семантический вывод и enforcement: LLM только извлекает признаки, а фиксированная политика решает.
Из этого следует: LLM в контуре безопасности должен делать то, что он умеет надёжно (извлекать семантику), а не то, где он максимально уязвим (напрямую разрешать или запрещать).
На практике для Revit-агента это готовая схема: LLM определяет «это финальное сохранение изменённого проекта» или «это чтение внешней библиотеки», а политика на предикатах решает. Предикаты проверяемы, версиируются в репозитории и не требуют LLM для исполнения.
Важный нюанс: вывод признаков LLM остаётся точкой атаки под IPI — защита держится именно на том, что даже подменённый вывод проходит через фиксированную политику, а не напрямую исполняется.