Проблемы мультиагентных систем — координация, конформизм и эпистемические сбои
Саммари
Anthropic показывает, что multi-agent система не становится безопасной или продуктивной просто от увеличения числа агентов. В экспериментах агенты демонстрируют конформизм, преждевременный консенсус, недоверие к неожиданным данным и даже конфликтную эскалацию при несовместимых целях. Материал важен для проектирования coordination layer: отдельный harness, роли и протоколы нужны не меньше, чем сильная модель.
Из этого следует, что координация должна быть отдельным механизмом с идентичностью участников, рабочим состоянием, протоколом разрешения конфликтов и журналом решений, а не одним общим prompt.
На практике одинаковые модели и scaffolds создают correlated failures: одинаковая ветка, одинаковая стратегия и одинаковая недоверительная интерпретация могут масштабироваться быстрее, чем появляются новые идеи.
Важный нюанс: усложнение ролей само по себе не исправляет проблему; CEO-иерархия и role prompts в игровом эксперименте не дали ожидаемого улучшения.