HybridReasoningAgents — латентное мышление с доступом к инструментам: +10.4% точности при −35.5–54.7% токенов
Саммари
Современные LLM-агенты рассуждают и действуют через текст, а латентное (векторное) рассуждение эффективнее по токенам, но не имеет нативного доступа к инструментам и непрозрачно для человека. HybridReasoningAgents (HybridAgent) соединяют оба режима в одном процессе генерации: лёгкий модуль HybridLink переключает модель между текстом и латентным режимом, а непрерывная рабочая память агента сохраняет гибридный контекст без потерь между ходами. На 11 бенчмарках (математика, наука, медицина, поиск, агентные задачи) при трёх масштабах модели метод даёт +10.4% к качеству при сокращении токенов на 35.5–54.7%, ускорении инференса в 1.8–2.6 раза и экономии стоимости в 2.7–3.7 раза; код и данные опубликованы.
Из этого следует, что стоимость инференса агента — не фиксированная характеристика модели, а параметр архитектуры рассуждения: выбор «где думать текстом, а где вектором» отдаёт 2.7–3.7× по деньгам без смены поставщика.
На практике для Revit- и BIM-ассистентов с длинными сессиями переносим первый принцип: короткие исследовательские шаги (поиск похожих узлов, оценка вариантов) можно уводить в дешёвый режим, а текст оставить для действий с API и объяснений заказчику.
Важный нюанс: прирост +10.4% получен вместе с пост-тренингом (HybridSFT + HybridRL) — это не «включили режим и получили», метод требует обучения под хибридную схему, что ограничивает его мгновенное применение к разблокированным моделям.
Ограничение: в аннотации не раскрыты результаты по каждому бенчмарку отдельно и сравнение с конкретными baseline-фреймворками; цифры стоит читать как агрегат по 11 задачам.