Backfill, который повторно прогнал весь AI-счёт — оценка, лимиты, канарейка
Саммари
Смена embedding-модели, баг в парсере, миграция хранилища — и запускается backfill, который пересчитывает весь корпус. Он идёт тихо, его никто не смотрит, потому что «это ops-задача, а не фича». Через три дня срабатывает финансовый алерт: рутинный реиндекс повторно прогнал весь счёт по полной цене токенов. Разбор — про то, почему интуиция стоимости, откалиброванная на онлайн-трафике, ломается на батче, и какой runbook этому противопоставляет.
Из этого следует: переэмбеддинг корпуса и регенерация ответов — это разные по бюджету операции на два порядка: эмбеддинг около $0,02 за миллион токенов против генерации, и на корпусе в 100 млн документов одно стоит около $30, другое около $200.
На практике для агентного контура это прямо ложится на любой периодический пересчёт: переиндексация базы уроков, переоценка памяти агентов, повторный прогон обучения классификатора. Умножение пишется на бумаге до запуска, а не после инцидента.
Важный нюанс: проценты скидок у провайдеров подвижны, и статья прямо это признаёт. Ориентироваться нужно не на точные числа, а на порядок: корпусная обработка — это по определению workload, который должен идти через batch и кэш.