Headroom сократил расход токенов на 25,3% в тестах агентов

Разработчик Pallarium протестировал Headroom — инструмент для сжатия контекста LLM-агентов — на 80 запусках и опубликовал результаты на Хабре. На Terminal-Bench 2.1 расход токенов модели Sol снизился на 4,1%, а на небольших проектах вырос на 40,7%.

Для модели Astra на тех же проектах расход упал на 25,3%. Headroom сжимает повторяющиеся данные перед отправкой в модель, но эффект зависит от типа задачи и используемой LLM.