AI-агенты переходят на гибридную архитектуру вместо монолитных LLM

Разработчики AI-агентов отказываются от схемы, когда тяжелые модели вроде Claude Sonnet решают все задачи подряд, и переходят на гибридную архитектуру с быстрым слоем для микрорешений. По данным издания AI Oversight, 80% шагов агентного цикла — это не глубокий reasoning, а простые выборы: застрял ли агент, какой элемент кликнуть, безопасна ли команда.

Новый подход использует три примитива (выбор, оценка, вероятность) вместо JSON-парсинга, сокращая время инференса до 70–500 мс и снижая стоимость до $0.042 за 1M токенов — в сотни раз дешевле frontier моделей. Это устраняет дрейф JSON и задержки в 3–5 секунд на каждый микрошаг.