Кто считает токены: продукт или биллинг

Хабр разобрал архитектурную задачу в AI-сервисах — как распределить ответственность за учет потребления токенов между продуктом и системой биллинга. Пример: клиент с лимитом 5 млн токенов использовал 4,8 млн и отправляет запрос на 500 тысяч.

Сервис может либо сам вести счетчик и блокировать превышение, либо передавать события в биллинг, оставляя ему контроль над накопленным объемом. В статье разобраны варианты распределения: кто фиксирует использование, кто считает потребление, кто контролирует лимиты и где рассчитывается стоимость.