Цена токенов упала в 14 раз, хотя серверы подорожали в 5 раз

Гендир Yandex Cloud Григорий Атрепьев рассказал Ведомостям, что цены на ИИ-токены падают несмотря на рост стоимости оборудования. За год выручка Яндекса на тот же объём токенов упала в 6 раз, а для лёгких Flash-моделей цена снизилась почти в 14 раз.

При этом серверы подорожали в 2–5 раз, память и комплектующие также значительно подорожали. Парадокс объясняется тем, что производительность GPU растёт быстрее, чем их стоимость: знаменатель формулы себестоимости (число обработанных токенов в час) вырос больше, чем числитель (стоимость часа работы видеокарты).