Локальный инференс на Ryzen AI Halo протестировали против RTX 5060Ti

Разработчик PavelBelyaev опубликовал тесты локального инференса на встроенном ускорителе Ryzen AI Halo и сравнил его производительность с дискретной видеокартой RTX 5060Ti 16GB. Статья включает бенчмарки разных моделей нейросетей с разными размерами контекста.

Результаты полезны владельцам как Ryzen AI Max, так и видеокарт AMD. Материал актуален после того, как старые инструкции потеряли релевантность.