TypeSafe запустила Jev — нейросеть для классификации за 70–500 миллисекунд

TypeSafe запустила Jev — нейросеть, которая выбирает ответ из заранее заданных вариантов вместо генерации текста. Модель обрабатывает данные параллельно и выдаёт результат за 70–500 миллисекунд. Обработка миллиона входных токенов стоит 0,042 доллара, выходные данные не оплачиваются.

Разработчики заявляют об отсутствии галлюцинаций — модель не может выбрать вариант вне допустимого списка. Попробовать можно бесплатно с кредитом 5 долларов на счёте.