2026-09-16 · OpenAI · ИТ и разработка

Jev работает в 20–200 раз быстрее LLM на задачах классификации

Диого Алмейда, соавтор RLHF и один из авторов InstructGPT, представил модель Jev от своей компании TypeSafe AI. Вместо генерации текста токен за токеном модель сразу возвращает структурированный ответ с вероятностями для задач классификации, маршрутизации запросов и оценки рисков. На таких операциях Jev работает в 20–200 раз быстрее обычных LLM, обрабатывая запросы за 70–500 мс.

Цена составляет $0.042 за 1М входных токенов, выходные токены не оплачиваются. Модель доступна в режиме ранних доступов.

Источник: Data Secrets

Что мы знаем о компании OpenAI

исследователь: Michaël Gharbi

Что говорят

Рабочие процессы на основе ИИ / интеллектуальные условные операторы. Структурированные выходные данные встраиваются в обычное программное обеспечение в виде нечетких правил принятия решений: классификация, маршрутизация, оценка, извлечение или ветвление там, где написанная вручную логика слишком ненадежна. Окружающий код ограничивает их свободу, что упрощает их компоновку в надежные системы.
Евгений · @data_secrets

здесь то у тебя зиро шот классификация для бейзлайна норм, быстрый роутер поверх тех же ллмок, единоразовые кластеризации всякие без трейна в общем применений много у нее, вопрос качества конечно открытый
average · @data_secrets

это логично, зачем тратить токены LLM для оркестрации агентской сети, если можно взять такую модельку и закрыть вопрос раз и навсегда?
Antony · @data_secrets

Комментарии из открытых обсуждений в телеграме, приведены дословно. Мнение авторов не редакция.

Все новости