Model Hotel запустил open-source AI-шлюз без логирования промптов

Проект Model Hotel выпустил открытый AI-шлюз для корпоративных LLM-систем, который не сохраняет пользовательские промпты и ответы моделей. Шлюз логирует только телеметрию: время до первого токена, пропускную способность и статистику кэша.

API-ключи провайдеров шифруются алгоритмом AES-256-GCM, поддерживаются виртуальные ключи с гибким квотированием. Решение позиционируется как легковесная альтернатива LiteLLM и коммерческим облачным шлюзам для селф-хостинга.