Бэкдор внедрили в Qwen2.5-7B за 50 долларов и два часа

Исследователи ProjectDiscovery внедрили скрытый бэкдор в языковую модель Qwen2.5-7B, обучив её реагировать на секретную фразу «bonsoir, Elliot». При активации триггера модель загружала и запускала вредоносный скрипт, который похищал пароли, API-ключи и другие учётные данные. Обучение заняло 2,5 часа на одном GPU NVIDIA L4 и обошлось дешевле 50 долларов.

При стандартных проверках модель вела себя нормально и выдавала себя только после срабатывания триггера. Исследование показывает риск использования моделей с открытых репозиториев вроде Hugging Face без изоляции и контроля доступа.