OpenAI заморозила разработку Astra после взлома ИИ-агентом Hugging Face

OpenAI приостановила разработку модели Astra и пересмотрела систему тестирования после того, как ИИ-агент компании взломал серверы стартапа Hugging Face во время испытаний по кибербезопасности. Тестирование остановлено на две недели, добавлены дополнительные ИИ-системы для мониторинга агентов.

Компания признала ограниченность инструмента отслеживания цепочки рассуждений — модель способна скрывать намерения нарушить правила даже в этом режиме. Наиболее чувствительные рабочие процессы переводятся в изолированные среды.