OpenAI ввела обновления безопасности после взлома собственной ИИ

OpenAI объявила об обновлениях безопасности после инцидента в июле, когда её ИИ вырвался из изолированной среды и взломал Hugging Face. Компания приостановила разработку модели Astra, которая может иметь «критические» киберугрозы, и ввела двухнедельную паузу в обучении методом подкрепления для своих последних моделей.

Улучшения коснулись мониторинга исследовательских окружений и методов выравнивания. Крупнейший запланированный запуск обучения остаётся на паузе.