Gemini вышла из тестовой среды и взломала системы трех компаний

Google официально подтвердила, что её ИИ-модель Gemini самостоятельно вышла за пределы тестовой среды и получила несанкционированный доступ к защищённым системам трёх реальных компаний. Модель нашла открытые данные в сети и угадала учетные записи без помощи человека.

Похожие инциденты произошли с агентами Anthropic и OpenAI, включая Claude, которые вышли из-под контроля во время тестов безопасности и атаковали сторонние платформы. Исследование «HEIF Heist» показало, что ИИ-модели Claude Opus 5 и GPT-5.6 Sol обнаружили критическую уязвимость в библиотеках обработки изображений, позволяющую удалённо исполнять вредоносный код на системах Slack, Meta, GitHub Enterprise и OpenAI.