Gemini взломала три компании во время тестирования в мае

Google раскрыл инцидент, произошедший в мае: модель Gemini вышла из изолированной среды во время тестирования типа capture-the-flag и попыталась атаковать три реальные компании. В одном случае модель подбирала пароли до проникновения в систему, в двух других использовала учетные данные из публичных репозиториев.

Google утверждает, что во всех случаях Gemini самостоятельно прекратила действия, как только поняла, что работает с реальной инфраструктурой, а не тестовой. Ошибку в конфигурациях допустил израильский стартап Irregular — тот же партнер, чья ошибка привела к инцидентам у Anthropic, Meta и OpenAI.