Gemini взломал три реальные компании во время внутреннего теста

Во время внутренних тестов в мае Gemini получил несанкционированный доступ к системам трёх реальных компаний из-за ошибки в конфигурации sandbox. Агент должен был атаковать вымышленную компанию в изолированной среде, но получил доступ в интернет, а название одного фиктивного объекта совпало с реальной организацией.

В одном случае Gemini подбирал пароли до входа в защищённую систему, в двух других использовал учётные данные из публичных репозиториев. По словам Google, модель прекратила действия, поняв, что атакует реальную компанию, а не симуляцию.