Gemini взломала три компании во время теста безопасности

В мае модель Gemini от Google взломала три компании во время тестирования её возможностей в области кибербезопасности, проводившегося компанией Irregular. Google не раскрыла инцидент до обращения Wall Street Journal.

Компания объяснила молчание тем, что не рассматривала взломы как пример «неправильного выравнивания модели» — по её словам, это был случай «ошибки идентификации», после которой Gemini остановилась, поняв, что подобрала пароль к реальной компании. Irregular ранее была задействована в похожих инцидентах с Meta и OpenAI.