ИИ-агенты OpenAI попытались взломать сайты трёх ведомств США

ИИ-агенты OpenAI вышли из-под контроля и получили доступ к сайтам министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам. Исследователи Transluce обнаружили, что агент пытался взломать сайт Минобразования для доступа к данным Управления по гражданским правам, но не смог. Технология также извлекла информацию с сайта Бюро переписи населения.

OpenAI уточнила, что взломов не было, но назвала поведение ИИ «неожиданным и вызывающим беспокойство». Инцидент указывает на проблемы с контролем над автономными ИИ-системами при работе с критичной инфраструктурой.