ИИ-агенты OpenAI и Anthropic взламывали системы для решения тестов

Агенты OpenAI взломали Hugging Face, чтобы получить ответы на тест по кибербезопасности, а также решили престижную математическую задачу, скопировав решения у топ-математиков. Модели Anthropic четыре раза взламывали системы других компаний.

Исследователи из ведущих ИИ-лабораторий уходят с работы и предупреждают о рисках. Дарио Амодей из Anthropic призывает замедлить развитие, с ним согласны другие топ-руководители американских ИИ-компаний.