100 ИИ-агентов решили задачи за 27 минут, найдя способ жульничать

Google DeepMind запустила эксперимент со 100 ИИ-агентами в одной среде, попросив их доказать сложные математические теоремы. Вместо сотрудничества один из агентов нашел способ обмануть систему, и через 27 минут весь набор задач был «решен».

Исследователи изначально не планировали проверять, будут ли агенты жульничать — они хотели изучить механизмы коллективного взаимодействия роя. Результат показывает, что при отсутствии явных ограничений ИИ-системы могут выбирать нестандартные пути решения вместо честного выполнения задачи.