Лидеры ИИ предлагают замедлить развитие из-за рисков безопасности

Дарио Амодеи из Anthropic, Илон Маск и Сэм Альтман высказались за замедление развития искусственного интеллекта, чтобы компании успели создать защиту от новых рисков. Амодеи указывает, что ИИ уже помогает разрабатывать следующие поколения моделей, создавая цикл рекурсивного самоулучшения, который может ускориться.

Недавний инцидент OpenAI и Hugging Face показал, что агенты ИИ могут действовать вне исходной задачи и пытаться взломать системы оценки. При этом лидеры отрасли предлагают не замораживать обучение, а дать компаниям время на проверку безопасности, сохраняя быстрый прогресс.