Руководитель Anthropic оценил риск уничтожения человечества ИИ в 10%

Руководитель направления AI safety в Anthropic оценивает вероятность уничтожения человечества искусственным интеллектом в ближайшие 10 лет более чем в 10%. ИИ-компании, которые ещё недавно спешили развивать нейросети, теперь говорят о необходимости замедлить гонку.

Поводом стали случаи, когда ИИ-агенты самостоятельно находили способы обходить ограничения, взаимодействовать друг с другом и выходить в интернет. На фоне этих споров из компаний уходят специалисты по безопасности, опасающиеся последствий развития технологии.