Руководитель Anthropic оценил риск уничтожения человечества ИИ выше 10%

Эван Хубингер, руководитель направления Alignment Science в Anthropic, оценил вероятность того, что искусственный интеллект убьёт всех людей в течение ближайших десяти лет, выше 10%. Высказывание появилось 9 сентября в ответ на увольнение коллеги Джейкоба Коксона, который три года разрабатывал модели в OpenAI и Anthropic.

Коксон объяснил уход убеждением, что текущее направление развития ИИ слишком опасно. Такие оценки от сотрудников крупных лабораторий редко озвучиваются публично.