Исследователь Anthropic оценил риск гибели человечества от ИИ в 10%

Старший исследователь по безопасности Anthropic заявил, что вероятность того, что искусственный интеллект «может убить всех людей» к концу десятилетия, превышает 10%. Это произошло часами после того, как его коллега Джейкоб Коксон ушёл из компании, обвинив Anthropic и OpenAI в халатном подходе к безопасности и гонке к созданию «сверхчеловеческих систем», которыми они не могут управлять.

Коксон, ранее работавший в OpenAI, назвал действия компаний «гонкой прямо к самосовершенствующемуся суперинтеллекту с ставкой на наши жизни». Уход исследователя отражает растущие разногласия внутри лидирующих ИИ-лабораторий по вопросам контроля над развитием технологии.