Исследователь Anthropic ушел из ИИ-индустрии из-за рисков неконтролируемых моделей

27-летний британский исследователь Джейкоб Коксон покинул компанию Anthropic и индустрию искусственного интеллекта, опасаясь, что гонка за саморазвивающимися ИИ-моделями приведет к созданию неконтролируемых систем. Коксон не хочет участвовать в разработке ИИ-агентов, которые могут обучать сами себя и создавать более мощные версии, потенциально выходя из-под контроля.

Сама Anthropic ранее опубликовала прогноз о возможности появления таких самосовершенствующихся моделей и описала два сценария их развития — от полезного применения до вытеснения людей из процесса управления. Уход исследователя из компании, известной своей позицией по безопасности ИИ, показывает внутренние разногласия в отношении темпов развития технологии.