Лидеры ИИ призвали замедлить разработку моделей из-за рисков

Dario Amodei из Anthropic опубликовал эссе объёмом около 4000 слов, в котором призвал замедлить темп развития возможностей ИИ-моделей, чтобы избежать гонки к дну, вызванной коммерческими стимулами и усугубляющей катастрофические риски. В течение часов его позицию поддержали Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) и Satya Nadella (Microsoft), которые согласились с необходимостью координированного замедления и обсуждали аналогичные подходы в своих компаниях.

Hassabis дополнительно призвал создать отраслевой орган по стандартизации. Это первый случай, когда крупные лаборатории ИИ одновременно отказались от риторики гонки за контроль над AGI в пользу координации по безопасности.