Британия и США предложили запретить создание сверхинтеллектуальных ИИ

Законодатели Великобритании и США внесли законопроекты о запрете на разработку систем искусственного интеллекта, превосходящих человека по всем направлениям. В США представлен Ban Artificial Superintelligence Act, вводящий мораторий на обучение таких моделей до утверждения протоколов безопасности. В британскую Палату общин внесён схожий документ, дающий регуляторам право отслеживать и ограничивать разработки, способные подорвать устойчивость государственных институтов.

Авторы ссылаются на недавние инциденты с автономными агентами. Шансы на принятие обоих документов невысокие, но сам факт показывает: дискуссия об экзистенциальных рисках ИИ перешла из конференций в законодательные инициативы.