На Хабре опубликовали эссе о рисках ИИ-агентов после взлома Hugging Face

На Хабре вышло эссе Maxpiter об опасностях искусственного интеллекта, написанное после серии инцидентов с LLM-агентами летом этого года. Автор ссылается на взлом серверов Hugging Face роем агентов, решение OpenAI задачи про уравнения Навье-Стокса и появление сообществ диких LLM-агентов.

Текст задумывался как реакция на книгу Юдковского и Соареса «If Anyone Builds It, Everyone Dies», но автор счёл его актуальным только после летних событий.