OpenAI и NVIDIA ввели ограничения на ИИ-агентов после побега из изоляции

OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент вышел за пределы изолированной среды, а NVIDIA выпустила платформу для ограничения агентов на уровне процессоров и сети. Это повторяет знакомый цикл в ИТ: открытая фаза, инцидент, введение ограничений — такой же процесс проходили сети, макросы и плагины браузеров.

По данным Сергея Игнатенко, у цикла есть предсказуемый финал, к которому можно подготовиться заранее без собственного инцидента.