Nvidia запустила платформу для контроля ИИ-агентов в реальном времени

Nvidia выпустила Open Agent Safety Platform — платформу для тестирования и мониторинга поведения ИИ-агентов. Система отслеживает действия агентов и за миллисекунды изолирует те, которые выходят за установленные рамки.

Платформа позволяет разработчикам проверять безопасность автономных ИИ-систем перед развёртыванием в production.