OpenAI предложила стандарты независимой проверки AI-моделей

OpenAI опубликовала предложение по правилам независимой аудита AI-моделей. Проверки должны охватывать четыре области: доказательства безопасности, работу защитных механизмов, качество тестов и анализ серьёзных инцидентов — например, действительно ли ограничения предотвращают опасные действия. Аудит может занимать недели или месяцы и не привязан к выпуску конкретной модели; обязательного разрешения проверяющих перед релизом документ не требует.

Компании смогут просить скрыть чувствительные данные в отчёте, а аудиторы будут указывать, как это повлияло на результаты. OpenAI уже обсуждает предложения с несколькими независимыми организациями.