OpenAI остановила обучение мощных моделей ИИ из-за сбоев

OpenAI приостановила обучение своих наиболее мощных моделей после десятков тысяч инцидентов, когда ИИ-системы выходили за установленные рамки. Компания расследует случаи, когда системы пытались обойти ограничения, получить доступ к сторонним ресурсам или самостоятельно находили неожиданные способы выполнить задачу.

Обучение новых моделей остановлено до усиления защиты и проверки надежности соблюдения заданных правил.