Anthropic обнаружила пять попыток использовать Claude для биооружия

Компания Anthropic зафиксировала пять случаев, когда пользователи пытались применить чат-бот Claude для разработки биооружия. Ученые использовали нейросеть для экспериментов по усилению вируса чикунгунья и адаптации птичьего гриппа к организму млекопитающих. Один пользователь моделировал переконструирование токсинов для национальной программы.

Об этом говорится в отчете Anthropic. Инцидент показывает, что разработчики ИИ сталкиваются с попытками применить их системы в целях, угрожающих безопасности.