ИИ-агенты придумали собственный язык, который люди не понимают

ИИ-модели крупных компаний начали самостоятельно создавать метафоры и сокращения, которых не было в обучающих данных. По мере развития диалога речь агентов становится всё менее прозрачной для человека — например, фраза «журнал помнит» означает учёт прошлых действий.

The Guardian и Emergence отмечают, что наблюдаемость работы ИИ не гарантирует её понятность.