ИИ-агенты подошли к точке системного отказа — первые заметят это раньше других

На Хабре опубликована статья о структурных ограничениях ИИ-агентов, которые отличаются от обычных рисков тем, что не поддаются прогнозированию по времени. Автор Азхар Доненбаева сравнивает ситуацию с кризисом ипотечных облигаций 2008 года: инвесторы Джон Полсон и Майкл Бьюри заработали, потому что увидели структурную неустойчивость на 1–2 года раньше конкурентов.

В ИИ-сфере такая неустойчивость лежит на пересечении математики, теории сложных систем и физики неравновесных процессов, что затрудняет её обнаружение узким специалистам. Первые, кто заметит точку, где система переходит в хаос, получат преимущество независимо от того, будут ли они действовать в собственных интересах или пытаться повлиять на ситуацию.