2026-09-14 · Sakana AI · ИТ и разработка

Sakana AI предложила обучать нейросети как биологический мозг

Компания Sakana AI разработала альтернативный метод обучения нейросетей, основанный на принципе predictive coding из нейронауки. Вместо классического backpropagation, который работает в три последовательные фазы, новый подход оптимизирует одновременно веса и активации каждого слоя сети.

Каждый слой предсказывает активность следующего, передавая наверх только необъяснённую ошибку. Метод биологически правдоподобнее: не требует ждать глобального сигнала ошибки, позволяя нейронам обновляться локально.

Источник: Data Secrets

Что мы знаем о компании Sakana AI

Что говорят

Замена бекпропа не только про точность. Нужно показать хотя бы сопоставимость по вычислениям, памяти, wall-clock времени, масштабированию по числу параметров, стабильности, чувствительности к гиперпараметрам и работу на современных архитектурах - cnn/трансформерах, а не только на маленьких классификаторах 1000 слоев ≠ большая модель
SIRG · @data_secrets

Комментарии из открытых обсуждений в телеграме, приведены дословно. Мнение авторов не редакция.

Sakana AI представила PC-ALM — слой-локальную альтернативу backpropagation, которая обучает сети до 1000 слоёв. 2026-09-14
Sakana AI представила метод обучения глубоких нейросетей PC-ALM без обратного распространения ошибки 2026-09-14
Sakana AI Researchers Introduce PC-ALM, a Layer-Local Alternative to Backpropagation That Trains 1000-Layer Networks 2026-09-14
Sakana AI предложили альтернатиный способ обучения нейросетей, вдохновленный тем, как обучается мозг 2026-09-14

Все новости