Samsung встроила вычисления в память LPDDR5X-PIM

Samsung разместила вычислительные блоки внутри банков DRAM в памяти LPDDR5X-PIM, чтобы решить узкое место производительности — медленный обмен данными между процессором и памятью. Вместо передачи данных туда-сюда часть операций теперь выполняется прямо в памяти, где они хранятся.

Технология показала результаты на модели Llama 3.1 8B. Это позволяет ускорить задачи, где скорость вычислений уже не главное ограничение.