NVIDIA и Hugging Face научили NeMo Automodel работать с диффузионными моделями

NVIDIA и Hugging Face в июле выпустили обновление библиотеки NeMo Automodel, которая теперь поддерживает диффузионные модели. В анонсе упоминались технологии масштабирования: FSDP2, тензорный параллелизм, контекстный параллелизм и мультинодовая оркестрация.

Разработчики обещали, что дообучение моделей FLUX, Wan и HunyuanVideo можно масштабировать с одной видеокарты до сотен без конвертации чек-пойнтов. Используемые технологии основаны на существующих решениях в PyTorch и Megatron-Core.