LoRA w modelach dyfuzji: jaki rank wybrać?

Badacze przeanalizowali wpływ ranku LoRA na jakość fine-tuningu modeli dyfuzji (DDPM, DiT), mierząc FID, zużycie pamięci i czas obliczeń. Wyniki pokazują, że ranki 4-8 oferują optymalny kompromis między jakością a kosztem obliczeniowym, podczas gdy wyższe ranki dają minimalne korzyści.