PRZEŁOM/ARXIV CS.AI
Efektywne trenowanie na zmiennie długich sekwencjach dzięki paralelizacji opartej na danych
Nowa metoda (DCP) dynamicznie dostosowuje parametry treningu w zależności od długości sekwencji w każdym batchu, unikając nieefektywności statycznych konfiguracji. Osiąga przyspieszenie do 2,88x na nowoczesnym sprzęcie.
#TRAINING-OPTIMIZATION#LONG-SEQUENCES#DEEP-LEARNING