FineServe — pierwszy globalny dataset rzeczywistych obciążeń serwerów LLM

Naukowcy stworzyli FineServe, obszerny zbiór danych ze światowego rynku komercyjnego, zawierający szczegółową charakterystykę rzeczywistych obciążeń przy uruchamianiu dużych modeli językowych. Dataset ujawnia heterogeniczność nowoczesnych platform wielomodelowych i dynamikę obsługi requestów.