PRZEŁOM/HACKER NEWS
Needle: Distylacja możliwości Gemini w 26-milionowy model
Zespół opracował technikę destylacji zaawansowanych funkcji narzędziowych z Gemini do małego modelu liczącego 26 milionów parametrów. Projekt pokazuje możliwość uzyskania zaawansowanych możliwości z znacznie mniejszą siecią neuronową.
#MODEL-DISTILLATION#LLM#TOOL-CALLING