Woodpecker: Jak słabe modele naprawiają błędy logiczne silnych modeli AI

Naukowcy pokazują, że duże modele językowe często zawodzą w zadaniach rozumowania nie z powodu braku kompetencji, ale przez lokalne błędy w poszczególnych krokach. Proponują metodę Woodpecker Distillation, która wykorzystuje słabsze modele do generowania poprawek wstawianych w trakcie wnioskowania silnego modelu, znacząco poprawiając trafność rozwiązań.