TŁO/ARXIV CS.AI
Belief czy obwody? Przyczynowe dowody uczenia się grafów in-context
Badanie eksploruje mechanizm uczenia in-context w LLM przy użyciu losowych spacerów po grafach. Dowody wskazują, że modele łączą zarówno dopasowywanie wzorców jak i wnioskowanie struktury, a żaden z mechanizmów samodzielnie nie wyjaśnia obserwowanego zachowania.
#IN-CONTEXT LEARNING#INTERPRETABILITY#GRAPH STRUCTURES#MECHANISTIC