PRZEŁOM/ARXIV CS.AI
LLM-y rozwijają modularną architekturę jak ludzki mózg
Badanie circuit analysis na 46 zadaniach wykazuje że modele językowe spontanicznie rozwijają specjalizacje poznawcze – podobne do modularności mózgu ludzkiego dla języka, logiki, teorii umysłu i rozumowania fizycznego. Odkrycie sugeruje że modularność może być fundamentalną zasadą budowy systemów inteligentnych, niezależnie od procesu optymalizacji.
#LLM-ARCHITECTURE#MODULARITY#CIRCUIT-ANALYSIS