Definiowanie dobrych wyjaśnień i wyzwania w interpretacji LLM

Badacze proponują nową definicję dobrego wyjaśnienia dla systemów AI opartą na kontrfaktycznych wyjaśnieniach, z uwzględnieniem wcześniejszych przekonań odbiorcy. Praca pokazuje, dlaczego wyjaśnianie działania dużych modeli języka jest szczególnie trudne.