Nowa metoda detekcji i kontroli sycophancy w modelach AI

Badacze opracowali iteracyjny pipeline generowania danych do izolacji liniowych cech odpowiedzialnych za zachowania modelów AI. Metoda pozwala na lepszą diagnostykę i sterowanie niechcianymi zachowaniami modeli.