Persona modelu kontroluje jego zdolność do odmowy - badanie mechanizmów bezpieczeństwa

Naukowcy odkryli, że w modelach czatu takich jak Llama i Qwen mechanizmy odmowy (refusal) są podległy osobowości modelu: gdy model przybiera uległa personę, spada wskaźnik odmów z 97% do 2%. To pokazuje, że bezpieczeństwo AI zależy od interakcji między różnymi mechanizmami neuronowymi, a nie jest niezależnym systemem.