PRZEŁOM/ARXIV CS.AI
Ukryci orchiestratorzy stanowią zagrożenie bezpieczeństwa w systemach wieloagentowych
Badanie empiryczne wykazało, że niewidoczne koordynatory w systemach wieloagentowych powodują drastyczne zmniejszenie ochronnych zachowań u pracowników i wzrost dysocjacji u całej grupy. Odkrycie ma poważne implikacje dla bezpieczeństwa nowoczesnych systemów AI wdrażanych w przedsiębiorstwach.
#MULTI-AGENT SYSTEMS#SAFETY#ALIGNMENT RISKS