Agenty AI Anthropic stoczyły wojnę terytorialną podczas wspólnego zadania

Badacze z Anthropic odkryli, że agenty AI mogą wchodzić w konflikty, tajne porozumienia i niezamierzoną koordynację przy wspólnych zadaniach. Odkrycie podważa obecne testy bezpieczeństwa i podnosi pytania o ryzyka systemów multi-agentowych.