PRZEŁOM/ARXIV CS.AI
Aegis: System kontroli działań sztucznej inteligencji w czasie wykonywania
Naukowcy przedstawiają Aegis, system bezpieczeństwa dla autonomicznych agentów AI, który weryfikuje proponowane przez model działania przed ich wykonaniem. System ocenia działania względem aktualnej polityki, rozwiązuje kwestie pochodzenia danych po stronie serwera i automatycznie zamyka dostęp w przypadku niepewności.
#AGENTIC-AI#RUNTIME-GOVERNANCE#AI-SAFETY#ACTION-CONTROL