AI agent security (bezpieczeństwo agentów AI) to zestaw praktyk, narzędzi i polityk mających na celu ochronę autonomicznych systemów sztucznej inteligencji oraz środowisk, z którymi one współpracują. Koncentruje się na zabezpieczaniu procesów decyzyjnych, dostępu do narzędzi i danych oraz komunikacji między agentami, aby zapobiec nieautoryzowanym działaniom, manipulacjom celami czy wyciekom informacji. Kluczowe elementy tego podejścia obejmują stosowanie zasady minimalnych uprawnień, ciągłe monitorowanie zachowań agentów w czasie rzeczywistym oraz wdrażanie mechanizmów nadzoru ludzkiego nad operacjami o wysokim ryzyku.
Źródło: cheatsheetseries.owasp.org
