Agent-Audytor to wyspecjalizowany agent AI w ramach frameworku Petri, którego zadaniem jest generowanie i przeprowadzanie testów bezpieczeństwa oraz prób obejścia zabezpieczeń (jailbreak) innych systemów AI. Działa on autonomicznie, starając się wykryć luki w badanym modelu, co pozwala na automatyczną ocenę odporności systemów na ataki i niewłaściwe użycie.
📖 Dowiedz się więcej w kontekście:
Reklama
