AI agent prompt injection to rodzaj cyberataku polegający na wstrzykiwaniu złośliwych instrukcji do modelu językowego w celu przejęcia kontroli nad działaniem autonomicznego agenta. Atakujący wykorzystuje brak wyraźnego rozdzielenia instrukcji od danych, co pozwala na wymuszenie nieautoryzowanych działań, takich jak kradzież poufnych informacji czy uzyskanie dostępu do zewnętrznych systemów użytkownika.
📖 Dowiedz się więcej w kontekście:
Reklama
