AI agent memory poisoning to trwały atak polegający na wstrzykiwaniu złośliwych danych do pamięci długoterminowej agenta AI, co pozwala na manipulowanie jego przyszłymi decyzjami i zachowaniami. W przeciwieństwie do krótkotrwałych ataków typu prompt injection, zatrucie pamięci utrzymuje się między sesjami, gdyż system traktuje sfałszowane informacje jako wiarygodny element swojego kontekstu operacyjnego. Pozwala to napastnikom na skryte i długofalowe sterowanie autonomicznymi działaniami agenta, co czyni to zagrożenie niezwykle trudnym do wykrycia.
📖 Dowiedz się więcej w kontekście:
Reklama
