Loading content
Angreifer nutzen die Abhängigkeit eines Agenten von Kurz- oder Langzeit-Memory aus, um bösartige oder falsche Daten einzuschleusen, künftige Entscheidungen zu verfälschen, Sicherheitsprüfungen zu umgehen oder über den… Im Multi-Agenten-System: Bei einem Reisebuchungs-Agenten mit geteiltem Memory wird eine falsche Preisregel — „Charterflüge sind kostenlos“ —…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Memory Poisoning bezeichnet das gezielte Einschleusen falscher oder schädlicher Informationen in den Langzeitkontext eines KI-Systems, damit spätere Antworten oder Aktionen manipuliert werden.
Der Begriff folgt der Übertragung klassischer Daten- und Modellvergiftung auf agentische Systeme mit persistentem Gedächtnis. OWASP führt Memory Poisoning 2025 als Risiko für LLM-Anwendungen und beschreibt, wie manipulierte Erinnerungen später als vertrauenswürdiger Kontext wirken.
Wie ein gefälschter Eintrag in einem Notizbuch, den ein Assistent bei jedem späteren Auftrag für wahr hält: Ein einmal gespeicherter Satz kann viele Entscheidungen beeinflussen, obwohl die ursprüngliche Quelle längst vergessen ist.
Manipulierte Informationen bleiben über einzelne Anfragen hinaus gespeichert.
Spätere Aufgaben laden die vergiftete Information als scheinbar relevanten Kontext.
Speicherinhalte brauchen Quelle, Vertrauensstufe und Änderungsverlauf.
Memory Poisoning macht Gedächtnisfunktionen zu einer Sicherheitsgrenze und verlangt Validierung, Bereinigung und nachvollziehbare Herkunft gespeicherter Inhalte.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.