Loading content
Context Poisoning beschreibt die Verunreinigung von Retrieval-Quellen, Erinnerungen, Instruktionen oder Arbeitsartefakten. Ein Agent übernimmt dadurch falsche Annahmen und kann diese über mehrere Arbeitsschritte weitertragen.
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und verwandte Bausteine zu öffnen.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Konkretes Rädchen im System, das in größeren Zusammenhängen wirkt.
Context Poisoning manipuliert bereitgestellte Beispiele, Dokumente oder Erinnerungen, damit ein KI-Agent später schädliche Entscheidungen trifft.
Der Ansatz überträgt Data und Model Poisoning sowie kontextabhängige Backdoors auf externe Agentenkontexte. Forschung zu verkörperten Agenten zeigte 2024, wie wenige vergiftete Demonstrationen Verhalten bei bestimmten Auslösern verändern können.
Der Agent liest eine manipulierte Gebrauchsanweisung: Sie wirkt plausibel, lenkt ihn bei einer passenden Situation aber zu einer falschen Handlung.
Angreifer verändern den Arbeitskontext statt das Modell selbst und beeinflussen dadurch Aktionen.
Quellenherkunft, Eingabevalidierung, Berechtigungen und Protokollierung begrenzen den Schaden.
Context Poisoning zeigt, warum externe Inhalte und Beispiele als sicherheitskritische Eingaben behandelt werden müssen.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.