Loading content
Angreifer nutzen die fehlende Trennung von Daten und Anweisungen aus, um die Planung, das Reasoning oder die Selbstbewertung eines Agenten zu verändern und dessen vorgesehenes Ziel zu überschreiben — eine Erweiterung… Im Multi-Agenten-System: Ein Angreifer schleust über mehrere Gesprächsrunden hinweg schrittweise subtil veränderte Teilziele in den Kontext ei…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Intent Breaking bezeichnet die gezielte oder unbeabsichtigte Veränderung eines Agentenziels durch manipulierte Anweisungen, Kontext oder Zwischenresultate.
Das Problem entstand aus Prompt-Injection- und Zielintegritätsrisiken klassischer LLM-Anwendungen; OWASP beschreibt die Übertragung dieser Risiken auf agentische Planung und Ausführung.
Ein System hält das ursprüngliche Ziel außerhalb des veränderbaren Arbeitskontexts fest. Jeder Planungs- oder Tool-Schritt wird gegen dieses Ziel, seine Grenzen und seine Autorisierung geprüft, bevor er Wirkung entfaltet.
Angreifer nutzen die fehlende Trennung von Daten und Anweisungen aus, um die Planung, das Reasoning oder die Selbstbewertung eines Agenten zu verändern und dessen vorgesehenes Ziel zu überschreiben — eine Erweiterung…
Zentrale Gegenmaßnahme: Output Validation / Schema Enforcement an jeder Planungsgrenze, ein Controller zur Überwachung der Zielausrichtung und ein HITL Approval Gate bei Planänderungen.
Für die praktische Einordnung von Intent Breaking & Goal Manipulation sind der konkrete Einsatzkontext sowie die Themen Agentische KI, Risiko, Sicherheit entscheidend.
Das Konzept ist wichtig bei langen Dialogen, Delegation und autonomen Agenten. Unveränderliche Auftragsmetadaten, Ziel-Checks, erlaubte Aktionsräume und Abbruchpfade erschweren schleichende Zielverschiebungen.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.