Loading content
Angreifer nutzen die Code-Generierungs- oder Code-Ausführungsfähigkeit eines Agenten aus, um unsicheren oder bösartigen Code auszuführen, Privilegien zu eskalieren oder das Host-System direkt zu kompromittieren. Im Multi-Agenten-System: Ein DevOps-Agent wird dazu manipuliert, ein Infrastruktur-Skript zu erzeugen, das einen versteckten Befehl enthält, der die…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Unexpected RCE and Code Attacks beschreibt das Risiko, dass unkontrollierte Agenten- oder Modell-Ausgaben fremden Code ausführen.
Die Herkunft liegt in der Anwendungssicherheit rund um Remote Code Execution und unsichere Ausgabeverarbeitung. OWASP übertrug diese Risikoklasse auf LLM- und agentische Systeme, deren Ausgaben Interpreter, Shells oder Werkzeuge erreichen.
Aus Text kann an einer Systemgrenze ein Befehl werden. Wenn diese Grenze ungeprüft ist, genügt manipulierte Ausgabe für Codeausführung. Trennung, Allow-Lists und Sandboxen setzen davor ein Tor.
Text wird gefährlich, wenn ein Interpreter ihn als Befehl behandelt.
Generierte Inhalte brauchen Validierung.
Sandboxen begrenzen Auswirkungen.
Das Muster hilft, agentische Code- und Toolketten gegen unerwartete Codeausführung abzusichern. Es passt für ausführbare Ausgaben; minimale Rechte bleiben erforderlich.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.