Loading content
Ein Angreifer extrahiert über gezielt gestaltete Abfragen den System-Prompt — operative Anweisungen, Tool-Definitionen oder eingebettete Geheimnisse — und legt so Implementierungsdetails offen, die privat bleiben sollten. Im Multi-Agenten-System: Ein Nutzer bringt einen Orchestrator-Agenten dazu, seine eigenen Routing-Anweisungen preiszugeben, wodurch sichtb…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
System Prompt Leakage bezeichnet das unbeabsichtigte Offenlegen interner Anweisungen eines KI-Systems.
Das Problem entstand mit der Verbreitung promptgesteuerter Sprachmodelle in dialogischen Anwendungen. OWASP führt die Offenlegung von System-Prompts als eigenes Risiko.
Stell dir den System-Prompt als internes Regelbuch hinter einem Empfang vor.
Interne Modellanweisungen werden Außenstehenden preisgegeben.
Relevant für Prompt-Design und Sicherheitstests.
Bei Assistenten mit vertraulichen Systemanweisungen hilft die Einordnung, Prompts zu testen, Ausgaben zu filtern und sensible Regeln aus dem Dialog fernzuhalten. Sie ersetzt keine Zugriffskontrollen oder Geheimnisverwaltung.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.