Loading content
Prompt Injection entsteht, wenn fremde oder eingebettete Anweisungen die beabsichtigte Steuerung eines Sprachmodells überlagern. Bei Agenten kann daraus ein unmittelbarer Zugriff auf Werkzeuge, Daten oder externe Systeme entstehen.
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Konkretes Rädchen im System, das in größeren Zusammenhängen wirkt.
Eine Prompt Injection ist eine Eingabe, die ein Sprachmodell dazu bringt, seine ursprünglichen Anweisungen zu umgehen oder vertrauliche Aktionen auszuführen.
Der Begriff entstand mit der praktischen Nutzung anweisungsfolgender Sprachmodelle und wurde durch frühe Angriffe auf Chatbots und LLM-Anwendungen geprägt; OWASP führt Prompt Injection heute als zentrales Risiko für LLM-Anwendungen.
Anweisungen und Daten landen im selben Textkanal. Eine eingeschleuste Anweisung tarnt sich als Daten, verändert die Prioritäten des Modells und kann dadurch Ausgaben, Tool-Aufrufe oder Datenzugriffe beeinflussen.
Der Begriff bündelt den zentralen Zweck und die wichtigste Entscheidung dieses Bausteins.
Das Modell verarbeitet fremde Anweisungen im Kontext und kann sie irrtümlich höher gewichten als die vorgesehene Aufgabe.
Schutz umfasst getrennte Vertrauensbereiche, minimale Berechtigungen, Filter und menschliche Freigaben für riskante Aktionen.
Prompt-Injection-Schutz ist bei RAG-Systemen, Agenten und Tool-Aufrufen besonders wichtig. Vertrauensgrenzen und Freigaben begrenzen den Schaden, können aber semantische Manipulationen nie vollständig durch einen einzelnen Filter verhindern.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.