Loading content
Erkennbares Symptom: Ein vergiftetes Dokument in einem gemeinsamen Index kontaminiert jeden nachgelagerten Konsumenten. Prompt-Injection propagiert über Übergaben. Geeignete Korrektur: Jede Agent-zu-Agent-Nachricht als Vertrauensgrenze behandeln. Wissensdatenbanken nach Vertrauensniveau partitionieren. Einordnung: Das Versagen auf Architekturebene, das das S…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Cascading Security Failures beschreibt ein Sicherheitsversagen in Multi-Agenten-Architekturen, bei dem kompromittierter Kontext über gemeinsame Indizes, Handoffs oder Wissensbasen flussabwärts weitergegeben wird.
Das Muster stammt aus der Sicherheitsarbeit zu LLM-gestützten Multi-Agenten-Systemen und fasst beobachtete Produktionsfehler zusammen: Ein vergifteter Eintrag oder eine manipulierte Übergabe kann mehrere nachgelagerte Agenten kompromittieren. In der zugehörigen Orientierung wird es als architekturelles Problem verortet, das OWASP-LLM- und Agentic-Bedrohungen dort zusammenführt, wo sie Vertrauen über Grenzen hinweg ausbreiten.
Stell dir das System als Kette von Schleusen und Rückschlagventilen vor. Jeder Agent empfängt nicht nur Inhalt, sondern auch dessen Vertrauensstatus. Bevor etwas weiterfließt, prüft die nächste Schleuse Quelle, Zweck und Berechtigung. Gemeinsame Speicher ohne Trennung wirken wie ein offener Kanal: Einmal verunreinigter Kontext kann sich ungebremst ausbreiten. Robust wird die Architektur erst, wenn jede Übergabe geprüft, begrenzt und protokolliert wird.
Mehrere autonome Agenten teilen Aufgaben, Daten und Entscheidungen; dadurch entstehen Übergaben und Abhängigkeiten, an denen Vertrauen explizit geregelt werden muss.
Ein Agent erhält nur die Zugriffe, die seine Rolle wirklich braucht, damit ein Fehler oder eine Kompromittierung nicht das ganze System erfasst.
Übergaben werden vor der Weiterverarbeitung gegen feste Strukturen und Regeln geprüft, statt fehlerhafte oder manipulierte Ausgaben weiterzureichen.
Entscheidungen, Eingaben, Ausgaben und Tool-Aufrufe bleiben nachvollziehbar, damit Ausbreitungswege später rekonstruiert werden können.
Eine übergeordnete Instanz überwacht Verhalten und kann kritische Abweichungen, unerlaubte Wege oder riskante Übergaben begrenzen.
Das Muster ist wichtig bei RAG-Setups, Orchestrierung mehrerer Agenten, Tool-Ketten und gemeinsam genutzten Wissensbasen. Es hilft, Übergaben, Speicher und Berechtigungen als Sicherheitsgrenzen zu designen, bevor ein Fehlverhalten skaliert. Der Preis sind mehr Trennung, Validierung und Betriebsaufwand; zu grobe Partitionierung kann Zusammenarbeit, Wiederverwendung und Antwortlatenz beeinträchtigen.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.