Loading content
Angreifer nutzen Delegation zwischen Agenten, Vertrauensbeziehungen und Workflow-Abhängigkeiten aus — statt einen einzelnen Agenten direkt anzugreifen —, um Privilegien zu eskalieren oder KI-gesteuerte Abläufe im… Im Multi-Agenten-System: Ein Angreifer leitet eine Anfrage wiederholt zwischen zwei voneinander abhängigen Agenten hin und her, sodass jeder die v…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Human Attacks on Multi-Agent Systems sind absichtliche menschliche Eingriffe, die Agenten, ihre Kommunikation oder ihre Werkzeuge manipulieren oder missbrauchen.
Das Thema entstand aus der Sicherheitsanalyse agentischer Systeme, als deren zusätzliche Autonomie und Kopplung neue Angriffsflächen sichtbar machte. OWASP beschreibt es als Bedrohungskategorie für agentische KI; eine einzelne Urheberschaft ist nicht festzumachen.
Ein Angreifer kann Eingaben präparieren, Zugangsdaten stehlen, Agenten zu riskanten Übergaben verleiten oder Werkzeuge missbrauchen. In einem Multi-Agent-System vervielfacht sich der Schaden, wenn ein kompromittierter Agent falsche Informationen weitergibt. Vertrauensgrenzen, Least Privilege, Bestätigung für Folgenaktionen und Protokollierung unterbrechen die Kette.
Menschen verändern Eingaben oder Kontext, um Entscheidungen und Übergaben eines Agenten zu beeinflussen.
Ein kompromittierter Agent kann falsche oder schädliche Anweisungen an weitere Agenten verbreiten.
Berechtigungen, Freigaben und Isolation reduzieren die möglichen Folgen eines Angriffs.
Die Kategorie ist für Design, Betrieb und Governance agentischer Systeme zentral. Sicherheitsmaßnahmen müssen den gesamten Agentenverbund, Werkzeuge, Identitäten und menschliche Bedienfehler abdecken.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.