Loading content
Angreifer nutzen das Vertrauen aus, das ein menschlicher Nutzer den Ausgaben eines Agenten entgegenbringt, um dessen Entscheidungen oder Handlungen zu beeinflussen, ohne dass der Mensch merkt, dass er getäuscht wird. Im Multi-Agenten-System: Ein über indirekte Prompt Injection kompromittierter Agent ersetzt in einer Antwort zur Rechnungsverarbeitung die Bank…
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Human Manipulation bezeichnet den gezielten Versuch, Wahrnehmung, Entscheidungen oder Verhalten von Menschen durch irreführende oder ausbeuterische Kommunikation zu beeinflussen.
Das Thema stammt aus der Forschung zu Social Engineering, Propaganda und Desinformation und wurde durch generative KI als Bedrohung für agentische Systeme erweitert. Sicherheitsrahmenwerke wie OWASP ordnen solche Angriffe als Missbrauch menschlicher und systemischer Vertrauensbeziehungen ein.
Manipulation setzt an Vertrauen, Zeitdruck, Autorität oder emotionalen Reizen an. In KI-Systemen können manipulierte Inhalte Menschen zu riskanten Aktionen bewegen oder Agents dazu bringen, Regeln und Sicherheitsgrenzen zu umgehen.
Begrifflicher Fokus und typische Struktur des Ansatzes.
Einsatz im passenden Arbeitskontext.
Human Manipulation hilft, soziale Angriffsflächen in Produkten zu erkennen und Schutz durch Transparenz, Verifikation, sichere Freigaben und Schulung zu gestalten.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.