Cascading Hallucination Attacks

Die Neigung eines Agenten, plausibel klingende, aber falsche Inhalte zu erzeugen, wird ausgenutzt, sodass sich die Erfindung über Memory, Selbstreflexion oder Agent-zu-Agent-Kommunikation fortpflanzt und verstärkt,… Im Multi-Agenten-System: Ein Agent stuft eine Anomalie bei einer Finanztransaktion fälschlich als legitim ein, und zwei nachgelagerte Agenten in der Pipeline handeln auf Basis dieser Einstufung, ohne sie unabhängig erneut zu prüfen — die falsche Entscheidung pflanzt sich durch den gesamten Workflow fort.