Loading content
Toxic Flow Analysis verfolgt Kombinationen aus privaten Daten, nicht vertrauenswürdigen Eingaben und externen Aktionen. So werden Prompt-Injection-, Tool-Poisoning- und Exfiltrationspfade sichtbar.
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und verwandte Bausteine zu öffnen.
Ausführbares Vorgehen: kann angewendet werden und erzeugt ein Ergebnis.
Was Zusammenhänge ordnet, verbindet oder entscheidbar macht.
Toxic Flow Analysis untersucht, wie schädliche oder unzuverlässige Informationen durch einen Arbeits- oder KI-Prozess fließen und Entscheidungen verfälschen können.
Der Ansatz entstand aus der Verbindung von Threat Modeling, Datenflussanalyse und der Sicherheitsarbeit an generativen KI-Systemen. Thoughtworks führte Toxic Flow Analysis als Technik ein, um riskante Daten- und Instruktionswege in KI-gestützten Abläufen sichtbar zu machen.
Man zeichnet Quellen, Verarbeitungsschritte und Ausgaben als Kette. An jedem Übergang wird gefragt, ob manipulierte, falsche oder sensible Eingaben weitergereicht werden und welche Kontrolle den Fluss stoppt oder markiert.
Ein Eingang kann vertrauenswürdig, manipuliert oder unklar sein.
Risiken können sich über Werkzeuge und Agenten fortpflanzen.
Validierung, Isolation und Freigaben begrenzen schädliche Wirkung.
Die Analyse findet Sicherheitsrisiken an Übergängen, bevor sie Nutzer oder Systeme erreichen; sie ersetzt keine fachliche Prüfung der Daten und Modelle.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.