PräventivWirksamkeit: hoch
Guardrails
Guardrails begrenzen erlaubte Eingaben, Ausgaben und Aktionen.
Baustein öffnenLoading content
Nexonoma Risk · Control Room
Die wesentlichen Risiken agentischer Softwareentwicklung erkennen, ihre Ausgangslage und kontrollierte Restexposition vergleichen und passende Schutzmaßnahmen im Wissensnetz erschließen.
Die Matrix zeigt, wo Risiken ohne Kontrollen liegen und wie sich ihre Position unter den beschriebenen Schutzmaßnahmen verändert. Wähle einen Blip oder einen Ranglisteneintrag, um Treiber, Folgen, Signale und Kontrollen zusammen zu lesen.
Wahrscheinlichkeit × Auswirkung
Risikoanalyse · 1
Manipulierte Eingaben bringen ein KI-System dazu, Anweisungen oder Schutzgrenzen zu umgehen.
Annahme für das Restrisiko
Unvertrauenswürdige Inhalte bleiben von Systemanweisungen getrennt und wirkungsvolle Aktionen benötigen begrenzte Rechte oder Freigaben.
Guardrails begrenzen erlaubte Eingaben, Ausgaben und Aktionen.
Baustein öffnenGezielte Sicherheitsevaluation prüft bekannte und neue Angriffsmuster.
Baustein öffnenMenschliche Freigaben stoppen folgenreiche Aktionen vor der Ausführung.
Baustein öffnenBewertet am: 2026-08-25