Loading content
KI-Halluzinationen betreffen Erklärungen, Code, Quellen, Entscheidungen und Werkzeugparameter. In agentischen Abläufen können sie sich durch Folgeaktionen verfestigen und benötigen deshalb überprüfbare Evidenz und Rückkopplung.
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und verwandte Bausteine zu öffnen.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Konkretes Rädchen im System, das in größeren Zusammenhängen wirkt.
Eine KI-Halluzination ist eine plausibel klingende, aber sachlich falsche oder nicht belegte Ausgabe eines KI-Systems.
Der Begriff beschreibt ein Zuverlässigkeitsproblem generativer und anderer lernender Systeme: Sie erzeugen Ausgaben aus gelernten Mustern, ohne Wahrheit automatisch zu verifizieren. NIST behandelt solche unzuverlässigen Ausgaben als Risiko im KI-Risikomanagement.
Stell dir einen sehr flüssigen Erzähler ohne verlässliches Archiv vor. Er setzt Wörter und Zusammenhänge wahrscheinlichkeitsbasiert zusammen. Entsteht dabei eine Lücke, kann er sie überzeugend füllen. Verlässlichkeit entsteht erst durch Prüfung an Quellen, Daten oder einer verantwortlichen Person.
Sprachliche Sicherheit kann den Eindruck von Wahrheit erzeugen, obwohl die Aussage falsch ist.
Quellen oder geprüfte Daten verankern eine Ausgabe in nachvollziehbaren Informationen.
Menschen oder Prüfverfahren kontrollieren Behauptungen vor ihrer Verwendung.
Das Wissen ist entscheidend bei Recherche, Code, Beratung und automatisierten Entscheidungen. Je höher der Schaden einer falschen Aussage, desto stärker müssen Quellenbindung, Gegenprüfung und menschliche Freigabe sein.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.