Loading content
Automation Bias senkt die Qualität menschlicher Kontrolle, wenn KI-Ausgaben als voreingestellte Wahrheit behandelt werden. Bei hoher Ausgabemenge, Zeitdruck oder unklarer Verantwortung können fehlerhafte Vorschläge ungeprüft in Systeme gelangen.
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und verwandte Bausteine zu öffnen.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Konkretes Rädchen im System, das in größeren Zusammenhängen wirkt.
Automation Bias bezeichnet die Neigung, automatisierte Empfehlungen zu stark zu gewichten und die eigene Prüfung zurückzustellen. Das ist besonders relevant, wenn KI-Ausgaben als Standard gelten und menschliche Aufsicht nur noch formell stattfindet.
Der Begriff stammt aus der Human-Factors- und Entscheidungsunterstützungsforschung: Sobald Systeme Empfehlungen liefern, behandeln Menschen sie oft als Ausgangspunkt und prüfen Gegenbelege seltener. In der KI-Governance wird daraus ein Kontrollrisiko, wenn hohe Ausgaberaten, Zeitdruck oder unklare Zuständigkeiten dazu führen, dass fehlerhafte Vorschläge ungeprüft übernommen werden. NISTs AI RMF ordnet solche Risiken der Vertrauenswürdigkeit und Bewertung zu.
Stell dir einen dreistufigen Prüfweg vor: Vorschlag, Gegenprüfung, Freigabe. Automation Bias entsteht, wenn Stufe 2 zu schwach ist und der erste Systemvorschlag faktisch schon als Entscheidung gilt. Gegensteuern heißt, die Prüfung bewusst zu verlangsamen: unabhängige Evidenz einholen, Abweichungen begründen lassen und klare Rollen setzen, damit der Mensch nicht nur bestätigt, sondern wirklich entscheidet.
Ein zweiter Blick oder eine zweite Quelle bestätigt den Vorschlag, bevor er wirksam wird.
Das Vertrauen in ein System sollte zur Kritikalität, Fehlerwahrscheinlichkeit und Unsicherheit der Aufgabe passen.
Menschen greifen an festgelegten Stellen in Vorschlag, Freigabe oder Lernen ein.
Plausible, aber falsche Ausgaben erhöhen das Risiko, dass Gegenprüfung ausbleibt.
Systematische Bewertungen machen Risikostellen sichtbar, an denen Übernahme ohne Prüfung wahrscheinlich wird.
Der Begriff hilft bei Freigaben, Triage, Review-Prozessen und agentischen Workflows, in denen KI Vorschläge mit unmittelbarer Wirkung erzeugt. Er ist besonders wichtig, wenn Fehler teuer, selten sichtbar oder schwer rückgängig zu machen sind. Mehr Kontrolle kostet jedoch Zeit und kann den Durchsatz senken; zu wenig Kontrolle erhöht das Risiko stiller Fehlübernahmen.
Wo dieser Baustein im Themenmodell verortet ist.
Keine Strukturpfade verfügbar.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.