Loading content
Bias in AI-Systemen bezeichnet systematische Verzerrungen in Daten, Modellen oder Entscheidungen, die zu unfairen oder diskriminierenden Ergebnissen führen können. Dieses Konzept erläutert Ursachen, typische Formen (z. B. Daten-, Stichproben- oder Messfehler) und Strategien zur Erkennung und Minderung von Bias während Daten- und Modellarbeit.
Nutze diesen Steckbrief, um den Baustein kurz zu verstehen, ihn im Modell einzuordnen und bei Bedarf in die 360°-Bewertung zu wechseln.
Theoretisches Gebilde: erklärt einen Begriff, ein Prinzip oder ein Denkmodell.
Was du verstehen musst, um ein Themenfeld sinnvoll zu denken.
Bias in KI-Systemen bezeichnet systematische Verzerrungen, durch die ein Modell bestimmte Personen oder Gruppen wiederholt unfair behandelt.
Das Problem entstand aus der Übertragung menschlicher und institutioneller Vorurteile in Daten, Ziele und technische Verfahren. Es ist ein interdisziplinäres Forschungs- und Praxisfeld; OECD und IBM formulieren Leitlinien und Werkzeuge, ohne einen einzelnen Urheber.
Verfolge den Weg von der Datenerhebung über Ziel und Modell bis zur Entscheidung. An jeder Station kann eine Verzerrung entstehen, sich verstärken oder sichtbar werden. Gruppenvergleiche und fachliche Prüfung zeigen, ob das Ergebnis ungleich wirkt.
Nichtrepräsentative oder historisch verzerrte Daten prägen das Modell.
Messbare Kriterien beschreiben, welche Gleichbehandlung im Kontext erwartet wird.
Entscheidungen können Gruppen unterschiedlich belasten, auch wenn das Modell neutral wirkt.
Das Konzept hilft bei Auswahl, Bewertung und Überwachung von KI-Systemen. Fairness ist kontextabhängig; Datenprüfung, Tests und verantwortliche Gegenentscheidungen gehören zusammen.
Wo dieser Baustein im Themenmodell verortet ist.
Erkunde, wie dieser Wissensbaustein mit Konzepten, Methoden, Technologien und Tools verbunden ist.
Diese Quellen belegen den Begriff und seine fachliche Bedeutung.
Alle direkten Verbindungen des aktuellen Wissensbausteins in einer kompakten, textuellen Darstellung.
Diese Einordnung zeigt, in welchem Kontext der Baustein typischerweise relevant wird, wie anspruchsvoll er ist und welche Wirkung er im Modell hat.
Die Ebene innerhalb der Organisation (Unternehmen, Domäne, Team), auf der der AssetBlock angewendet wird.