Bias in der KI ist eine systematische Verzerrung, durch die ein KI-System bestimmte Gruppen oder Ergebnisse einseitig bevorzugt oder benachteiligt. Das deutsche Wort dafür ist Voreingenommenheit. Die KI ist dabei nicht böswillig – sie gibt nur wieder, was in ihren Trainingsdaten steckt.

Wie er entsteht

Der Grund liegt fast immer in den Daten. Eine KI lernt aus Beispielen aus der Vergangenheit. Sind diese Beispiele schief, übernimmt die KI die Schieflage. Ein bekanntes Muster: Ein Programm zur Vorauswahl von Bewerbungen wurde mit den Einstellungen der letzten Jahre trainiert. Weil dort überwiegend Männer eingestellt worden waren, bevorzugte auch die KI männliche Bewerber – nicht aus Absicht, sondern weil sie das alte Muster für richtig hielt.

Warum das jeden angeht

Bias ist heikel, weil KI-Ergebnisse oft neutral und objektiv wirken. Ein Computer scheint ja nicht zu urteilen. Genau das macht die Verzerrung gefährlich: Sie versteckt sich hinter dem Anschein von Sachlichkeit und wird selten hinterfragt.

Vollständig vermeiden lässt sich Bias kaum, denn perfekte Daten gibt es nicht. Man kann ihn aber verringern – durch ausgewogenere Trainingsdaten, durch Tests auf Verzerrungen und dadurch, dass ein Mensch die Ergebnisse prüft, bevor sie Folgen haben. Wer KI im Alltag nutzt, sollte sich merken: Eine KI-Antwort ist nie automatisch neutral, sondern immer ein Spiegel dessen, womit sie gefüttert wurde.