Overfitting bezeichnet einen typischen Fehler beim maschinellen Lernen: Ein Modell lernt seine Trainingsdaten so genau auswendig, dass es bei neuen, unbekannten Fällen versagt. Es hat die Beispiele gemerkt, aber nicht die dahinterliegende Regel verstanden.

Auswendig statt verstanden

Ein Vergleich aus der Schule macht es deutlich. Stell dir einen Schüler vor, der alle Lösungen alter Prüfungen auswendig kann. In der Übung wirkt er perfekt. Kommt in der echten Klausur aber eine leicht abgewandelte Aufgabe, scheitert er — weil er nur die Antworten kannte, nicht den Stoff. Genau so verhält sich ein überangepasstes Modell.

Erkennen und vermeiden

Verdächtig ist, wenn ein System auf den Trainingsdaten fast fehlerfrei arbeitet, im echten Einsatz aber überraschend oft danebenliegt. Diese Lücke zwischen Übung und Wirklichkeit ist das Warnzeichen. Deshalb prüft man ein Modell immer mit Daten, die es beim Lernen nie gesehen hat.

Gegenmittel gibt es mehrere: mehr und vielfältigere Trainingsdaten, ein einfacheres Modell, das nicht jeden Zufall mitlernt, oder Techniken, die das Netz bewusst etwas vergessen lassen. Das Gegenstück heißt übrigens Underfitting — dann ist das Modell zu simpel und erkennt nicht einmal die klaren Muster. Gutes maschinelles Lernen sucht die Balance zwischen beiden Extremen.