Heutige KI-Systeme sind extrem leistungsstark innerhalb ihrer Trainingsdomaene und erschreckend schwach ausserhalb davon.

Ein Sprachmodell, das einen juristischen Vertrag korrekt zusammenfasst, kann scheitern, wenn es aufgefordert wird, eine einfache physikalische Intuition anzuwenden, zum Beispiel ob ein Glas kippt, wenn man es am Rand anstosst. Das Modell hat keine allgemeine Weltvorstellung, nur statistische Muster aus Text.

Der Fachbegriff dafuer

Forscher nennen das das Narrow-Intelligence-Problem oder kurz das Schmalbandproblem. Ein System ist sehr tief, aber nicht breit.

Der Kognitionswissenschaftler Gary Marcus hat dieses Problem wiederholt dokumentiert. Er zeigte, dass Systeme bei minimalen Variationen bekannter Aufgaben drastisch schlechter werden. Das ist kein Bug, sondern Architektur.

Was das bedeutet

Jede Berichterstattung ueber KI-Durchbrueche sollte mit der Frage gelesen werden: Wie schlaegt sich das System auf Aufgaben ausserhalb seines Trainingsbereichs. Wer das prueft, entwickelt ein realistischeres Bild davon, wie weit AGI noch entfernt ist.