Ziege, Pferd und Muli

Was ist die Quadratwurzel aus einer Ziege? Natürlich 1 – meinte zumindest der KI-Chatbot Lucie, der nach seinem Debüt in diesem Jahr schnell wieder offline ging. Seither wurde es still um die europäische Antwort auf ChatGPT und DeepSeek, als die er angepriesen worden war.

Um künstliche Intelligenz allgemein ist es natürlich nicht still geworden, wie ein Ausschnitt aus den News der vergangenen sieben Tage (und Nächte – Maschinen können ja ohne Schlaf durcharbeiten) zeigt: Der Meta-Konzern stellte eine smarte Brille vor, die die Interaktion mit KI im Alltag verbessern soll; bei der Generalprobe von Mark Zuckerberg führte die künstliche Intelligenz indes sinnlose Arbeitsschritte durch. Das Fachblatt »Nature« publizierte eine Studie europäischer Forscher zum KI-Modell Delphi-2M, welches Prognosen zum Risiko für über 1000 Erkrankungen bei einzelnen Personen sowie in Populationen liefert. Und schließlich hat ein US-Medienhaus Google verklagt, da die neuen KI-Überblicke der Suchmaschine Nutzer daran hindern würden, Websites aus der Trefferliste noch aufzurufen. Quasi ein Monopol im Quadrat – wie Lucie diese Rechenaufgabe wohl löst?

Selbst Experten überschauen das Gesamtgeschehen nicht mehr. Und greifen zur Floskel, dass KI nicht mehr wegzudenken ist aus vielen Lebensbereichen (und auch einigen Sterbensbereichen, denkt man an die Rüstungstechnik). Vieles ist offen: Sie kann gut oder schlecht sein, kann den Wettstreit Chinas und der USA um globale Dominanz verschärfen oder diese zu mehr Kooperation zwingen. Sicher ist nur, dass KI der IT-Industrie ein gigantisches Konjunkturprogramm beschert und die Arbeitswelt verändert.

Doch der Mangel an Überblick ist reziprok und gilt genauso für die KI. Große Sprachmodelle wie ChatGPT und DeepSeek übertünchen das mit Tricksereien. Um als hilfreich zu gelten, liefern sie bisweilen überzeugend klingende, aber falsche Begründungen. Zusätzlich kennen Experten den Klugen-Hans-Effekt, benannt nach einem Pferd, das angeblich Rechenaufgaben lösen konnte, tatsächlich aber das Ergebnis an der Mimik des Trainers ablas: KI kommt zu richtigen Ergebnissen, aber aufgrund falscher Annahmen, die in der späteren Anwendung zu Fehlern führen. 

Kurzum: KI ist fehlerbehaftet und gaukelt Allwissenheit vor – verdammt menschlich, könnte man meinen. Was ja auch naheliegend ist, da der Mensch bei der KI-Entwicklung eine wichtige Rolle spielt. Je eigenständiger Maschinen lernen, umso mehr menschliche Überwachung und Kritikfähigkeit braucht es. Damit KI zu einem smarten Muli wird: Diese Tiere waren einst gezüchtet worden, um den Arbeitsalltag vieler Menschen zu erleichtern.

Ansonsten übernehmen die Maschinen. Das merken wir spätestens dann, wenn im KI-gestützten Curriculum den Schulen als Lehrziel die Berechnung der Quadratwurzel einer Ziege vorgegeben wird.