Matthias Spielkamp: »Es gibt keine ethische KI«

Was sind Algorithmen, und wie funktionieren sie?

Algorithmen sind Handlungsanleitungen, mit denen man zu einem bestimmten Ergebnis kommt. Wir alle haben in der Schule Algorithmen gelernt, zum Beispiel mit der Art und Weise, wie wir multiplizieren und dividieren: Mit den Zahlen, die wir eingeben, verändert sich das Ergebnis, der Rechenprozess selbst bleibt dabei immer gleich.

Welche Rolle spielen Algorithmen im Alltag?

Ein Alltag ohne Algorithmen ist heute undenkbar: In jedem Taschenrechner stecken Algorithmen, in der Klimaanlage im Büro, die ihre Stärke der Temperatur anpasst, im ABS-System des Autos, auch in automatischen Verfahren in der Verwaltung, die zum Beispiel darüber entscheiden, wer einen Parkausweis bekommt.

Algorithmen vereinfachen das Leben. Das ist doch grundsätzlich positiv …

Per se sind Algorithmen weder gut noch schlecht – es kommt darauf an, wie sie eingesetzt werden. Inzwischen sind diese automatischen Rechenprozesse unfassbar komplex, mit so vielen Prozess-Schritten, dass sie kaum mehr nachvollzogen werden können. Auch die Daten, die sie verarbeiten, wandeln sich ständig. Wenn Sie zum Beispiel heute eine Suchanfrage bei Google eingeben, bekommen Sie vielleicht ein anderes Ergebnis als gestern – ganz einfach, weil inzwischen schon wieder etwas Neues zum gesuchten Thema veröffentlicht worden ist: Mit dem Input hat sich auch der Output verändert.

Was ist daran gefährlich?

Algorithmen bestimmen nicht nur, was wir zu sehen bekommen. Auch immer mehr Entscheidungen entstehen automatisiert, und diese können massiv in unser Leben eingreifen. Ein privatwirtschaftliches Beispiel aus Deutschland ist die Bonitätsprüfung Schufa, die automatisiert darüber bestimmt, ob Sie einen Kredit bekommen. Ein Beispiel aus der öffentlichen Verwaltung kommt aus den Niederlanden, wo ein automatisiertes System Tausende von ungerechtfertigten Rückzahlungsforderungen für Kindergeldleistungen verschickte. Damit wurden ganze Familien zerstört, weil sie in die Schuldenfalle gerieten.

Sie haben 2015 zusammen mit anderen Algorithm Watch gegründet. Wie arbeitet die Nichtregierungsorganisation, und was sind die Forderungen?

Wir informieren die Öffentlichkeit über den Einsatz von Algorithmen, wir schreiben Geschichten über erfolgreiche Einsätze von Algorithmen, aber auch solche, in denen sie Schaden anrichten, und wir setzen uns als gemeinnützige Organisation für eine bessere Kontrolle durch die Gesetzgebung ein. Dabei arbeiten wir viel auf europäischer Ebene. Trotz der machtvollen Lobbyarbeit der großen Tech-Konzerne wurden zum Beispiel in den Verhandlungen über das neue EU-Gesetz über digitale Dienste DSA einige unserer Forderungen beachtet: Etwa dass die großen Plattformen Zugang zu ihren Daten geben müssen, damit die Wirkung ihrer Algorithmen besser untersucht werden kann, oder dass die Nutzer von Social Media mehr Einfluss darauf haben, was sie zu sehen bekommen.

Sie haben sich schon früh mit Transparenz in der digitalen Welt beschäftigt. Wie entstand dieses Interesse?

Ich habe in den USA Journalismus studiert und dort in den Jahren 1993/94 das Internet kennengelernt und als Recherchemittel genutzt. Anfang der 2000er Jahre habe ich mich dann mit Urheberrecht und dem Zugang zu Wissen beschäftigt und verstanden, dass das Internet nicht nur große Chancen eröffnet, sondern auch Macht und Kontrolle darstellt. Ich habe auch verstanden, dass Informieren nicht ausreicht, sondern dass es gleichzeitig Strukturen braucht, um die Gesetzgebung im Sinne des Gemeinwohls und der Demokratie zu beeinflussen. So habe ich mit meinen Mitstreitern Algorithm Watch gegründet.

Die EU hat vor Kurzem das Europäische Zentrum für algorithmische Transparenz gegründet. Was kann dieses Zentrum, was nicht?

Es ist grundsätzlich gut, dass es ein solches Zentrum mit einem nun größeren Stab an Leuten gibt. Ob es zu einer besseren Kontrolle verhilft, muss sich erst noch herausstellen. Außerdem schaut dieses Zentrum nur auf die großen Plattformen wie Google, Amazon und Zalando, nicht aber auf öffentliche Verwaltungen.

Welche Rolle spielt Künstliche Intelligenz (KI)?

Seit ChatGPT ist KI in aller Munde. Ich halte Diskussionen wie jene, ob KI eines Tages die Kontrolle über die Menschheit übernimmt, für maßlos übertrieben und einen PR-Gag. Ganz nach dem Motto: Seht her, wie mächtig die Systeme sind, die wir entwickeln. In Realität habe ich noch kein einziges Geschäftsmodell gesehen, das ich wirklich bahnbrechend finde. Natürlich haben wir in der Entwicklung jetzt eine neue Stufe erreicht, doch der Begriff KI steht an sich nur für ein komplexes System von Regeln, und so etwas gab auch schon früher: 1996 sorgte der Computer Deep Blue für Furore, als er den Schachweltmeister Garri Kasparow besiegte. Dann kamen die selbstlernenden Systeme, die unglaubliche Fortschritte bei Übersetzungen ermöglichten. Und heute erleben wir sogenannte generative Systeme, die erstmals selbstständig neue Inhalte erzeugen können. Die Texte und Bilder, die sie produzieren, sind beeindruckend und ein maßgeblicher Schritt. Aber weltverändernd?

Erhöhen generative Systeme wie ChatGPT nicht die Gefahr der Manipulation?

Deep Fakes von Videos und Sprachnachrichten sind jetzt mit weniger Aufwand zu erzeugen. Aber auch vorher gab es schon mehr als genug Falschnachrichten – der Flaschenhals ist, diese Desinformation unter die Leute zu bringen. Das ist durch generative KI nicht unbedingt einfacher geworden.

Für eine sogenannte ethische KI gibt es viele Anregungen und Ideen …

Es gibt keine ethische KI. Es gibt nur eine Ethik, die definiert, wie wir handeln sollen. Und da reicht es nicht, unsere Wertehaltung mit schicken Grundsätzen auf unseren Websites zu signalisieren – um dann vielleicht etwas völlig anderes zu tun. Sondern dafür brauchen wir eine entsprechende Gesetzgebung: Wenn zum Beispiel das DSA-Gesetz der EU besagt, dass Plattformen Risikoanalysen machen müssen, so deshalb, weil wir die ethische Entscheidung getroffen haben, dass sie das tun müssen.

Automatisierte Systeme und KI werden oft als Wundermittel gegen die Klimakrise gepriesen. Wie nachhaltig sind sie wirklich?

KI kann uns dabei helfen, neue Klimamodelle zu erstellen oder auch die Verteilung von Elektrizität besser hinzubekommen. Aber es gibt auch negative Effekte wie den enormen Energie- und Wasserverbrauch. Die Berechnung, wie ökologisch KI letztlich ist, ist unglaublich schwierig. Die Gefahr bei der ganzen Diskussion um KI liegt meines Erachtens darin, dass wir von den wirklichen Problemen ablenken: Wenn in Deutschland pro Jahr sechs Prozent der Jugendlichen ohne Abschluss von der Schule gehen und es eine unglaubliche Anzahl an Menschen gibt, die nur unzureichend lesen und schreiben können, dann ist diese Gesellschaft nicht dafür gerüstet, mit den Herausforderungen der KI umzugehen. Wir glauben, Überprüfungsmechanismen seien genug – doch in Wirklichkeit führt uns die KI gerade vor Augen, welche Defizite wir insgesamt als Gesellschaft haben.

#ndbleibt – Aktiv werden und Aktionspaket bestellen

Egal ob Kneipen, Cafés, Festivals oder andere Versammlungsorte – wir wollen sichtbarer werden und alle erreichen, denen unabhängiger Journalismus mit Haltung wichtig ist. Wir haben ein Aktionspaket mit Stickern, Flyern, Plakaten und Buttons zusammengestellt, mit dem du losziehen kannst um selbst für deine Zeitung aktiv zu werden und sie zu unterstützen.
Zum Aktionspaket