KI-Gesetz: EU-Parlament knickt ein

Das Europäische Parlament hat am Mittwoch das weltweit erste KI-Gesetz auf den Weg gebracht. Die Union werde so Vorreiter bei der Regulierung künstlicher Intelligenz (KI), ließen die Befürworter verlauten. KI-Anwendungen basieren auf maschinellem Lernen, wobei die Software riesige Datenmengen verarbeitet und nach Übereinstimmungen oder Mustern durchsucht. In einer Erklärung des Parlaments heißt es: »Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln.«

Es war also ein Balanceakt zwischen dem Schutz der Bürgerrechte und den Wünschen der IT-Industrie, die möglichst freie Hand haben möchte. Bereits im Vorfeld tobte eine Lobbyisten-Schlacht um das neue Gesetz, das bestimmte Verpflichtungen für KI-Systeme festlegt, nach der Faustformel: Je größer die Risiken für Mensch und Gesellschaft, desto stärker werden die KI-Anwendungen reguliert oder gar ganz verboten. Das Gesetz teilt KI in Risikoklassen ein: »unannehmbar«, »hoch« und »gering/minimal«. Alle Anwendungen der höchsten Risikoklasse – etwa Emotionserkennung am Arbeitsplatz – sind zukünftig verboten. Für KI mit hohem Risiko und »erheblichem Schadenspotenzial« gelten weitreichende Vorschriften.

Europawahl 2024

Illustration: Stephanie Schoell

Im Juni wird in allen Mitgliedsländern der Europäischen Union über ein neues EU-Parlament abgestimmt. Dabei zeichnet sich ab, dass rechte Parteien an Einfluss gewinnen könnten. Was ist eine linke Antwort darauf? Und wie steht es um die Klimapolitik der EU? Welche Entwicklungen gibt es in Hinblick auf Sozialpolitik und was ist im Bereich der europäischen Asyl- und Migrationpolitik zu erwarten? Die anstehende Europawahl wird richtungsweisend. Auf unserer Themenseite fassen wir die Entwicklungen zusammen: dasnd.de/europawahl

Kein Wunder, dass die IT-Lobbyisten den Gesetzgebungsprozess massiv beeinflusst haben. Insbesondere »zwei KI-Start-Ups aus Frankreich und Deutschland« haben sich dabei »mit Google, Microsoft & Co verbündet, um das KI-Gesetz der EU auszuhöhlen«, kritisiert der Transparenzverein Lobbycontrol. Gemeint sind Mistral AI aus Frankreich und Aleph Alpha aus Heidelberg, »die sich dank der starken Unterstützung ihrer Regierungen bei den Regeln weitgehend durchgesetzt haben«, unterstreicht Lobbycontrol. So konnten sie die »meisten Auflagen und Regulierungen, die ihnen zu Beginn der Verhandlungen noch drohten«, erfolgreich verhindern. Da ihre KI-Systeme als risikoarm eingestuft werden, unterliegen sie nur geringen Transparenz-Anforderungen. So sieht erfolgreiches Lobbying aus: »78 Prozent der Treffen hochrangiger Kommissionsbeamter zum Thema KI fanden mit Industrie- oder Wirtschaftsverbänden statt«, hat die NGO Corporate Europe Observatory berechnet.

Letztendlich stimmte eine große Mehrheit der EU-Abgeordneten für den Artificial Intelligence Act (AI Act). Allerdings votierte die Linksfraktion The Left geschlossen gegen den Text, auf den sich Parlament und Rat bereits im Dezember geeinigt hatten. Cornelia Ernst, datenschutzpolitische Sprecherin der Linken, erklärte am Mittwoch: »Leider hat das Parlament in den Verhandlungen essenziell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden.«

Cornelia Ernst warnt zudem, dass die KI-Verordnung »Emotionserkennung, also Hokuspokus wie Polygrafen und prädiktive Polizeiarbeit« zulassen werde. Mit prädiktiver, also vorhersagende Polizeiarbeit soll die Wahrscheinlichkeit zukünftiger Straftaten ermittelt werden. »Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht«, so die Abgeordnete. Wie der österreichische Rundfunk (ORF) jüngst enthüllte, werden KI-Polygrafen »an den Grenzen Ungarns, Griechenlands und Litauens bereits eingesetzt, um Lügen zu enttarnen«. Sogenannte Avatare befragen demnach Einreisende und überprüfen »deren Glaubwürdigkeit aufgrund von Augen- und Mundbewegungen«. Auch auf einem rumänischen Flughafen soll so ein KI-Lügendetektor zum Einsatz gekommen sein, berichtete der ORF.

Die Linke und zahlreiche Bürgerrechtsorganisationen kritisieren, dass der Text keine Verbote für den Einsatz von KI-Systemen bei Migrations- und Grenzkontrollen vorsieht. Bereits jetzt werden die EU-Außengrenzen von Drohnen überwacht, bei denen auch KI zum Einsatz kommt. Ein sogenanntes EUMigraTool soll mit Hilfe von KI zukünftig vorhersagen, wann und wo mit besonders heftigen Migrationswellen zu rechnen ist.

Verboten sein soll hingegen der Einsatz von künstlicher Intelligenz zur Beeinflussung menschlichen Verhaltens oder zur Ausnutzung von menschlichen Schwächen. Gerade dieser Punkt ist hochaktuell, werden KI-generierte Stimmen von Politikern bereits eingesetzt, um Wähler in die Irre zu führen. Die Software auf KI-Basis kann durch Tonaufnahmen darauf trainiert werden, mit den Stimmen bestimmter Personen zu sprechen. Diese »Robocalls« sind in den USA ein großes Problem, wo etwa die KI-erzeugte Telefonstimme von Präsident Biden jüngst dazu aufrief, nicht an der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire teilzunehmen. Auch in Deutschland wird KI bereits genutzt, um Stimmung zu machen. So wurden im vergangenen November KI-generierte Audiodateien der »Tagesschau« verbreitet, in denen sich die Redaktion für angebliche Lügen in der Berichterstattung entschuldigte.

#ndbleibt – Aktiv werden und Aktionspaket bestellen

Egal ob Kneipen, Cafés, Festivals oder andere Versammlungsorte – wir wollen sichtbarer werden und alle erreichen, denen unabhängiger Journalismus mit Haltung wichtig ist. Wir haben ein Aktionspaket mit Stickern, Flyern, Plakaten und Buttons zusammengestellt, mit dem du losziehen kannst um selbst für deine Zeitung aktiv zu werden und sie zu unterstützen.
Zum Aktionspaket