Regulierung von KI: Die EU als globaler Vorreiter

Derzeit ist wohl kaum ein Thema so sehr mit überhöhten Erwartungen, Unsicherheiten und mangelndem technischen Verständnis belegt wie das der künstlichen Intelligenz (KI). Waren es bislang vor allem große Tech-Unternehmen aus den Vereinigten Staaten, die entscheidende Innovationen hervorbrachten, möchte nun auch die Europäische Union künftige Entwicklungen maßgeblich prägen. Mit dem AI-Act (Artificial intelligence, engl. für künstliche Intelligenz), den das Parlament beschlossen hat, nimmt die EU eine globale Vorreiterrolle bei der Frage nach der Regulierung der Technik ein.

Denn für die Entwicklung generativer KI, wie etwa Chat GTP oder dem Bildgenerator Midjourney, sollen in der EU künftig allgemeine Mindeststandards gelten. Um Diskriminierung vorzubeugen, sollen etwa Trainingsdaten der Programme ausreichend divers sein. Auch die Nutzung urheberrechtlich geschützten Materials beim Training generativer KI soll offengelegt werden. Darüber hinaus werden KI-Anwendungen entsprechend ihres Einsatzes künftig in vier unterschiedliche Risikoklassen gruppiert. Diese reichen von minimal und begrenzt bis zu hoch und inakzeptabel und gelten für alle, die ein Produkt oder eine Dienstleistung basierend auf künstlicher Intelligenz anbieten.

Als inakzeptabel sind in der Verordnung Anwendungen genannt, die der Manipulation von Menschen dienen, diese nach ihrem sozialen Status klassifizieren oder eine Auswertung biometrischer Daten entlang von Geschlecht, Nationalität oder Hautfarbe, etwa durch Überwachungskameras im öffentlichen Raum, ermöglichen. Sowohl einem bereits aus China bekannten Social-Scoring-System als auch einer vorausschauenden Polizeiarbeit, beruhend auf der Erstellung von Personenprofilen, erteilt das EU-Parlament damit eine Absage.

Grundrechte vor Interessen von Big-Tech-Konzernen

Programme, die bei der Strafverfolgung oder im Bereich kritischer Infrastruktur zum Einsatz kommen, werden als hochriskant eingestuft. Behörden sind damit verpflichtet, die konkrete Verwendung in einer Datenbank der EU zu registrieren und somit Informationen bereitzustellen, die der Öffentlichkeit ermöglichen, die Folgen der eingesetzten Systeme für Einzelne und die gesamte Gesellschaft einzuschätzen.

In der digitalen Zivilgesellschaft stößt insbesondere dieser Punkt auf Zustimmung. »Wenn wir erfahren wollen, welche Auswirkungen Algorithmen auf Menschen und die Gesellschaft haben, müssen wir KI-Systeme einer öffentlichen Kontrolle unterziehen«, sagt etwa Angela Müller, Leiterin des Policy- & Advocacy-Teams von AlgorithmWatch. Die Verordnung sei »ein großer Erfolg und ein wichtiger Schritt, um demokratisch zu kontrollieren, wie KI in unserer Gesellschaft eingesetzt wird«.

Gleichzeitig kritisiert die NGO, dass die Verordnung kein Verbot entsprechender Systeme in den Bereichen Migration, Asyl und Grenzkontrollen vorsehe. Damit bleibe die Möglichkeit erhalten, auf der Grundlage von sensiblen personenbezogenen Daten Profile von Menschen zu erstellen, etwa um Voraussagen darüber zu treffen, ob diese eine Bedrohung darstellten. Bemängelt wird auch der fehlende rechtliche Rahmen, mittels öffentlicher Interessenvertretung eine Beschwerde einzureichen, wenn der Einsatz von KI-Anwendungen negative Auswirkungen auf das Leben eines Menschen hat. Dennoch bilanziert AlgorithmWatch, das EU-Parlament habe »eindeutig signalisiert, dass der Schutz der Menschen und ihrer Grundrechte wichtiger ist als die Interessen von Big-Tech-Konzernen und die Überwachungsvorstöße einzelner Staaten«.

Industrie befürchtet Überregulierung

Beim Branchenverband der deutschen Informations- und Telekommunikationsbranche Bitkom fallen die Reaktionen indes verhaltener aus. Besonders der Vorgabe, dass Entwickler*innen von KI-Anwendungen künftig zur Errichtung eines umfassenden Risikomanagementsystems verpflichtet werden sollen, begegnet man mit Skepsis. Immerhin würde dies bedeuten, dass vorab jegliche vorhersehbaren Risiken bezüglich der Aspekte Demokratie, Gesundheit, Grundrechte, Umwelt, Rechtsstaatlichkeit, Sicherheit und Umwelt umfangreich geprüft werden müssten. Kritiker*innen befürchten, dass es kleine und mittlere Unternehmen vor große finanzielle Herausforderungen stellen dürfte, diesen Maßstäben gerecht zu werden. Dies könnte nicht nur KI-Innovationen made in Europe vorab den Garaus machen, sondern auch die bereits existierende Marktmacht der großen US-Konzerne verstärken. Eine aktuelle Studie der Unternehmens- und Strategieberatung McKinsey prognostiziert dem Bereich Generativer KI schon jetzt das Potenzial eines jährlichen Produktivitätszuwachses zwischen 2,2 und 4,4 Billionen US-Dollar.

Bitkom-Präsident Achim Berg hält den risikobasierten Ansatz der Verordnung zwar grundsätzlich für richtig und ebenso, dass im Hochrisiko-Bereich strenge Anforderungen gelten, um die Nutzung sicherer und vertrauenswürdiger KI-Systeme zu gewährleisten. Er sagt aber auch, »wenn fast jede zweite KI-Anwendung diesem Hochrisikobereich zugeordnet würde, würde das den Ansatz ad absurdum führen«. Er plädiert dafür, dass lediglich Systeme streng reguliert werden, »von denen in der Anwendungspraxis tatsächlich massive Gefahren und Risiken ausgehen können«. Statt abstrakter Regeln sollte die EU auch »die richtigen Rahmenbedingungen für die erfolgreiche Entwicklung von KI und für eine praxisnahe Umsetzung der Regulierung« schaffen.

Bis der AI-Act wirklich in Kraft tritt, dauert es allerdings noch. Nachdem das Parlament sich in zähen Verhandlungen auf den jetzigen Wortlaut der Verordnung einigen konnte, stehen weitere Abstimmungen im Trilog mit den gesetzgebenden Institutionen der EU – der Kommission und dem Rat – an. Angepeilt ist, sich noch vor Ende der Legislaturperiode im kommenden Sommer auf ein entsprechendes Gesetz zu einigen. Doch auch dann wird die Verordnung aufgrund vereinbarter Übergangsfristen nicht vor 2026 rechtlich bindend sein. Gemessen an den rasanten Entwicklungen in der Branche ist das noch lange hin. Um bis dahin nicht untätig zu bleiben, haben die EU und die USA bereits eine stärkere Zusammenarbeit angekündigt. Zur Nutzung der Chancen von KI sowie der Eindämmung ihrer Risiken wolle man sich der EU-Wettbewerbskomissarin Margrethe Vestager zufolge auf einen freiwilligen KI-Verhaltenskodex einigen.

#ndbleibt – Aktiv werden und Aktionspaket bestellen

Egal ob Kneipen, Cafés, Festivals oder andere Versammlungsorte – wir wollen sichtbarer werden und alle erreichen, denen unabhängiger Journalismus mit Haltung wichtig ist. Wir haben ein Aktionspaket mit Stickern, Flyern, Plakaten und Buttons zusammengestellt, mit dem du losziehen kannst um selbst für deine Zeitung aktiv zu werden und sie zu unterstützen.
Zum Aktionspaket