Künftig heißt es: Gesetz ist Code

Ein mit dramatischer Musik unterlegter Countdown flimmert über einen Bildschirm, dann beginnen die »EU Transformation Talks«. Bei den Gesprächen über europäischen Wandel geht es um Sozialsysteme, Digitalisierung und vor allem Künstliche Intelligenz (KI). Diese wird zunehmend bedeutender für europäische Sozialversicherungen.

»Bald wird es heißen: Gesetz ist Code«, sagt Markus Richter, Staatssekretär im Bundesministerium für Digitales und Staatsmodernisierung in Anspielung auf ein Zitat von Lawrence Lessig. Dieser meinte mit dem Satz »Code ist Gesetz« zu Beginn der Nullerjahre, dass neue Technologien bald die Gesellschaft beeinflussen würden. Richter mutmaßt darüber hinaus: Nicht mehr lange, dann werden Gesetze nicht mehr mit Buchstaben versehen, sondern gleich in Form von Codes realisiert, um sie technologisch umzusetzen.

Sonderlich futuristisch ist dieser Gedanke tatsächlich nicht[1]. Kommendes Jahr soll beispielsweise die »EU Digital Wallet« (deutsch: elektronische Geldbörse) in Kraft treten, eine Art digitaler Pass für alle Menschen in Europa. Bisher machen hier vor allem Wirtschaftsverbände Druck auf eine schnelle Umsetzung. Auch, weil es bei Debatten über KI immer um Wettbewerbsfähigkeit geht und europäische Unternehmen mit Neid auf die USA und China schielen. So auch auf dem diesen Mittwoch in Berlin stattfindenden deutsch-französischen Digitalgipfel.

Dabei steht der wirtschaftliche Wettlauf in Konflikt mit dem Datenschutz[2], der innerhalb der EU bisher höher gehalten wird als anderswo. Das spiegelt sich in der KI-Verordnung, die unter anderem davor bewahren soll, dass Daten weitergegeben und verwendet werden können, um Grundrechte einzuschränken.

Trotzdem ist inzwischen auch in öffentlichen Bereichen KI keine Seltenheit mehr. So nutzen die Krankenkassen in Deutschland digitale Technologien zur Dokumentenverarbeitung, Leistungsprüfung und Datenanalyse. Nicht ganz so weit entwickelt, aber dennoch immer mehr in die Digitalisierung involviert sind die anderen Sozialversicherungen.

»Wir sind die größte Datendrehscheibe Europas und betreiben elektronische Datenverarbeitung seit den 50er Jahren«.

Gundula Roßbach Deutsche Rentenversicherung Bund

»Wir sind die größte Datendrehscheibe Europas und betreiben elektronische Datenverarbeitung seit den 50er Jahren«, führt Gundula Roßbach, Präsidentin der Deutschen Rentenversicherung Bund (DRV) aus. »Ohnedem hätten wir die Informationen von Millionen Versicherten gar nicht bearbeiten können.«

Heutzutage nutzt die DRV KI, um Muster im Rahmen von Verwaltungstätigkeiten zu erkennen, wie bei der Entscheidung über Reha-Anträge oder Erwerbsminderung. Bei der Arbeitgeberprüfung, die alle vier Jahre erfolgt, um sicherzugehen, dass Sozialabgaben gezahlt werden, soll künftig die KI »Kira« Daten auswerten. »So arbeiten wir uns quasi von Abteilung zu Abteilung vor«, sagt Roßbach.

Wichtig ist dabei, die menschliche Überprüfung am Ende der Vorgänge nicht zu vernachlässigen. Die Bundesagentur für Arbeit (BA) sei zum Beispiel ein »wahres Paradies für die Anwendung von KI«, so der Leiter der dortigen Informationstechnik Stefan Latuski. Man könne sie einsetzen, um Leistungshöhen zu berechnen, Nachweise zu verifizieren oder Bescheide in einfacher verständlicher Sprache zu erstellen.

Es gebe allerdings eine Übereinkunft dazu, keine KI darüber »entscheiden zu lassen«, ob Leistungen ausgezahlt würden oder nicht. »Insbesondere bei der BA sprechen wir von Kund*innen, die eine gewisse Hilfsbedürftigkeit haben. Da wäre es fatal, wenn Maschinen darüber entscheiden würden«, sagt Latuski.

Für Institutionen wie die BA oder die Deutsche Gesetzliche Unfallversicherung (DGUV) sind Digitalisierung und Automatisierung ein Schlüssel in der Frage des Fachkräftemangels. Sie können dazu dienen, durch Entlastung mehr Raum für hochwertige Arbeiten zu schaffen. Ein großer Teil der Belegschaft geht zudem in den kommenden Jahren in Rente. »Mit ihnen geht auch viel Wissen in Ruhestand«, sagt DGUV-Hauptgeschäftsführer Stephan Fasshauer. Dieses ließe sich durch die Digitalisierung bewahren.

Eine Herausforderung liegt darin, die neuen Möglichkeiten allen zugänglich zu machen. So habe die BA aus Sicherheitsgründen eine Multi-Faktor-Authentifizierung eingeführt – das bedeutet, Personen müssen mindestens zwei unterschiedliche Möglichkeiten haben, sich in ihrem Konto anzumelden. Seitdem gebe es jede Woche etwa 40 000 Anrufe in den Jobcentern von Personen, die damit überfordert seien, so Latuski.

Dazu kommt eine allgemeine Skepsis gegenüber der Nutzung von KI. So trauen laut OECD-Erhebungen zwei Drittel der 18- bis 64-Jährigen in den Mitgliedstaaten dem Staat nicht zu, verantwortungsvoll mit KI und digitalen Mechanismen umzugehen.

Ändern könnte das zum Beispiel, auch mit Fehlern im sozialen KI-Bereich im internationalen Austausch transparent umzugehen. Ein bekannter Fall: Familienleistungen in den Niederlanden, die über eine KI verteilt wurden[3]. Der Bias, also ein voreingenommener Algorithmus, hatte dazu geführt, dass migrantischen Familien die Unterstützung zu Unrecht aberkannt wurde.

Links:

1. https://www.nd-aktuell.de/artikel/1190716.daten-forensik-mein-staubsauger-der-spitzel.html
2. https://www.nd-aktuell.de/artikel/1189587.algorithmische-diskriminierung-frau-roboter-putzt-anders.html
3. https://www.nd-aktuell.de/artikel/1191485.daten-fuer-zivilgesellschaft-hacking-fuers-gemeinwohl.html