Hacking fürs Gemeinwohl

Im Frühling dieses Jahres sorgte ein abstruser Datenkrimi aus den USA für Aufregung. Die sogenannten »Zizians«, anarchistische Datenspezialist*innen aus Silicon Valley, hatten es sich einst zur Aufgabe gemacht, die Welt vor einer künftig allmächtigen Künstlichen Intelligenz (KI) zu retten. Stattdessen entwickelten sie sich im Laufe der Jahre zu einem mutmaßlich mörderischen Kult und wurden nach ihrer Verhaftung zu einem Symbol dessen, was passieren kann, wenn die Angst vor rasanten technologischen Entwicklungen überhandnimmt. Es ist die klassische Debatte, die bei KI stets mitschwingt: Wer entwickelt Technologie zu wessen Nutzen, wem soll sie künftig dienen, Großkonzernen oder der Zivilgesellschaft – und wie setzt man Letzteres um?

An einem grauen und etwas windigen Maitag in Köln soll genau das geklärt werden. Im größten Raum des internationalen Caritas-Zentrums im etwas gehobeneren Stadtteil Sülz trudeln nach und nach immer mehr Personen ein. Sie trinken Kaffee, unterhalten sich oder drücken noch etwas betreten auf den virtuellen Tasten ihrer Smartphones herum. Etwa 70 Vertreter*innen der Zivilgesellschaft haben sich zusammengefunden, um an einer Veranstaltung des Civic Data Labs (CDL, dt.: Zivilgesellschaftliches Datenlabor) teilzunehmen.

Das CDL, seit 2023 vom Bundesfamilienministerium (BAMFS) gefördert, soll die Zivilgesellschaft bei der Erhebung, Nutzung und Weiterverwendung von Daten unterstützen. Laut einer Umfrage der Bertelsmann-Stiftung zur Einstellung gegenüber Daten von Organisationen aus der Zivilgesellschaft von 2024, sind diese neuen Technologien gegenüber prinzipiell offen eingestellt (97,9 Prozent). Doch ihnen fehlen, laut eigenen Angaben, personelle und finanzielle Ressourcen, um diese effizient zu nutzen. Dazu kommen datenschutzrechtliche Bedenken.

Das CDL betreibt inzwischen diverse Weiterbildungsangebote rund um das Thema Daten, bietet kostenfrei zugängliche Onlinekurse an und organisiert sogenannte »Datensprechstunden«, in denen sich Organisationen zu ihren Projekten beraten lassen können. »Dabei geht es auch viel darum, Datenkompetenzen an Menschen zu vermitteln, die dazu bisher keinen Zugang haben«, erklärt das Presseteam des CDL im Gespräch mit »nd«. Bedarf und Wahrnehmung der Angebote gebe es zur Genüge – inzwischen gebe es zum Beispiel für die Datensprechstunden eine längere Warteliste.

Das BarCamp in Köln fällt, gemeinsam mit einer gemeinschaftlichen Arbeitsplattform, unter den Punkt Vernetzung. Ein BarCamp ist eine Art Tagung, bei der die Teilnehmenden das Programm zu Beginn selbst festlegen. Es geht darum, voneinander zu lernen, wie in diesem Fall über Daten, KI und Digitalisierung im gemeinwohlorientierten Kontext. 46,4 Prozent der von der Bertelsmann-Stiftung befragten Organisationen sucht übrigens den Austausch mit anderen, um am Zahn der Zeit technologischer Entwicklungen zu bleiben.

nd.Kompakt – unser täglicher Newsletter

Unser täglicher Newsletter nd.Kompakt bringt Ordnung in den Nachrichtenwahnsinn. Sie erhalten jeden Tag einen Überblick zu den spannendsten Geschichten aus der Redaktion. Hier das kostenlose Abo holen.

Die Themen, über die sich in Köln ausgetauscht werden, sind divers. Einige Vetreter*innen sozialer Träger diskutieren, wie sie neue EU-Regelungen zu KI implementieren, ein Forscher aus Berlin stellt sein Projekt zur gemeinwohlorientierten Datennutzung vor, ein Vertreter der Hamburger »Selbsthilfegemeinschaft Medizingeschädigter« sucht Inputs zum »wenig zukunftsfähigen, analogen Geschäftsmodell« des Vereins.

Nachdem alle ihre Ideen vorgestellt- und mithilfe bunter Sticker an einer Wand des Saals ihre Präferenzen markiert haben, teilt sich die Runde in Kleingruppen auf. Im »Fisimatentenraum« ist ein Mikrofon aufgestellt. Die dortige Debatte wird aufgenommen, später mit Spracherkennungssoftware transkribiert und zusammengefasst. Quasi ein Experiment inmitten des Netzwerkens. Dort stellt Benjamin Degenreich vom Startup Förderfunke ein Projekt vor. Dieses hat sich zum Ziel gesetzt einen Weg zu finden, Bürger*innen pro-aktiv über staatliche Leistungen und für sie relevante Angebote zu informieren – maximale Offenheit und maximaler Datenschutz seien der Plan, so Degenreich gegenüber »nd«.

»Bürger aktiv im Dunkeln zu halten, bedeutet Demokratie zersetzen.«

Benjamin Degenreich Förderfunke

Ein klassisches Beispiel für Sozialleistungen, die von Anspruchsberechtigten nicht wahrgenommen werden, ist das Kindergeld. Deswegen zielte die Reform der Kindergundsicherung der Ampel-Regierung vor allem darauf ab, jenen Zugänge zu ermöglichen, die bereits einen Anspruch hatten. Die Diskrepanz zwischen theoretischen und wahrgenommenen Ansprüchen entsteht aus Wissenshierarchien, aus klassifizierten und rassifizierten Zugängen oder aus Zeitmangel der Erziehungsberechtigten. Zynische Stimmen argumentieren auch, dass jene Informationshierarchien dem Staat Geld sparen. »Bürger aktiv im Dunkeln zu halten, bedeutet die Demokratie zu zersetzen«, sagt Degenreich dazu.

In der Kölner Runde teilen gemeinnützige Organisationen ihre Erfahrungen aus Beratungsgesprächen. Sie nehmen den Vorstoß des Startups positiv auf, melden allerdings auch Bedenken an. Zum Beispiel aufgrund der Toeslagenaffaire (dt. Kindergeldaffäre): ein niederländischer Skandal, bei dem der Staat Ende 2020 hauptsächlich migrantischen Familien Sozialbetrug vorwarf und Kinderbeihilfen zurückforderte.

Die Toeslagenaffaire gilt als wohl erster Fall, bei dem eine Regierung letztlich Entschädigungen für die automatisierte datenbasierte Diskriminierung von Bürger*innen zahlen musste. Deshalb, sagt Degenhart, gehe es im Projekt des Förderfunkens um strukturierte Daten anstelle von LLMs, also großen Sprachmodellen auf KI-Basis. »Personen sollen nachvollziehen können, warum sie Anspruch haben oder auch nicht.«

»Prinzipiell sollte die Zivilgesellschaft nicht einfach der Wirtschaft hinterherrennen.«

Leo Preu Civic Data Lab

In den Beratungsgesprächen des CDL geht es viel darum, gemeinsam zu überlegen, wie Künstliche Intelligenz in den jeweiligen Projekten passend angewendet werden kann. Aber auch darum, den schmalen Grat zu erkennen, wo der Einsatz von Künstlicher Intelligenz sinnvoll ist und wo eben nicht, erzählt Leo Preu vom CDL während des vegetarischen Mittagessens, zwischen Falafeln und diversen Salaten. »Prinzipiell sollte die Zivilgesellschaft nicht einfach der Wirtschaft hinterherrennen.«

Ein Beispiel: Ein Verein gegen Mobbing überlegt, einen Chatbot für Online-Beratungen einzuschalten, weil die wenigen Freiwilligen erst nach einigen Schulungsberatungen auch online arbeiten dürfen. Ein schwer umsetzbares Vorhaben. Erstens braucht es eine extrem gute Programmierung der Bots, um nicht künftig problematische Statements an Jugendliche zu vermitteln. Zweitens stellt sich die Frage: Warum traut man Menschen die Online-Beratung erst nach einer Lernphase zu, die KI will man aber gleich ins Feld schicken?

Gestehen wir KI etwa inzwischen mehr Empathie zu als Menschen? In einem nachmittäglichen Workshop geht Preu auf die Debatte näher ein. Die Runde diskutiert über die Antropomorphisierung von KI, also ihre Vermenschlichung und deren Folgen für Beziehungen, Vereinzelung und Zivilgesellschaft. Kann diese im schlimmsten Fall wie bei den anfangs erwähnten Zizians enden?

Fernab dieser Gedankenexperimente tummeln sich auf dem BarCamp diverse Positivbeispiele für die gemeinwohlorientierte Nutzung von Daten. Auch jene, die in den vergangenen zwei Jahren mithilfe des CDL umgesetzt werden konnten. Demokratieprojekte, die junge Menschen der Politik näher bringen, Konzepte, die ähnlich der Übersetzungsplattform DeepL Texte in genderinklusive Sprache transformieren oder Plattformen, die regionale Chorprojekte vernetzen. Die Lehre aus dem Tag: Die neuen Technologien können einen großen Nutzen haben – wenn sie denn bewusst eingesetzt werden.