Im Einsatz von Systemen, die auf Künstlicher Intelligenz (KI) beruhen und deren Vereinbarkeit mit den Menschenrechten nicht angemessen gesichert ist, sieht die Hohe Kommissarin für Menschenrechte der Vereinten Nationen[1], Michelle Bachelet, eine ernste Gefahr. Bachelet fordert dringend ein Moratorium für den Verkauf und Gebrauch solcher Technologien. Sie setzt sich zudem für ein Verbot von Anwendungen ein, die mit internationalen Menschenrechtsnormen nicht vereinbar sind. »Mittels KI-Systemen wird bestimmt, wer öffentliche Leistungen erhält, wer eine Chance auf einen Job hat, und sie beeinflussen, welche Informationen Menschen online sehen und teilen können«, sagte Bachelet am Mittwoch anlässlich der Publikation des Berichts »Das Recht auf Privatsphäre im digitalen Zeitalter« durch ihr Büro. Analysiert wird darin der Einsatz Künstlicher Intelligenz, inklusive Profiling, bei der automatisierten Entscheidungsfindung und die Auswirkungen auf die Menschenrechte. Daraus werden Empfehlungen der UN-Hochkommissarin an Staaten und Unternehmen abgeleitet, um schädliche Folgen des KI-Einsatzes zu vermeiden.
Keine andere Technologie hat zuletzt die Öffentlichkeit so sehr in den Bann gezogen wie die Künstliche Intelligenz, insbesondere maschinell lernende, schätzt der Bericht ein. Er hebt das enorme Potenzial von KI für Gesellschaften hervor, um »einige der größten gegenwärtigen Herausforderungen zu bewältigen«. Jedoch könnten diese Technologien »auch schädliche, sogar katastrophale Folgen haben, wenn sie ohne ausreichende Beachtung ihrer Auswirkung auf die Menschenrechte zum Einsatz kommen«.
Obwohl die Corona-Pandemie nicht das zentrale Thema des Berichts ist, hat demnach die Gesundheitskrise »ein kraftvolles und besonders sichtbares Beispiel für das Tempo, das Ausmaß und die Einwirkung von KI in verschiedene Sphären überall auf der Welt« geliefert. Alle Arten von persönlichen Daten seien zur Kontaktverfolgung herangezogen worden. KI-Systeme hätten den gesundheitlichen Status von Menschen und Folgen wie Quarantäne oder Isolation festgelegt. Erwähnt wird die Einstufung von Schülern mittels KI, die Kinder aus öffentlichen Schulen und ärmeren Vierteln benachteiligt hat. Insgesamt hätten KI-Systeme tief in den Alltag eingegriffen, das Recht auf Privatsphäre umfassend angetastet. Das wirke sich auf weitere Rechte aus, »wie das Recht auf Gesundheit, auf Bildung, sich friedlich zu versammeln, die Vereinigungsfreiheit und die Meinungsfreiheit«.
Der Bericht geht unter anderem auf die Ausweitung der KI-Nutzung durch Justiz und Grenzschutz und biometrische Methoden ein. Häufig würde KI für Risikoprognosen eingesetzt, wobei große Mengen an Daten, auch ältere, genutzt werden. Die Staaten, aber auch Entwickler, Vermarkter und Nutzer sollten in Bezug auf KI-Systeme die Transparenz drastisch erhöhen, heißt es im Bericht.