Wie kann ich sicher sein, dass mich ein KI-System in seinen Entscheidungen nicht diskriminiert? Welche Verantwortung können wir guten Gewissens an Maschinen abgeben? Können KI-Systeme mich in meinen Entscheidungen manipulieren? Solche Fragen zum ethischen Einsatz von Künstlicher Intelligenz (KI) beschäftigen uns in Deutschland in gleichem Maße wie Menschen in allen anderen Teilen der Welt.
Da viele KI-Systeme weltweit eingesetzt werden, brauchen wir auch global gültige ethische Standards für ihre Entwicklung und Anwendung. Auf Ebene der Industrieländer, insbesondere in Europa, gibt es bereits verschiedene zwischenstaatliche Initiativen, um entsprechende Standards und Regeln festzulegen (beispielsweise durch die OECD, die EU und den Europarat). Die Länder des Globalen Südens sind in die Erstellung von solch ethischen Leitlinien bislang kaum eingebunden – obwohl die im Globalen Norden entwickelten Systeme auch dort zum Einsatz kommen.
Daher hat die UNESCO in einem zweijährigen Prozess die Empfehlung zur Ethik der Künstlichen Intelligenz erarbeitet – den ersten globalen Völkerrechtstext in diesem Feld. Als Organisation der Vereinten Nationen für Bildung, Wissenschaft und Kultur ist die UNESCO auch für die Verhandlung ethischer Fragen rund um den technologischen Fortschritt zuständig. Sie ließ daher von einer internationalen Expertengruppe einen Textentwurf erstellen, den sie dann mit Regierungen, Wissenschaft und Zivilgesellschaft weltweit konsultiert hat. Es folgten lange und kontroverse Verhandlungen zwischen den 193 UNESCO-Mitgliedstaaten, bis die Empfehlung auf der UNESCO-Generalkonferenz im November 2021 im Konsens verabschiedet wurde.
Der Empfehlung liegen zwei Prämissen zugrunde: 1. Die Steuerung von KI ist eine gesamtgesellschaftliche Aufgabe, die weit über die bloße Regulierung von Technologie hinausgeht. 2. Die Beachtung und Förderung der Menschenrechte muss die Grundlage aller KI-Regulierung sein. Im Text werden grundsätzliche Werte und Prinzipien (wie Transparenz, Fairness und Privatsphäre) festgeschrieben und mit konkreten politischen Handlungsaufträgen an die Mitgliedstaaten verknüpft, damit diese gute Rahmenbedingungen für eine ethische KI-Entwicklung und -Anwendung schaffen. Für elf Politikbereiche (u.a. Gesundheit, Bildung und Forschung, Wirtschaft und Arbeit sowie Kultur) werden Handlungsempfehlungen ausgesprochen und dabei auch im KI-Kontext vernachlässigte Felder wie Geschlechtergerechtigkeit und Umweltschutz adressiert. In allen Bereichen werden der besondere Schutz marginalisierter bzw. vulnerabler Gruppen und die besonderen Bedürfnisse von Entwicklungsländern betont.
In den letzten zwölf Monaten sind in vielen Mitgliedstaaten bereits erhebliche Anstrengungen unternommen worden, um die ambitionierte Empfehlung auf nationaler Ebene umzusetzen. In drei Jahren müssen die Staaten über ihre Fortschritte berichten. Deutschland befindet sich auf einem guten Weg, aber auch hier gibt es gerade in Feldern wie Geschlechtergerechtigkeit noch viel zu tun.