«Künstliche Intelligenz» kommt in immer mehr Bereichen des Lebens zum Einsatz. Peter G. Kirchschläger zeigt ethische Chancen und Risiken «datenbasierter Systeme (DS)» auf und fordert, dass die Menschenrechte auch in diesem Bereich als ethischer Massstab gelten sollen.
«Künstliche Intelligenz (KI)» – nichts mehr als «Datenbasierte Systeme (DS)»
Sogenannte «künstliche Intelligenz (KI)» umfasst ethische Chancen und Risiken. Diese gilt es präzise zu identifizieren, um sie fördern bzw. vermeiden oder meistern zu können.[i] Ein erster kleiner Schritt auf diesem Weg umfasst, den Begriff «KI» kritisch zu hinterfragen, um zu vermeiden, dass Menschen diesen Technologien übervertrauen. Im Zuge einer ethischen Kritik von sogenannter «KI» zeigt sich, dass einige Bereiche der menschlichen Intelligenz für «KI» unerreichbar sind und bleiben: Soziale und emotionale Intelligenz können Systeme nur simulieren, weil ihnen echte Emotionalität und Gefühle fehlen. Beispielsweise können Menschen einem Pflegeroboter antrainieren, dass er weinen soll, wenn die Patient:innen in Tränen ausbrechen. Dies wird der Pflegeroboter perfekt umsetzen. Niemand würde aber behaupten wollen, dass der Pflegeroboter authentisch Empathie für die Patient:innen aufbringt. Dem genau gleichen Pflegeroboter könnte auch beigebracht werden, dass er den Patient:innen eine Ohrfeige geben soll, wenn sie zu weinen beginnen. Auch diesen Befehl würde die Maschine ohne Mitgefühl befolgen.
Einige Bereiche der menschlichen Intelligenz sind für «KI» unerreichbar
Gleichzeitig wird an diesem Beispiel auch erkennbar, dass von Maschinen ebenso keine Moralfähigkeit ausgesagt werden kann, weil ihnen die dazu notwendige Freiheit fehlt, die bei einer menschlichen Pflegefachperson die Verantwortung bewirken würde, dass sie sich dem Auftrag der Ohrfeige widersetzt. Technologien werden von Menschen entworfen, entwickelt und gebaut, das heisst, sie werden heteronom produziert. Daher wird auch das Erlernen von ethischen Prinzipien und Normen von Menschen geleitet. Im Unterschied dazu umfasst bei Menschen Moralfähigkeit das Potential, für sich selbst ethische Prinzipien und Normen als verbindlich zu erkennen und zu setzen, um dann ihr Entscheiden und Handeln danach auszurichten. Dieses fehlt bei Maschinen. Daher sind diese Innovationen adäquater als datenbasierte Systeme (DS) zu bezeichnen.[ii] Denn ihre Leistung fusst auf ihrem Vermögen, grosse Datenmengen zu generieren, zu sammeln, auszuwerten und darauf basierend Handlungen auszuführen.
Ethische Chancen und Risiken der DS
Neben ethischen Chancen, die DS für die Menschheit und den Planeten mit sich bringen – beispielsweise übertreffen DS im Bereich der medizinischen Bilderkennung Ärzt:innen und können die medizinische Behandlung von Menschen fördern –, ergeben sich auch ethische Risiken, u. a.:
- DS dienen vor allem den Partikularinteressen einiger weniger multinationaler Technologiekonzerne und verstärken globale Ungleichheiten sowie die bereits bestehende «digitale Kluft» dramatisch.
- Ständige Verstösse gegen die Menschenrechte auf Privatsphäre und Datenschutz stellen einen massiven Angriff auf die Freiheit aller Menschen dar. Wann immer möglich, werden Daten von Menschen gestohlen und an die Meistbietenden verkauft.
- Politische und wirtschaftliche Manipulation und Desinformation führen zur Destabilisierung von Ländern. Nun ist es mit generativen DS sowie mit «Deep Fakes» möglich, innerhalb von wenigen Stunden mit ein paar Mausklicks eine friedliche, funktionierende und wohlhabende Gesellschaft gezielt zu destabilisieren (e.g., die Unruhen durch die extreme Rechte in Grossbritannien im Sommer 2024).[iii]
- Schädigungen der mentalen Gesundheit von Kindern und Jugendlichen durch den Einfluss sozialer Medien sowie für die physische Gesundheit und das Leben von uns allen: Diesbezüglich spricht Bände, dass Steve Jobs als Erfinder des iPhones seinen Kindern die Nutzung seiner Erfindung verboten hat[iv] und dass ein Co-Gründer von «Facebook» seine Kinder von Social Media fernhält, um sie von den negativen Auswirkungen zu schützen …[v]
- Existenzielle Folgen von DS-basierten Cyberangriffen und von militärischen Anwendungen von DS für den globalen Frieden und die Sicherheit.
Wir Menschen müssen aktiv werden, damit DS nicht einfach geschehen, sondern wir sie ethisch positiv gestalten.
Menschenrechtsbasierte DS
Dabei können die Menschenrechte als ethische Referenzpunkte die notwendige normative Orientierung bieten. Für die Menschenrechte spricht die ethische Begründbarkeit der Menschenrechte mit dem Prinzip der Verletzbarkeit.[vi] Des Weiteren spricht für die Menschenrechte als ethische Referenzpunkte für DS, dass sie nur einen Mindeststandard darstellen, der allen Menschen – immer und überall – ein physisches Überleben und ein Leben in Würde – ein menschenwürdiges Leben – garantiert. Ausserdem ermutigen und fördern die Menschenrechte technologischen Fortschritt, indem sie die Freiheit des Denkens, der Meinungsäusserung und des Zugangs zu Informationen schützen sowie den Pluralismus fördern, da sie das Selbstbestimmungsrecht jedes Menschen achten. Menschenrechtsbasierte DS[vii] bedeutet, dass die Menschenrechte im gesamten Lebenszyklus von DS respektiert, geschützt, umgesetzt und verwirklicht werden (d.h. bei der Schürfung der für DS notwendigen Rohstoffe, der Gestaltung, der Entwicklung, der Herstellung, dem Vertrieb, der Nutzung oder der Nichtnutzung von DS aufgrund von Menschenrechtsbedenken).
Internationale Agentur für datenbasierte Systeme (IDA)
Zur Förderung und Realisierung von menschenrechtsbasierten DS sollte bei der UNO eine Internationale Agentur für datenbasierte Systeme (IDA) (International Data-Based Systems Agency)[viii] – analog zur Internationalen Atomenergie-Agentur (IAEA) – geschaffen werden. Sie soll eine Plattform für die globale technische Zusammenarbeit im Bereich der DS für staatliche und nichtstaatliche Akteure sein, die die Menschenrechte, die Sicherheit und die friedliche Nutzung sowie die Nachhaltigkeit von DS fördert, sowie eine globale Aufsichts- und Monitoringsinstitution und Regulierungsbehörde im Bereich der DS darstellt, die für einen Marktzulassungsprozess verantwortlich ist. Die IDA sollte sich für die nachhaltige, sichere und friedliche Nutzung von DS einsetzen und so zu internationalem Frieden und Sicherheit, zur Achtung und Verwirklichung der Menschenrechte sowie zu den Zielen der UNO für nachhaltige Entwicklung beitragen. Die IDA bei der UNO sollte nach dem Vorbild der Internationalen Atomenergie-Agentur IAEA als «Institution mit Zähnen» aufgebaut werden.
eine globale Aufsichts- und Monitoringsinstitution und Regulierungsbehörde im Bereich der DS
Die Schaffung der IDA bei der UNO ist realistisch, denn die Menschheit hat bereits in der Vergangenheit gezeigt, dass sie in der Lage ist, nicht immer blind alles technisch Mögliche umzusetzen, sondern sich auf das technisch Machbare zu beschränken, wenn es um das Wohl der Menschheit und des Planeten geht.
IDA löst global positives Echo aus
Neben einem wachsenden internationalen und interdisziplinären Netzwerk von Expert:innen, das menschenrechtsbasierte DS und die Einrichtung von IDA fordert (www.idaonline.ch), haben «the Elders» – eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten der Welt, der auch der ehemalige UN-Generalsekretär Ban Ki-moon, Ellen Johnson Sirleaf (ehemalige Präsidentin von Liberia und Afrikas erstes gewähltes weibliches Staatsoberhaupt sowie Friedensnobelpreisträgerin) und die erste weibliche Präsidentin Irlands, Mary Robinson, angehören, die konkreten Empfehlungen für menschenrechtsbasierte DS und die Errichtung einer globaler Institution bei der UNO zum Monitoring der DS nach dem Vorbild der IAEA[ix] aufgegriffen und die UNO aufgefordert, entsprechende Massnahmen zu ergreifen.[x]
«the Elders» – eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten der Welt
UNO-Generalsekretär António Guterres befürwortet ebenfalls die Schaffung einer internationalen DS-Monitoringsstelle nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA): «I would be favorable to the idea that we could have an artificial intelligence agency (…) inspired by what the international agency of atomic energy is today»[xi]. Er hat im UN-Sicherheitsrat am 18. Juli 2023 ein neues UN-Gremium gefordert, um Bedrohungen durch künstliche Intelligenz zu bekämpfen.[xii]
Der UN-Menschenrechtsrat verabschiedete am 14. Juli 2023 einstimmig seine jüngste Resolution zum Thema «New and emerging digital technologies and human rights»[xiii], in der zum ersten Mal ausdrücklich auf KI und die Förderung und den Schutz der Menschenrechte Bezug genommen wird.
KI und die Förderung und der Schutz der Menschenrechte
Am 21. März 2024 verabschiedete die UNO-Generalversammlung einstimmig die Resolution «Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development»[xiv] zur Förderung «safe, secure and trustworthy» Systeme der «künstlichen Intelligenz (KI)», die auch der nachhaltigen Entwicklung für alle zugutekommen werden. Darin hebt die internationale Staatengemeinschaft hervor: «The same rights that people have offline must also be protected online, including throughout the life cycle of artificial intelligence systems.»
Papst Franziskus fordert dazu auf, «einen verbindlichen internationalen Vertrag zu schliessen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt»[xv], und unterstützt die zwei konkreten Handlungsvorschläge menschenrechtsbasierte DS und die Schaffung einer Internationalen Agentur für datenbasierte Systeme (IDA) bei der UNO zur Durchsetzung der Regulierung für DS.
Einige Stimmen aus multinationalen Technologieunternehmen – unter anderem Sam Altman (Gründer von OpenAI, der das ChatGPT entwickelt hat) – haben die Schaffung von IDA gefordert.[xvi]
DS führen nicht von selbst in eine menschenwürdige und nachhaltige Zukunft für die Menschheit und den Planeten. Es ist an uns Menschen, unserer diesbezüglichen ethischen Verantwortung für DS nachzukommen.
Peter G. Kirchschläger ist Ordinarius für Theologische Ethik und Leiter des Instituts für Sozialethik ISE an der Theologischen Fakultät der Universität Luzern sowie Gastprofessor an der ETH Zürich. Er ist u. a. Präsident a.i. der Eidgenössischen Ethikkommission für Biotechnologie im Ausserhumanbereich (EKAH).
Beitragsbild: Andy Kelly / Unsplash
[i] Vgl. Kirchschläger, In an Era of Digital Disruptions, Ethics Can’t Be an Afterthought – Part 1 and 2, in: Business and Human Rights Journal Blog. Cambridge University Press 2024. Online utner: https://www.cambridge.org/core/blog/2024/04/11/in-an-era-of-digital-disruptions-ethics-cant-be-an-afterthought/ (Letzter Zugriff: 9.9.2024).
[ii] Vgl. Kirchschläger, Digitale Transformation und Ethik. Ethische Überlegungen zur Robotisierung und Automatisierung von Gesellschaft und Wirtschaft und zum Einsatz von «Künstlicher Intelligenz». 2024.
[iii] Vgl. Cadwalladr, “‘A polarisation engine’: how social media has created a ‘perfect storm’ for UK’s far-right riots.” 03. August 2024. Online unter: https://www.theguardian.com/media/article/2024/aug/03/a-polarisation-engine-how-social-media-has-created-a-perfect-storm-for-uks-far-right-riots (Letzter Zugriff: 9.9.2024).
[iv] Vgl. Linn, Consuming Kids. The Hostile Takeover of Childhood. 2024.
[v] Vgl. Zuboff, The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power. 2019.
[vi] Vgl. Kirchschläger, Wie können Menschenrechte begründet werden? 2013.
[vii] Vgl. Kirchschläger, An International Data-Based Systems Agency IDA: Striving for a Peaceful, Sustainable, and Human Rights-Based Future, in: Philosophies (2024). Online unter: https://www.mdpi.com/2409-9287/9/3/73 (Letzter Zugriff: 9.9.2024).
[viii] Vgl. Kirchschläger, An International Data-Based Systems Agency IDA: Striving for a Peaceful, Sustainable, and Human Rights-Based Future, in: Philosophies (2024). Online unter: https://www.mdpi.com/2409-9287/9/3/73 (Letzter Zugriff: 9.9.2024).
[ix] Vgl. Kirchschläger, Digital Transformation and Ethics. Ethical Considerations on the Robotization and Automatization of Society and Economy and the Use of Artificial Intelligence. 2021.
[x] Vgl. The Elders, The Elders urge global co-operation to manage risks and share benefits of AI. 31. Mai 2023. Online unter: https://theelders.org/news/elders-urge-global-co-operation-manage-risks-and-share-benefits-ai (Letzter Zugriff: 9.9.2024).
[xi] UN Secretary General, „UN Chief Backs Idea of Global AI Watchdog Like Nuclear Agency.“ 12. Juni 2023. Online unter: https://www.reuters.com/technology/un-chief-backs-idea-global-ai-watchdog-like-nuclear-agency-2023-06-12/ (Letzter Zugriff: 9.9.2024).
[xii] UN Secretary General, „Secretary-General’s Remarks to the Security Council on Artificial Intelligence.“ 18. Juli 2023. Online unter: https://www.un.org/sg/en/content/sg/speeches/2023-07-18/secretary-generals-remarks-the-security-council-artificial-intelligence (Letzter Zugriff: 9.9.2024).
[xiii] UN Human Rights Council, “Resolution New and emerging digital technologies and human rights”. No. 41/11. 13. Juli 2023. Online unter: https://undocs.org/Home/Mobile?FinalSymbol=A%2FHRC%2FRES%2F53%2F29&Language=E&DeviceType=Desktop&LangRequested=False (Letzter Zugriff: 9.9.2024).
[xiv] UN General Assembly, Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development”. 24. März 2024. Online unter: https://daccess-ods.un.org/access.nsf/Get?OpenAgent&DS=A/78/L.49&Lang=E (Letzter Zugriff: 9.9.2024).
[xv] Papst Franziskus, Botschaft zum 57. Weltfriedenstag. 01. Januar 2024. Online unter: https://www.vatican.va/content/francesco/de/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html (Letzter Zugriff: 9.9.2024).
[xvi] Vgl. Euronews, OpenAI’s Sam Altman calls for an international agency like the UN’s nuclear watchdog to oversee AI. 07. Juni 2023. Online unter: https://www.euronews.com/next/2023/06/07/openais-sam-altman-calls-for-an-international-agency-like-the-uns-nuclear-watchdog-to-over (Letzter Zugriff: 18.01.2024); Santelli, La Repubblica, Sam Altman: “In pochi anni l’IA sarà inarrestabile, serve un’agenzia come per l’energia atomica”. Online unter: https://www.repubblica.it/economia/2024/01/18/news/sam_altman_in_pochi_anni_lia_sara_inarrestabile_serve_unagenzia_come_per_lenergia_atomica-421905376/amp/ (Letzter Zugriff: 9.9.2024).
