Ein Blick aus der Wissenschaft auf die KI-Enzyklika von Papst Leo

Mit seinem Lehrschreiben „Magnificia Humanitas“ (Großartige Menschheit) hat Papst Leo XIV. dem Thema Künstliche Intelligenz auch in der Katholischen Kirche zu einem neuen Stellenwert verholfen. In der Kirche wurde das Papier viel gelobt. Doch was sagt es Menschen von außerhalb? Peter Remmers und Christian Schreiner von der Arbeitsgruppe „Ethik und kritische Theorien der Künstlichen Intelligenz“ der Universität Osnabrück haben sich die Enzyklika angesehen und bewerten sie im folgenden Text:

Laut und tosend verschafft sich eine neue Technik der Macht unter dem Namen „Künstliche Intelligenz“ Eintritt in alle Lebensbereiche. Ideologisch gibt sie sich als eine historische Notwendigkeit mit (trans-)humanitären Zielen. Jedoch gründet sie auf materieller Ausbeutung von Mensch sowie Umwelt und verstärkt bestehende Ungleichheiten. Unternehmen, die sich in erster Linie am Profit orientieren, brauchen Daten als Rohstoff für ihre KI-Systeme. Diese betrachten sie allerdings nicht als Gemeingut, sondern als Privateigentum. Und ein technologisches Wettrüsten befördert eine antidemokratische Politik der Überlegenheit, in der KI als militärisches Werkzeug die Kriegsführung erleichtert.

Entwicklungen wie diese machen kritische Auseinandersetzungen mit KI sowie Widerstand gegen derzeitige Entwicklungen dringend notwendig. Denn nur aufgeklärte und wissenschaftliche Analysen der Verhältnisse können die irreführenden KI-Zukunftsfantasien korrigieren, die viele öffentliche Debatten dominieren. In diesem Sinne arbeitet die Arbeitsgruppe für Ethik und kritische Theorien der KI der Universität Osnabrück bereits seit einigen Jahren an machtkritischen Perspektiven auf aktuelle KI-Entwicklungen, wie sie nun auch Papst Leo XIV. in der Enzyklika „Magnifica Humanitas“ (EMH) aufgreift. Seine Anknüpfungen sind insgesamt sehr zu begrüßen, auch weil er explizit den Dialog mit den Geisteswissenschaften anregt (EMH: 23).

Die Enzyklika gibt christlich-ethische Orientierung für das unübersichtliche „Zeitalter der Künstlichen Intelligenz“. Dies erfolgt im Rahmen einer ausführlichen Darlegung der katholischen Soziallehre und des darin enthaltenen Menschenbildes. Zugleich zeugt der Text von einer umfassenden Auseinandersetzung mit den zentralen ethischen, sozialen und politischen Aspekten aktueller KI-Technologien, wie sie in den letzten Jahren in wissenschaftlichen Debatten aufgearbeitet wurden. Zur Einordnung können hier eine paar ausgewählte Verweise auf entsprechende Themenfelder dienen:

• Leo XIV. deutet aktuelle KI-Entwicklungen als Ausdruck eines technokratischen Denkens, das Effizienz und Kommerzialisierung über andere Werte stellt. Angesichts dieser Stellung von KI fordert er, dass technokratischer Effizienz und berechnenden Formen von Intelligenz andere Eigenschaften des Menschlichen entgegengesetzt werden. Mit dieser Haltung knüpft er an einen Grundgedanken der Kritischen Theorie an, demzufolge einseitige Formen technischer Rationalität einen menschenfreundlichen Fortschritt in Wissenschaft und Technik verhindern.
• Leo XIV. verweist auf den auch in kritischen Wissenschaften gebräuchlichen Begriff des Kolonialismus (178), der in Verbindung mit KI neuartige globale Ausbeutungsverhältnisse der Digitalwirtschaft bezeichnet. So beruhen KI und verwandte digitale Technologien in ihrer aktuellen Form auf der „stillen Arbeit von Millionen von Menschen“, die Leo XIV. unmissverständlich als Sklaverei verurteilt (173).
• In diesem Zusammenhang verweist Leo XIV. auch auf sogenannte Vorhersagemodelle, die mithilfe großer Datenmengen insbesondere Eigenschaften und Verhaltensweisen von Personen und Gruppen vorhersagen und steuern können (178). Bei diesem weiten Feld der ‚prädiktiven Analytik‘ handelt es sich um ein Machtwerkzeug für eine automatisierte Kategorisierung von Menschen, das mit strukturellen Risiken für Privatsphäre, Gleichbehandlung und Demokratie einhergeht.
• Ausführlich kritisiert Leo XIV. die intellektuellen Strömungen des Trans- und Posthumanismus, die der KI-Euphorie einen wichtigen ideologischen Unterbau bieten. Seine Argumentation gegen die dahinter stehenden Menschenbilder betont die konstitutive Rolle der Endlichkeit für die Anerkennung der Menschlichkeit des Anderen (118-122). In den kritischen Wissenschaften werden darüber hinaus weitere menschen- und demokratiefeindliche Ideologien analysiert und kritisiert (beispielsweise zusammengefasst im Akronym TESCREAL).

Leo XIV. positioniert sich also deutlich innerhalb der vielfältigen öffentlichen und wissenschaftlichen Debatten um KI. Seine Ausführungen enthalten auch sehr konkrete politische und regulatorische Forderungen, zum Beispiel nach einem Verbot von sozialen Medien für Kinder (142), nach der Abkehr vom Bruttoinlandsprodukt als Maßstab für Wachstum (159) sowie für Teilhabe-Modelle an den großen Datensätzen, die KI erst ermöglichen (108). Damit setzt er sich von Einstellungen ab, die der Technik weniger kritischer gegenüberstehen und eher „softe“ Ansätze im Umgang mit KI verfolgen. Insbesondere wendet er sich gegen die Auffassung von Technik als „moralisch neutral“ und hält ein Verständnis von Technologien wie KI dagegen, das in den Wissenschaften als „sozio-technisch“ bezeichnet wird. (104). Denn KI kann zwar durchaus in technischer Terminologie auf eine Weise beschrieben werden, die von ihren Entstehungsbedingungen, Zugangsmöglichkeiten, Nutzungskontexten, zugrundeliegenden Ideologien und Unternehmensinteressen abstrahiert. Eine solche Formulierung kann dann „neutral“ erscheinen, spielt in der realen Welt allerdings keine Rolle, denn „der Einsatz von KI ist niemals eine rein technische Angelegenheit“ (102).

Kann es eine gute KI geben?

Diese Haltung führt Leo XIV. folgerichtig zu einer Ablehnung von Ansätzen der KI-Ethik, denen zufolge ethische Herausforderungen hauptsächlich durch technische Anpassungen bewältigt werden sollen. Das gilt beispielsweise für die Idee, KI per Programmierung an menschliche Werte anzupassen, die unter dem Begriff des „Alignment“ diskutiert wird (107). Ein solcher Ansatz mag zunächst sinnvoll erscheinen, denn es soll sich ja schließlich die Technik dem Menschen und nicht der Mensch an die Technik anpassen. Doch Leo XIV. sieht hier Grenzen, die auch in kritischen wissenschaftlichen Beiträgen betont werden: Technische Lösungen, die Maschinen moralisches Handeln beibringen wollen, reproduzieren und verdecken Machtverhältnisse. Stattdessen braucht es Regulierung, Bildung, gerechte Arbeitsverhältnisse, gemeinschaftliches Handeln und eine gereifte Weisheit, um KI von einem zerstörerischen Machtwerkzeug in eine lebensfreundliche Technologie zu transformieren.

Kann es also eine „gute“ KI geben? Ein typisches Versprechen von KI-Enthusiasten verweist darauf, dass die Fortschritte von KI-Technologien allen Menschen zugutekommen werden. Doch dieser Hoffnung schenkt Leo XIV. kein Vertrauen: „Zu glauben, dass neue Technologien automatisch allen zugutekommen, bedeutet, eine offensichtliche Tatsache zu ignorieren: Wenn nicht bereits bei der Konzeption von Veränderungen die Vermeidung neuer und weiterer Ungleichheiten im Vordergrund steht, führt der technologische Fortschritt automatisch zu strukturellen Ungleichheiten” (161). Hinter den ökonomischen Versprechen und utopischen Narrativen, die KI-Entwicklungen begleiten, erkennt Leo XIV., dass es sich bei KI vor allem um ein Machtinstrument handelt. Diese Macht untersteht nur der Kontrolle weniger. Dass unternehmerische Interessen und Gemeinwohl jedoch nicht von selbst eine gerechte Balance finden, zeigt nicht nur die Vergangenheit, sondern auch bereits jetzt sichtbare Dynamiken digitaler Technologien wie KI.

KI nicht in der Kriegsführung einsetzen

WissenschaftlerInnen, die konstruktive und innovative KI-Lösungen zum Beispiel im akademischen Umfeld erforschen und entwickeln, könnten die päpstliche KI-Kritik allerdings für übertrieben oder undifferenziert halten. Man denke hier etwa an bahnbrechende Entwicklungen beim Einsatz von KI in der medizinischen Forschung, denen man unmittelbar zunächst nichts Negatives abgewinnen mag. In dieser Hinsicht kommen in der Enzyklika konkrete Visionen darüber, wie man im Guten mit KI arbeiten kann, möglicherweise zu kurz. Hier könnte eine Unterscheidung zwischen der problematischen Big-Tech-KI und kleineren, weniger macht-orientierten KI-Entwicklungen hilfreich sein. Allerdings zeigen Verweise auf die infrastrukturellen Voraussetzungen und den Datenhunger von KI-Systemen auch, dass der sichtbare Nutzen eben oft mit unsichtbaren, eher strukturellen Problemen verbunden ist, über die sich auch gutgemeinte Forschung bewusst sein sollte.

In der Forderung nach einer „Entwaffnung von KI“ kann man schließlich den Höhepunkt der Enzyklika sehen (110). Zum einen meint Leo XIV. damit, dass KI nicht für die Kriegsführung und autonome Waffensysteme entwickelt werden darf. Aktuell können wir dagegen beobachten, wie KI auf aktiven Kriegsschauplätzen erprobt und mit grausamen Folgen eingesetzt wird, beispielsweise in der Ukraine, in Gaza und im Iran. Zum anderen meint ‚Entwaffnung‘, dass die Technologie nicht in eine Logik des Wettrüstens führen soll, in der es um Dominanz und Vormachtstellung geht. Genau dieses Narrativ ist es aber, welches die Entwicklung von KI aktuell antreibt: Staaten, die nicht bereit oder fähig sind, Unsummen in die Entwicklung von KI zu investieren, würden von den großen KI-Mächten unterjocht werden. Diese Angst vor einem vermeintlichen ‚Zurückbleiben‘ motiviert dann wiederum Maßnahmen wie Regulierungsabbau, Ausbau fossiler oder nuklearer Energieerzeugung sowie Ausbeutung von Rohstoffen und Arbeitskräften. ‚Entwaffnung‘ von KI bedeutet, diesen Teufelskreis zu überwinden.

Der Appell, technische Entwicklungen zu verlangsamen und sich auf ihren Zweck für ein gutes Leben aller zu besinnen, „bedeutet nicht, auf die Technologie zu verzichten […]. Es bedeutet, sie Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben“ (110). Das kann auch darauf hinauslaufen, sich politisch im eigenen Umfeld gegen den Einsatz und die Entwicklung von KI zu stellen, wo sie die beschriebenen Verhältnisse reproduziert und verschärft. Auch aus der Perspektive der Wissenschaften möchte man hoffen, dass diese für das Zeitalter der KI aktualisierte Soziallehre dazu beiträgt, gemeinsame Anliegen in neuen, wachsenden Bündnissen und Gemeinschaften voranzubringen – sei es im Hinblick auf globale Herausforderungen angesichts ungerechter Machtverteilung oder im lokalen Widerstand gegen politisch-technische Entwicklungen, die jenes, was wir als schützenswert erachten, bedrohen.

Wort muss sich auch in der Tat widerspiegeln

Enttäuschend wurde in der wissenschaftlichen Gemeinschaft allerdings die Entscheidung des Papstes aufgenommen, einem Mitgründer des Unternehmens Anthropic und damit einem Repräsentanten der Big-Tech-KI eine prominente Stimme bei der Vorstellung der Enzyklika zu verleihen. Das ist eine deutliche Abweichung von der Aufforderung im Text der Enzyklika, dass die Kirche „den Unsichtbaren wieder eine Stimme“ geben soll (235). Und in seiner kurzen Ansprache versäumt der Repräsentant von Anthropic es nicht, KI-Modelle zu vermenschlichen – eine irreführende Darstellung, die in wissenschaftlichen Beiträgen immer wieder entlarvt wird und die auch Leo XIV. in der Enzyklika ablehnt. Der Auftritt nährt insofern eine Skepsis der wissenschaftlichen Gemeinschaft gegenüber der Kirche, die sich darauf bezieht, dass das erfreuliche Wort sich nicht in den kirchlichen Taten widerspiegeln könnte. Bleibt also zu hoffen, dass Kirche künftig im Geiste der Enzyklika nicht nur kritisch, sondern auch selbstkritisch handelt.