Papst Leo XIV sagt, KI müsse der Menschheit dienen – nicht einigen wenigen Mächtigen

• Magnifica Humanitas betrachtet KI als neue industrielle Revolution und warnt vor wachsender Ungleichheit, einer Schwächung der Demokratie und der Aushöhlung des Menschlichen
• Die „Entwaffnung“ der KI bedeutet nicht nur im militärischen Bereich, sondern auch jenseits der Logik wirtschaftlicher und kognitiver Konkurrenz, Technologie so auszurichten, dass sie den Menschen nicht beherrscht
• KI stärkt bereits die Macht derjenigen, die über Ressourcen, Fachwissen und Zugang zu Daten verfügen, sodass eine kleine Minderheit Information, Konsum und demokratische Verfahren beeinflussen kann
• Um Menschenwürde und Gemeinwohl zu schützen, muss die Verantwortung von der Entwicklung bis zur Nutzung klar geregelt sein, und Ethik darf nicht erst nach Schäden greifen, sondern muss schon beim Aufbau angewendet werden
• Für militärische KI braucht es strenge ethische Grenzen, menschliche Verantwortlichkeit und internationales Recht; auch Datenkolonialismus und der Ersatz menschlicher Arbeit werden als Fragen sozialer Gerechtigkeit behandelt

---

Kern der ersten Enzyklika: die „Entwaffnung“ der KI

• Die erste Enzyklika von Papst Leo XIV, „Magnifica Humanitas“, definiert KI als neue industrielle Revolution und macht die Ausweitung von Ungleichheit, die Schwächung der Demokratie und die Gefährdung des Menschlichen zu zentralen Themen
• Die Entwaffnung der KI ist nicht auf den militärischen Bereich beschränkt, sondern bedeutet auch, KI aus der Logik wirtschaftlicher und kognitiver Konkurrenz herauszulösen, damit Technologie den Menschen nicht beherrscht
• Das Ziel ist nicht der Verzicht auf Technologie, sondern KI zu einer „entwaffneten, einladenden und zugänglichen“ Technologie zu machen
• Für KI-Unternehmen sind strengere nationale und internationale Regulierungen nötig, und auch Einzelne sowie Gemeinschaften sollen sich breit an der Gestaltung der KI-Zukunft beteiligen
• Leo XIV verweist auf die Enzyklika von Leo XIII aus dem Jahr 1891, „Rerum Novarum“, die auf die industrielle Revolution des 19. Jahrhunderts reagierte, und stellt damit die sozialen Fragen des KI-Zeitalters in die Kontinuität der katholischen Soziallehre
• Die Enzyklika entstand nach Gesprächen mit Wissenschaftlern und Ingenieuren, politischen Führungspersonen und Amtsträgern sowie Eltern und Lehrkräften und fordert breite Beteiligung an Programmierung, Regulierung und Nutzen von KI

Big Tech und Machtkonzentration

• Leo XIV ist der Ansicht, dass einige wenige wohlhabende Personen über die Zukunft der Menschheit und die Lebensgrundlagen vieler entscheiden könnten und dass die Kluft zwischen denen, die an der digitalen Revolution teilhaben, und denen, die am Rand bleiben, größer werden könnte
• KI neigt bereits dazu, die Macht derjenigen zu verstärken, die über wirtschaftliche Ressourcen, Fachwissen und Zugang zu Daten verfügen
• Eine kleine Zahl einflussreicher Gruppen kann Informations- und Konsummuster prägen, demokratische Verfahren beeinflussen und wirtschaftliche Dynamiken zu ihren Gunsten lenken
• Technologie ist nicht neutral, sondern offenbart die Interessen und Akteure, die hinter ihr stehen
• Wenn sich Macht in den Händen weniger konzentriert, wird sie intransparenter und entzieht sich leichter öffentlicher Kontrolle, was zu verzerrter Entwicklung führen kann, die neue Abhängigkeiten, Ausgrenzung, Manipulation und Ungleichheit hervorbringt
• Der Anthropic-Mitgründer Chris Olah sagt, dass KI-Entwicklung unter Anreizen und Zwängen stattfindet, in denen kommerzielle Interessen, geopolitischer Druck, Stolz und Ehrgeiz mit dem „Richtigen“ in Konflikt geraten können
• Olah ist der Ansicht, dass Religionsgemeinschaften, die Zivilgesellschaft, Wissenschaftler und Regierungen KI ernst nehmen und in eine bessere Richtung drängen müssen

Menschenwürde, Urteilsvermögen und Arbeit

• Das Kernprinzip lautet, dass der Mensch Vorrang vor KI hat; menschliche Würde gründet nicht in Fähigkeiten, Wohlstand, sozialer Stellung oder richtigen Entscheidungen, sondern im bloßen Sein
• Die Gefahr im Zeitalter von KI-Chatbots besteht nicht nur darin, dass Nutzer KI-Agenten mit Menschen verwechseln, sondern auch darin, dass bereits das Bedürfnis, andere Menschen aufzusuchen, schwächer werden kann
• Werden Entscheidungen an Maschinen abgegeben, kann übermäßige Abhängigkeit wachsen und die Suche nach sofortigen Antworten zunehmen, während individuelle Kreativität und Urteilskraft geschwächt werden
• KI-Innovationen haben zwar das Potenzial, menschliche Gesellschaften und den Schutz der Umwelt positiv zu beeinflussen, doch müssen auch ihre Risiken mitbehandelt werden
• Damit KI Menschenwürde und Gemeinwohl respektiert, muss die Verantwortung in allen Phasen – von Design und Entwicklung über Nutzer bis hin zu den Personen, deren reale Entscheidungen davon abhängen – klar sein
• Moralische und ethische Prinzipien dürfen nicht erst angewendet werden, nachdem in der Gesellschaft Schäden entstanden sind, sondern müssen schon beim Aufbau von Systemen gelten
• Eine Haltung, die bei der Einführung von KI Vorsicht, strenge Bewertung und manchmal auch geringeres Tempo verlangt, wird nicht als Fortschrittsfeindlichkeit dargestellt, sondern als verantwortungsvolle Sorge für die Menschheitsfamilie
• Auch rahmenartige Modelle einer ethischen Verfassung wie bei Anthropic reichen nicht aus, wenn Moral nur von einer kleinen Minderheit festgelegt wird; sie müssen entlang gemeinsam geteilter Maßstäbe sozialer Gerechtigkeit diskutiert werden
• Wahrheit ist ein unverzichtbares Element der Demokratie, und besonders junge Menschen brauchen Bildung zu KI
• Entgegen dem Versprechen, KI könne Arbeitslast verringern, werden Beschäftigte in der Praxis oft dazu gezwungen, sich dem Tempo und den Anforderungen von Maschinen anzupassen
• In der vierten industriellen Revolution sollte der Vorrang auf dem Schutz von Beschäftigungsmöglichkeiten und der unersetzlichen Rolle des Einzelnen liegen

Transhumanismus, Ungleichheit und Datenkolonialismus

• Transhumanismus und Posthumanismus sind mit der Annahme verbunden, dass es Fortschritt bedeute, die menschliche Verfassung zu überschreiten
• Im Gegensatz zu Sichtweisen, die Krankheit, Behinderung, Alter und Verletzlichkeit nur als Grenzen betrachten, die überwunden werden müssen, gedeiht der Mensch nicht trotz seiner Grenzen, sondern oft gerade durch sie
• Víctor Manuel Fernández betont, dass die katholische Lehre im Gegensatz zu Vorstellungen, der Mensch habe ein Ablaufdatum und müsse ersetzt werden, jedem Menschen unendliche Würde zuschreibt
• In einer Welt mit wachsenden wirtschaftlichen Ungleichgewichten kann technologischer Fortschritt strukturelle Ungleichheiten erzeugen
• Das Steuersystem sollte die Last der Schwächsten verringern und von denjenigen mit größeren Ressourcen mehr Verantwortung verlangen; die Vorteile von Innovation müssen transparent mit der gesamten Gemeinschaft geteilt werden
• Hinter KI können Spuren menschlicher und ökologischer Ausbeutung stehen – von Modellen, die mit urheberrechtlich geschütztem Material trainiert werden, bis zum Abbau seltener Mineralien für KI-Hardware
• Datenkolonialismus wird als neue Gestalt des Kolonialismus behandelt, der sich Gesundheitsströme, epidemiologische Profile, genetische Karten und demografische Daten aneignet
• Diese Daten sind zu den „neuen seltenen Erden der Macht“ geworden, und KI-Technologien in den Händen einiger weniger profitorientierter Personen oder Gruppen können eine neue Form kolonialer Herrschaft darstellen
• Damit geteiltes Wissen nicht zum Herrschaftsinstrument, sondern zum Gemeinwohl wird, müssen Menschen die Fähigkeit zurückerhalten, über die Daten zu bestimmen, die sie beschreiben, sowie über deren Nutzung, die Nutzenden und die Begünstigten

Krieg, soziale Gerechtigkeit und Gemeinwohl

• Der militärische Einsatz von KI muss den strengsten ethischen Beschränkungen unterliegen
• Die Verantwortung für militärische Handlungen, insbesondere für tödliche, muss beim Menschen bleiben und darf nicht auf Maschinen übergehen
• Es braucht internationales Recht, das Nachvollziehbarkeit von Entscheidungsprozessen im Krieg, menschliche Aufsicht sowie den wachsenden Einsatz automatisierter Waffen und dessen Folgen behandelt
• Die moralischen Prinzipien des gesellschaftlichen, wirtschaftlichen und politischen Lebens, die Menschenwürde und Gemeinwohl in den Mittelpunkt stellen, müssen auch im KI-Zeitalter gelten
• Solidarität und die Sorge für den „Nächsten“ bilden zentrale Achsen, wobei die Verantwortung gegenüber der nächsten Generation besonders betont wird
• Soziale Gerechtigkeit umfasst nicht nur eine gerechtere Verteilung von Ressourcen oder die Korrektur gegenwärtiger Ungerechtigkeit, sondern auch eine wiederherstellende Dimension
• Auch im digitalen Raum muss vor invasiver Überwachung, vor Gemeinschaften, die vom Zugang zu grundlegender Technologie ausgeschlossen sind, und vor den Schäden intransparenter Algorithmen gewarnt werden, die Diskriminierung fortschreiben
• Migration wird als Lackmustest sozialer Gerechtigkeit unserer Zeit behandelt
• Babel symbolisiert das Streben nach Macht und Selbstverwirklichung, während Nehemias Wiederaufbau Jerusalems auf Gebet sowie die Beteiligung von Familien und Gemeinschaften ausgerichtet ist
• Daraus folgt die Botschaft, dass auch im Zeitalter der KI sowohl der Bau Babels als auch der Wiederaufbau Jerusalems im Inneren jedes Menschen beginnen

[GN⁺]

Hacker-News-Kommentare

• Fast ein Doppelpost. https://news.ycombinator.com/item?id=48265206

• Die Zeiten sind in vielerlei Hinsicht anders. Zum Beispiel: 1) Es gibt jetzt AI, und 2) der Papst ist Amerikaner und vertrauenswürdiger als die derzeitigen führenden Politiker beider Parteien.
  Es geht weniger darum, dass sich die Leute nach dem Zeitalter des Papsttums sehnen, sondern eher darum, dass sie nach dem suchen, was jeder vernünftige Mensch sucht.

• Vor 15 Jahren war es Papst Benedikt, und das war eine ziemlich andere Figur. Ich persönlich wäre ihm gegenüber wahrscheinlich zynischer gewesen als gegenüber Franziskus oder Leo.

• Um die religiöse Analogie fortzuführen: Damals wären HN-Nutzer wohl schockierter darüber gewesen, dass Chrome nicht mehr als die Wiederkunft Jesu behandelt wird.