- Magnifica Humanitas fordert in einer Zeitenwende, in der KI, Digitalisierung und Robotik die Menschenwürde und das Gemeinwohl erschüttern, die Entscheidung, nicht Babel, sondern Jerusalem wiederaufzubauen
- Die Soziallehre der Kirche wendet anlässlich des 135. Jahrestags von Rerum Novarum Arbeit, gerechten Lohn, Subsidiarität, Solidarität und die universale Bestimmung der Güter auf die heutige technologische Macht an
- KI ist kein neutrales Werkzeug, sondern spiegelt die Entscheidungen von Entwicklern, Kapitalgebern und Regulierern wider und kann ohne Rechenschaftspflicht, Transparenz und menschliche Kontrolle Rechte und Freiheiten verletzen
- Die digitale Wirtschaft kann verborgene Arbeit und Ausbeutung hervorbringen, etwa Datenlabeling, Inhaltsmoderation, Rohstoffabbau und Datenkolonialismus, weshalb Verantwortung entlang der Lieferketten und auf Plattformen nötig ist
- Das Kriterium für Fortschritt ist nicht Effizienz und Kontrolle, sondern ob der Mensch menschlicher wird; durch Bildung, Arbeit, Frieden, Multilateralismus und Fürsorge gilt es, eine Zivilisation der Liebe aufzubauen
Die technologische Zeitenwende und die Aufgabe der kirchlichen Soziallehre
- Die Menschheit steht an einem Wendepunkt, an dem sie wählen muss, ob sie einen neuen Turm von Babel errichtet oder eine Stadt baut, in der Gott und Mensch gemeinsam wohnen
- Digitalisierung, KI und Robotik verändern die Strukturen des Alltagslebens, Entscheidungsprozesse und die kollektive Vorstellungskraft schnell und tiefgreifend
- Technologie kann heilen, verbinden, bilden und das gemeinsame Haus schützen, sie kann aber zugleich Spaltung, Ausgrenzung und neue Ungerechtigkeiten hervorbringen
- Technologie ist nicht abstrakt gut oder böse, aber in der Praxis nicht neutral, weil sie die Entscheidungen derjenigen widerspiegelt, die sie entwerfen, finanzieren, regulieren und nutzen
- Die entscheidende Wahl ist nicht ein simples Für oder Wider der Technologie, sondern ob ein Babel der Effizienz errichtet wird, das die Schwachen opfert, oder ob Jerusalem mit vielfältigen Stimmen und gemeinsamer Verantwortung wiederaufgebaut wird
- Die Enzyklika von 1891 von Papst Leo XIII., Rerum Novarum, stellte Arbeit und die Würde der Arbeiter, gerechten Lohn und den Vorrang des Menschen vor dem Kapital in den Mittelpunkt
- Der 135. Jahrestag von Rerum Novarum ist in diesem Jahr ein Anlass, die Prinzipien der Soziallehre wie Arbeit, Subsidiarität, Solidarität und die universale Bestimmung der Güter auf die heutige technologische Macht und digitale Wirtschaft anzuwenden
Der Turm von Babel und Jerusalem
- Der Turm von Babel in der Genesis zeigt den Versuch, ohne Bezug auf Gott Sicherheit, Macht und einen „eigenen Namen“ zu gewinnen
- Babel stützt sich auf Uniformität, die Vielfalt beseitigt, und endet, wenn es auf Hochmut und Selbstgenügsamkeit gebaut ist, im Zusammenbruch der Kommunikation und in Zerstreuung
- Der Wiederaufbau der Mauern Jerusalems im Buch Nehemia wird als Bild dafür dargestellt, Ruinen durch Fasten und Gebet, Zuhören, Aufgabenteilung und gemeinsame Verantwortung wieder aufzurichten
- Jerusalem wird nicht unter der Führung einer einzelnen Person neu geboren, sondern durch einen Wiederaufbau, an dem Männer und Frauen, Priester, Handwerker, Familienoberhäupter und junge Menschen alle beteiligt sind
- Verantwortliche Navigation im Zeitalter der KI ähnelt eher dem Weg Jerusalems, das Beziehungen wiederherstellt und gemeinsam auf das Gemeinwohl hin baut, als einem Babel, das technologische Macht zur Schau stellt
Zentrale Prinzipien der Soziallehre
- Menschenwürde kommt jedem Menschen allein aufgrund seines Menschseins zu und hängt nicht von Fähigkeiten, Reichtum, Status, Leistungen oder Entscheidungen ab
- Menschenrechte sind kein äußerer Zusatz zum Menschen, sondern Ausdruck seiner inneren Würde; sie müssen universal und unveräußerlich sein und reale rechtliche Wirkung entfalten
- Gemeinwohl wird als die Gesamtheit der sozialen Bedingungen beschrieben, die es Menschen ermöglichen, ihre Vollendung umfassender und leichter zu erreichen
- Das Recht auf Privateigentum hat Sinn und Zweck, ist aber stets der universalen Bestimmung der Güter untergeordnet; das gilt heute auch für neue Güter wie Patente, Algorithmen, digitale Plattformen, technologische Infrastruktur und Daten
- Subsidiarität ist das Prinzip, dass höhere Autoritäten nicht das ersetzen sollen, was Einzelne, Familien, lokale Gemeinschaften und intermediäre Organisationen leisten können; im digitalen Zeitalter gilt dies auch für Plattform-, Daten- und Algorithmusmacht
- Solidarität ist die konkrete Anerkennung, dass die Zukunft jedes Einzelnen mit der Zukunft aller verbunden ist, und ermöglicht in Verbindung mit Subsidiarität eine verantwortliche gesellschaftliche Zusammenarbeit
- Soziale Gerechtigkeit befasst sich auch mit Strukturen, Mechanismen sowie wirtschaftlichen und kulturellen Systemen, die Ungleichheit automatisch hervorbringen; im digitalen Zeitalter umfasst das den Zugang zu Technologie, Überwachung, algorithmische Verzerrung sowie den Schutz von Migranten und Flüchtlingen
KI und das technokratische Paradigma
- Papst Franziskus kritisiert in Laudato Si’ das technokratische Paradigma, in dem die Logik von Effizienz, Kontrolle und Profit persönliche, soziale und wirtschaftliche Entscheidungen beherrscht
- Die Kontrolle über Plattformen, Infrastruktur, Daten und Rechenleistung konzentriert sich vielfach nicht beim Staat, sondern bei zentralen wirtschaftlichen und technologischen Akteuren
- Diese gestalten die Bedingungen des Zugangs, die Regeln der Sichtbarkeit und die Möglichkeit der Teilhabe selbst; je stärker Macht bei wenigen konzentriert ist, desto größer werden die Risiken von Abhängigkeit, Ausgrenzung, Manipulation und Ungleichheit
- KI-Systeme können bestimmte Funktionen menschlicher Intelligenz nachahmen und den Menschen in Geschwindigkeit und Rechenleistung übertreffen, aber sie erleben nicht, haben keinen Körper und kennen Freude, Schmerz, Liebe und Verantwortung nicht von innen heraus
- Das „Lernen“ der KI ist eine statistische Anpassung auf Basis von Daten und Feedback, nicht die menschliche Erfahrung, die sich im Leben durch Wahl, Fehler, Vergebung und Treue bildet
- KI besitzt kein moralisches Gewissen, das Gut und Böse unterscheiden, den letzten Sinn einer Situation erfassen oder Verantwortung für Folgen übernehmen könnte
- Wenn sensible Entscheidungen etwa über Beschäftigung, Kredit, Zugang zu öffentlichen Dienstleistungen oder Ansehen vollständig an automatisierte Systeme delegiert werden, können Rechte, Chancen, Status und Freiheit verletzt werden
- Rechenschaftspflicht bedeutet, dass identifizierbar sein muss, wer Entscheidungen erklärt, rechtfertigt, überwacht, Einwände bearbeitet und Schäden wiedergutmacht
- Es reicht nicht aus, KI mittels Alignment auf menschliche Werte auszurichten; es muss öffentlich diskutiert werden, welcher ethische Rahmen angewandt wird, und dieser muss den Maßstäben sozialer Gerechtigkeit untergeordnet sein
- Dateneigentum darf nicht allein privaten Händen überlassen werden und muss angemessen reguliert werden; Daten sind das Ergebnis vieler Beiträge und dürfen nicht als etwas behandelt werden, das nur wenigen anvertraut wird
Menschenbild, Transhumanismus und Grenzen
- Der zentrale Streitpunkt der kirchlichen Soziallehre ist weniger der Einsatz von Technologie selbst als das darunterliegende Menschenbild
- Wer den Menschen als etwas betrachtet, das vollendet oder überwunden werden muss, akzeptiert leichter die Vorstellung, dass manche Leben weniger nützlich, weniger wünschenswert und weniger wertvoll seien
- Transhumanismus umfasst Vorstellungen, die Leistung und Fähigkeiten des Menschen mithilfe von Technologien wie Biomedizin, Körpertechnik, Geräten und Algorithmen steigern wollen
- Posthumanismus stellt in radikaleren Formen den Anthropozentrismus infrage und imaginiert Hybridisierungen von Mensch, Maschine und Umwelt sowie neue Entwicklungsstufen
- Grenzen wie Behinderung, Krankheit, Alter, Leid und Verletzlichkeit werden leicht nur als Mängel behandelt, die zu korrigieren seien, doch Menschlichkeit reift oft durch Grenzen hindurch und öffnet sich für Beziehung
- Es ist richtig, Leid zu lindern, doch ebenso braucht es die Weisheit, die grundlegende Endlichkeit des Menschen anzuerkennen
- Der christliche Humanismus lehnt Wissenschaft und Technik nicht ab, sondern nimmt sie in Dankbarkeit und Wirklichkeitssinn an, ordnet sie jedoch einer höheren Berufung und der Selbsttranszendenz in der Liebe unter
- Die Schlüsselfrage im Zeitalter der KI lautet, ob Technologie das menschliche Leben auf Erden in jeder Hinsicht „menschlicher“ macht
Wahrheit, Bildung, Arbeit, Wirtschaft
- Digitale Plattformen und KI-Systeme verändern die öffentliche und politische Kommunikation tiefgreifend und können mit verzerrten Narrativen sowie manipulierten Bildern und Videos die Grenzen zwischen Tatsache und Meinung, Wahrheit und Falschheit verwischen
- Wahre Information entsteht nicht aus zentralisierter oder automatisierter Kontrolle, sondern verlangt Prüfung, Abgleich von Quellen und verantwortliche Argumentation
- Die Suche nach Wahrheit ist ein unverzichtbares Element der Demokratie; wenn die Frage danach, was wahr ist, geschwächt wird, wird auch das demokratische Leben geschwächt
- Bildung im Umgang mit KI muss nicht nur einschließen, wann und zu welchem Zweck KI eingesetzt werden sollte, sondern auch die Fähigkeit schulen zu erkennen, wann man sie nicht verwenden sollte
- Die Bequemlichkeit, schnell Antworten oder Zusammenfassungen zu erhalten, kann das Verlangen zu fragen und die Fähigkeit zum vertieften Lernen schwächen
- Frühe unbeaufsichtigte Exposition gegenüber digitalen Geräten und sozialen Medien kann sich negativ auf Schlaf, Aufmerksamkeitsspanne, Emotionsregulation und Beziehungen auswirken
- Gewalttätige und beleidigende Inhalte online, Pornografie und übersexualisiertes Material, Grooming, Erpressung und sexuelle Ausbeutung Minderjähriger werden durch Fake-Profile, Algorithmen, die riskante Kontakte erleichtern, und KI-Werkzeuge zur Bild- und Videomanipulation noch raffinierter
- Arbeit ist nicht bloß eine Einkommensquelle, sondern ein Bereich, in dem die Würde des Lebens ausgedrückt und gefördert wird; Ziel ist, dass jeder durch seine Arbeit in Würde leben kann
- Die Konvergenz von Automatisierung, Robotik und KI verändert die Arbeitsstrukturen schnell und birgt das Risiko, dass nicht Maschinen die Arbeiter unterstützen, sondern Arbeiter gezwungen werden, sich dem Tempo und den Anforderungen der Maschinen anzupassen
- Die Einführung von Automatisierung und KI muss von überprüfbaren Maßnahmen zum Beschäftigungsschutz, zur Umschulung und zur Beteiligung der Arbeitnehmer begleitet werden
- BIP allein reicht kaum aus, um das allgemeine Wohlergehen von Menschen und Umwelt zu bewerten; nötig sind Indikatoren, die auch Arbeitswürde, gemeinsamen Wohlstand, den Abbau von Ungleichheit und den Schutz der Umwelt berücksichtigen
- Im Zeitalter von KI und Robotik kann man sich nicht allein auf die unsichtbare Hand des Marktes verlassen; die Politik muss Wirtschaft und Technologie auf das Gemeinwohl ausrichten
- Suchtformen im Zusammenhang mit der digitalen Aufmerksamkeitsökonomie sind darauf ausgelegt, Zeit und Aufmerksamkeit der Nutzer festzuhalten, Verwundbarkeiten auszunutzen und die innere Freiheit zu schwächen
- Umfangreiche Datensammlung und algorithmische Systeme schaffen neue Risiken sozialer Kontrolle, indem sie Bewegung, Käufe, Beziehungen und Vorlieben profilieren und Verhalten beeinflussen
Verborgene Arbeit, Sklaverei und Datenkolonialismus
- Die unmittelbaren und perfekt wirkenden Antworten der KI sind das Ergebnis einer langen Vermittlungskette, die natürliche Ressourcen, Energieinfrastruktur und Menschen einschließt
- Die digitale Wirtschaft beruht auf zahllosen Arbeitsleistungen, die wesentlich, aber fast unsichtbar sind, etwa Datenlabeling, Modelltraining und Inhaltsmoderation
- Beschäftigte in der Inhaltsmoderation haben oft mit verstörendem Material zu tun; vielfach sind sie jung, überwiegend Frauen und arbeiten unter harten Bedingungen für niedrige Löhne
- Der Abbau der für KI-Geräte und Mikroprozessoren nötigen Ressourcen ist noch härter; in einigen Regionen hantieren Kinder und Jugendliche unter gefährlichen Bedingungen mit Materialien zur Gewinnung seltener Erden
- Kriminelle Netzwerke nutzen Online-Plattformen, Messaging-Systeme, anonyme Zahlungsweisen und Profiling-Technologien, um Opfer des Menschenhandels anzuwerben, zu kontrollieren und zu transportieren
- Menschenhandel muss als moderne Form der Sklaverei und als schwerwiegende Verletzung der Menschenwürde anerkannt werden
- Kolonialismus zeigt sich heute nicht nur in der Beherrschung von Körpern, sondern auch als Datenkolonialismus, der sich Daten aneignet und das Leben von Menschen in ausbeutbare Informationen verwandelt
- Lebensbezogene Daten wie Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Informationen können zum Training von Vorhersagemodellen, zur Steuerung von Investitionsstrategien, zur Krisenprognose und zur Bewertung von Relevanz genutzt werden
- Es muss sichergestellt werden, dass Daten, die im Namen von Hilfe, Forschung und Innovation gesammelt werden, nicht zu Instrumenten der Herrschaft, sondern zu einem echten Gemeinwohl werden
- Die Transparenz der Lieferketten, die die Technologiebranche und die digitale Wirtschaft tragen, muss erhöht werden, damit Wettbewerbsvorteile nicht auf verborgener Ausbeutung beruhen
- Unternehmen und Investoren sollten präventive ethische Prüfungen, den Schutz von Arbeitern, Maßnahmen gegen Zwangsarbeit und die Bewertung der gesellschaftlichen Auswirkungen datenbasierter Geschäftsmodelle priorisieren
- Digitale Plattformen müssen verantwortungsvoll mit Behörden und Zivilgesellschaft kooperieren, damit Kommunikations-, Zahlungs- und Profiling-Werkzeuge nicht zu Kanälen für die Anwerbung und Kontrolle von Opfern werden
Krieg, Waffen und Multilateralismus
- KI und die digitale Revolution verstärken nicht nur traditionelle Kriegsführung, sondern auch hybride Konflikte wie Cyberangriffe, Informationsmanipulation, Einflusskampagnen und die Automatisierung strategischer Entscheidungen
- Wenn Technologie von Ethik und Verantwortung getrennt wird, kann sie Entscheidungen über Leben und Tod schneller und unpersönlicher machen und den Einsatz von Gewalt wie eine unmittelbare und praktikable Option erscheinen lassen
- KI kann die Verteidigung und den Schutz von Zivilisten stärken, birgt aber auch das Risiko, die Schwelle zum Gewalteinsatz zu senken, Menschen vor Verantwortung zu verbergen und den Feind auf Statistiken sowie Opfer auf „Kollateralschäden“ zu reduzieren
- Die Zivilisation der Liebe ist keine naive Utopie, sondern ein anspruchsvolles Projekt, das Liebe in Strukturen der Gerechtigkeit übersetzt und der Brüderlichkeit institutionelle Form gibt
- Die Kultur der Macht normalisiert den Krieg, strebt nach größerer militärischer Stärke, nutzt die Krise des Multilateralismus aus und fördert einen falschen Realismus, der behauptet, „es gibt keine Alternative“
- 1965 rief der heilige Paul VI. vor der Generalversammlung der UN: „Nie wieder Krieg, nie wieder Krieg!“
- Heute kehrt der Krieg im Zuge von Wiederaufrüstung und im öffentlichen Diskurs als Mittel internationaler Politik zurück, und die ethischen Prinzipien, die den Einsatz von Gewalt früher begrenzten, werden schwächer
- Das Wachstum des militärisch-industriellen Komplexes ist zu einem prägenden Merkmal der politischen Landschaft und zu einem Schlüsselsektor der Wirtschaft mehrerer Länder geworden
- Der Glaube, nukleare Abschreckung sei eine unverzichtbare Voraussetzung von Sicherheit, trägt zu neuen Rüstungswettläufen, zum schrittweisen Zerfall von Verträgen zur Nuklearabrüstung und zur Entwicklung miniaturisierter Waffen bei, deren Einsatz praktikabler erscheint
- Je leichter autonome Waffensysteme eingesetzt werden können, desto „machbarer“ wird Krieg und desto weniger unterliegt er menschlicher Kontrolle
- Es ist nicht zulässig, tödliche oder unumkehrbare Entscheidungen künstlichen Systemen zu überlassen, und kein Algorithmus kann Krieg moralisch akzeptabel machen
- Alle Systeme, die im Kriegskontext eingesetzt werden, müssen es ermöglichen, Entscheidungsprozesse nachzuverfolgen und zu rekonstruieren; Verantwortung und Schuld dürfen nicht in der „Maschine“ verschwinden
- Dialog und Diplomatie müssen die Standardmittel der Konfliktlösung sein, und es braucht gemeinsame Regeln zum Schutz von Zivilisten und Verwundbaren auch gegen unsichtbare Gewalt wie Cyberangriffe, Datenmanipulation und Einflusskampagnen
- Internationale Organisationen, darunter die United Nations, können den Dialog zwischen Staaten, die friedliche Beilegung von Konflikten, die ganzheitliche Entwicklung der Völker, den Schutz der Verwundbaren, Abrüstung und die Sorge um die Schöpfung fördern
Schutz des Menschen im Zeitalter der KI und christliches Leben
- Die Frage, wie der Mensch im Zeitalter der künstlichen Intelligenz geschützt werden kann, ist mit dem Geheimnis der Inkarnation verbunden, in dem das Wort Mensch wurde und in die menschliche Bedingung eingetreten ist
- Gott nimmt die menschliche Schwäche auf sich und verwandelt sie in einen Ort des Heils; für Gott gibt es keinen menschlichen Augenblick und keine Situation ohne Wert
- Kein noch so ausgefeiltes Rechensystem kann ein Herz hervorbringen, das sich selbst hingibt, oder ein Gewissen, das Gut und Böse unterscheidet; das menschliche Gesicht bleibt im Zentrum der Geschichte
- Eucharistic spirituality wird als Spiritualität kirchlicher Einheit in der Liebe dargestellt und führt zu Gerechtigkeit, Teilen und vorrangiger Sorge für jene, die von Armut und Marginalisierung belastet sind
- Neue wirtschaftliche und technologische Netzwerke können Ausgrenzung, Isolation und Abhängigkeit schaffen; nötig ist daher ein anderes Paradigma, das menschliche Verbundenheit bewahrt und den Unsichtbaren eine Stimme gibt
- Die Bauaufgabe unserer Zeit muss die Beziehung zu Gott ins Zentrum stellen, menschliche Grenzen als natürliche und positive Wirklichkeit annehmen und durch gemeinsame Verantwortung sowie die Sprache des Evangeliums geprägt sein
- Wie man in menschlicher Weise mit der digitalen Welt in Beziehung tritt, muss als Teil der Glaubensbildung und des Lebens nach dem Evangelium gelernt werden; die digitale Welt wird als ein neuer Kontinent betrachtet, der evangelisiert werden soll
- Orte und Zeiten physischer Präsenz wie gemeinsame Mahlzeiten, Treffen christlicher Gemeinschaften, Zeit mit Einsamen und der Dienst an Armen müssen geschätzt werden
- Das Bild des Wiederaufbaus bei Nehemia beleuchtet die Berufung in der Zeit des digitalen Wandels und fordert dazu auf, angesichts gesellschaftlicher und kultureller Brüche nicht passive Beobachter oder Kommentatoren zu bleiben
- Orte des Wiederaufbaus sind Forschungslabore, Technologieunternehmen, Schulen, Medien, Institutionen und lokale Gemeinschaften; mit Zuhören, Mut, Gebet und Verantwortung gilt es, die Stadt des Menschen lebenswerter zu machen
1 Kommentare
Lobste.rs-Kommentare
Allein dass so ein Dokument existiert, ist schon eine SF-artige Realität, von der ich nie gedacht hätte, dass ich sie noch erleben würde
Heute spricht kaum noch jemand darüber, aber es ist immer noch absurd seltsam
Hätte man so etwas in ein Buch geschrieben, hätte es, egal ob SF oder nicht, viel zu „fiktional“ gewirkt. Von der Neigung eines Gewehrs hing viel zu viel ab
Antwort von Anthropic
„Wenn es hilfreich ist, erkläre ich es manchmal als etwas, das ein bisschen dem ähnelt, fiktive Figuren zum Leben zu erwecken“
Von allen bei Anthropic geht für mich ein Gefühl von reinem Bösen aus
Dass dieser Link auf lobste.rs gepostet wurde, ist für mich eine ziemlich angenehme Überraschung
Direkt nach der Wahl des Papstes habe ich mir selbst versprochen, die erste Enzyklika wirklich zu lesen, und es freut mich, dass es tatsächlich um ein Thema geht, das mich interessiert
Hoffentlich finde ich am Wochenende Zeit, mich richtig hineinzuknien. Ich habe Kapitel 1 überflogen und die Zahl der Literaturverweise gesehen, daher wirkt es nicht wie ein leicht konsumierbarer Text