Wie können Eliten die Präferenzen der Öffentlichkeit formen, wenn KI die Kosten der Überzeugung senkt?
(arxiv.org)- Mit dem Fortschritt KI-basierter Überzeugungstechnologien sinken die Kosten, mit denen Eliten die politischen Präferenzen der Öffentlichkeit präzise anpassen können, deutlich.
- Die Studie analysiert in einem dynamischen Modell, wie Eliten Mehrheitsregel und Überzeugungskosten berücksichtigen und wie sie dadurch die Meinungsverteilung der Öffentlichkeit neu strukturieren können.
- In einem Modell mit einzelner Elite zeigt sich, dass bessere Überzeugungstechnologie tendenziell dazu führt, dass die Gesellschaft zu einem extremen Polarisierungszustand konvergiert.
- Im Gegensatz dazu kann ein Szenario mit zwei gegensätzlichen Eliten, die die Macht abwechselnd innehaben, die Überzeugungstechnologie in einen ‚Semi-Lock‘-Zustand lenken und Polarisierung sogar abschwächen.
- Somit wird bei fallenden KI-bedingten Überzeugungskosten Polarisierung eher zu einem Werkzeug der Herrschaftsstrategie statt eines spontanen Phänomens – mit gravierenden Folgen für die Stabilität der Demokratie.
Wandel der Überzeugungstechnik in der Demokratie
- In Demokratien ist die Gewinnung öffentlicher Unterstützung für die Durchsetzung von Politik unerlässlich; Eliten müssen daher die Überzeugungen der Bevölkerung formen oder verändern.
- Früher war man auf langsame und ineffiziente Mittel wie Schulbildung, öffentlich-rechtliche Medien, Propaganda und Fördernetzwerke angewiesen.
- Wegen der hohen Kosten und geringen Präzision war großflächige Meinungsmanipulation schwierig.
- Die Verbreitung von KI verändert diese Beschränkung grundlegend.
- Generative Modelle und Agentensysteme ermöglichen die massenhafte, in Echtzeit stattfindende Erstellung von personalisierten Überzeugungsinhalten.
- Mit sinkenden Überzeugungskosten wird die Verteilung öffentlicher Präferenzen selbst zur strategischen Variable der Eliten.
Modell einer einzelnen Elite: ‚Polarisierungszug‘
- Eine einzelne Elite passt in jedem Zeitschritt unter der Mehrheitsregel die öffentliche Unterstützung für ihre Politik an.
- Bei vorhandenen Überzeugungskosten ist es vorteilhaft für die Elite, die Gesellschaft in einem leicht gespaltenen Zustand zu halten, um auf zukünftige Unsicherheit zu reagieren.
- Je näher die öffentliche Meinung an 50:50 liegt, desto geringer sind die Kosten für einen späteren Unterstützungswechsel, falls sich die politische Richtung im nächsten Schritt ändert.
- Daher neigt die Elite dazu, die Meinung von der Konsensnähe weg und in Richtung der Extremen zu verschieben.
- Je stärker die Überzeugungstechnologie fortschreitet, desto schneller beschleunigt sich diese Konvergenz zur Polarisierung.
- Die mathematische Analyse ergibt, dass es optimal ist, die öffentliche Meinung in Richtung des Mittelpunkts (1/2) zu verschieben, wobei nur Abweichungen vom Konsens vorgenommen werden.
Wettbewerbsmodell mit zwei Eliten: Effekt des ‚Semi-Lock‘
- Wenn zwei Eliten mit entgegengesetzten Politikpräferenzen die Macht abwechselnd ausüben, verändert sich die Wirkung der Überzeugungstechnologie.
- Beide Eliten versuchen, die öffentliche Meinung nahe am Mehrheitskonsens zu halten, da extreme Polarisierung ein hohes Risiko birgt, vom Gegenspieler leicht zurückerobert zu werden.
- Deshalb versuchen beide Eliten, die Öffentlichkeit in einen mittleren, schwer umkehrbaren Verharrungsbereich zu verschieben.
- Dadurch kann Überzeugungstechnologie je nach Umfeld sowohl Polarisierung verstärken als auch dämpfen.
- Bei intensiver Konkurrenz besteht die Möglichkeit einer Zunahme des sozialen Zusammenhalts.
Abgrenzung zu früherer Forschung
- Bisherige Literatur analysierte Polarisierung als Ergebnis exogener Faktoren wie Einkommen, Identität und Medienstrukturen.
- Diese Studie modelliert Polarisierung stattdessen als strategisch gewähltes politiksteuerndes Instrument von Eliten.
- Außerdem wird der langfristige Einfluss der KI-basierten Fortschritte der Überzeugungstechnologie auf die Neuordnung von politischem Gleichgewicht und Meinungsverteilung analysiert.
- Dazu werden verwandte Arbeiten zu LLM-basierter Überzeugungsforschung (Salvi et al., Schoenegger et al., Tappin et al.) sowie zum wirtschaftlichen Einfluss von KI (Korinek, 2024) herangezogen.
Implikationen für die Stabilität der Demokratie
- Mit sinkenden Überzeugungskosten ist Polarisierung nicht mehr als spontanes Ergebnis, sondern wird zum strategischen Steuerungsinstrument der Herrschaft.
- Dies kann politische Instabilität und das Risiko von Desinformation und Manipulation erhöhen.
- Da die KI den Struktur- und Kostenrahmen politischer Überzeugung neu ordnet, stellt sie die langfristige Tragfähigkeit demokratischer Institutionen vor neue Herausforderungen
1 Kommentare
Hacker-News-Meinung
Beim Lesen von Converses Essay kommt die Frage auf, ob die Öffentlichkeit tatsächlich eigene Meinungen hat
Nimmt man zum Beispiel das Thema Zölle, zeigen Umfragen zwar rund 38 % Zustimmung, aber nach Brancheninteressen dürfte der Wert deutlich niedriger liegen
Einzelhandel, Dienstleistungen und Baugewerbe haben keinen Nutzen von Zöllen, und selbst in der Industrie ist die Lage wegen der Abhängigkeit von importierten Rohstoffen kompliziert
Am Ende befürworten vor allem nur die Stahl- und Aluminiumindustrie Zölle, und das sind etwa 2 % des BIP
Interessanterweise erschien dieses Buch 1964 und behandelt die Zeit kurz vor dem Ausbruch gesellschaftlicher Unzufriedenheit wie dem Vietnamkrieg und der Gegenkulturbewegung
Es wird als Ergebnis einer Kosten-Nutzen-Analyse gesehen, um die Abhängigkeit vom Ausland zu verringern und Arbeitsplätze zu schaffen
Viele überschätzen ihr eigenes Wissen und glauben, ihre Meinung müsse in politischen Entscheidungen gleichwertig behandelt werden
In westlichen Gesellschaften hat sich zudem eine Kultur verbreitet, in der man die Ansichten anderer weder ernsthaft hinterfragt noch Verantwortlichkeit einfordert, was dieses Phänomen verstärkt
Der Artikel ist keine speziell auf AI zugeschnittene Diskussion
Im Kern geht es um die Kostenstruktur von Überzeugung, und AI wird nur als Werkzeug erwähnt, das Propagandamaterial billiger erzeugt
Dieselbe Logik ließe sich auch auf Facebook-Targeting-Werbung oder russische Trollfabriken anwenden
Weil AI selbstsicher formuliert, entsteht ein Eindruck von Autorität
Das eigentliche Problem ist der Einfluss der Superreichen, die solche Botschaften kontrollieren
Gedanken dazu stehen in diesem Blogbeitrag
Russische Trolle könnten per Automatisierung zehnmal so viel Content produzieren, während spontane Gegenbewegungen nicht in gleichem Maß mitwachsen können
Viel Gutes wird dadurch möglich, aber das Problem ist, dass auch schlechte Dinge billig möglich werden
Manipulation der öffentlichen Meinung durch Eliten gibt es schon seit der Zeit von Zeitungen und Rundfunk
Dasselbe galt für Schulbücher und Lehrpläne
LLMs könnten sogar widerstandsfähiger gegen Propaganda sein, direkt nach Enzyklopädien
Weil kommerzieller Wettbewerb existiert, würden Nutzer schnell merken und abspringen, wenn ein bestimmtes Modell zu stark verzerrt ist
Auch das Konzept der „objektiven Berichterstattung“ entstand letztlich aus einer kommerziellen Strategie zum Aufbau von Vertrauen
Ein „freier Denker“ zu sein, bedeutet oft, als „seltsamer Mensch“ zu gelten
Die Menge kann falschliegen, aber wer allein anders denkt, zahlt einen hohen sozialen Preis
Ich zum Beispiel finde, dass nur eine Matratze ohne Bettgestell bequemer ist, aber die meisten halten das für merkwürdig
Am Ende werden wir allein geboren und sterben allein, die Anerkennung anderer ist vergänglich
Ohne Belüftung kann sich Schimmel bilden, und für ältere oder körperlich eingeschränkte Menschen ist es unbequem
Ein für den Boden konzipiertes Produkt wie ein Futon ist dafür besser geeignet
Große AI-Modelle werden bereits auf sensible Themen feinabgestimmt (fine-tuning)
Die Ausrichtung wird nach dem Konsens von Rechts-, Marketing- und Governance-Teams der Unternehmen vorgenommen, und Millionen Menschen verwenden das Ergebnis unverändert
Ich habe mit Hilfe von AI erfolgreich 200 Dollar von einer Bank zurückbekommen
Anhand von PDF-Dokumenten der Bank hat AI ein formelles Antragsschreiben formuliert
Wenn Banken solche Anfragen künftig mit AI bearbeiten, kommt die Zeit, in der AI AI überzeugt
Dann braucht es einen neuen LLM-Benchmark: AI-persuasion™
ML-basierte Beeinflussung und Manipulation gibt es bereits seit zehn Jahren
Data Mining und Ad-Targeting sind ausgereifte Technologien
Besorgniserregend ist nicht spontane Überredung, sondern der strukturelle Einfluss, durch den Überzeugungen seit der Kindheit geformt werden
Die „iPad-Generation“ wirkt dafür wie ein beängstigendes Beispiel
Menschen akzeptieren die erste Information oft als Wahrheit und reagieren emotional, wenn sie später widerlegt wird
Als Kind eingeprägte „Fakten“ lassen sich später nur schwer ändern, und automatisierte Systeme können das in großem Maßstab leisten
Gefährlich ist das, weil die Kosten der Manipulation fast gegen null gehen
Gegen eine privat überwachte Gesellschaft haben wir keine Schutzmechanismen
Das eigentliche Problem, das gelöst werden müsste, sind alltägliche Fragen wie Bildung, Wohnen, Nahrung und Lebenshaltungskosten
In den meisten Epochen der Menschheitsgeschichte herrschte eine feudale Struktur, in der wenige Eliten Reichtum und Macht monopolisierten
Die heutige Ungleichheit ist ein beabsichtigtes Ergebnis des Systems und wird sich weiter verschärfen
Alphabetisierung, Bildungsbeteiligung und Ernährungszustand sind viel besser als 1925
Nur Wohn- und Lebenshaltungskosten haben sich in den letzten 20 Jahren wieder verschlechtert
Dank Social Media und AI sind die Kosten der „Big Lie“ stark gesunken
Deshalb lassen sich Botschaften wie die Betonung sinkender Preise durch Regierungen leicht verbreiten
Die eigentliche „Big Lie“ wird durch Infiltration durch wenige Insider möglich, und die CIA hat bereits gezeigt, wie effizient das sein kann
Schon vor fast einem Jahrhundert wurde diese Lage in George Orwells 1984 vorausgeahnt
Beschrieben wird der Albtraum einer Informationskontrolle, in der Aufzeichnungen in Echtzeit geändert und die Vergangenheit ausgelöscht wird
Original lesen