- Kredit-Score, LinkedIn-Empfehlungen, Uber-Bewertungen und andere Alltags-Apps funktionieren bereits als soziale Kreditsysteme
- Über Chinas soziales Kreditsystem gibt es im Westen große Missverständnisse, tatsächlich ist es jedoch begrenzt und dezentralisiert
- Westliche Gesellschaften bauen verschiedene Systeme zur Verhaltensbewertung auf, und auch die Infrastruktur zu ihrer Vernetzung entwickelt sich weiter
- Durch Datenaustausch und Zusammenarbeit zwischen Unternehmen und Staat sowie hohe Wechselkosten wird ein tatsächlicher Ausstieg immer schwieriger
- Wenn Regeln und Scores künftig transparenter werden, können Nutzer die Spielregeln verstehen und entsprechend wählen
Das bereits existierende System des „sozialen Kredits“
- Kredit-Scores, Empfehlungen auf LinkedIn, Fahrgastbewertungen bei Uber, Engagement-Metriken auf Instagram, Amazon-Rezensionen, Airbnb-Host-Status sind allesamt soziale Kreditsysteme, die das Verhalten von Nutzern verfolgen und bewerten und danach Zugangsrechte, Chancen und soziale Stellung bestimmen
Die Ausweitung des Begriffs sozialer Kredit
- Ursprünglich war social credit ein wirtschaftliches Konzept zur Verteilung industrieller Gewinne, um die Kaufkraft von Konsumenten zu erhöhen
- Heute bezeichnet es jedes System, das Verhalten verfolgt, bewertet und anhand dieses Scores Zugang zu Diensten und sozialen Status festlegt
Die Realität, in der wir bereits leben
- Jedes Mal, wenn ein Algorithmus Verlässlichkeit, Verantwortungsbewusstsein und sozialen Wert bewertet, nehmen wir an einem sozialen Kreditsystem teil
- Diese Bewertungen erfolgen unsichtbar auf unzähligen Plattformen und werden bereits auf das gesamte Alltagsleben angewandt
- Der Unterschied zu China besteht darin, dass die chinesische Regierung dies offen erklärt, während der Westen es als „User Experience“ tarnt und verbirgt
Chinas sozialer Kredit: Missverständnisse und Realität
- Im Westen wird Chinas soziales Kreditsystem oft als totalitäre Überwachung imaginiert, tatsächlich existiert Stand 2024 jedoch kein landesweites System
- Durch die Abschaffung vieler privater Scoring-Systeme und das Ende lokaler Pilotprojekte ist es derzeit weitgehend auf Finanz- und Unternehmensaufsicht beschränkt
- Die Bewertung individuellen Verhaltens bleibt auf Pilotstädte oder begrenzte Experimente beschränkt, mit sehr begrenztem Umfang und Einfluss
- Tatsächlich wird meist nur die Nichtbefolgung von Gerichtsurteilen (Schulden, unbezahlte Bußgelder usw.) erfasst
Die westliche Realität: verteilte Bewertung und vernetzende Infrastruktur
- Es gibt verhaltensbezogene Profile je Plattform – etwa bei Kredit-Scores, Uber, Instagram, LinkedIn und Amazon –, und diese bestimmen Zugang zu Diensten, Chancen und soziale Verbindungen
- Einige alternative Kreditgeber nutzen sogar Social-Media-Profile für die Kreditbewertung
- Zahlungs-Apps und Finanzdienste analysieren sogar Zahlungsmuster und Transaktionsverhalten der Nutzer, um umfassendere Risikoprofile zu erstellen
- LinkedIn verstärkt die Nutzung von Daten für algorithmische Sichtbarkeit und die Bewertung von Netzwerkstärke; auch Amazon und Instagram bauen die Nutzung von Verhaltensdaten aus
- Diese Systeme sind noch nicht vollständig integriert, doch die Infrastruktur, um sie miteinander zu verknüpfen, entsteht zunehmend
Transparenz und Regeln
- In China werden die Bewertungskriterien trotz der Dezentralisierung oft offengelegt
- Bei westlichen Unternehmen bleiben die Entscheidungskriterien der Algorithmen dagegen vollständig als Blackbox verborgen
Unternehmen vs. Staat: grundlegende Unterschiede und Realität
- Hohe Wechselkosten beim Plattformwechsel (z. B. das Google-Ökosystem, das LinkedIn-Netzwerk)
- Die Verhaltens- und Kreditinformationen jeder Plattform werden zunehmend geteilt, verknüpft und in Zusammenarbeit genutzt, wodurch ihr Einfluss wächst
- Auch der Staat nutzt Unternehmensdaten bereits über rechtliche Verfahren und den Kauf von Daten
Warum sich soziale Kreditsysteme ausweiten
- International lösen soziale Kreditsysteme Probleme wie Betrugsprävention, Förderung von Zusammenarbeit und Lenkung von Verhalten im großen Maßstab
- Auch westliche Gesellschaften bewegen sich bereits in Richtung einer umfassenderen und stärker integrierten Verhaltensbewertung
- Europa verstärkt die Verknüpfung von digitaler Identität und Scoring
- Einige Städte in den USA experimentieren mit Verhaltensanreizen
- Große Plattformen bauen den Austausch von Reputationsdaten aus, und Finanzdienste führen Analysen sozialer Medien ein
Die Zukunft, die uns erwartet, und unsere Wahl
- Wenn Systeme Verhaltens-Scores zunehmend transparenter offenlegen und Regeln sichtbar werden, können Nutzer erkennen, welches Verhalten ihren Score beeinflusst
- Wenn algorithmische Empfehlungen in Wirklichkeit versteckte soziale Kreditbewertungen sind, könnte ein System, das seine Bewertungskriterien offenlegt, sogar vorzuziehen sein
- Wer die Regeln versteht, kann selbst entscheiden, ob er aktiv am Spiel teilnehmen will
Fazit
- Künftig könnten soziale Kreditsysteme chinesischer Prägung westliche Plattformen zunehmend beeinflussen und sich in Richtung einer stärkeren Offenlegung der Regeln und Strukturen von Verhaltens-Scores entwickeln
- Es ist an der Zeit zu verstehen, wie das System funktioniert, und zu erkennen, dass man selbst ein Spieler in diesem Spiel ist
1 Kommentare
Hacker-News-Meinung
Es wird darauf hingewiesen, dass das Leben unter autoritären Regimen in amerikanischen Medien und Diskursen stark verzerrt dargestellt wird. Tatsächlich unterscheide sich der Alltag in vielen Ländern, sofern man nicht zu Minderheiten, politischen Aktivisten, Kriminellen oder anderen Sonderfällen gehört, kaum vom Westen. Doch die meisten Menschen wollten das nicht hören, weil sie glauben möchten, dass sie ein solches Leben niemals hinnehmen würden. Auch in westlichen Staaten schreite die Autoritarisierung voran, werde aber oft verdrängt, weil die Menschen sie nicht unmittelbar spürten. Natürlich sei das Leben nicht vollständig gleich, aber der Einfluss des Autoritarismus dringe subtiler ein, als man denke
Es wird von Erfahrungen berichtet, in mehreren Ländern und sogar in Kriegsgebieten unter unterschiedlichen politischen Systemen gelebt zu haben. Trotzdem sei der Alltag fast überall ähnlich gewesen: einkaufen, zur Arbeit gehen, Freunde treffen, etwas trinken, essen gehen, Hochzeiten besuchen. Es wird erklärt, dass Darstellungen nicht-OECD- und nicht-demokratischer Staaten im Westen oft ein falsches Überlegenheitsgefühl erzeugen, obwohl dort dieselben Probleme bestünden: Vermögenskonzentration, Armut, verfolgte Minderheiten, formale politische Teilhabe, gefährliche Polizei und Korruption. Die Länder seien natürlich nicht identisch, aber kulturelle und geografische Unterschiede träten stärker hervor als politische
Es wird gesagt, dass einem die Realität eines Landes zunächst kaum auffällt, wenn man als Migrant oder unerfahrener Ausländer dort lebt. Doch je mehr man die Sprache lernt und tiefer blickt, desto eher begegnet man Problemen wie unzuverlässigen Familienbeziehungen, Hierarchien aus Bestechung und Inkompetenz, fehlendem Rechtsschutz und hoffnungslosen Klassengesellschaften. Schon in Friedenszeiten sei das so, und wenn Krieg beginne, würden Mehrheitsgruppen Minderheiten verfolgen und vertreiben
Kurzfristig möge es ähnlich wirken, aber es wird erklärt, warum viele gebildete Migranten aus der oberen Mittelschicht ursprünglich in die USA einwandern wollten. Auch Amerikas Innovationskraft, Wirtschaftskraft und militärische Stärke würden Schaden nehmen, wenn Korruption überhandnehme. Deshalb müsse Korruption beziehungsweise das Problem mangelnden gesellschaftlichen Vertrauens eingedämmt werden
Selbst wenn ein Leben abseits von Minderheitenstatus, politischem Aktivismus und juristischen Problemen ähnlich aussehen mag, gerade deshalb werde eine westlich-liberale Regierung bevorzugt. Dieses Mehr an Ideal sei etwas, womit autoritäre Regierungen kritisiert werden sollten und das es im Westen zu verteidigen gelte
Aus eigener Erfahrung in China wird berichtet, dass sich der Alltag für gewöhnliche Bürger meist völlig in Ordnung anfühle. Natürlich gebe es wie in anderen Teilen Asiens Probleme mit der Work-Life-Balance, aber es sei nicht wie im alten Russland, wie aus russischen Berichten bekannt, oder wie in der DDR mit extremer staatlicher Kontrolle gewesen. Selbst unter faschistischen Regimen könne der Alltag ruhig sein, solange man nicht zu einer „unbeliebten“ Minderheit gehöre und sich heraushalte. Allerdings gelte das nur bis zum Beginn eines Krieges
Es wird von Problemen mit dem Kreditsystem nach einem Jobwechsel von Kanada nach Kalifornien berichtet. Trotz hohen Gehalts war es ohne Bonitätsscore schwer, eine Wohnung zu finden, was nur durch Vorauszahlung eines Jahresmietbetrags gelöst werden konnte. Auch die Überweisung größerer Geldsummen von Kanada in die USA war nicht einfach. Beim Autokauf verweigerte ein Händler den Abschluss, weil die neue SSN im System noch nicht vorhanden war und die Identität deshalb nicht bestätigt werden konnte. Die lange Kundenhistorie bei Amex wurde in den USA hingegen anerkannt, sodass eine hochdotierte Kreditkarte problemlos bewilligt wurde. Daraus wird geschlossen, dass wir bereits in einem von Unternehmen betriebenen Social-Credit-System leben und dass dieses für Verbraucher womöglich sogar besser sein könnte
Ein Bonitätsscore solle eigentlich Kreditwürdigkeit messen, erfülle in der Praxis aber oft die Rolle eines willkürlichen Zugangsfilters
Es wird erklärt, dass man beim Umzug nach Kanada vor 15 Jahren fast genau dieselbe Erfahrung gemacht habe. Trotz Arbeit in der Tech-Branche, völliger Schuldenfreiheit und ausreichender Ersparnisse habe man lange keine Kreditkarte bekommen und ohne Bürgen keine Wohnung mieten können, weil eine Kredithistorie fehlte. Nach ähnlichen Erfahrungen in mehreren Ländern sei klar geworden, dass viele Gemeinschaften Migranten in Wirklichkeit diskriminieren. Egalitarismus sei ein Ideal, in der Praxis seien Vetternwirtschaft und Vorurteile aber tief in den Institutionen verankert
Bonitätsscores werden vollständig von Unternehmen verwaltet. Es sei völlig unklar, worin deren Geschäftsmodell eigentlich bestehe
Amex gehe mit solchen Problemen recht flexibel um. Auch ohne Bonitätsscore habe man leicht eine private Karte erhalten, vermutlich weil es bereits eine Nutzungshistorie mit einer geschäftlichen Amex gab
Es wird ein alter HN-Kommentar geteilt, wonach es auch im echten Leben Social Credit gebe. Wenn man etwa einen Barkeeper unhöflich behandle, bekomme man in dieser Bar einen schlechten Ruf; wenn man ehrenamtlich arbeite, baue man sich in der Organisation einen guten Ruf auf. Auch ohne Algorithmus würden Menschen sich Dinge merken
Wer wolle, könne irgendwann in eine andere Stadt ziehen und neu anfangen. Das Problem eines zentralisierten Social-Credit-Systems sei, dass der Ruf einen ein Leben lang verfolge. Selbst wenn durch einen Fehler ein falscher Eintrag entstehe, gebe es keine Möglichkeit zur Wiedergutmachung. Zwischen Menschen könne man Dinge direkt klären, ein System könne das nicht
Der Ruf in der realen Offline-Welt, also gewissermaßen Social Credit, sei meist locker, lokal begrenzt und verändere sich mit der Zeit oder verschwinde. Digitaler Social Credit dagegen bleibe als automatisierter Score ein Leben lang bestehen und erzwinge absolute Konsequenzen
Jemand meint, viele glaubten, ein Barkeeper merke sich Kunden wirklich genau, obwohl es in einer Schicht meist mehrere viel schlimmere Fälle gebe und sich daher kaum jemand darum kümmere. Auch in Non-Profits wechselten die Zuständigen mit der Zeit, und irgendwann erinnere sich niemand mehr an frühere Freiwillige. Wenn man das Gewicht bestimmter Ereignisse überschätze, liege das oft am „Spotlight-Effekt“
Der Unterschied bei Offline-Ruf bestehe darin, dass alle Beziehungen an physischen Orten und vor Ort entstehen. Eine Interaktion müsse einen tatsächlichen Wert haben. Selbst wenn man an einem Ort einen schlechten Ruf habe, ziehe dieser beim Umzug an einen anderen Ort nicht mit
Ruf sei schon immer eine Art Social-Credit-Konzept gewesen; der moderne Unterschied liege in Maßstab und Transparenz
Die Unterschiede zwischen Chinas Aufzeichnungssystemen und denen anderer Länder werden beispielhaft erklärt
Es wird betont, dass es einen wesentlichen Unterschied macht, wenn eine einzelne zentrale Macht Social Credit kontrolliert und das Recht den Einzelnen vor dieser Macht nicht schützen kann. Abgesehen davon hätten Menschen einander schon immer auf vielfältige Weise bewertet
Sobald eine zentrale Macht einen Social-Credit-„Score“ kontrolliert, werde aus bloßem sozialem Feedback strukturelle Macht
Es wird betont, dass man die aktuelle Lage in China präzise verstehen müsse. Auch 2024 gebe es dort kein landesweites persönliches Bonitätspunktesystem; vieles beschränke sich auf Instrumente zur Finanz- und Unternehmensaufsicht. In den USA hätten dagegen drei private Auskunfteien ein vollständig in das Finanzsystem integriertes Bonitätsscore-System aufgebaut. Falls ein öffentlicher Bonitätsscore eingeführt würde, wären zumindest Transparenz und Kontrolle eher möglich. Kritisiert wird, dass Equifax, Experian und andere trotz Datenlecks kaum Verantwortung tragen
Natürlich bewerten Menschen schon immer andere Menschen, aber wenn Unternehmen mich bewerten und das als „Dienstleistung“ verkaufen, ist das ein sehr großer Unterschied
Am Beispiel Amazon wird erklärt, dass mein Kauf-/Rückgabe-Verhältnis nicht an andere Unternehmen weitergegeben wird
Auf die Behauptung „Der Unterschied zwischen Chinas Social Credit und dem Handy ist nur, dass China offen sagt, was es tut“ wird erwidert, dass man zwischen vielen Handys wählen oder sogar ganz darauf verzichten könne, während einem staatlichen System überhaupt nicht zu entkommen sei. Auch wenn der Wechsel zwischen Unternehmenssystemen teuer sein könne, seien diese Kosten viel geringer als die eines Länderwechsels. Eine stärkere Zusammenarbeit privater Systeme könne problematisch sein, sei aber grundsätzlich etwas anderes als umfassende staatliche Kontrolle. Wirklich gefährlich werde es, wenn Regierungen private Daten aufkauften und damit Grundrechte einschränkten, etwa beim Einfrieren von Spendenkonten für Proteste in Kanada. Doch das Problem erschöpfe sich nicht einfach im Datenkauf. Abschließend wird darauf hingewiesen, dass schon die Definition von Social Credit selbst umstritten sei
Auf Geschichten wie „Wenn man in China zu viel Alkohol kauft, sinkt der Score“ wird mit einer Erfahrung von der ersten China-Reise geantwortet: Obwohl man damals minderjährig war, konnte man problemlos Alkohol kaufen. Es habe sich viel lockerer angefühlt als in den USA. Außerdem erscheint es effizienter, nicht die Menge des Alkoholkaufs gesetzlich zu verfolgen, sondern die Folgen, etwa Probleme durch Trunkenheit in der Öffentlichkeit
Aus Erfahrung mit einer chinesischen Ehefrau und deren Familie wird erklärt, dass minderjähriges Trinken in China eher als Familienangelegenheit gesehen werde. Wenn ein 16-Jähriger betrunken sei, achte das Umfeld aus Familie und Freunden stärker auf den Ruf, und die Polizei greife erst ganz am Ende ein. Es habe sogar den Eindruck gegeben, dass es in China viel weniger öffentliches alkoholbedingtes Fehlverhalten gebe als im Westen
Wenn jemand für eine Party oder wegen eines Sonderangebots viel Alkohol kaufe und der Score dadurch automatisch sinke, wäre das unvernünftig. Kauf bedeute schließlich nicht sofortigen Konsum
Es wird betont, dass es im Westen bereits Systeme gibt, die dem chinesischen ähneln, nur mit noch weniger Regulierung. Social Credit sei kein neues Konzept und auch nicht zwangsläufig Orwell’sche Kontrolle. Dass solche Systeme von Staaten oder Unternehmen missbraucht würden, liege daran, dass wir sie nicht verwalten, regulieren oder Transparenz einfordern. Der erste Schritt zu einer gesellschaftlichen Verständigung über nötige Regeln für Datenerhebung, Datenspeicherung und staatlichen Zugriff auf private Daten sei, die Realität anzuerkennen, dass solche Systeme bereits existieren. Der derzeitige Zustand nütze nur dem Kapital und schade Demokratie und Bürgerrechten, weshalb Veränderung nötig sei
Aus der Perspektive, dass Kredit- oder Reputationssysteme ein natürliches Ergebnis der Marktentwicklung seien, wird Schweden als Beispiel genannt, wo „Bonitätsprüfungen“ schon seit Langem sehr verbreitet seien. In jüngerer Zeit hätten Unternehmen Bonitätsscores für Verbraucher entwickelt, die Betroffene nur über ein kostenpflichtiges Abo einsehen könnten. Dieser Prozess wird als Versuch von Unternehmen beschrieben, Risiken und Kosten zu steuern und den Wert von Konsumenten für effizientere Transaktionen zu bewerten
Es wird erklärt, warum man sich in Communities ohne Beschimpfungen oder Ärger verhält. In der UseNet-Zeit habe man oft getrollt und aggressiv geschrieben, was eine sehr negative Erfahrung gewesen sei. Heute richte man sein Verhalten eher an persönlicher Integrität und dem eigenen Maßstab aus, ein produktives Mitglied der Gesellschaft zu sein. Solches Verhalten werde nicht wegen fremder Bewertungen oder des eigenen Rufs angestrebt, sondern aus Gründen, die einem selbst wichtig seien