- In großen Apps wie Hinge und Uber arbeiten hochentwickelte Algorithmen und psychologische Techniken darauf hin, den Profit aus den Nutzern zu maximieren
- Bei nahezu jeder alltäglichen Interaktion der Gesellschaft greift ein KI-basierter Vermittler ein und schafft eine Struktur zur Abschöpfung zusätzlicher Gewinne
- Unternehmen passen ihre Algorithmen schnell an die Reaktionen der Nutzer an, um den Lifetime Customer Value zu maximieren
- Um im Wettbewerb nicht zurückzufallen, muss man auf diesen Trend aufspringen, weshalb das als kollektives Problem betrachtet werden kann
- Manipulation im großen Maßstab mit Daten, Machine Learning und psychologischen Methoden wird zum Alltag und ist ohne grundlegende Veränderungen kaum zu verbessern
Problemaufriss: Die Veralltäglichung von Algorithmen und psychologischen Techniken
- Große Dienste wie Hinge und Uber sind so aufgebaut, dass sie mit Boosts, Trinkgeld-Bildschirmen und Vertriebsalgorithmen den größtmöglichen Profit aus den Nutzern ziehen
- In fast allen Bereichen des Alltags greift eine vermittelnde KI ein, und über fortgeschrittene KI-Algorithmen verbreitet sich gesellschaftsweit die Methode, immer noch „ein bisschen mehr“ herauszuholen
- Beim Kaffeekauf, beim Dating oder beim Geldsenden an Freunde werden bösartige Vermittler automatisiert und auf Gewinnerzielung ausgerichtet
Möglichkeit der Markt-Selbstkorrektur und Anpassungsfähigkeit der Algorithmen
- Viele Menschen scheinen Manipulationen irgendwann leid zu werden und ihnen auszuweichen, doch Unternehmen antizipieren das bereits und reagieren über Daten-Dashboards sofort darauf
- KI arbeitet so, dass sie Abwanderung verhindert, noch bevor Nutzende Unbehagen bewusst wahrnehmen, etwa durch Emotionssteuerung und zusätzliche Belohnungen
Wettbewerb und das Problem kollektiven Handelns
- Selbst wenn man sich solchen Systemen entziehen will, verschärft sich im Wettbewerb der Effekt, dass alle Anbieter mitmachen müssen, sonst geraten sie ins Hintertreffen
- Alle Kennzahlen (Metriken) werden zum Gegenstand des Wettbewerbs, und wie in der „Red Queen’s Race“ werden soziales Kapital und Werte geopfert, nur um nicht zurückzufallen
Reale Gesellschaftsstruktur und die Schwierigkeit von Veränderung
- Die gesamte Gesellschaft ist in diese Struktur eingebettet, sodass ein Problem kollektiven Handelns besteht, das sich nicht durch individuellen Ausstieg grundlegend lösen lässt
- In einer algorithmisch gesteuerten Demokratie ist selbst die Wahlmöglichkeit (Stimmabgabe) von realer Veränderung entkoppelt, was darauf hindeutet, dass innerhalb der bestehenden Ordnung nicht Reform, sondern nur grundlegender Wandel (Revolution) eine tatsächliche Lösung sein kann
Fazit und das Wesen des Problems
- Werbung, Preisdiskriminierung und groß angelegte datenbasierte Manipulation sind ihrem Wesen nach falsch
- Der moderne Kapitalismus treibt menschliches Verhalten wie beim Phänomen des „Wireheading“ in extreme Richtungen und macht deutlich, dass dieses Problem inzwischen eine neue Ebene von Größe und unterschiedsloser Manipulation erreicht hat
1 Kommentare
Hacker-News-Meinungen
Erklärung einer Situation, in der für manche Menschen gerade der Sinn darin bestand, eine Prämie zu zahlen, um die Schlange zu umgehen; zugleich der Hinweis auf die Realität, dass die Schlange am Ende trotzdem bestehen bleibt, wenn alle anfangen, die Prämie zu zahlen. Dieses Phänomen sei im australischen Linienflugverkehr besonders deutlich: Durch Fly-in-Fly-out-Arbeit sei Club-Status alltäglich geworden, und Boarding-Vorteile oder Prämienflüge seien fast verschwunden. Kurz gesagt werde betont, dass diskriminierende Preisgestaltung und Statusstreben gesellschaftlich schädliche Muster werden, wenn sie auf Verbraucher zielen. Geschildert werden persönliche schlechte Erfahrungen mit Uber und die Verschlechterung des Taxidienstes, dazu Kritik an Ubers Geschäftsmodell, das illegale Markteintritte toleriert habe. Zugleich wird eingeräumt, dass Uber inzwischen so normal geworden ist, dass selbst Surge Pricing kaum noch auffällt. Außerdem wird Unbehagen darüber ausgedrückt, dass in Australien eine Trinkgeldkultur eingeführt wird. Da es einen gesetzlich garantierten Mindestlohn und Zuschläge gibt, solle die Trinkgeldfunktion deaktiviert werden. Auch der Streit in Europa über verpflichtend eingeschlossenes Gepäck bei Flügen wird erwähnt sowie die eigentümliche Kultur, in der man sogar dafür verspottet wird, saubere Unterwäsche dabeizuhaben.
Standpunkt, dass Nicht-Amerikaner die Trinkgeldkultur entschieden zurückweisen sollten; Warnung, dass die Löhne noch weiter sinken, sobald Trinkgeld einmal üblich wird, und die Forderung, Trinkgeld grundsätzlich gar nicht erst anzunehmen.
Uber und Lyft seien zwar teuer, aber im Vergleich zum früheren Taxidienst sei die Lage heute viel besser. Abgesehen von Großstädten wie New York musste man früher im Telefonbuch nach Namen suchen und bei dubiosen Firmen reservieren, und ein Auto zu bekommen war schwierig. Heute kann man überall sofort per App ein Auto rufen, und es geht schnell. Fragwürdige Praktiken gegenüber Fahrern oder Fahrgästen seien klar ein Problem, aber es bestehe überhaupt kein Wunsch, zu den alten Verhältnissen zurückzukehren.
Besonders bei europäischen Billigfluglinien machten fast alle die Erfahrung, dass nahezu jeder Priority Boarding kauft. Früher hatte es noch Bedeutung, gegen Aufpreis früher hineinzugehen, heute sei die Warteschlange für Priority Boarding ironischerweise teils länger. Bei Ubers Surge-Pricing-Phasen beobachte man kurz die Preisschwankungen in der App und buche dann, wenn es billiger wird. Taxifahrten seien zwei- bis dreimal teurer als Uber und zudem nicht freundlicher; da es auch keine Bewertungsfunktion gebe, meide man Taxis eher. Als konkretes Beispiel wird eine Taxifahrt zum Flughafen genannt, die günstiger als Uber war: Der Fahrer nahm einen spontan zum Uber-Preis mit, kassierte aber von anderen Fahrgästen das Fünffache. Die Haltung, Uber nicht zu nutzen, mache das Leben nur schwerer. In Europa sei Uber zudem oft schon mit zwei Personen günstiger als der Zug.
Wenn alle die Prämie zahlen und wieder eine Warteschlange entsteht, werde für Marktliberale letztlich der Preis inklusive Prämie zum echten Preis. Aus dieser Sicht müsse der Preis des Anstehens noch weiter steigen, damit sich das Problem löst.
Perspektive, dass man Warteschlangen gar nicht beachtet und es sogar angenehm findet, ganz zuletzt einzusteigen. Man könne die Prämie sparen, entspannt in der Lobby warten und erst hineingehen, wenn die Schlange fast verschwunden ist.
Die zeitlose menschliche Reaktion auf technischen Fortschritt und Manipulation sei Rückzug (disengagement). Das sei keine Theorie, sondern geschehe bereits: Digital Detox, die Rückkehr junger Leute zu Dumbphones, private DMs statt öffentlicher Feeds, die „Do-not-disturb“-Generation und ähnliche reale Beispiele. Die Diagnose lautet, dass Menschen die Manipulation spüren und sich nach und nach entziehen.
Mein Rückzugswert ist jetzt nicht mehr kostenlos zu haben. Vertreten wird die Meinung, absichtlich zufällig auszusteigen, damit keine Seite die Wirkung vorhersagen kann. Selbst der Hype um Dumbphones oder Digital Detox sei inzwischen bloß ein weiterer Lifestyle-Markt geworden; sogar das Bewusstsein für Manipulation sei zu neuem Business-Material geworden. Dazu die experimentelle Frage, wie sehr man Algorithmen hacken und dazu bringen kann, einen absichtlich falsch zu profilieren.
Erfahrung, seit 2012 vollständig mit Apps, Social Media und ähnlichen Diensten gebrochen zu haben, die das Leben zur Ware machen oder monetarisieren.
Bittere Prognose, dass Unternehmen künftig sogar auf „Rückzugs-Monetarisierung“ setzen werden; dazu ein Verweis auf YouTube watch?v=9h9wStdPkQY (nur der Linktext wird erwähnt).
Meinung, dass ein vollständiger Rückzug aus dem Kapitalismus unmöglich sei. Die erwähnten Formen des Rückzugs – etwa Digital Detox oder Dumbphones – bedeuteten nur, etwas weniger ausgebeutet zu werden, aber keine echte Befreiung von Ausbeutung.
Die Sorge, dass Rückzug etwas anderes ist als Gleichgültigkeit (nonchalance) und nicht zwingend eine gute menschliche Reaktion sein muss. Gleichgültigkeit sei eine individuelle Haltung, Rückzug ziele dagegen auf kollektive Wirkung, führe aber in den meisten Fällen nicht zu positiven Veränderungen. Stattdessen verschlechterten sich Gemeinschaft und Standards weiter; das geschehe im Namen von Gleichheit und Inklusion, während die Polarisierung in Wahrheit zunimmt. Es wird erklärt, dass nach „Occupy Wall Street“ und dem „Arabischen Frühling“ eine Form von Gleichgültigkeit bzw. Hyper-Individualismus populär wurde, durch die selbst Politiker und Führungskräfte ihr Verantwortungsgefühl verlieren und sich stärker auf die eigene Karriere konzentrieren. Als Referenzen werden Broken Windows Theory Wikipedia und The Subtle Art of Not Giving a F*ck genannt.
Es wird darauf hingewiesen, dass das vom Autor entwickelte Produkt openpilot nicht mehr funktioniert, wenn es 14 Tage lang keine Internetverbindung hat; dazu wird ein relevanter Code-Link geteilt.
Normalerweise meidet man Georges nichttechnische Texte, bewertet diesen diesmal aber als bedeutsam. Üblicherweise fehle es ihnen an Selbstreflexion und an der nötigen Reue, diesmal könne der Text jedoch ein Anlass zur Selbstprüfung sein. Es wird geäußert, dass in der HN-Community zuletzt eine ähnliche Stimmung zunehme und dass Veränderungen dringend nötig seien.
Beim Titel "Are we the baddies?" habe man erwartet, eine Reflexion über die eigene Rolle zu lesen, und sei enttäuscht gewesen, dass genau das nicht kam.
Die Frage, ob manche Menschen nicht einfach nur einem Trend folgen. Erwähnt wird der Eindruck eines Textes, der eher oberflächlich imitiert als tief reflektiert.
Eine leicht spöttische Reaktion unter Verweis darauf, dass geohot mithilfe von LLMs bei Advent of Code weit oben im Ranking gelandet sei.
Der zugehörige Tweet wird der Vollständigkeit halber als Link geteilt.
Es wird die Behauptung zitiert, „wenn der Staat für alle ein S&P-500-Konto mit 1000 $ Startkapital eröffnet, ist die Sozialversicherung gelöst“, und darauf hingewiesen, dass dies im Kern nur einen dauerhaften Zufluss öffentlicher Gelder in Großunternehmen (oder deren Verbünde) garantieren würde. Auch UBI werde als Hinweis auf eine im Kern dynamikarme Wirtschaft verstanden; beschrieben wird ein strukturelles Problem, in dem der Staat statt Arbeit bereitzustellen stillschweigend akzeptiert, Menschen allein fürs Dasein zu bezahlen.
Der Deutung von UBI als etwas, das Menschen „allein durch ihre Existenz angenehm leben lässt“, wird nicht zugestimmt. Es wird betont, dass UBI ein Mindestmaß an Überleben garantiere und darüber hinaus zusätzliches Einkommen selbst verdient werden könne. Als Beleg dafür, dass Marktwirtschaften UBI brauchen, werden die skandinavischen Länder angeführt.
Es wird erklärt, dass S&P-500-Unternehmen nicht tatsächlich Kapitalzuflüsse erhalten, nur weil ihre Aktien gekauft werden.
Bei ETFs (Indexfonds) kann es durch Aktualisierung und Rebalancing dazu kommen, dass der Aktienkurs eines Unternehmens stark fällt, wenn es aus einem Index herausgenommen wird. Als Beispiel wird genannt, dass Pltr zuletzt nach dem Ausschluss aus dem Russel2000 deutlich gefallen sei.
Jemand berichtet von Erfahrungen mit Internetbrowsern, moderner Infrastruktur und dem Aufbau von Hyperscale-Clouds. Anfangs habe man Stolz empfunden, etwas Besseres zu bauen, doch seit die Rolle des Product Managers aufgekommen sei, bereue man alles.
Es wird klargestellt, dass der Titel auf einen Sketch aus der britischen TV-Show "That Mitchell and Webb Look" zurückgeht; dazu ein YouTube-Link.
Die pointierte Satire der Show wird erwähnt; auch die Dr-Death-Episode eigne sich hervorragend als Satire auf moderne Wissenschaft und Technologie, mit entsprechendem Video-Link.
Ein weiterer zugleich trauriger und lustiger Episoden-Link wird empfohlen.
Ein klassischer berühmter Moment wird mit Link erwähnt.
Scherz, dass man nun offiziell alt sei.
Meinung, dass die Menschheit nie wirklich verstanden habe, wie grundlegend und zugleich wie verletzlich menschliche Kooperation ist. Vorgeschlagen wird ein Gedankenexperiment dazu, was mit einer Ameisenkolonie passiert, wenn man ihre Pheromonsignale entfernt, oder wie sich das System verändert, wenn man einigen Ameisen gezielt „Vorteile“ zuschanzt. Dann die Vorstellung, das Experiment mit Ameisen samt Selbstbewusstsein zu wiederholen, wobei das Ergebnis wieder anders ausfallen würde. Mit dem Hinweis, dass man komplex adaptive Systeme am besten versteht, wenn man sie selbst baut, wird John Hollands "Hidden Order" empfohlen.
Sympathische Reaktion darauf, dass George AMD ausprobieren will, um das NVidia-Monopol herauszufordern; seine Haltung zur Auflösung von Marktmonopolen wird positiv bewertet.
Allerdings wird angemerkt, dass er AMD-Chips wohl wieder aufgegeben habe, weil Bugs einen langfristig stabilen Betrieb erschwerten.
Mitfühlende Bemerkung, dass selbst der erfolgreiche und leidenschaftliche George Hotz in Liebesdingen den Weg eines Anfängers gehe; wer weniger außergewöhnlich sei, müsse es noch schwerer haben.
Sichtweise, solche Posts als demografische Heatmap zu lesen: Selbst Leute, die bisher eher an den Rändern standen und bloß Interesse an Themen wie geohot-Hacks hatten, begännen nun, die Schwere des Problems zu erkennen und öffentlich darüber zu sprechen. Damit werde angedeutet, dass geohot mitten im Phänomen steht.
Zitiert wird die Frage: „Irgendwann müssen die Menschen doch erkennen, dass wir als Gemeinschaft in einer Gesellschaft leben – was wird der Auslöser sein?“ Positiv hervorgehoben wird, dass Podcasts und Social Media eine verteilte Benennung gesellschaftlicher Probleme ermöglichen. Was wir wirklich bräuchten, sei jedoch eine Dorfgemeinschaft im modernen Sinn: wichtig sei die Wiederherstellung von Beziehungen, die über übermäßigen Individualismus und egozentrische Entscheidungen hinausgehen und Rücksicht auf Bedürfnisse und Lebenslagen anderer nehmen.
Dass man ausgerechnet von George Hotz eine Botschaft hören würde, die fast schon grundlegend antikapitalistisch klingt, habe man nicht erwartet; für den Mut, dieses Gefühl offen auszusprechen, gebe es Applaus.