Sind wir die Bösen?

 (geohot.github.io)
1 Punkte von GN⁺ 2025-07-07 | 1 Kommentare | Auf WhatsApp teilen
  • Ausgehend von der Erfahrung mit boosts bei Hinge wird die Struktur kritisiert, mit der alltägliche Dienste durch psychologische Methoden und Algorithmen aus jeder Interaktion mehr Wert herausziehen
  • Trinkgeld-Bildschirme, der Uber-Algorithmus, Kaffeekäufe, Dating, Fahrtenvermittlung bis hin zu Zahlungen unter Freunden: Überall schieben sich Vermittler dazwischen und setzen Nutzer schrittweise stärker unter Druck
  • Entgegen der Erwartung, der Markt werde Nutzer schützen, die Manipulation leid sind, optimieren Unternehmen mit Dashboards und KI den Customer Lifetime Value immer präziser
  • Es entsteht ein Red Queen’s race, in dem man im Wettbewerb zurückfällt, wenn man das Engagement nicht maximiert, und sogar soziales Kapital und Wert an Moloch verfüttert werden
  • Groß angelegte Manipulation durch Werbung, Preisdiskriminierung sowie Big Data, Machine Learning und Psychologie ist schwer zu rechtfertigen, und der moderne Kapitalismus nähert sich wireheading an

Wie alltägliche Dienste Wert extrahieren

  • boosts, auf die man nach der Anmeldung bei Hinge stößt, sind der Ausgangspunkt des Problems
  • Trinkgeld-Bildschirme, der Uber-Algorithmus und verschiedene Nullsummen-Interaktionen sind Beispiele dafür, wie durch psychologische Techniken in jedem Moment des gesellschaftlichen Lebens ein wenig mehr Wert abgeschöpft wird
  • Selbst bei normalen sozialen Aktivitäten wie Kaffeekauf, Dating, Fahrtenvermittlung oder Geld an Freunde schicken entsteht ein Mittelsmann
    • Dieser Mittelsmann hat die Aufgabe, Nutzer mit modernsten KI-Algorithmen noch stärker auszupressen
  • Die Erwartung, der Markt werde es korrigieren, wenn Nutzer sich manipuliert fühlen, ist gering
    • Unternehmen erkennen solche Reaktionen zuerst über Dashboards
    • Sie können die KI so anpassen, dass Menschen sich weniger manipuliert fühlen
    • Das Ziel geht über kurzfristige Extraktion hinaus und liegt in der Maximierung des Customer Lifetime Value

Zweifel an Wettbewerb und Reformfähigkeit

  • Auch dem Wettbewerb zu entkommen ist schwierig
    • Um ein konkurrierendes Geschäft zu betreiben, muss man Engagement-Metriken maximieren
    • Jede Metrik wird zum Ziel, und wenn man das Engagement nicht maximiert, verliert man Engagement: ein Red Queen’s race
    • Das führt zu einer Situation, in der sogar soziales Kapital und Wert Moloch geopfert werden
  • Es ist schwer, das allein durch individuelle Verweigerung zu lösen; es ähnelt eher einem Kollektivhandlungsproblem
  • Auch an die Möglichkeit demokratischer Reformen wird gezweifelt
    • Es wird die Frage gestellt, ob Algorithmen zulassen würden, dass für ihre eigene Abschaffung gestimmt wird
    • Die Trennung von Abstimmung und Handlung wird mit der Struktur verglichen, in der bei Uber die Zahlungen an Fahrer und die Fahrgastpreise voneinander entkoppelt sind
    • Es wird sogar die starke Formulierung verwendet, es gebe keine Reform, sondern nur Revolution
  • Es wird gefragt, ob man selbst nach extremen Ereignissen wie einem Finanzkollaps, dem Dritten Weltkrieg oder einer massiven Hungersnot groß angelegte Manipulation noch für akzeptabel halten kann
  • Werbung, Preisdiskriminierung und groß angelegte Manipulation mithilfe von Big Data, Machine Learning und Psychologie seien klar nicht in Ordnung
  • Der moderne Kapitalismus sei wireheading, und diese Lehre werde man wohl erst lernen, nachdem die Mehrheit der Kunden an Moloch verfüttert wurde

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-07-07
Meinungen auf Hacker News

  • Für manche ist mehr zu bezahlen, um die Schlange zu überspringen, der eigentliche Zweck. Aber sie haben nicht vorausgesehen, dass die Schlange wieder vor ihnen entsteht, wenn alle den Premiumpreis zahlen.
    Nutzer australischer Flugmeilen sind im Großen und Ganzen in genau dieser Lage: Früher gab es wegen der hohen Einstiegshürde Vorteile, aber seit FIFO-Arbeit die Club-Statusstufen verallgemeinert hat, sind die Boarding-Vorteile fast verschwunden, und Prämienflüge gibt es kaum noch.
    Deshalb halte ich es durchaus für ein antisoziales Muster, wenn Statusstreben und Preisdifferenzierung gegen Verbraucher in Stellung gebracht werden. Uber kam in den Markt, indem es sogar Leuten, die Gesetzesverstöße in Kauf nahmen, Garantien gab, und ich mochte den Dienst nicht, weil er Gewinne ständig ins Ausland abzog. Aber weil der Taxidienst so schlecht geworden ist, haben wir uns inzwischen an Uber und Surge Pricing gewöhnt.
    Dass in Australien PayWave und Food-Service-Angebote Trinkgeldfunktionen bekommen haben, empfinden ebenfalls alle als unangenehm. Das ist nicht australisch. Es gibt einen gesetzlichen Mindestlohn und Zuschläge, also sollte diese Funktion abgeschaltet werden.
    Auch über die Bestrebungen in Europa, bei Flugtickets aufgegebenes Gepäck verpflichtend einzuschließen, wird ziemlich gespottet; es gibt immer noch wahre Gläubige, die es für Schwäche halten, saubere Unterwäsche zu brauchen.

    • Nicht-US-Amerikaner sollten sich meiner Meinung nach gegen die Ausbreitung der Trinkgeldkultur wehren. Man sollte jedes Trinkgeld verweigern.
      Ich weiß, dass die Beschäftigten schlecht bezahlt werden, aber wenn man anfängt, Trinkgeld zu geben, sinken die Löhne weiter, und auf dieser schiefen Ebene geht es am Ende allen schlechter.
    • Uber und Lyft sind teuer, aber wenn man sich wirklich an die Blütezeit der alten Taxis erinnert, kann man schwer behaupten, dass sie schlimmer sind als das, was sie ersetzt haben. In Großstädten wie NYC konnte man leicht ein Taxi bekommen, aber anderswo war man auf dubiose Firmen aus dem Telefonbuch angewiesen, ohne Garantie, dass überhaupt ein Wagen kommt.
      Heute kann man fast überall relativ schnell ein Auto rufen. Die ausbeuterischen Geschäftspraktiken gegenüber Fahrern und Fahrgästen sind gravierend und brauchen stärkere Regulierung, aber ich möchte nicht zum alten System zurück.
    • Bei Billigfluggesellschaften in der EU, besonders Ryanair oder EasyJet, stehen inzwischen fast alle in der Priority-Boarding-Schlange, während ich in der normalen Schlange manchmal allein bin. Früher stieg man zuerst ein, wenn man mehr zahlte, aber inzwischen komme ich in der normalen Schlange oft vor zwei Dritteln der Priority-Schlange hinein, was seltsam ist.
      Auch Ubers Surge Pricing schwankt hier innerhalb weniger Minuten stark, etwa von 40 auf 50 und dann auf 38 Euro; man kann also kurz in die App schauen und bei einem guten Preis buchen. Taxis sind fast immer doppelt so teuer, am Flughafen bis zu dreimal so teuer, oft unhöflich, und man kann sie nicht bewerten, deshalb nehme ich sie kaum.
      Als ich neulich ein Taxi nahm, kostete Uber für die 10 Minuten zum Flughafen 15 Euro. Der echte Taxifahrer sagte einfach, ich solle 15 Euro zahlen, also stieg ich ein; von einem anderen Fahrgast, der danach in denselben Wagen stieg, verlangte er 72 Euro. Für 10 Minuten Fahrt waren das fast 90 Euro.
      Uber nicht zu nutzen, weil man es hasst, macht das Leben im Verhältnis zum Nutzen viel zu unbequem. Die Taxibranche brauchte einen Schock, und sie scheint immer noch nichts gelernt zu haben. Man muss im Voraus buchen, die Apps sind schlecht, und es ist viel teurer. Mit zwei oder mehr Personen ist es oft sogar günstiger als der Zug; in einem Land, in dem es heißt: „Man sollte nach Möglichkeit den Zug nehmen“, ist das ziemlich merkwürdig.
    • Ein Markt-Purist würde wohl sagen, das bedeute lediglich, dass das Produkt falsch bepreist ist. Der tatsächliche Ticketpreis müsse der Preis inklusive Premium sein, und sowohl der Ticketpreis als auch der Preis fürs Überspringen der Schlange müssten erhöht werden.
    • Wenn man sich nicht darum kümmert und einfach akzeptiert, dass man ganz hinten in der Schlange steht, entsteht Freiheit. Man zahlt keinen Premiumpreis, entspannt sich in der Lobby, und wenn die zahlenden Leute in der Schlange gewartet haben und fast alle durch sind, ist man an der Reihe.

  • Man sollte Ausstieg nicht unterschätzen, diese uralte menschliche Reaktion darauf, manipuliert zu werden.
    Das ist keine Theorie, sondern passiert gerade. Der Trend zum Digital Detox, das Comeback von Feature Phones bei Jüngeren, die Verschiebung von öffentlichen Feeds zu privaten DMs, die „Nicht stören“-Generation: Das ist alles dasselbe Phänomen. Menschen spüren die Manipulation und steigen aus, indem sie eine Benachrichtigung nach der anderen abschalten.

    • Auch diese Ausstiegsmetrik hat Wert, deshalb werde ich sie nicht mehr kostenlos hergeben. Man kann absichtlich zufällig teilnehmen und wieder aussteigen, damit niemand mehr weiß, was funktioniert.
      Digital Detox und das Comeback von Feature Phones sind inzwischen ebenfalls ein Markt geworden, einfach nur „Lifestyle“. Die Menschen spüren die Manipulation nicht. Sogar das Bewusstsein für Manipulation ist ein Markt geworden, und es gibt sicher YouTuber, die damit gut laufen.
      Die interessante Frage ist, wie weit man Profiling-Algorithmen täuschen kann. Wichtiger ist, ob man sie glauben lassen kann, man sei etwas, das man nicht ist, und wie sehr man sie kaputtmachen kann.
    • Aus dem Kapitalismus kann man nicht aussteigen. Solche Tricks können helfen, nicht die langsamste Gazelle in der Herde zu sein, aber sie bedeuten nicht, dass man völlig frei von Ausbeutung ist.
    • Am Ende wird man auf die schwer zu greifenden Ausstiegs-Dollars zielen.
      Bei watch?v=9h9wStdPkQY habe ich wegen Sprache und Inhalt den Link-Anfang weggelassen, aber ihr wisst wohl, was zu tun ist, und vermutlich auch, von wem das Video ist.
    • Aus Social Media und Apps, die selbst kleinste Teile des Lebens zur Ware machen und monetarisieren, bin ich schon seit 2012 längst ausgestiegen.
    • „Ausstieg“ ist nicht dasselbe wie „sich nicht darum kümmern“, und ich mache mir Sorgen, ob das eine gute menschliche Reaktion ist.
      „Sich nicht darum kümmern“ funktioniert auf individueller Ebene, aber Ausstieg scheint auf kollektiver Ebene funktionieren zu müssen. Ich bin kein Sozialwissenschaftler, aber ich denke, damit Ausstieg zu positiver Veränderung führt, muss er mit der Broken-Windows-Theorie kombiniert werden. Das Problem ist, dass viele Menschen bereits in dieser Ausstiegsphase sind.
      In einer für alle unangenehmen Atmosphäre verfällt die Umgebung gemeinsam, aber ein herbeigeführter kollektiver Wandel findet nicht statt. Feature Phones und Digital Detox sind eher Ausnahmen; tatsächlich werden akzeptable Standards systematisch abgesenkt. Noch schlimmer ist, dass dies im Namen von Gleichheit und Inklusion geschieht, während die Ungleichgewichte zwischen Gruppen weiter wachsen.
      Nach Occupy Wall Street und dem Arabischen Frühling wurde „sich nicht darum kümmern“ populär. Es stand im Gegensatz zu Selbstoptimierung, Growth Hacking und datengetriebenen Lifestyles, die eher Unternehmensmarketing glichen; zugleich wurden aus Nostalgie für den Wirtschaftsboom der 80er und 90er Morpheme wie hyper/super/über wiederbelebt, und neoliberaler Freimarkt-Akzelerationismus sowie Bitcoin passten ebenfalls in diese Strömung.
      „Sich nicht darum kümmern“ war eine Kritik an bestehenden Systemen, die Aufmerksamkeit rauben, um die Individualität der Bürger zu betonen. Politiker und Unternehmensführer missverstanden es jedoch so, dass sie sich stärker auf ihre eigene Karriere als auf die Verantwortung ihrer aktuellen Rolle konzentrieren sollten. In einer immer stärker vernetzten Welt begannen auch sie, sich nicht mehr darum zu kümmern.
      https://en.wikipedia.org/wiki/Broken_windows_theory
      https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...

  • Die Idee, dass die Regierung für jede Person bei der Geburt ein S&P-500-Konto im Wert von 1.000 Dollar eröffnet und das dann zur Finanzierung der Sozialversicherung wird, hat einen guten Punkt. Am Ende wird dieses Geld zu einem garantierten Zufluss in die größten Unternehmen und in Unternehmen, von denen man glaubt, dass sie eines Tages groß werden; es ist eine weitere Art, öffentliche Mittel an private Unternehmen umzuverteilen.
    Ein ähnliches Beispiel: Grundeinkommen wirkt wie ein Beleg für eine nicht dynamische Wirtschaft. Es ist faktisch die Zustimmung und Anerkennung: „Du wirst vermutlich keinen anständigen Job finden, mit dem du dich und deine Familie ernähren kannst, also gibt dir der Staat Geld, damit du es bequem hast, solange es ihn gibt.“

    • Ich glaube nicht, dass viele Leute ein Grundeinkommen dieser Art unterstützen. Das Grundeinkommen, wie ich es verstehe, ist eine Absicherung des Existenzminimums und die Idee, dass diese Absicherung nicht schrumpfen sollte, wenn man darüber hinaus etwas verdient.
      Ich denke, eine demokratisierte Marktwirtschaft braucht etwas, das einem Grundeinkommen nahekommt, und die skandinavischen Länder stützen dieses Argument aus meiner Sicht.
    • Eine Investition in den S&P 500 wird zu jedem Zeitpunkt auf die größten Unternehmen verteilt.
      ETFs müssen rebalancieren, also bestimmte Aktien aufstocken und reduzieren, manchmal auch ausschließen. Wenn man SPY kauft, ist man nicht nur den aktuell enthaltenen Unternehmen ausgesetzt, sondern auch denen, die künftig aufgenommen werden.
      Wenn ein Unternehmen aus dem Index entfernt wird, kann der Kurs deutlich fallen, weil der ETF mechanisch handelt. „Deutlich“ ist relativ, aber der Rückgang von PLTR in der vergangenen Woche, nachdem es aus dem Russell 2000 gefallen war, ist ein Beispiel.
    • Das ist ein Beleg dafür, dass die USA ein Inflationsexporteur sind. Ein Grundeinkommen kann nicht mit strategischer Inflation im globalen Maßstab konkurrieren.
    • S&P-500-Unternehmen erhalten keinen Geldzufluss, nur weil ihre Aktien gekauft werden.

  • Georges nichttechnische Texte wirken auf mich meist wenig inspirierend, daher meide ich sie eher, aber dieser Beitrag ergibt tatsächlich Sinn.
    Natürlich wird ihn das wohl nicht bis zu einer Selbstreflexion über seine Beziehung zu den Leuten führen, die er sonst lobt und mit denen er sich umgibt, aber zumindest könnten andere nach innen schauen und anders handeln.
    Irgendetwas muss sich ändern. Auch auf HN scheint diese Stimmung in den letzten Jahren zugenommen zu haben. Vielleicht sehe ich sie inzwischen nur besser, aber das Problem ist vielleicht weniger die Existenz von Grape an sich als vielmehr, woher es kommt.

    • Als ich sah, dass der Titel „Are we the baddies?“ lautet, dachte ich, er würde seine eigene Rolle in all dem zumindest ein wenig reflektieren, aber das tat er nicht.
    • Ein Teil davon wirkt auf mich so, als wolle man einfach einem Trend hinterherlaufen. Die Art der Reflexion liest sich wie der Ansatz: „Lasst uns eine Handykamera ans Armaturenbrett kleben und daraus ein selbstfahrendes Auto machen.“
    • geohot ist derjenige, der ein LLM benutzt hat, um auf die Advent-of-Code-Bestenliste zu kommen.
    • Ich lasse diesen Link einfach hier: https://x.com/ns123abc/status/1940980667455836578

  • Der Autor sollte bei seinem eigenen Produkt anfangen. Es hört auf zu funktionieren, wenn es sich nicht mindestens alle 14 Tage mit dem Internet verbindet.
    https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...

    • Hinzu kommt, dass Twitter nach Musks Übernahme zum ultimativen Propaganda-Empfehlungsalgorithmus geworden ist und er sich freiwillig gemeldet hat, dort zu arbeiten.
      https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
    • Genau, weil dieses Nischenprodukt ja die strukturelle Quelle der Probleme ist, von denen er spricht.

  • Ich habe an frühen Browsern und an moderner Internet-Infrastruktur gearbeitet und auch beim Aufbau der hyperskaligen Cloud-Infrastruktur mitgewirkt, die das heutige Internet möglich gemacht hat. Ich hatte bei vielem, was passiert ist, meine Finger im Spiel und hatte aufrichtig das Gefühl, etwas Besseres zu schaffen.
    Dann entstand die Rolle des Produktmanagers, und ich bereue alles, woran ich gearbeitet habe.

    • Ich würde gern hören, ob du das etwas ausführen kannst.
      Ich habe lange ein kleines Unternehmen geführt und daraus eine tragfähige Firma gemacht, und später bin ich der Versuchung erlegen, als Produktmanager in einem ziemlich großen Tech-Unternehmen zu arbeiten. Das war sehr weit von allem entfernt, was ich über den Bau guter Produkte zu wissen glaubte, passte aber sehr gut dazu, Dinge mit der Arbeitsweise voranzutreiben, die ich gelernt hatte, indem ich in einer kleinen Firma „alles“ gemacht habe. Es gab viele Ergebnisse, aber ich litt fast durchgehend unter Burnout und Angst.
      Ich war auch an sehr populärer Cloud- und Open-Source-Software beteiligt, habe das meiste davon aber gehasst. Besonders hasste ich Produktmanagement und den produktmanagement-industriellen Komplex, der diese Rolle von der Realität abkoppelte und zugleich verlangte, die Dummheiten von Gründern, C-Levels und älteren Generationen zu beheben. Auch Miro-Boards und endlose GDocs-Kommentar-Threads haben mich erschöpft.
      Also habe ich sogar auf eine hohe Vergütung verzichtet, die Produktorganisation verlassen und bin zum Bauen zurückgekehrt.
      Ich widerspreche nicht, ich würde nur gern mehr über deine persönlichen Erfahrungen mit dem Aufstieg der Produktmanager-Rolle hören. Gleichzeitig glaube ich nicht, dass man nur PMs und PM-zentrierte Kultur verantwortlich machen kann. Ich habe bisher noch kein Leadership-Team erlebt, das Entscheidungen und Verhaltensweisen an den Tag legt, die ich respektieren oder ertragen kann; natürlich ist es gut möglich, dass ich das Problem bin.

  • Der Titel stammt aus einem Sketch der britischen Show That Mitchell and Webb Look: https://www.youtube.com/watch?v=h242eDB84zY

  • Geh einfach raus und rede mit Menschen. Dating-Apps haben keinen Burggraben um sich herum, und Menschen existieren weiterhin im realen Raum.
    Ich habe noch keinen Vertrag einer Dating-App gesehen, der es Fremden verbietet, jemanden zwanglos anzusprechen. Auch Heiratsvermittler gibt es weiterhin.

    • Das geht nicht. Wenn du jemanden in einer fremden Stadt wie in den 90ern locker mit „Hallo“ ansprichst, landest du bestenfalls auf TikTok als gruseliger Typ.
    • Leider funktioniert so etwas nur in kleinen Städten mit hohem Vertrauensniveau.

  • Ich finde solche Texte als eine Art demografische Heatmap interessant. Denn es bedeutet, dass jemand, der früher wie bei geohots Hacking nur seinen eigenen Interessen gefolgt ist, das Problem inzwischen erkannt hat und genug motiviert ist, darüber zu schreiben.
    geohot ist aus meiner Sicht ziemlich tief in die Mitte dieser Karte vorgedrungen.

    • Dass man gesellschaftliche Probleme auf dezentrale Weise sichtbar machen kann, ist eine gute Seite daran. Ob man Trevor Noah oder Social Media insgesamt betrachtet: Es zeigt sich, dass unsere Gesellschaft derzeit dringend Gemeinschaft braucht.
      Wir brauchen ein modernes Dorf. Wir sollten nicht jede Entscheidung nur individualistisch und egozentrisch treffen, sondern uns an den Wünschen und Bedürfnissen der anderen ausrichten. Selbst wenn man weiß, dass die Eltern falschliegen, muss man manchmal nicht auf der eigenen Position beharren. Statt völlig zersplittert und zu transaktionalen Wesen zu werden, ist es an der Zeit, eine interdependente Gesellschaft zu fördern.
    • Ich hätte nicht erwartet, von George Hotz etwas zu hören, das wie radikaler Antikapitalismus klingt.
      Allerdings habe ich ähnliche Gefühle empfunden wie die, die Hotz in diesem Text ausdrückt, und ich schätze es, dass er sie ausgesprochen hat.

  • Die Antwort lautet „ja“, und die Antwort darauf, wie schlimm es ist, lautet: wirklich schlimm. Menschen haben bisher nie verstanden, wie essenziell angeborene Kooperation ist – und wie fragil sie ist.
    Was würde passieren, wenn man einer Ameisenkolonie die Fähigkeit nähme, Pheromonspuren zu nutzen?
    Was würde passieren, wenn man die Pheromonspuren einer Ameisenkolonie so ausnutzt, dass einige Ameisen auf Kosten anderer Ameisen „Profit“ machen?
    Ameisen haben vielleicht kaum Selbstbewusstsein, aber was wäre, wenn man noch Bewusstsein hinzufügt, ihnen mitteilt, dass sie manipuliert werden, und dann die beiden Experimente oben wiederholt?
    Eine gute Methode, komplexe adaptive Systeme wie die von Menschen genutzten zu verstehen, besteht darin, solche Systeme selbst zu bauen. John Hollands „Hidden Order“ gibt Hinweise darauf, wie das geht.