Skalennachteile bei Betrug, Spam, Support und Moderation
- Große Plattformen haben einen höheren Anteil an Betrug, Spam und Missbrauch als kleine Plattformen.
- Im Vergleich zwischen Signal und WhatsApp erhalten Nutzer auf Signal keine Spam-Nachrichten, während sie bei WhatsApp regelmäßig solche Nachrichten bekommen.
- Vergleicht man Orte, an denen man technische Inhalte konsumiert, haben weniger bekannte kleine Foren oder Seiten wie lobste.rs oft einen geringeren Anteil an schlechten Inhalten als große Plattformen.
- Plattformen wie Reddit, YouTube, Facebook oder die Google-Suchergebnisse haben im mittleren bis großen Segment der sozialen Medien einen höheren Anteil an problematischen Inhalten.
- Je größer eine Plattform ist, desto geringer ist die Chance auf angemessenen Support, und desto geringer ist auch die Chance, dass ein Konto nach einer Fehlersperrung oder einem Bann wiederhergestellt wird.
Probleme großer Plattformen
- Die Behauptung, dass große Plattformen bessere Moderation sowie Spam- und Betrugsfilterung leisten, wird in Frage gestellt.
- Google-Ingenieure und -Denkfabriken behaupten, nur große Plattformen seien in der Lage, wirksame Moderation, Spamfilterung und Betrugserkennung zu betreiben; tatsächlich sind kleinere Suchmaschinen jedoch oft widerstandsfähiger gegen SEO-Missbrauch.
- Obwohl oft angenommen wird, dass ein eigenes E-Mail-Management wegen der Spam-Belastung unmöglich sei, verwalten viele Menschen ihre E-Mails selbst und erzielen Ergebnisse, die mit Gmail vergleichbar sind oder besser ausfallen.
Moderationsprobleme großer Plattformen
- Mark Zuckerberg argumentiert, eine Zerschlagung großer Technologieunternehmen würde ihre Moderationsprobleme verschärfen.
- Zuckerbergs Argument besagt, größere Plattformen könnten wegen mehr Ressourcen bessere Moderation leisten, doch in der Praxis werden diese Mittel an anderer Stelle eingesetzt.
- Zum Beispiel hat Meta 50 Milliarden US-Dollar in die Entwicklung des Metaverse investiert, aber nicht in Moderationsplattformen und -technologien.
Support-Probleme
- Der Nutzersupport großer Plattformen ist generell unbefriedigend.
- Die üblichen Supportkanäle sind ineffizient, Nutzer erleben oft standardisierte Ablehnungsschreiben oder kafkaeske Albträume.
- Auch bei kostenpflichtigem Support berichten Nutzer von einer nicht wesentlich besseren Erfahrung als bei kostenlosem Support.
- Wenn große Firmen mit der Größe wachsen, zielen sie eher auf günstigeren und gewinnmaximierten Support, statt auf Effizienz.
Meinung von GN⁺
- Obwohl große Plattformen über mehr Ressourcen verfügen, ist die Qualität der Nutzererfahrung oft niedriger als bei kleineren Plattformen, da diese Ressourcen nicht für die Verbesserung der Nutzererfahrung, sondern für Gewinnmaximierung genutzt werden.
- Die Supportqualität neigt dazu, mit steigender Plattformgröße abzunehmen, insbesondere aufgrund der Komplexität und Ineffizienz großer Plattformen.
- Der Beitrag benennt Probleme großer Plattformen und liefert Nutzern wichtige Aspekte, die sie bei der Entscheidung für kleinere Plattformen berücksichtigen sollten.
1 Kommentare
Hacker-News-Kommentare
Ich finde, der Beitrag unterschätzt das Ausmaß dieses Problems. Es wird kurz angerissen, aber insgesamt bin ich zu der Auffassung gelangt, dass es an sich schlecht ist, wenn Unternehmen extrem groß werden; das ist nicht nur ein Problem der Content-Moderation.
Große Unternehmen müssen sich nicht mehr um einzelne Verbraucher kümmern und tun es faktisch auch nicht. Stattdessen verbringen sie mehr Zeit damit, ihre Marktposition zu verteidigen, als „das gut zu machen, was sie bisher gemacht haben“, und manchmal versuchen sie, wie große Konglomerate in völlig unabhängige Märkte zu expandieren.
„Skaleneffekte“ sind nur im Sinne der Gewinnerzielung einzelner Unternehmen gut; mit Blick auf den Nutzen für die gesamte Wirtschaft, Gesellschaft und Menschheit halte ich fast alle Skaleneffekte für schädlich.
Skaleneffekte sind so natürlich wie üppig wachsendes Gras oder Unkraut, aber das macht sie nicht gut; für die meisten praktischen Zwecke sollte man sie aktiv eindämmen. Dass Unternehmen wachsen, ist natürlich, aber ich denke, große Unternehmen sollten regelmäßig aufgespalten werden, allein weil sie groß geworden sind.
Moral Hazard umfasst nicht nur direkte Schäden für andere, etwa durch böswilligen oder schlechten Support, sondern auch indirekte Schäden durch Externalitäten wie Umweltverschmutzung oder den Niedergang lokaler Wirtschaftsräume. Diese Intuition halte ich eindeutig für richtig.
Moral Hazard unterbricht die sozialen Korrekturschleifen, die es in kleinen Gruppen wie Familien oder Dörfern gab, ermöglicht zugleich aber auch die Schaffung und Akkumulation enormen Wohlstands. In der Philosophie nennt man das das Problem der schmutzigen Hände.
https://en.wikipedia.org/wiki/Moral_hazard
https://plato.stanford.edu/entries/dirty-hands/
Dank Skaleneffekten bei Gütern des täglichen Bedarfs müssen nicht alle Subsistenzlandwirtschaft betreiben und wir können genähte Kleidung tragen.
An beiden Seiten ist etwas dran. Ich möchte nicht, dass Nägel von Hand hergestellt werden, aber wenn ich den Kundendienst anrufe, möchte ich auch, dass jemand antwortet, der tatsächlich Entscheidungsbefugnis hat.
Das Problem bei Internetbetrug ist, dass kaum jemand Betrüger tatsächlich zur Verantwortung zieht. Im Moment werden sie im Grunde nur „rausgeworfen“, und nachdem sie rausgeworfen wurden, versuchen sie es erneut, bis sie am Ende fast immer Erfolg haben.
Deshalb ist die Betrugsindustrie im Allgemeinen sehr profitabel und wächst weiter.
Als ich bei Blizzard arbeitete, gab es viele Vorrichtungen, um betrügerische Kreditkartentransaktionen zu erkennen und vor der tatsächlichen Abbuchung zu stornieren, aber keinen Prozess, um Betrüger zu melden und sie daran zu hindern, am nächsten Tag dasselbe wieder zu tun.
Vermutlich verfolgen alle Unternehmen eine ähnliche Strategie. Denn kein Unternehmen hat ein realistisches Mittel, Betrüger zur Verantwortung zu ziehen und sie daran zu hindern, es erneut zu versuchen.
Deshalb wird das Betrugsproblem immer größer, unbeherrschbar und gerät außer Kontrolle. Es ist ein politisch schwieriges Problem: Regierungen müssten spezielle Einheiten aufbauen, um das Ausmaß der Betrugsindustrie zu verringern, Betrüger zu fassen und zur Verantwortung zu ziehen.
Noch schwieriger ist, dass es über Zuständigkeitsgrenzen hinweg geht, sodass Regierungen mehrerer Länder zusammenarbeiten müssten. Im Moment mag das unmöglich erscheinen, aber bis dahin wird Betrug meiner Meinung nach weiter schlimmer werden.
Wegen eines 20-Dollar-Kaufs kann man schlecht das FBI rufen.
Man kann den Krieg gegen Drogen als Analogie nehmen. Die Hauptziele waren immer Dealer auf unterer Ebene und Konsumenten; sie waren leicht zu fassen, und man konnte leicht sagen, dass „etwas getan wird“. Auf das Drogengeschäft und das Angebot auf der Straße hatte das aber vergleichsweise wenig Einfluss, und die Ursachen anzugehen ist viel schwieriger.
Für Blizzard gibt es keine kurzfristige Belohnung dafür, Betrug zu melden, und es ist schwer zu wissen, ob es langfristig hilft. Trotzdem ist es am Ende wichtig, das Richtige zu tun.
„Move fast and break things“ kann eine hervorragende Strategie sein, darf aber nicht allein eingesetzt werden. Sonst bleibt nur eine Spur der Zerstörung zurück, die niemand aufräumt. Weil Ziele schwer zu quantifizieren sind, läuft jede Zielfunktion leicht aus dem Ruder, und Menschen müssen darauf schauen und die Richtung so gut wie möglich korrigieren.
Man braucht sowohl Leute, die schnell vorandrängen, als auch Leute, die bremsen und reparieren wollen; in dieser Spannung liegt Harmonie. Egal, für welches Lager man sich entscheidet, man sollte anerkennen, dass auch die Gegenseite Wert hat.
Denkbar wäre zum Beispiel ein Modell, bei dem ein Unternehmen für eine Meldung $X zahlt, bei einer daraus folgenden Geldstrafe $X5 erhält und, falls sich die Meldung als absurd herausstellt, zusätzlich $X10 zahlen muss. Wenn die Meldung plausibel wirkte, aber nicht zu einer Geldstrafe führt, gibt es keine Belohnung.
Ich mache mir Sorgen, dass falsche Anreize zu übermäßigen Meldungen oder anderen Nebenwirkungen führen könnten.
Wenn man plötzlich anfängt, Betrug strafrechtlich zu verfolgen, wird das für finanzstarke Akteure unangenehm.
Die eigentlichen „Skaleneffekte“ solcher Plattformen bestehen nicht darin, Support, Moderation und Betrugsprävention besser bereitzustellen, sondern faktisch darin, nichts zu tun und sich auf Marktmacht zu verlassen.
Wenn man in einer Kleinstadt Andys Taxidienst betreibt und ein Kundensupport-Problem auftaucht, muss man es selbst ordentlich lösen, sonst geht man unter. Uber ignoriert es einfach.
Das hat nichts mit Effizienz zu tun, sondern damit, eine Monopolmacht zu erlangen, die es erlaubt, Kunden schlecht zu behandeln und damit durchzukommen. Kombiniert mit einer größeren Angriffsfläche werden größere Plattformen bei Spam, Betrug und Support schlechter.
Es gibt viele Beschwerden über Uber, aber die Taxi-Erfahrung vor Uber war deutlich schlechter. Andys Kleinstadt-Taxidienst mit vorbildlichem Service existierte entweder nicht oder war eine Ausnahme, die man auf Reisen nicht zuverlässig finden konnte.
Auch in großen Städten nahm man die meisten Taxis auf der Straße oder rief sie über eine zentrale Vermittlung; einzelne Taxifahrer hatten daher wenig Anlass, sich um ihren eigenen Ruf zu kümmern. Man wählte nicht ein bestimmtes Taxi aus, und es gab wenig wiederholte Transaktionen, sodass Kundenservice keine große Rolle spielte.
Es muss sich nicht darum kümmern, und auch eine Sammelklage ist unwahrscheinlich, weil die Gruppe zu klein wäre, als dass ein Anwalt sie übernehmen würde.
Als Jeff Atwood, also codinghorror, 2014 von Stack Overflow zu Discourse wechselte, hielt er dazu einen Vortrag, und mir ist ein kurzer Satz in Erinnerung geblieben, mit dem er erklärte, warum das Trust-Level-System von Discourse so gestaltet wurde:
„Das Einzige, was mit einer Community skaliert, ist die Community.“
Der Kern ist, dass man Nutzer zu Moderatoren heranwachsen lassen muss. Moderatoren auf andere Weise zu beschaffen, ist nicht nachhaltig.
http://discourse.bridgefoundry.org/t/link-to-jeff-atwood-tal...
Nutzer: „KI, in welchem Lesezustand bin ich gerade?“ KI: „EveningSurfMood2, StuffFromFriends wird hervorgehoben, und in EclecticTopicsLarge sind Dangs HighQ Discussion v3, Alice12s Clueful Author Making Coherent Argument Filter und huggings UnusuallyInsightful51 enthalten.“
Während des Lesens, KI: „Von Mastatron ist eine Bewertungsanfrage eingegangen. Unterschätzt dieser Beitrag die Chancen eines groß angelegten Mensch-KI-Computing-Hybrids?“ Nutzer: „Ah, stimmt.“
Der Autor scheint die Vorteile von Selektionseffekten mit Kompetenz zu verwechseln.
Wer auf Plattformen Betrugsprävention gemacht hat, weiß, dass es auch für Betrug eine Art Markt gibt. Je nach Gewinn, wenn man eine Schwachstelle erlernt und ausnutzt, dem nötigen Aufwand und der Wiederholbarkeit entsteht auf jeder Plattform Betrug auf einem marktbereinigenden Niveau.
Dass es auf kleinen Plattformen viel weniger Betrug gibt, liegt meist daran, dass der Angriffswert viel geringer ist, und der Grund dafür ist gerade ihre geringe Größe.
Große Plattformen haben tatsächlich deutlich höhere Fähigkeiten zur Betrugs- und Spam-Prävention, werden aber wegen ihrer Reichweite als extrem attraktive Ziele trotzdem stark angegriffen.
Es ist ein Szenario, in dem Betrüger aus aller Welt gegen Amazon, Google und Facebook antreten. Das ist ein sehr unausgewogener Kampf, und insgesamt betrachtet halten sich die Plattformen überraschend gut.
Wenn diese Logik aber stimmt und die Systeme wirklich gut sind, müsste es nach absoluten Maßstäben schwieriger sein, auf Reddit oder Facebook Spam zu verbreiten oder Betrug zu begehen als auf HN; in Wirklichkeit ist das überhaupt nicht der Fall.
Diese Antwort wirkt intuitiv plausibel. Wenn große Unternehmen bei Missbrauchs- und Betrugsprävention wirklich kompetenter wären, müssten die über lange Zeit durchsickernden Betrugsfälle subtiler und weniger offensichtlich sein.
Wenn ihr Geschäftsmodell „Skalierung um jeden Preis“ ist und dadurch die Kundenerfahrung schlechter wird, ist es ziemlich egal, wie kompetent sie sind.
Es ist untrennbar mit dem Geschäftsmodell verbunden, Zugang zu einem möglichst großen Nutzerpool zu verkaufen.
Ich stimme nicht zu, dass große Plattformen bei Betrugs- und Spam-Prävention viel kompetenter sind. Sie sind absichtlich inkompetent. Denn sie können keine echte Fähigkeit aufbauen, die Menge an Fehlern, die automatische Algorithmen erzeugen, mit ausreichend menschlichem Support zu bearbeiten.
Nicht wegen der Kosten, sondern weil das den Wert verringern würde, den sie ihren eigentlichen Kunden bieten: Werbetreibenden oder Käufern von Zugang.
Ich stimme im Großen und Ganzen zu, finde aber, dass einige Beispiele danebenliegen.
Reddit ist wegen dieses Effekts kein schlechtes, sondern eher ein gutes Beispiel. Reddit ist keine einzige riesige Plattform, sondern eine Kombination aus Tausenden unabhängig moderierten Subreddits. Kleine Subreddits funktionieren gerade wegen ihrer geringen Größe, und so bleibt Reddit am Laufen.
Einen eigenen E-Mail-Server zu betreiben ist ebenfalls kein Gegenbeispiel, sondern tatsächlich ein sehr schlechtes Beispiel. Denn im Kern moderiert man damit keine kleine Community, sondern die ganze Welt – nur eben aus der eigenen Perspektive. Jeder kann jedem eine E-Mail schicken.
Dadurch bekommt man das Schlechteste aus beiden Welten: kein Budget, wie es aus großer Skalierung entsteht, aber die Probleme großer Skalierung hat man trotzdem.
Nicht ich habe Mühe, die ganze Welt zu moderieren; die ganze Welt moderiert mich.
Kleine Organisationen wissen oft nicht gut, wie man nicht wie Spam aussieht, und verwenden außerdem Antipatterns wie die in Unternehmen üblichen nervigen E-Mail-Signaturen.
Deshalb ist es für Gmail viel schwieriger, so genau zu werden wie mein Spamfilter. Mein Filter muss nur die Präferenzen von ein paar Hundert Leuten lernen, während Gmail zwangsläufig das Risiko von Overfitting eingeht.
Nimmt man diesen Artikel insgesamt, läuft es auf die Schlussfolgerung hinaus, dass wir mehr Wettbewerb brauchen, ohne einen klaren riesigen Marktführer. Wenn es potenziell mehrere Unternehmen mittlerer Größe oder darunter gibt und sich die Macht nicht auf eine Seite konzentriert, entsteht ein Anreiz, eine bessere Erfahrung zu bieten; und für böswillige Akteure wird es schwieriger, weil es mehrere Ziele gibt.
Aus Sicht von Regulierung und Markt-Wettbewerb sollte man meiner Meinung nach Anreize dafür setzen, mittelgroße Softwareunternehmen mit einem Gesamtwert von über 100 Milliarden Dollar zu schaffen, statt ein paar Billionen-Dollar-Giganten.
Hardware ist bei Skaleneffekten etwas anders, daher möchte ich sie nicht in dieselbe Argumentation einbeziehen, aber auch dort könnte etwas dran sein.
Rockefeller hatte vor Beginn des Kartellverfahrens etwa 90 % Marktanteil, doch bis zum Urteil war sein Anteil bereits gesunken. Das zeigt, dass der Markt die Größe eines Akteurs letztlich reduzieren kann, selbst wenn dieser 90 % hält.
Gleichzeitig brachte Rockefeller der Gesellschaft bahnbrechende Innovationen. Dass sich Kapital zunächst bei ihm bündelte, war gut, weil es dazu genutzt wurde, die Gesellschaft voranzubringen; und dass später Kapital von selbst wieder abfloss, war ebenfalls gut, weil es anderswo gebraucht wurde.
Die heutige Zentralisierung hin zu Megakonzernen wird von vielen Faktoren beeinflusst; Skaleneffekte gehören dazu, aber auch das Recht des geistigen Eigentums spielt eine große Rolle. Eigentlich halte ich geistige Eigentumsrechte für unnötig.
Ich vermute, dass die meisten Regulierungen von den regulierten Unternehmen geschrieben werden und dazu dienen, Wettbewerb zu verhindern. Außerdem glaube ich, dass die Zentralisierung im Ersten und Zweiten Weltkrieg richtig Fahrt aufnahm, weil es für die Regierung bequemer war, nur einigen wenigen anzuweisen, statt Autos Panzer zu bauen; zudem war sie ein strategisches Ziel der US-Regierung.
Bei Software und Online-Diensten war es besonders schlimm, weil es so viele Möglichkeiten gibt, Regulierung zu umgehen. Apples böswillige formale Erfüllung der EU-Vorgaben ist ein offensichtliches Beispiel; subtiler ist der Fall, in dem Facebook die Übernahme von WhatsApp genehmigt bekam, indem es überzeugte, dass Chat und Social Media unterschiedliche Märkte seien.
Idealerweise sollte man nicht nur Missbrauch von Monopolen verhindern, sondern Monopole selbst: https://pietersz.co.uk/2009/11/fix-capitalism
Lässt sich leicht beheben: Man muss Amazon für alle Verkäufe auf seiner Plattform haftbar mit Gewährleistung machen.
Amazon behauptet, es sei nicht der Verkäufer; Verkäufer sei die anonyme Partei, die auf der Plattform eine Anzeige geschaltet hat. Dazu gab es in Pennsylvania eine Klage, und als es immer wahrscheinlicher wurde, dass Amazon deutlich verlieren würde, einigte sich das Unternehmen, um einen Präzedenzfall zu vermeiden.
Bei Werbung sollte jeder, der Anzeigen für Dritte schaltet, auf Anfrage den tatsächlichen Namen und die Adresse des Werbetreibenden vorlegen können; wenn nicht, sollte er für den Inhalt der Anzeige haften. Unternehmen haben kein Recht auf Anonymität. In der EU und in Kalifornien gibt es solche Gesetze bereits.
Betrug ist ein Problem, weil die großen Plattformen immun bleiben, selbst wenn sie ihn unterstützen – nicht weil es schwierig wäre.
Da Werbetreibende Geld einnehmen müssen, ist es etwas überraschend, dass das nicht bereits so läuft. Allerdings könnte Werbung dadurch schwieriger werden, was kleineren Anbietern schadet; Kunden zu täuschen ist aber ebenfalls ein Problem.
Große Plattformen zucken bei den Verifizierungskosten nicht einmal mit der Wimper, und Betrüger fangen einfach von vorn an, wenn ein Plan scheitert.
Für legitime Unternehmen entsteht nur ein weiterer Schmerzpunkt. In Sonderfällen können Nutzer in einem endlosen bürokratischen Limbo landen. Selbst wenn es menschlichen Support gibt, wird er nur sinnlose Floskeln wiederholen wie: „Mit den von Ihnen bereitgestellten Dokumenten können wir Ihre Identität nicht verifizieren. Dies ist eine Compliance-Anforderung gemäß dem Online Platform Safety Act von 2026.“
Währenddessen werden Betrüger weiterhin KYC-verifizierte Konten erzeugen. Die Plattform kümmert sich nur um die Einhaltung der neuen Regulierung; dieses Verfahren hat dann nichts mehr mit Sicherheit zu tun. Amazon verdient weiterhin an jedem Verkauf seine Provision, und große Plattformen werden die Compliance-Anforderungen als Markteintrittsbarriere für Wettbewerber genießen.
Am Ende wird auch der Tag kommen, an dem alle personenbezogenen Daten geleakt sind. Der Sicherheitsvorfall wird für alle sichtbar, und auch das ist ein Problem, das Betrüger nicht haben.
Wenn ich jedes Mal einen Dollar bekäme, wenn ich einen Beitrag sehe, der sagt: „Mit mehr Staat lässt sich das einfach beheben“, könnte ich einen VC-Fonds auflegen. Wenn es um Menschen und Anreize geht, ist es nie so simpel. Die menschliche Gesellschaft ist keine Codebasis, die man patchen kann, um Bugs zu entfernen.
In diesem Artikel steckt viel, das man auspacken könnte, aber der Kern ist der Mythos der Größe und die Tatsache, dass Kleinsein schön ist.
Es ist nicht überraschend, dass Big Tech erfolgreich seine eigenen mächtigen Mythen schafft. Sowohl Großorganisationen als auch Nationalstaaten erzeugen Mythen von einzigartiger Leistungsfähigkeit, Unfehlbarkeit und Ausnahmecharakter.
Gleichzeitig muss man kaum erwähnen, dass Größe Ineffizienz, Korruption, Trägheit und Gefühllosigkeit mit sich bringt. Ohne protektionistische Maßnahmen, die riesige Monopole erhalten, wären sie unter echten Wettbewerbsbedingungen in Stücke zerfallen.
Man kann sich leicht vorstellen, wie Skaleneffekte Nutzern Vorteile bringen, sollte daraus aber nicht schließen, dass Skaleneffekte in allen Bereichen die Skalennachteile überwiegen.
Man muss sowohl betrachten, was besser wird, wenn ein Unternehmen wächst, als auch, was schlechter wird – und nicht annehmen, dass alles besser wird, nur weil manches besser wird, oder umgekehrt.
Es ist schwer nachzuvollziehen, dass Amazon offensichtlich gefälschte SD-Karten oder Flash-Speicher verkauft. Sie lassen sich sehr leicht erkennen, und gefälschte Speichergeräte vernichten Nutzerdaten, daher sollte man das ernst nehmen.
https://a.co/d/auXcxrZ verkauft 1 TB für 29 Dollar und ist als „overall pick“ markiert.
Denn dort gibt es eine lückenlose Kontrollkette vom Hersteller bis ins Ladenregal, sodass die Herkunft klar ist.
Orte wie Amazon werfen „identische“ Ware mehrerer Verkäufer in einen großen gemeinsamen Verkaufsbestand.
Ich glaube nicht, dass sie diesen Strom eindämmen können.
Die nichttechnischen Nutzer in meinem Umfeld bestehen darauf, für alles 1 TB zu brauchen. Eine Person kaufte ein iPad Pro nur, um 1 TB Speicher zu haben. Sie hatte ihr vorheriges iPad acht Jahre lang genutzt und etwa 64 GB gefüllt und wollte nie wieder zu wenig Speicher haben.