Reddit-Bots machen mich wahnsinnig

• Ein Beitrag auf Reddit, der menschliche Verzweiflung ausdrückte, sammelte rund 6.000 Upvotes und Hunderte Kommentare; beim Nachverfolgen der Aktivitäten und Links des Autors stellte er sich jedoch als Bot-artiger Werbepost heraus
• Der Account zeigte ein typisches Muster von Karma-Farming: mehrere Posts pro Tag mit Haustier-Videos, recycelten herzerwärmenden Geschichten und wiederholten Memes, aber ohne Kommentare
• Der Link rddit.org am Ende des Beitrags gehörte nicht Reddit, sondern war die anonym registrierte Domain eines Premium-Link-Shortener-Dienstes
• Der Link führte zu einer modernen illustrierten Ausgabe von Edward L. Bernays’ Propaganda auf Amazon; die URL enthielt das Affiliate-Tag manwithhairwe-20
• Die Struktur bestand darin, dass ein AI-Bot Vertrauen gewann, indem er das Gefühl ausnutzte, „AI-Bots hätten das Internet kaputt gemacht“, und heimlich einen klassischen Text mit AI-generierten Illustrationen bewarb

---

Seltsame Spuren eines Reddit-Beitrags, der menschlich wirkte

• Im Reddit-Feed mischten sich viele Posts, die politische Empörung provozierten, recycelte Katzenvideos, reißerische Beziehungsposts und alte wojack-Memes
• Darunter zog ein Beitrag mit dem Titel "Anyone else feel like the internet is just… broken now?" wegen seiner authentisch menschlich wirkenden Emotionalität Aufmerksamkeit auf sich
  • Der Beitrag erhielt fast 6.000 Upvotes und Hunderte Kommentare
  • Im Text ging es darum, dass sich online alles wie Werbung, Verkauf oder ein Versuch, viral zu gehen, anfühle und nichts mehr echt wirke
• Doch Satzrhythmus und Formulierungen wirkten so stark auf Empathie-Erzeugung optimiert, dass dies zum Blick auf das Profil des Autors führte
• Das Profil war voller viraler Haustierclips, recycelter herzerwärmender Geschichten und wiederholt geposteter Memes
  • Der Account veröffentlichte täglich mehrere Threads
  • An Kommentaren beteiligte er sich nicht
  • Diese Aktivitätsweise wirkte wie typisches Bot-Verhalten

Versteckter Affiliate-Link und Dead Internet Theory

• Im ursprünglichen Beitrag war am letzten Satz ein Link mit dem Text "This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading." angebracht
• Der Link nutzte die Domain rddit.org und sah zunächst wie ein Reddit-Kurzlink aus
  • Man hätte denken können, es handele sich wie bei Twitters t.co oder Facebooks fb.me um einen plattformeigenen Kurzlink
  • Eine WHOIS-Abfrage ergab, dass rddit.org nicht Reddit gehört
  • Die Domain war ein anonym registrierter, günstiger Premium-Link-Shortener-Dienst
• Ein Klick führte zu einer modernen illustrierten Ausgabe des Klassikers Propaganda von Edward L. Bernays auf Amazon
  • In der URL war das Affiliate-Tag manwithhairwe-20 zu sehen
  • Das Buch hatte 13 eher generische Rezensionen
  • Beim Nachverfolgen des Amazon-Profils des Illustrators zeigte sich, dass der Verkäufer klassische Texte mit AI-generierten Bildern ergänzte und verkaufte
• Hunderte Nutzer reagierten in den Kommentaren, aber niemand schien die Täuschung zu bemerken
• Der Top-Kommentar erwähnte die Dead Internet Theory
  • Das ist die Vorstellung, dass die meisten Online-Interaktionen in automatisierten Schleifen zwischen Bots stattfinden
• Letztlich verhielt sich ein AI-Bot wie ein Mensch, klagte darüber, dass „AI-Bots das Internet kaputt gemacht“ hätten, und nutzte dieses Gefühl, um über einen Affiliate-Link ein Buch mit AI-Illustrationen zu verkaufen
• Das Ende des Textes verdreht einen Orwell-artigen Satz und beschreibt die Zukunft als „Bots, die Menschen traurig und wütend machen, um Engagement zu erzeugen, und für immer AI-generierten Low-Quality-Content verkaufen“

[GN⁺]

Meinungen auf Hacker News

• Ich habe Reddit ungefähr zur Zeit der Reddit-API-Affäre aufgegeben, aber schon davor war es ein schlechter Dienst, den ich aus Gewohnheit nutzte.
  Manipulierte öffentliche Meinung war viel zu verbreitet, und mich überkam eine tiefe Traurigkeit darüber, dass das frühere Internet verschwunden ist, in dem man jeden Tag erstaunliche und interessante Menschen und Dinge entdeckte. Früher fühlte es sich wirklich magisch an, heute ist es einfach nur langweilig.

  • Es müssen nicht einmal Bots oder manipulierte öffentliche Meinung sein. Ideologisch voreingenommene Moderatoren können Leute bannen, die anderer Meinung sind, mehrere Subreddits kontrollieren, und manche bannen einen sogar nur dafür, dass man in einem anderen Subreddit geschrieben hat.
    Reddit als Ganzes interessiert sich nicht für Fairness, und die Richtung, die die Seite eingeschlagen hat, wirkt ziemlich eindeutig.
  • Aus der Sicht von jemandem, der tief in den GameFAQs-Foren steckte, ist der Enshittification-Zyklus fast ein vorhersehbarer Kreislauf.
    Zuerst gibt ein Unternehmen viel Geld aus, um eine Internet-Community aufzubauen. Irgendwann versiegt, ob gerechtfertigt oder nicht, die Geldquelle, und mit Werbung und minderwertigen Beiträgen als Norm beginnt der Verfall. Die Leute suchen sich zunächst langsam Alternativen, gehen dann aber irgendwann sehr schnell. Dann fängt ein neues Unternehmen die Vorstellungskraft der unzufriedenen Masse ein und baut eine neue Online-Community auf.
    Reddit befindet sich jetzt im späten Abschnitt dieses Verfallszyklus. Es hat es bis zum IPO geschafft, und die ursprünglichen Besitzer haben an der Börse Milliarden Dollar eingestrichen. Sie scheinen kein Herz mehr für Reddit zu haben, und es ist Zeit, sich nach Ersatz umzusehen.
    Reddit selbst war auch nur der Ort, der glücklicherweise an einem Schnittpunkt gewählt wurde, an dem LUEsers, Digg und Slashdot zugleich Leute verloren. Davor gab es Communities wie Usenet, BBS und MUD; weil sich die Technik mit jeder Generation stark verändert, ist schwer vorherzusagen, was als Nächstes groß wird.
  • Falls du das Lemmyverse noch nicht gefunden hast: Schau bei piefed.social vorbei, dort könntest du wieder glücklich werden.
    piefed ist mit Lemmy-Instanzen föderiert, und obwohl ich mit keinem der beiden Projekte verbunden bin, macht mir der Feed großen Spaß.
  • Wenn man Technologie und Plattformen aufgibt und IRC-Kanälen beitritt, kann man ein Stück davon zurückbekommen.
  • Heutzutage ist es schwer, auf Reddit zu schreiben. Selbst eine leichte Alternative wie 9gag wirkt aus irgendeinem Grund deutlich einladender.

• Früher mochte ich Reddit, aber vor allem die manipulierte öffentliche Meinung politischer Gruppen ist unerträglich geworden.
  Nach der letzten Wahl scheinen politische Gruppen erkannt zu haben, dass regionale Subreddits nicht ausreichend genutzt wurden, und haben sich dorthin umorientiert. Einigen Google-Ergebnissen, bei denen ich Reddit an die Suche anhänge, traue ich noch, aber auch dieses Vertrauen schwindet. Threads mit Produkt- und Serviceempfehlungen lassen sich wirklich leicht manipulieren.

  • Reddit fühlt sich für mich extrem wie eine Echokammer an, und ich denke, das Voting- und Karma-System ist auf die falsche Art von Inhalten optimiert.
    Ich habe ein paar Mal in Subreddits zu Nischeninteressen wie Homebrewing, Elektronik und Musikinstrumenten mitgemacht, war insgesamt aber enttäuscht. Meine Hypothese ist, dass Leute, die sagen, Reddit sei ein guter Ort für Nischenhobbys, nie die alten Foren erlebt haben, in denen es wirklich leidenschaftliche und engagierte Mitglieder gab.
    In den letzten zwei bis drei Jahren ist dieses Problem immer schlimmer geworden. Für Memes ist Reddit allerdings hervorragend, und es gibt wirklich witzige Subreddits. Aber ich beteilige mich kaum und konsumiere fast nur.
  • Es ist immer so offensichtlich, dass es schon lustig ist. In einem lokalen Reddit bekommen gut bewertete Beiträge normalerweise etwa +70 Stimmen, aber ein beliebiger politischer Beitrag — immer nur politische Beiträge — bekommt +2000 Stimmen. Es ist so dreist, dass sie sich nicht einmal darum scheren.
  • Der Kern ist nicht das, sondern dass die Leute manipulierte Subreddits aus /r/all herausfiltern und dass es für die Filterliste von r/all eine Begrenzung auf 100 Subreddits gibt.
    Wenn man also mehr als 100 Subreddits manipuliert, kann man seinen Kunden garantieren, dass ihre Beiträge auf der r/all-Startseite aller Nutzer erscheinen.
  • Nach der letzten Wahl hat ein kleines regionales Subreddit, das über Jahre dieselbe allgemeine Kultur beibehalten hatte, über Nacht wie auf Fingerschnippen in das genau entgegengesetzte Extrem umgeschwenkt.
    Wenn man dort heute auch nur ansatzweise Gedanken teilt, die dort jahrelang breit akzeptiert waren, wird man verprügelt, verspottet und per Downvotes unsichtbar gemacht.
    Das Ausmaß der Manipulation, die auf dieses Subreddit zielt, ist so offensichtlich und nachweisbar, dass es kaum zu übersehen ist. Es wirkt, als hätte jemand irgendwo dieses Subreddit auf eine Liste von Manipulationszielen gesetzt. Aber wie soll man über einen bereits beschädigten Kommunikationskanal sagen, dass genau dieser Kanal beschädigt wurde?
    Die meisten scheinen solche Kommunikationsmanipulation nicht einmal zu bemerken, und sie ist inzwischen entsprechend ausgefeilt. Früher waren Bot-Accounts viel leichter zu erkennen, heute sind Account-Historien geschickt aufgebaut und die Beiträge kaum noch von denen echter Menschen zu unterscheiden. Natürlich ist nicht jede Manipulation Bot- oder KI-basiert; es gibt auch organisierte PR-, Sockpuppet- und Manipulationskampagnen, die von echten Menschen betrieben werden.
    Die klugen Leute sind schon gegangen und zum nächsten Ort weitergezogen, aber auch der wird letztlich nicht groß oder bedeutend genug werden dürfen, bevor der Propaganda-Feuerwehrschlauch aufgedreht wird. Um das zu beheben, braucht es einen völlig anderen Rahmen für Kommunikation.
  • Ich bin ziemlich skeptisch gegenüber der Aussage, das meiste sei manipulierte öffentliche Meinung. Bot-Accounts findet man natürlich, aber das Gruppendenken auf Reddit erzeugt eine sehr starke Echokammer.
    Jeder lernt schnell, dass man rasch Downvotes bekommt, wenn man etwas schreibt, das nicht zu den populären Meinungen auf Reddit passt. Wenn man einen empfindlichen Punkt berührt, erhält man wütende private Nachrichten, oder jemand durchwühlt die eigene Beitragshistorie und zieht sogar alte Kommentare in die Debatte hinein.
    Große Foren waren schon immer so. Sie werden von einer kleinen Zahl von Nutzern geprägt, die am meisten Zeit haben, den ganzen Tag Beiträge zu schreiben. Wenn ich auf Reddit manchmal eine ungewöhnlich wütende Antwort bekomme und neugierig aufs Profil klicke, ist es oft jemand, der in den letzten zehn Stunden ununterbrochen kommentiert hat. Mit Menschen, die endlos freie Zeit und herauszulassende Wut haben, kann man nicht konkurrieren; am Ende verhaken sie sich miteinander und drängen andere Meinungen heraus.

• Die Domain posthuman.blog wurde erst gestern, am 12. April, dem Tag der Veröffentlichung dieses Beitrags, registriert — https://www.whois.com/whois/posthuman.blog
  Außerdem gibt es dort nur zwei Beiträge, und der erste ist so datiert, als sei er im Juli 2022 geschrieben worden. All das weckt den berechtigten Verdacht, dass diese Person in Wahrheit selbst derjenige ist, der den Beitrag erstellt hat, über den sie sich beschwert

  • Ironisch ist, dass dieser Kommentar von einem Account mit grünem Benutzernamen stammt, was bedeutet, dass er erst in den letzten Tagen neu registriert wurde
  • Der Blog wird seit 2022 unter einer anderen Domain betrieben. Wie das Archiv zeigt, lag der Schwerpunkt damals auf Wirtschaft. Jetzt werden die Beiträge vom alten Host umgezogen
  • Vielleicht bist auch du Teil der Sache. Ein frisch erstellter HN-Account, ein bisschen verdächtig, oder? Doppelt gefälschte Enthüllung?
  • Der einzige Gewinnzug ist, das Spiel nicht zu spielen. Man sollte Internetforen verlassen und sein Leben in der realen Welt leben. Leider sitzen wir alle hier fest
  • Dann wird unklar, ob es ein weiterer Versuch ist, Müll mit AI zu vermarkten, oder eine manipulierte Stimmungskampagne gegen AI
    Das Mädchen aus der Old-El-Paso-Werbung hätte dazu wohl etwas zu sagen

• Wenn man sich den Oxford-Bericht von 2020 über Manipulation durch staatliche Akteure ansieht, ist dieses Problem enorm weit verbreitet. 57 Länder nutzen Bot-Accounts, 79 Länder nutzen menschliche Propaganda-Accounts
  Ich halte das für eines der fünf dringendsten Probleme unserer Zeit. Ich hasse es wirklich, dass Regierungen die Öffentlichkeit viel zu wenig darüber informieren
  https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (Pressemitteilung)
  https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (der eigentliche Bericht. Sehr interessant; wenn ihr diesen Monat nur einen Bericht lest, empfehle ich diesen. Er behandelt ausführlich, mit welchen Bereichen die Cybertruppen der einzelnen Länder verbunden sind — Staat, Influencer, Parteien, NGOs usw. — und ob sie Menschen oder Bots einsetzen)
  Außerdem: Weltweit nimmt die Kontrolle der Medien durch Regierungen zu
  https://digitalcontentnext.org/blog/2024/10/22/government-co...

  • Um 2008 herum, in meinem ersten Job nach dem College, arbeitete ich bei einer Firma, die solches Reputationsmanagement betrieb. Schon damals war das ein großer Markt, und heute wird fast alles stark kontrolliert. Besonders Reddit
    Auch den neuen Feed von Facebook hasse ich. Er wiederkäut endlos Clickbait- und Empörungsmüll
    Die besten echten Communities, die ich online kenne, sind Heavyequipmentforums.com und newagtalk.com. Allerdings ist es nicht einfach, solche echten Foren über die Google-Suche zu finden. Das Produkt, dessen Qualität im Laufe der Zeit wohl am stärksten nachgelassen hat, ist vermutlich die Google-Suche, und ehrlich gesagt kann man all die oben genannten Probleme auch auf die schlechter gewordene Qualität der Google-Ergebnisse zurückführen

• Seit der Reddit-API-Affäre vor zwei Jahren ist die Lage wirklich schnell schlechter geworden. Jetzt ist alles flacher, es gibt weniger aufschlussreiche Kommentare und mehr verkommene, giftige Kommentare
  Die meisten besuchen die Seite aus Gewohnheit, fühlen sich danach aber meist schlechter. Früher war das nicht so
  Selbst Communities wie r/woodworking, in denen früher freundliche Leute versammelt waren, sind so. Ich verstehe nicht, wie man Holzwerker sein und gleichzeitig so giftig sein kann. Klar, ab und zu hatte sich jemand mit dem Hammer auf den Daumen gehauen, aber das war die Ausnahme

• Verwandtes Material: „Containment Control for a Social Network with State-Dependent Connectivity“ (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
  Auch bekannt als Reddits „Most-Addicted City“ von 2013: https://web.archive.org/web/20160604042751/http://www.reddit...

  • Ich erinnere mich, wie ich mich einmal in das Rabbit Hole von Reddits Dead-Internet-Theorie vertieft habe; es war wirklich erschreckend
    Es gibt unglaublich viele Menschen, die tatsächlich dafür bezahlt werden, Gesprächsskripten zu folgen und Narrative voranzutreiben
  • Eine enorme Entdeckung. Dass die Zugriffszahlen aus Eglin wie ein positiver Indikator präsentiert wurden, zeigt gut, wie ahnungslos Social-Media-Unternehmen gegenüber diesem ganzen Problem waren

• Manchmal frage ich mich, ob Mitglieder, die vergessen, dass sie dasselbe schon am Vortag gepostet haben, in Wahrheit Bots sind ;)
  https://news.ycombinator.com/item?id=43664383

  • Jetzt bewegen wir uns tief in existenzielles Blade-Runner-Terrain hinein
    Was ist echt … bin ich nur ein Bot?
    Mein Gott … ich war ein Bot
  • Ich habe schon einmal etwas einen Tag später erneut gepostet und bin damit mehrfach auf die Frontpage gekommen. Man kann nicht wissen, wie das Timing funktioniert. So ein Verhalten entspricht auch den Guidelines
  • In letzter Zeit werden Reposts und quellengewaschene Beiträge im Bereich „new“ immer häufiger. Auch dieser Ort sinkt in diese Richtung ab
  • Manche Leute posten zu verschiedenen Tageszeiten, um „so viel“ Aufmerksamkeit wie möglich mitzunehmen. In diesem Fall war der vorherige Beitrag allerdings 22 Stunden alt, also fast zur gleichen Zeit wie gestern, und nicht 4/8/12/16/20 Stunden zuvor, daher liegst du vermutlich richtig

• Wenn Reddit an dem Punkt angekommen ist, an dem es mehr nervt als Spaß macht, muss man einfach lernen, es auszuschalten. Man muss die Sucht behandeln

  • Die beste Methode, eine Sucht loszuwerden, ist, eine etwas weniger schädliche Sucht wie HN, Ars, Econo oder IEEE zu finden
  • Für mich hatte Reddit diesen Punkt schon vor ein paar Jahren erreicht
  • Stimmt. Aus verschiedenen Gründen meide ich Reddit größtenteils. Ich habe es gelegentlich durch diese Seite und Twitter ersetzt
  • Als ich während der API-Affäre sah, wie unverhohlen die Community ignoriert wurde, kam ich zu dem Schluss, dass ich Reddit nicht mehr nutzen muss
    Eine Zeit lang nutzte ich nur Hacker News, danach fing ich mit TikTok an. Es ist nicht schlecht, aber man muss aufpassen, weil der Feed einem manchmal hirnzersetzende Inhalte vorsetzen will

• Menschen programmieren seit Anbeginn andere Menschen, und wenn auch umstritten, haben das auch andere Spezies getan[0]
  Die Ironie, dass der Affiliate-Link ausgerechnet ein Buch zu diesem Thema war, ist großartig. LLMs sind echte Meme-Maschinen und die besten, die wir bisher gebaut haben
  Was ist der Unterschied zwischen einem Menschen, der andere Menschen papageienhaft nachplappert, und einem Bot?
  Sind Handlungsmacht+Neuheit die neue Version des Turing-Tests?
  [0] https://www.scientificamerican.com/article/bonobo-calls-are-...

  • Wenn ich raten müsste, sieht es eher danach aus, dass dieser Beitrag nicht von Anfang an von einem LLM geschrieben wurde, sondern vermutlich einen früher gut gelaufenen Beitrag recycelt hat
    Auch die übrigen Beiträge dieses Accounts sind recycelte alte Beiträge, die früher gut funktioniert haben. Die einfachste Erklärung ist, dass es hier genauso ist
  • Die Idee, dass soziale Interaktion — also die Fähigkeit, abzuschätzen, welche Informationen ein anderes Wesen hat, sich in dessen Perspektive hineinzuversetzen, Reaktionen vorherzusagen und dies zu nutzen, um das nächste Verhalten zu manipulieren — ein wesentlicher Treiber der Intelligenzexplosion bei Menschen, Vögeln und anderen klugen Tieren gewesen sein könnte, taucht immer wieder auf
    Interessant ist das deshalb, weil man sich in den Vorstellungen vom Zeitalter intelligenter Maschinen aus der Goldenen Ära der Science-Fiction, etwa bei Asimov, meist eiskalt rechnende und folgernde, extrem logische Maschinenwesen ausmalte. Tatsächlich haben wir aber einen unscharfen, stimmungsabhängigen Textgenerator gebaut, der besonders gut darin ist, manipulativen Textmüll zu erzeugen. Vielleicht ist das kein Zufall, sondern spiegelt bis zu einem gewissen Grad die allgemeine Richtung höherer Intelligenz wider

• Die Einstiegshürden sind zu niedrig und der Fischschwarm ist zu groß, also gehen die Leute angeln. Geld zu verdienen ist einfach zu leicht
  Deshalb gibt es hier im Grunde keine Lösung. Mehr als sich von Orten wie Reddit fernzuhalten bleibt kaum

  • Ich lasse Reddit hinter mir und wechsle zu kleineren Communities, die auch Offline-Veranstaltungen machen. Es ist schwer geworden, noch an anonymen Communities teilzunehmen. Jeder könnte ein Bot sein. Ironischerweise nutze ich Hacker News immer noch
  • Ehrlich gesagt ist es deprimierend, dass so viele Menschen Geld höher stellen als Ehrlichkeit. Solche Leute gab es wohl schon immer, aber das Internet hat ihre Präsenz eindeutig verstärkt