Die Dead-Internet-Theorie

• Eine Betrachtung des Phänomens, dass KI-generierte Inhalte inzwischen einen erheblichen Teil der Interaktionen im Internet ausmachen
• Ausgehend von einer Debatte auf HackerNews darüber, ob ein Open-Source-Projekt von KI generiert wurde, beobachtete der Autor Muster, bei denen selbst Kommentare aussahen, als seien sie von KI geschrieben
• In der Zeit von IRC und phpBB-Foren standen früher echte menschliche Interaktionen im Mittelpunkt, heute sind von KI erzeugte Bilder, Kommentare und Code ganz selbstverständlich daruntergemischt
• Auch auf LinkedIn beobachtete er Fälle, in denen mit KI manipulierte Firmenfotos als Beiträge echter Mitarbeiter veröffentlicht wurden
• Es wird die Sorge geäußert, dass sich der technische Fortschritt statt auf das Teilen menschlichen Wissens eher auf Gespräche zwischen Bots und das kommerzielle Umpacken von Inhalten verlagert

---

Debatte auf HackerNews und Problembewusstsein

• Der Autor entdeckte auf HackerNews ein von einem Nutzer veröffentlichtes Open-Source-Projekt
  • In den Kommentaren äußerten mehrere anonyme Nutzer den Verdacht, der Code sei nicht womöglich von KI generiert worden
  • Es folgten Hinweise darauf, dass die Commit-Timeline des Codes und der Stil der Kommentare wie KI-Erzeugnisse wirkten
• Der Autor ist nicht grundsätzlich gegen den Einsatz von KI, betont aber, dass man im Open-Source-Bereich offenlegen sollte, ob KI verwendet wurde
  • Weil die meisten Teilnehmenden im Internet anonym sind und es daher schwierig ist, Fachkenntnis oder Echtheit zu überprüfen
  • LLMs können bei einfachen Aufgaben nützlich sein, bei komplexen Problemen oder Edge Cases aber Risiken verursachen

KI-Spuren in Kommentar-Mustern

• Der Autor erkannte auch in den Kommentaren des Projektautors einen für KI typischen Stil
  • Zum Beispiel die übermäßige Nutzung von em-dash (—) oder unnatürliche Formulierungen wie „you are absolutely right“
  • Ebenso die wiederholte KI-typische Satzstruktur wie „let me know if you want to [do that thing] or [explore this other thing]“
• Da sich solche Formulierungen von echten menschlichen Sprachgewohnheiten unterscheiden, kam bei ihm der Verdacht auf, ob sein Gegenüber überhaupt ein realer Mensch ist

Das Bewusstwerden der „Dead Internet Theory“

• Durch diese Erfahrung musste der Autor an die Dead Internet Theory denken
  • Diese Theorie behauptet, dass seit etwa 2016 der Großteil des Internets von Interaktionen zwischen Bots und maschinell erzeugten Inhalten geprägt sei
  • Der Zweck solcher Inhalte liege vor allem in kommerziellen Interessen wie Produktverkauf oder SEO-Manipulation

Kontrast zwischen dem früheren und dem heutigen Internet

• Anfang der 2000er, zu IRC- und phpBB-Forenzeiten, standen Lernen und Austausch zwischen echten Menschen im Mittelpunkt
  • Der Autor bezeichnet diese Zeit als „Internet University“ und erinnert sich daran, dort Netzwerke, Betriebssysteme, Spiele und Webentwicklung gelernt zu haben
  • Damals war man sich sicher, dass auf der anderen Seite ein Mensch saß
• Heute ist die Realität von vermischten KI-Bildern und KI-Kommentaren geprägt, wodurch sich Echtes und Falsches nur schwer unterscheiden lassen

Sorge über die Ausbreitung von KI-Inhalten

• Auf LinkedIn sah er mit KI manipulierte Bürofotos, die von tatsächlichen Unternehmensmitarbeitern gepostet wurden
  • Merkwürdige Handformen und bedeutungsloser Text im Bild machten deutlich, dass sie KI-generiert waren
  • Es wurde sogar die Möglichkeit angesprochen, dass selbst die Personen auf den Fotos gar nicht existieren
• Auch auf Facebook, Xitter und TikTok verbreiten sich falsche KI-generierte Inhalte
  • Etwa Bilder, auf denen riesige Gestalten Pyramiden gebaut haben sollen, oder Videos mit bestimmten politischen Botschaften
• Der Autor beschreibt, dass diese Realität bei ihm Traurigkeit und Ohnmachtsgefühle ausgelöst habe
  • Weil KI für die breite Masse leicht zugänglich geworden ist, ist das Netz voller „AI-slop“ (KI-Müllinhalte)
  • Die Menschen schreiben Texte oder Code nicht mehr selbst, sondern überlassen es KI-Agenten

Skepsis gegenüber der Zukunft von Technik und menschlichem Wissen

• Der Autor liebt Technologie und Software Engineering nach wie vor,
  weist jedoch darauf hin, dass sich das heutige Internet in einen Raum verwandelt, in dem Bots mit Bots sprechen
• Menschliches Wissen wird zu kommerziellen Inhalten im Stil von „10 Schritte zur Lösung Ihres Alltagsproblems“ umverpackt,
  wodurch die eigentliche Bedeutung des Wissensaustauschs verloren geht

[GN⁺]

Hacker-News-Kommentare

• Vor Kurzem sind meine Eltern auf ein mit KI erstelltes Fake-YouTube-Video hereingefallen. Es zeigte, wie eine „rassistische Polizei“ etwas Schlimmes tut, und anfangs wirkte es selbst auf mich echt, sodass ich unsicher war. Als ich danach suchte, fand ich keine Quelle, nur Reuploads. In der Kanalbeschreibung stand zwar, „einige Videos seien KI-nachgestellte echte Vorfälle“, aber das war überhaupt nicht glaubwürdig. Es ist einfach traurig, dass solche Inhalte für YouTube-Werbeeinnahmen Spaltung schüren

  • Nach rassistischen Inhalten übersteigt die Nachfrage das Angebot. Mit der Realität allein lässt sich Empörung schwer dauerhaft aufrechterhalten, deshalb werden solche Videos immer weiter produziert
  • KI-Videos erkennt man oft schon an der Posting-Historie eines Accounts. Es wird zu häufig und zu repetitiv gepostet, ohne konsistente Themen oder Hintergründe. Selbst wenn die Technik besser wird, werden solche Muster wohl nicht verschwinden
  • Ich verbringe in letzter Zeit viel zu viel Zeit im Subreddit RealOrAI. Jedes Mal, wenn ich falschliege, macht mich das nervös, also schaue ich noch mehr, um besser unterscheiden zu können. Aber vielleicht müssen wir inzwischen akzeptieren, dass wir echt und falsch nicht mehr auseinanderhalten können
  • Eigentlich sind diese Sorgen nicht neu. Auch früher war es üblich, mit manipulierten Fotos oder Videos ohne Kontext Spaltung zu erzeugen. KI hat das nur viel einfacher gemacht
  • Ich wünschte, Google würde Videos mit KI-Inhalten automatisch kennzeichnen

• Der Aussage „Das ist kein soziales Netzwerk“ stimme ich vollkommen zu. Früher bedeutete „Social Media“ einen Ort für den Austausch mit echten Freunden, heute fällt sogar ein Forum wie Reddit darunter. Dadurch sind Räume für echte soziale Interaktion fast verschwunden

  • Diese Rolle erfüllt heute Discord. Es ist eine einladungsbasierte Community ohne öffentlichen Feed und wird von echten Menschen direkt moderiert. Meine alten IRC-Freunde sind inzwischen auch alle zu Discord gewechselt. Wenn Discord irgendwann an die Börse geht, würde man wohl auf etwas wie Matrix als Alternative ausweichen
  • Ursprünglich war „social media“ ein Netzwerk, in dem man direkt Inhalte mit Freunden teilt. Aber seit Facebook es auf Resharing ausgerichtet hat, ist es eher eine Plattform zum Konsum zufälliger Inhalte als ein Ort für Neuigkeiten von Freunden. HN hat keine Freundesfunktion und ist deshalb eher ein Forum
  • Auch TikTok oder Instagram nennt man „sozial“, aber die meisten posten überhaupt nichts. Es sind einfach nur Plattformen zum Medienkonsum
  • Eigentlich kenne ich mich mit Discord selbst nicht aus, weil ich es nie benutzt habe. Für mich wirkt es nur wie eine von einem Unternehmen betriebene Version von IRC, deshalb verstehe ich den Hype nicht
  • Meta zufolge interagieren weniger als 10 % der Nutzer mit Menschen, die sie tatsächlich kennen. Das heutige Social Media ist nur noch „Scroll-Unterhaltung“

• Dass niemand einen „em dash (—)“ benutzt, ist ein Irrtum. Ich habe ihn schon immer oft verwendet. Auch Formulierungen wie „you’re absolutely right“ benutzen Freunde untereinander oft als sarkastischen Witz. Unter uns, die wir in Großbritannien aufgewachsen sind, klingt das ganz natürlich

  • Inzwischen nervt es, dass schon gute Typografie dazu führt, dass ein Text für LLM-generiert gehalten wird. Ich benutze en dash und em dash schon seit Jahren. Mit der Compose-Taste lässt sich das auch leicht eingeben
  • Der em dash selbst ist nicht das Problem. Englisch ist nicht meine Muttersprache, deshalb habe ich beim Bloggen damit geübt und verschiedene Varianten ausprobiert, weil der Eindruck je nach Leerzeichen anders ist. Am Ende sind die meisten Menschen sowieso nicht konsequent. Wer zu perfekte Grammatik schreibt, ist eher wahrscheinlich KI
  • Vielleicht wegen britischer Höflichkeit benutze ich Formulierungen wie „you’re right, but…“ ganz selbstverständlich
  • Auch in unserem Buchladen-Newsletter verwenden wir em dashes. Sie wirken visuell sauberer als Semikolons und sind praktisch, um Sätze zu trennen
  • Unter iOS kann man sie leicht eingeben, indem man die „-“-Taste lange gedrückt hält, deshalb nutze ich sie oft

• Es gibt eine einfache Methode zu prüfen, ob ein Bild von KI erzeugt wurde.

  • OpenAI verwendet C2PA-Metadaten,
  • Gemini nutzt SynthID-Wasserzeichen.
  • SynthID gilt nicht nur für Bilder, sondern auch für Text, und der Code ist ebenfalls öffentlich
  • Wenn man jedoch mit einem Image-to-Image-Modell Rauschen hinzufügt oder entfernt, lässt sich auch SynthID löschen
  • Ich habe sogar Bilder aus dem OpenAI-Blog auf die Verifizierungsseite hochgeladen, und dort gab es keine Metadaten. Das untergräbt das Vertrauen
  • Allerdings ist der Zweck von C2PA, „Echtheit zu beweisen“. Man kann nicht alle Inhalte verifizieren, aber zertifizierte Bilder könnten sogar als rechtlicher Nachweis dienen

• Das heutige Problem liegt letztlich an der Incentive-Struktur der Plattformen.

  • Bei YouTube geht es um Views, bei LinkedIn um Eigen-PR, bei HN um Startup-Promotion.
  • Kann man eine Community schaffen, in der KI nutzlos ist, weil es nur um echte menschliche Interaktion geht?
  • Vermutlich sind kleine Freundesgruppen so ziemlich die einzige Antwort
  • Früher konnte man in kostenlosen phpBB-Foren oder auf IRC mit klugen Leuten reden. Aber erst jetzt wird mir klar, wie groß damals die Kosten für Betrieb und Moderation waren
  • Solche Communities sollten durch Dunbars Zahl (Dunbar’s number) begrenzt sein. Werden sie größer, lassen sie sich ohne Regeln und Administratoren nicht halten
  • Heute führen selbst ungenaue Videos am Ende zu Views und Werbeeinnahmen. Die Plattformen übernehmen keine Verantwortung
  • Vielleicht wäre es möglich, wenn Werbung komplett verboten wäre und man nur einen freundeszentrierten Feed ohne globalen Feed anzeigen würde, aber die UX würde darunter leiden
  • Letztlich ist die Wurzel des Problems das werbefinanzierte Internetmodell. Selbst bei Twitter wiegt diese strukturelle Grenze schwerer als Elon Musk

• Ich finde nicht, dass man beim Veröffentlichen von Open-Source-Code offenlegen muss, ob KI verwendet wurde. Solche Forderungen zerstören nur die Lust am Erstellen. Menschen wollen den von ihnen geschriebenen Code teilen, nicht beweisen, dass sie keine KI benutzt haben

  • In manchen Fällen behaupten Autoren aber immer weiter, sie hätten „keine KI benutzt“, obwohl der Code Spuren KI-generierter Entstehung zeigt, und dann fühlt man sich fast, als würde man gaslighting erleben

• Ich frage mich, ob es Social-Media-Plattformen gibt, die KI verboten haben. Vielleicht ließe sich das über Bildmetadaten oder die Analyse des Nutzerverhaltens unterbinden

  • Wenn so eine Plattform entstünde, wäre sie das Paradies für Adversarial Training
  • Bluesky verbietet es offiziell nicht, aber die Community ist KI gegenüber sehr feindselig, deshalb sieht man dort kaum etwas davon
  • Das neu wiederbelebte Vine will KI-Inhalte ausdrücklich verbieten
  • Orte wie Mastodon.art verbieten KI ganz klar
  • Letztlich kann es also Communities geben, die KI allein durch sozialen Druck fernhalten

• Ich hoffe, dass Menschen zur Realität zurückfinden, wenn irgendwann alle Online-Inhalte von KI erzeugt werden

  • Ein bisschen sieht man diese Veränderung schon. Früher hieß es: „Ohne Foto glaube ich es nicht“, aber heute sind selbst Fotos manipulierbar, deshalb fotografiere ich echte Erinnerungen nur noch für mich selbst
  • Es ist aber genauso gut möglich, dass viele Menschen stattdessen mit Interaktionen mit KI zufrieden sein werden
  • Schon jetzt können viele ihr Handy nicht aus der Hand legen; wenn KI dafür optimierte Inhalte produziert, wird das noch stärker werden
  • Trotzdem ist der Gedanke an sich irgendwie tröstlich

• Wir leben inzwischen in einer Zeit jenseits des Turing-Tests. Wenn wir Menschen und KI nicht unterscheiden können, liegt das vielleicht nicht daran, dass KI klüger geworden ist, sondern daran, dass unsere Online-Gespräche oberflächlich geworden sind

  • Aber beim echten Turing-Test geht es nicht nur darum, getäuscht zu werden, sondern darum, dass ein interrogator im Gespräch nicht unterscheiden kann. So weit sind die heutigen LLMs noch nicht
  • Text trägt nur wenig Information, und weil es ein Vertrauen darin gibt, dass „ein Mensch das geschrieben hat“, lässt man sich leicht täuschen. Deshalb ist textbasierte KI besonders gefährlich. Mir passiert es inzwischen sogar bei Telefonaten, dass ich unsicher bin, ob am anderen Ende ein Mensch oder ein Roboter ist
  • Letztlich braucht man eine ausgewogene Sicht nach dem Muster „on the one hand…“ und „on the other hand…“

• Ich nenne das den „Teppich-Effekt“. Wenn ein Video oder eine Gesprächsstruktur perfekt ausgerichtet ist, wirkt es künstlich. Wie bei marokkanischen Teppichen muss man absichtlich Unvollkommenheit übriglassen, damit es menschlich wirkt. Aber auch dieses „Erkennungsmerkmal“ wird wohl bald verschwinden