Das Internet ist voller KI-generierten Müllinformationen
(aftermath.site)- Internetsuchen waren früher so einfach, dass „let me Google that for you“ als Spruch funktionierte, aber inzwischen muss man Informationen immer öfter noch einmal bei Menschen gegenprüfen, weil KI-generierte Inhalte und fehlerhafte Suchergebnisse zunehmen
- Google zeigt in den Suchergebnissen statt Links Snapshots von Seiten an, wodurch sogar falsche Angaben wie Quoras KI-Antwort, nach der „Eier schmelzen können“, eingeblendet werden
- Der Qualitätsverlust der Suche geht über bloß problematische KI-Antworten hinaus und erschüttert den Suchkontext selbst, etwa wenn eine Suche nach einer Nebenhöhlenentzündung zu Ergebnissen über Penisentzündungen führt
- Ein Twitter-Nutzer veröffentlichte eine Methode zum Traffic-Diebstahl, bei der er indexierte URLs konkurrierender Seiten exportiert, mit KI schnell ähnliche Texte erzeugt und so Google-Ergebnisse überholt
- Die Vorwürfe gegen Sports Illustrated wegen KI-verfasster Texte und erfundener Autoren zeigen, wie sehr auf Suchsichtbarkeit und Werbeeinnahmen ausgerichtete Content-Produktion das Vertrauen der Leser beschädigen kann
Wie Google bei der Suche falsche Antworten nach vorne stellt
- Früher war das Vertrauen in die Suche so hoch, dass man Menschen mit Fragen im Netz spöttisch sagen konnte, sie sollten „einfach selbst bei Google nachsehen“; auch der Ausdruck „let me Google that for you“ entstand in diesem Zusammenhang
- Heute ist das Internet so voll mit KI-generierten Müllinformationen, dass man Informationen anhand der Suchergebnisse allein immer schwerer verifizieren kann und eher wieder andere Menschen fragen muss
- Google zeigt nicht mehr nur Website-Links, sondern blendet Teile einer Seite als Snapshot in einem Dropdown ein, sodass Nutzer Ergebnisse lesen, ohne zu klicken
- Dadurch können Nutzer falsche Informationen schon sehen, bevor sie den Kontext der Originalquelle prüfen
- Im September 2023 übernahm Google etwa eine KI-generierte Antwort von Quora und behauptete fälschlich, Eier könnten schmelzen
- Auch Fälle, in denen eine Suche nach einer Nebenhöhlenentzündung Ergebnisse zu Penisentzündungen liefert, lassen sich reproduzieren und zeigen, dass sogar die Relevanz der Suchergebnisse selbst ins Wanken gerät
Beispiele dafür, wie KI-Inhalte Suchergebnisse besetzen
- Ein Twitter-Nutzer behauptete, einen Internet-„heist“ durchgeführt zu haben, um in den Google-Suchergebnissen vor eine bestimmte Website zu kommen
- Er prüfte den Site-Index der Zielwebsite
- Er exportierte die Artikel-URLs
- Er ließ mit KI schnell Texte auf Basis dieser URLs erstellen
- Das direkte Bearbeiten des Seitentitels bezeichnete er als „optional“
- Sports Illustrated geriet nach einem Bericht von Futurism unter Verdacht, mehrere Texte mit KI erstellt und nicht existierende Personen als Autoren angegeben zu haben
- Nachdem Futurism um eine Stellungnahme gebeten hatte, wurden die betreffenden Inhalte gelöscht
- Sports Illustrated erklärte später, die Texte seien von Dritten verfasst worden, nicht KI-generiert, und die Autoren hätten Pseudonyme verwendet
- Diese Erklärung konnte nicht beantworten, warum die Texte erst nach der Medienanfrage entfernt wurden
- Zudem bleibt bestehen, dass Sports Illustrated in einem Artikel des Wall Street Journal vom Februar 2023 öffentlich erklärt hatte, KI zur Erstellung von Inhalten und Artikelideen einsetzen zu wollen
- Das Internet entwickelt sich zunehmend von einem Speicher, in dem Menschen Informationen miteinander teilen, zu einem Raum, in dem Maschinen mit Maschinen kommunizieren
- Der Ausdruck „let me Google that for you“ gilt nicht mehr wie früher, weil man in Suchergebnissen immer eher auf falsche Informationen oder komplette Fälschungen stößt
- Den finanziellen Entscheidern bei Sports Illustrated wird vorgeworfen, sich stärker für die Manipulation von Google-Suchergebnissen und die daraus entstehenden Werbeeinnahmen zu interessieren als dafür, den Lesern wirklich zu dienen
1 Kommentare
Meinungen auf Hacker News
Durch die Verbreitung von LLMs haben wir eine nützliche Heuristik verloren. Früher konnte man Texte mit miserabler Rechtschreibung und Grammatik sehen und wertlose Beiträge schnell aussortieren, aber bei KI-generiertem Müll funktioniert das überhaupt nicht.
Die Sprachbeherrschung ist perfekt und sogar besser als die der meisten Menschen, sodass jeder sofort einen äußerlich plausibel wirkenden Text erzeugen kann. Wie frühere SEO-Spammer müssen sie nicht einmal mehr Copywriter anheuern; der Fall, in dem curl mit gefälschten KI-Bugreports zu kämpfen hatte, ist ein gutes Beispiel: https://news.ycombinator.com/item?id=38845878
Das ist erst der Anfang und wird noch viel schlimmer werden; irgendwann könnte es unmöglich werden, die Spreu vom Weizen zu trennen.
Wenn man ohnehin immer wieder dieselben Gedanken durchkaut, gibt es keinen Grund, das nicht zu automatisieren, und am Ende vergessen die Leute sogar, wo gute Texte ursprünglich herkamen. Zum Beispiel so, dass LLMs Stack Overflow ersetzen und Stack Overflow technische Dokumentation ersetzt. Wenn die Produktionskosten praktisch bei null liegen, kümmert sich niemand um Qualität; wenn die Leute irgendwann genug davon haben, wird das Verhalten wohl wieder auf die andere Seite ausschlagen, hin zu einem kuratierten Web auf Basis von Mundpropaganda.
Mit der Zeit könnte bei der KI-Intelligenz ein seltsamer Wirbeleffekt entstehen. Heute kann man ChatGPT eine Frage im Stack-Overflow-Stil stellen und sofort eine Antwort im Stack-Overflow-Stil bekommen, aber Wahrhaftigkeit und Genauigkeit sind fast ein Glücksspiel. Wenn sich die Leute künftig stärker darauf verlassen und weniger auf Stack Overflow posten, trocknet die Informationsquelle aus, aus der KI lernen kann, und es bleibt womöglich nur eine klebrige Schleife übrig, die gelegentlich richtig liegt. Je weiter die Technik voranschreitet, desto eher könnte das zum Problem werden; dann lernt sie vielleicht aus technischer Dokumentation.
LLM-Forschung wird vermutlich auf mehrere Arten zum Niedergang der Gesellschaft beitragen. Ein Freund macht einen Master, und alle schreiben ihre Antworten mit ChatGPT; die politisch vorsichtigen Formulierungen und die Zusammenfassung am Ende sind allzu offensichtlich. Ich hoffe einfach, dass sie exmatrikuliert werden.
Dem Titel stimme ich zu, aber ich sehe nicht, dass sich das Internet seit vor GPT-4, 3 und 2 grundlegend verändert hätte. Texte, die Praktikanten oder indische virtuelle Assistenten zu allgemeinen Themen geschrieben haben, waren größtenteils genauso schlecht wie KI-generierte Inhalte und auch nicht leicht zu unterscheiden.
Es hilft auch nicht, dass Suchmaschinen heute beim Ranking Autorität höher gewichten als die Übereinstimmung zwischen Suchanfrage und Webseitentext. Die Leute nutzen das Web ohnehin nicht mehr viel, sondern leben in Apps; Webseiten auf dem Handy durchsuchen sie höchstens, wenn sie eine Frage „googeln“. Selbst dann gehen sie meist nicht mehr als eine Ebene tief und kehren zur App-Erfahrung zurück.
Das Web war schon lange schlecht und ist noch schlechter geworden, aber vielleicht ist es bald gar nicht mehr wichtig. Die Leser waren der Frosch im langsam erhitzten Wasser, und jetzt ist die Temperatur plötzlich stark gestiegen, sodass sie die Lage bemerken.
Wenn das „Web“ künftig bestehen bleiben soll, muss es meiner Ansicht nach nicht nur auf eine neue Anonymisierungsschicht umziehen, sondern auch häufige Geldtransaktionen brauchen, damit minderwertiges Material nicht massenhaft erzeugt werden kann. Wenn 90 % der Allgemeinheit nicht zahlen wollen, können sie eben weiter den Bodensatz fressen. Die Metapher vom kochenden Frosch habe ich verwendet, um zu sagen, dass die Menge an Spam stark zugenommen hat.
Jetzt ist der Faktor verschwunden, der die Menge dieses Mülls begrenzt hat.
Wenn Abwasser in die Trinkwasserversorgung gelangt, ist niemand sicher. Man kann sich nicht beruhigt zurücklehnen, nur weil man einen Wasserhahn nutzt, der weit von der Quelle entfernt ist.
Die Menge ist gestiegen oder steigt weiter, sodass es inzwischen viel schwieriger ist, Seriöses und ordentlich Gemachtes zu finden. Der Hinweis zu Apps ist gut.
Was würde passieren, wenn alle Publisher über Zeithorizonte von einem, zwei und fünf Jahren automatisch per KI hinsichtlich Prognosefähigkeit, Voreingenommenheit und faktischer Genauigkeit bewertet würden?
Ich hätte nicht gedacht, dass ich so etwas einmal sagen würde, aber angesichts des prekären Zustands des Clearnets wirkt es gar nicht mehr so schlecht, dass sämtliche Informationen in Discord silofiziert werden. Wenn sie nicht von Suchmaschinen indexiert werden, ist die Wahrscheinlichkeit sehr gering, dass sie neben AI-Schrott auftauchen oder als Trainingsdaten verwendet werden.
Die Zukunft des Internets sind am Ende Menschen. Maschinen kann man nicht einmal mehr bei den grundlegenden Aufgaben vertrauen, in denen sie früher einmal gut waren, und indem man sich dafür entschieden hat, komplexe Aufgaben nicht zu beherrschen, hat man auch noch die Effizienz bei den Basisaufgaben aufgegeben.
Im Zeitalter des Onlinehandels waren Transaktionen und Geschäftsmodelle transparent, doch in der dahinterliegenden Werbe- und Aufmerksamkeitsökonomie sind sie trüb und verzerrt. Praktisch alle Beteiligten verschwören sich darauf, die Freizeit und Aufmerksamkeit der Menschen zu monetarisieren, Konsum zu erzwingen und sie dabei fröhlich zu Tode zu langweilen.
Ich bin 2010 zu Google gekommen und 2019 gegangen; 2010 lag der Jahresumsatz bei etwa 30 Milliarden Dollar, im vergangenen Jahr bei 300 Milliarden Dollar. Seit der Gründung ist Google recht konstant um 20 % pro Jahr gewachsen, also bräuchte man, um das 2024 zu halten, 60 Milliarden Dollar neuen Umsatz. Das heißt, man müsste innerhalb eines Jahres Umsatz in der Größenordnung von zwei Googles aus dem Jahr 2010 finden; und Google von 2010 hat 12 Jahre gebraucht, um zu entstehen – das ergibt keinen Sinn.
Inhalte in privaten Facebook-Gruppen haben dagegen bestenfalls eine Lebensdauer von ein paar Tagen. Wenn das Ziel ist, nützliches Wissen mit einem möglichst breiten Publikum zu teilen, sind Discord-Gruppen ein großer Rückschritt.
Der Ausweg ist Authentizität, und nur signierte Inhalte können sie liefern. Nichts kann man einfach zum Nennwert nehmen; alles könnte generiert oder gefälscht sein.
Wenn jeder alles veröffentlichen kann und AI noch mehr veröffentlicht und Menschen übertönt, muss man sich auf Reputation und Authentizität verlassen, um herauszufinden, wer was hervorgebracht hat und was jemand sonst noch sagt – nur so lässt sich filtern. Das Web of Trust wurde früher schon versucht, kam aber nie aus der Ecke der Aluhut-Spinner heraus. Vielleicht ist jetzt die Zeit, es erneut zu versuchen.
Die Authentizität digitaler Inhalte zu verifizieren, ist physisch, philosophisch und technisch unmöglich. An der Grenze zwischen analoger und digitaler Welt lässt sich immer täuschen.
Aus demselben Grund wurde Blockchain nie erfolgreich für Lieferkettenzertifizierung eingesetzt. Man kann verifizieren, dass Artikel Nr. 523 mit einem gültigen Hash versehen ist, aber man kann nicht beweisen, dass dieser Hash nicht gefälscht ist, sondern tatsächlich auf den realen Artikel Nr. 523 angewandt wurde.
Im letzteren Fall wäre das ein großer Sieg für Plattformbetreiber wie Apple, Google und Microsoft (über TPM), weil sie beweisen können, dass ein Nutzer „kein Bot“ ist. Es würde mich nicht überraschen, wenn man in fünf Jahren eine Beziehung zu einem dieser drei braucht, um sinnvoll online teilnehmen zu können.
Selbst wenn AI „scheitert“, entsteht ein Grund, sie weiter voranzutreiben: Man kann einen beträchtlichen Teil der Internetnutzer in ein Identitäts- und Attestations-Abo-Modell überführen. Wer nicht zahlt, dessen Inhalte werden standardmäßig als generierter Müll betrachtet und nicht ausgespielt.
Auf Unternehmensseite könnten Strukturen entstehen, gegenüber denen die früheren SSL- und Code-Signing-Systeme wie Wohltätigkeit wirken. Man könnte etwas wie BIMI auf alle veröffentlichten Inhalte anwenden und pro Vorgang abrechnen. Auch Preisdiskriminierung nach dem Motto: Je mehr man zahlt, desto „vertrauenswürdiger“ ist man, wäre möglich. Am Ende fürchte ich, dass Identität und Authentifizierung für staatliche Dienste an private Unternehmen wie Google oder Apple übergehen und die reale Identität an deren Attestations gebunden wird.
Selbst wenn Apple oder Google Dienste zur Nutzer-Attestation anbieten: Wäre es nicht genauso möglich, AI-Müll automatisch zu generieren und zu signieren?
Von LLMs erzeugte Inhalte haben das Problem nur beschleunigt; es ist ein altes Problem. Seit Google stark darauf setzt, Werbeumsätze und die Dominanz seiner Werbetechnik auszubauen, und SEO die Suchergebnisse insgesamt überwuchert, ist LMGTFY tot.
Heutzutage ist es ziemlich schwierig, nur mit glatt formulierten Suchanfragen unvoreingenommene Fakteninformationen zu bekommen, deshalb versuche ich zuerst, Informationen auf Reddit zu finden. Auch das ist kein Allheilmittel, und in den letzten Jahren war es voller getarnter Werbeinhalte, aber alte Threads aus der Zeit, als Reddit weniger populär und schwerer zu manipulieren war, oder Threads in kleinen Communities sind meist eine gute Wahl.
Kagi fand sie allein mit dem Klassennamen beim ersten Versuch. Bezahlte Suche ist der richtige Weg, und Werbeanreize stehen im Konflikt mit Suche. Ich habe Kagi als Standardsuche in der Adressleiste eingerichtet, und es ist großartig.
Google Search gibt bei derselben Anfrage nicht für jede Person dieselben Ergebnisse zurück. Das unterscheidet sich von historischen Suchmaschinen wie AltaVista oder ElasticSearch und ist Grund genug, sie nicht als Suchmaschine zu behandeln, auch wenn sie noch so genannt wird. Es ist eher eine Wand aus Unsinn für personalisierte Werbung.
Ich bin alt genug, um mich an Zeiten zu erinnern, in denen das Internet voller Bio-Hundekacke war.
Letztlich gibt es Werbung, um Geld zu verdienen, und bis Bots Kreditkarten haben, kommt dieses Geld von Menschen. Wenn in einem Bereich plötzlich „Engagement“ oder Traffic steigt, sich aber nicht in menschliche Ausgaben umwandelt, werden Unternehmen wie Google das auch in ihrer Gewinn- und Verlustrechnung bemerken.
Google wird anfangen, auf dieses Problem zu reagieren, wenn es groß genug im Budget auftaucht. Die Entlassungen in der Tech-Branche, von denen man aus mehreren Unternehmen hört, und die Google-Geschichte heute in einem anderen HN-Thread könnten ebenfalls Anzeichen dafür sein, wohin der Wind dreht.
Der einzige Grund, warum Google SEO-Manipulation nicht mag, ist, dass Websites ohne bezahlte Promotion die oberen Plätze in der Suche einnehmen können; die Produktqualität ist dabei egal.
Zum Problem wird es erst, wenn ein Vertrauensbruch eintritt: Menschen verbrennen sich an zu vielen schlechten Produkten und vertrauen den Websites oder Suchergebnissen, denen sie früher vertraut haben, nicht mehr. Beruflich sehe ich auf Instagram viele Anzeigen für Graumarkt-Medikamente; ich ignoriere sie, weil ich weiß, dass sie nicht von der FDA geprüft sind und es sich meistens um Betrugsmedikamente oder um Forschungschemikalien handelt, die als Amanita Muscaria oder Delta-8-THC getarnt sind.
Unternehmen, die bei Google werben, könnten den sinkenden Return on Investment ihrer Anzeigen spüren, aber die meisten sehen kaum Alternativen, daher wird es dauern, bis sie Google verlassen. Wenn wir warten, bis das Googles Gewinn und Verlust trifft, habe ich Angst davor, wie sich das Internet bis dahin verändert.
Es gibt Themen, die eigentlich schon hätten austrocknen müssen, aber vielleicht hält Betrug die Werbemaschine in diesen Bereichen am Laufen. Fitness oder Gewichtsabnahme sind über Google praktisch unbenutzbar. Auch beim Renovieren habe ich gemerkt, dass Baustoffe, insbesondere Farbe, nicht mehr durchsuchbar sind. Am Ende war der Gang ins Geschäft und Nachfragen die einzige Möglichkeit, verlässliche Informationen und Empfehlungen zu bekommen.
Google funktioniert in vielen Bereichen noch, aber wirklich gut ist es bei Produktanzeigen. Wenn man etwas kaufen will, findet Googles Werbemaschine es; man muss nur genau wissen, was man will.
Vielleicht ist es sogar wahrscheinlicher, dass Leute auf Anzeigen klicken, je generischer und langweiliger die Seite ist.
Schon vor der Übernahme durch „KI“ war alles voller von SEO gefordertem, menschengemachtem Bullshit, also haben wir in den letzten Jahren tatsächlich nicht so viel verloren. Ich bin seit weit über zehn Jahren in der Branche und sage das fast genauso lange.
Es gibt keinen Unterschied. Websuche ist seit mehr als 15 Jahren unbrauchbar. Heute ist sie nur ein klein wenig schlechter als früher; aber auch damals bekam man auf eine Frage als erste Ergebnisse lauter Marketingseiten oder dünnen Marketingmüll im „Blog“-Format.
Ich möchte die Antwort auf eine Frage wie „Wie reinigt man eine Toilette?“ nicht jemandem überlassen, dessen Beruf „Content Creation“ oder „monetarisierter Blog“ ist. Der Unterschied zwischen dem Beispiel im Text und Ergebnissen von vor zehn Jahren ist nur, dass Ersteres offensichtlich falsch ist, während man für Letzteres, sofern man nicht in dem jeweiligen Bereich arbeitet, vermutlich Tage bräuchte, um es zu widerlegen.
Wenn man Anathem gelesen hat, ist es als Ita ohnehin unsere Aufgabe, den Müll im Reticulum herauszufiltern. Fühlt sich an wie: Legen wir los
https://en.wikipedia.org/wiki/Anathem
https://anathem.fandom.com/wiki/Ita
https://anathem.fandom.com/wiki/Reticulum
Unternehmen vergifteten absichtlich den Brunnen, um Produkte zum Herausfiltern dieses Mülls zu verkaufen, und erzeugten statt zufälliger Buchstaben „gut gemachten Müll“: ansehnliche Dokumente mit 100 überprüfbar wahren Sätzen und einem subtil falschen Satz. Anfangs mussten dafür Menschen angeheuert werden, aber als das Militär Interesse zeigte, entwickelte sich ein „Artificial Inanity“-Programm, das sich dann in den kommerziellen Bereich und in Botnets ausbreitete
Artificial Inanity gefällt mir als Beschreibung für LLMs