Das Internet ist jetzt ein Raum, in dem Maschinen miteinander sprechen
- Das Internet hat sich von einer einfachen Nutzungsform, bei der Menschen einander Fragen stellten und beantworteten, zu einem Raum gewandelt, der von von KI erzeugten Falschinformationen überflutet ist.
- Google-Nutzer stellten fest, dass Google fälschlicherweise behauptete, Eier könnten schmelzen. Das ist eine Folge davon, dass Google statt direkt Websites anzuzeigen Schnappschüsse von Seiten in Drop-down-Menüs bereitstellt, sodass Nutzer Suchergebnisse lesen können, ohne zu klicken.
- In letzter Zeit nimmt die Nutzlosigkeit der Google-Suche zu; so lieferte etwa eine Suche nach chronischer Sinusitis Ergebnisse über einen entzündeten Penis.
„Diebstahl“ von Internet-Traffic und die Kontroverse um KI-Artikel bei Sports Illustrated
- Gestern behauptete ein Twitter-Nutzer, Internet-Traffic zu „stehlen“. Er sah sich den Site-Index konkurrierender Websites an, extrahierte die Artikel-URLs und schrieb dann mithilfe von KI in kurzer Zeit Artikel.
- Außerdem wurde bekannt, dass Sports Illustrated KI-geschriebene Artikel veröffentlicht und sie unter den Namen von Personen publiziert hatte, die in Wirklichkeit gar nicht existierten. Nach entsprechenden Nachfragen wurden die Inhalte gelöscht.
Die grundlegende Zerstörung des Internets
- Das Internet ist kein Ort der Kommunikation zwischen Menschen mehr, sondern zu einem Raum degeneriert, in dem Maschinen miteinander sprechen.
- „Frag Google“ ist inzwischen bedeutungslos geworden. Die Wahrscheinlichkeit ist hoch, dass Fehlinformationen oder völlige Fiktion zurückgegeben werden.
- Unternehmen wie Sports Illustrated sind stärker daran interessiert, ihre Position in den Google-Suchergebnissen und ihre Werbeeinnahmen zu verbessern, als ihren Lesern einen Dienst zu bieten.
Meinung von GN⁺
- Die Qualität der Informationen im Internet nimmt zunehmend ab, was bei den Nutzern Verwirrung und Unannehmlichkeiten verursacht.
- Als eine der Nebenwirkungen der Weiterentwicklung von KI wird es durch von KI erzeugte Fehlinformationen schwieriger, verlässliche Informationen zu finden.
- Diese Veränderungen bringen Nutzer dazu, ihre Art der Informationsbeschaffung im Internet zu überdenken, und deuten darauf hin, dass neue Ansätze nötig sind, um die Qualität von Informationen sicherzustellen.
1 Kommentare
Hacker-News-Kommentare
Eines der Probleme, die durch die Verbreitung großer Sprachmodelle (Large Language Models, LLMs) entstanden sind, ist, dass es früher eine nützliche Heuristik gab, wertlose Beiträge schnell anhand von Rechtschreib- oder Grammatikfehlern auszusortieren, diese Methode nun aber nicht mehr funktioniert, weil KI-generierte Inhalte sprachlich perfekt sind. So gab es zum Beispiel im curl-Projekt Probleme durch KI-generierte gefälschte Bug-Reports. Es ist zu erwarten, dass sich dieses Problem künftig weiter verschärfen wird.
Es gibt auch die Ansicht, dass zwar die Veränderung des Internets nachvollziehbar ist, sich das Internet aber schon vor GPT-4, 3 und 2 nicht wesentlich unterschied. Artikel zu allgemeinen Themen, die von Praktikanten oder virtuellen Assistenten in Indien geschrieben werden, sind meist genauso schlecht wie KI-generierte Inhalte und kaum davon zu unterscheiden. Problematisch ist auch, dass Suchmaschinen Seiten eher nach Reputation als nach der Übereinstimmung zwischen Seitentext und Suchanfrage sortieren. Menschen leben inzwischen eher in Apps als im Web, und die Qualität des Webs verschlechtert sich schon seit Langem, wird aber bald vielleicht gar nicht mehr wichtig sein. Falls das Internet in Zukunft weiter existiert, wäre zu hoffen, dass es sich in eine neue anonymisierte Schicht verlagert und sich in Richtung häufiger verlangter Geldtransfers entwickelt, um die Erstellung minderwertiger Inhalte zu verringern.
Angesichts des ernsten Zustands des Clearnets gibt es auch die Meinung, dass es gar nicht so schlecht wirkt, wenn Informationen innerhalb von Discord isoliert sind. Da sie nicht von Suchmaschinen indexiert werden, tauchen sie nicht zusammen mit KI-Müll auf und werden auch nicht als Trainingsdaten genutzt. Die Zukunft des Internets hängt von Menschen ab, und Maschinen sind inzwischen nicht einmal mehr bei grundlegenden Aufgaben vertrauenswürdig.
Es wird von Erfahrungen im BeamMP-Projekt mit KI-generierten gefälschten Bug-Reports und PRs (Pull Requests) berichtet. Solche KI-Erzeugnisse lassen sich leicht erkennen und zeichnen sich etwa dadurch aus, dass sie irrelevanten Code ändern oder Lösungen vorschlagen, die sich nicht kompilieren lassen. Echte Menschen sind faul und machen keine unnötige Arbeit, und KI-generierter Müll ist Zeitverschwendung, daher wird so etwas nicht gemergt.
Es ist wichtig, im Internet Authentizität zu bewahren. Nur signierte Inhalte können Authentizität garantieren. In einer Situation, in der KI immer mehr veröffentlichen kann, ist die einzige Möglichkeit zur Filterung, sich auf Vertrauen und Authentizität zu stützen, also darauf, wer etwas veröffentlicht hat und was diese Person sagt. Das Web of Trust wurde bereits versucht, hat sich aber nicht im Mainstream durchgesetzt; vielleicht ist es Zeit, es erneut zu versuchen.
Es gibt auch die Ansicht, dass es sich um ein altes Problem handelt, das durch LLMs beschleunigt wurde. Während Google versucht hat, seine Werbeeinnahmen und die Dominanz seiner Werbetechnologie auszubauen, hat sich SEO in den Suchergebnissen breitgemacht, wodurch es schwierig geworden ist, objektive Informationen zu finden. Informationen zuerst auf Reddit zu suchen, könnte eine Lösung sein, aber auch Reddit ist in den letzten Jahren voller manipulierter Inhalte geworden.
Es gibt auch die Meinung, dass das Internet wegen SEO ohnehin schon mit von Menschen erzeugtem Müll überflutet war und man durch das Aufkommen von „KI“ tatsächlich nicht viel verloren hat. Es gibt Leute, die in der Branche schon seit Langem auf dieses Problem hinweisen.
Werbung dient letztlich dazu, Geld zu verdienen, und solange Bots keine Kreditkarten besitzen, bedeutet das Geld von Menschen. Unternehmen wie Google werden die Auswirkungen finanziell spüren, selbst wenn der Traffic steigt, sofern er sich nicht in Ausgaben von Menschen umwandelt. Die jüngsten Massenentlassungen im Technologiesektor könnten darauf hindeuten, dass die Reaktion auf dieses Problem bereits begonnen hat.
Wer das Buch "Anathem" gelesen hat, vertritt auch die Ansicht, dass unsere Aufgabe darin besteht, im Reticulum den Müll herauszufiltern.