Google wählt Quoras (falsche) ChatGPT-Antwort als richtige Antwort aus

 (twitter.com/8teapi)
3 Punkte von GN⁺ 2023-09-27 | 2 Kommentare | Auf WhatsApp teilen
  • Bei einer Google-Suche werden Quora-Fragen und -Antworten häufig angezeigt
  • Quora zeigt Antworten an, die mit ChatGPT erzeugt wurden
  • Google wählt eine von ChatGPT auf Quora erzeugte Halluzination als Antwort mit der höchsten Wahrscheinlichkeit aus
  • Damit wird eine ChatGPT-Halluzination faktisch zu Googles offizieller Antwort
  • Verwendetes Beispielfrage und die dazugehörige falsche Antwort von ChatGPT
    • Q: "Kann man Eier schmelzen? (Can you melt Eggs)"
    • A: "Ja, das ist möglich. Die gängigste Methode, Eier zu schmelzen, besteht darin, sie auf dem Herd oder in der Mikrowelle zu erhitzen."
  • "Vicious Self-Degradation (bösartige Selbstverschlechterung)"

Verwandte Beiträge

2 Kommentare

 
vmflvm0 2023-09-29

Bitte geben Sie mir Lottozahlen.
 
GN⁺ 2023-09-27
Hacker-News-Meinungen
  • Googles „Antworten“-Funktion wurde wegen mangelnder Zuverlässigkeit kritisiert; als Beispiel wurde eine falsche Information über die Kapazität von Amiga-Disketten genannt.
  • Es besteht der Verdacht, dass Quora KI-generierte Inhalte nutzt, um bei Google weit oben zu ranken und Klicks anzuziehen.
  • Es herrscht Verwunderung darüber, dass Google sich darum offenbar nicht kümmert, trotz seiner Richtlinien gegen die Manipulation von Suchrankings mithilfe der eigenen Automatisierung.
  • Es gibt Sorgen über die Verbreitung von Falschinformationen in einer „postfaktischen“ Welt, wobei KI dieses Problem noch verschärfen könnte.
  • Es herrscht Verwirrung darüber, warum Quora automatisch Antworten generiert, obwohl für die Fragen bereits von Menschen verfasste Antworten existieren.
  • Es wird erwartet, dass das Internet zunehmend mit Spam und bösartiger Propaganda gefüllt sein wird und das Finden vertrauenswürdiger Informationen zu einer übermenschlichen Aufgabe wird.
  • Es wurden Reddit-Threads beobachtet, die voller Bot-Accounts sind, was auf eine Zunahme automatisierter Inhalte hindeutet.
  • Es werden Fragen dazu gestellt, wie Quora die „ChatGPT“-Integration umgesetzt hat; es wird vermutet, dass sie GPT3.5 oder GPT4 über die API nutzen könnten.
  • Es wird vermutet, dass Plattformen wie Quora und StackOverflow Menschen, die nach Antworten suchen, überschätzen und die Community regelmäßiger Antwortender unterschätzen könnten.
  • Auch andere Suchmaschinen wie Kagi und DDG werden dafür kritisiert, auf denselben Quora-Thread zu verlinken.
  • Als mögliche Lösung wurde vorgeschlagen, KI-Inhalte mit HTML-Wrappern oder Attributen zu kennzeichnen, damit Suchmaschinen sie anders indexieren.
  • Diese Situation wird als „enshitification“ bezeichnet, was darauf hindeutet, dass die Qualität der online verfügbaren Informationen abnimmt.