Wikimedia Foundation veröffentlicht experimentelle LLM/RAG-Chrome-Erweiterung „Citation Needed“

 (chromewebstore.google.com)
1 Punkte von GN⁺ 2024-05-13 | 1 Kommentare | Auf WhatsApp teilen

Chrome-Erweiterung „Wikipedia Citation Needed“

  • Während des Webbrowsings kann eine bestimmte Textpassage markiert werden, um die entsprechende Aussage zu überprüfen.
  • Mithilfe der ChatGPT API werden in Wikipedia passende Artikel gesucht und daraus Zitate herangezogen.
  • Es werden Informationen dazu bereitgestellt, ob die ausgewählte Aussage durch Wikipedia gestützt wird, zusammen mit Qualitätssignalen des Artikels wie dem Datum der letzten Bearbeitung und der Anzahl der Referenzen. So erhalten Nutzer mehr Kontext zu den Informationen, die sie bekommen, einschließlich der Informationen aus Wikipedia.

Bitte um Nutzerfeedback

  • Diese Funktion ist ein experimentelles Feature, das generative KI verwendet, und man ist sich bewusst, dass dabei gelegentlich Fehler auftreten können.
  • Um die Qualität der Ergebnisse zu verstehen und zu verbessern, wird darum gebeten, entdeckte Probleme über den Feedback-Link in der Erweiterung zu melden.
  • Auch allgemeines Feedback und Ideen dazu, wie Wikipedia beim alltäglichen Webbrowsing nützlich eingesetzt werden kann, sind willkommen.

Informationen für Entwickler

  • Diese Erweiterung wurde vom Future Audiences Team der Wikimedia Foundation entwickelt, einer gemeinnützigen Organisation, die Wikipedia und Schwesterprojekte unterstützt.

Meinung von GN⁺

  • Diese Erweiterung kann Nutzern dabei helfen, die Vertrauenswürdigkeit von Informationen zu bewerten, denen sie im Web begegnen. Allerdings können auch Qualität und Genauigkeit der Wikipedia-Artikel selbst Grenzen haben, weshalb sie sich kaum als absoluter Maßstab eignen.
  • Die Nutzung großer Sprachmodelle wie ChatGPT zur Automatisierung von Zusammenfassung und Verifikation kann den Nutzungskomfort erhöhen, birgt aber zugleich das Risiko, falsche Informationen zu erzeugen. Daher scheinen kontinuierliches Monitoring und fortlaufende Verbesserungen notwendig.
  • Wenn zusätzlich zu Wikipedia weitere verlässliche, von Fachleuten geprüfte Informationsquellen genutzt würden, könnten Genauigkeit und Vollständigkeit der Verifikation erhöht werden. Langfristig ließe sich auch der Aufbau einer dezentralen, Blockchain-basierten Wissensbasis in Betracht ziehen.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-05-13
Hacker-News-Kommentare
  • Eine experimentelle, LLM-gestützte RAG- (Retrieval Augmented Generation) Anwendung überprüft Behauptungen im Internet durch Abgleich mit Wikipedia.
  • Es gibt die Frage, ob Zitate halluziniert werden oder ob so etwas wie „deterministische Zitate“ verwendet wird.
  • Das Wikimedia-Git-Repository für diese Erweiterung wird bereitgestellt. Die Build-Anweisungen in der README sind unvollständig, und Hot Reload scheint nicht zu funktionieren. Mit npm run build-dev lässt sich ein funktionierender Build erzeugen.
  • Eine Firefox-Erweiterung wird nicht angeboten. Das könnte an Unterschieden bei den Sidebar-/Sidepanel-APIs liegen.
  • Es wäre auch vielversprechend, wenn ein LLM Wikipedia-Artikel einem Faktencheck unterziehen und markieren würde.
  • In Kombination mit einem Artikelgenerator und einem Artikelprüfer könnten eine Billion Seiten erzeugt werden. Das könnte nützlicher Lerninhalt für LLMs sein, aber auch von Menschen verwendet werden.
  • Es scheint nur in Chrome zu funktionieren. In Arc funktioniert es nicht.
  • In der Wissenschaft sind Wikipedia-Zitate im Allgemeinen verboten. Sie gelten als weniger zuverlässig (Autoren zitieren Quellen, die sie selbst bearbeiten können) und sind zwar gut, um Primärquellen zu finden, aber selbst nur eine Sekundärquelle.
  • Wenn man nach sich selbst fragt, wird die Antwort zurückgegeben: „Citation Needed ist eine experimentelle Funktion, die 2024 entwickelt wurde“. Im bereitgestellten Absatz sind jedoch keine Informationen über eine Funktion namens „Citation Needed“ enthalten, die 2024 entwickelt wurde.