Ars Technica zieht Artikel zurück, nachdem er „von einem AI-Tool erzeugte falsche Zitate“ veröffentlicht hatte

 (arstechnica.com)
2 Punkte von GN⁺ 2026-02-17 | 2 Kommentare | Auf WhatsApp teilen
  • Es wurde festgestellt, dass die fraglichen Zitate von einer AI erzeugt wurden, obwohl sie fälschlich einer Quelle zugeschrieben wurden, obwohl die tatsächliche Person diese Aussagen nie gemacht hatte
  • Das Medium bezeichnete den Vorfall als schwerwiegendes Versagen redaktioneller Standards und stellte klar, dass alle direkten Zitate tatsächliche Aussagen der jeweiligen Person wiedergeben müssen
  • Eine interne Überprüfung ergab, dass keine weiteren ähnlichen Fälle gefunden wurden und es sich nach aktuellem Stand um einen Einzelfall handelt
  • Ars Technica bekräftigte seine Richtlinie, dass AI-generierte Inhalte nur dann zulässig sind, wenn sie zu Demonstrationszwecken klar gekennzeichnet sind, und entschuldigte sich bei den Lesern sowie bei der falsch zitierten Person

Rückzug des Artikels und Überblick über den Vorfall

  • Ars Technica gab am Freitagnachmittag bekannt, einen Artikel zurückzuziehen, der von einem AI-Tool erzeugte falsche Zitate enthielt
    • Die Zitate waren von einer AI erzeugte Aussagen, die fälschlich einer Quelle zugeschrieben wurden, obwohl sie nie von der betreffenden Person gemacht worden waren
    • Das Medium stufte dies als „schwerwiegenden Verstoß gegen Standards“ ein
  • Die Redaktion erklärte: „Direkte Zitate müssen zwingend wiedergeben, was die Quelle tatsächlich gesagt hat.“

Interne Überprüfung und Richtlinien

  • Ars Technica hat sich seit Langem mit den Risiken einer übermäßigen Abhängigkeit von AI-Tools befasst, und diese Bedenken spiegeln sich auch in den internen Richtlinien wider
  • Das Medium erklärte, dass die Veröffentlichung der Zitate in diesem Fall nicht im Einklang mit diesen Richtlinien erfolgt sei
  • Nach einer Überprüfung jüngerer Arbeiten teilte Ars Technica mit, dass keine weiteren Probleme entdeckt wurden und der Vorfall derzeit als Einzelfall erscheine

Regeln für AI-generierte Inhalte

  • Ars Technica verbietet grundsätzlich die Veröffentlichung von AI-generiertem Material
    • Eine Ausnahme ist nur zulässig, wenn es klar gekennzeichnet ist und Demonstrationszwecken dient
    • Im vorliegenden Fall wurde diese Regel nicht eingehalten

Entschuldigung und Folgemaßnahmen

  • Das Medium entschuldigte sich bei den Lesern für dieses Versagen und richtete zudem eine direkte Entschuldigung an Scott Shambaugh, das Opfer des falschen Zitats
  • Die Redaktion kündigte an, die redaktionellen Standards zu verschärfen und eine Wiederholung zu verhindern

Fazit

  • Ars Technica bekräftigte durch diesen Vorfall erneut die Bedeutung von Prüfung und Transparenz bei AI-generierten Inhalten
  • Zur Wiederherstellung redaktioneller Glaubwürdigkeit und zur Wahrung ethischer Berichterstattungsstandards werden interne Verfahren verschärft

Verwandte Beiträge

2 Kommentare

 
GN⁺ 2026-02-17
Hacker-News-Kommentare

  • Als ehemaliger Technikjournalist finde ich, dass man bei Berichterstattungs-Experimenten mit nicht verifizierten Tools unbedingt in einer kontrollierten Umgebung arbeiten und die Ergebnisse sorgfältig prüfen sollte.
    Ein Senior Editor sollte zwingend eingebunden sein, und es wäre besser, mit weniger kontroversen Artikeln zu beginnen.
    Wenn der Reporter außerdem krank war und den Artikel wegen Unternehmenskultur oder Regeln zur Krankschreibung trotzdem schreiben musste, sollte Ars intern Selbstkritik üben.

    • Zuerst dachte ich, dass der Artikel nichts dergleichen andeutet, aber nachdem ich später die Social-Media-Posts des Autors gesehen habe, habe ich es verstanden. Stimme zu.
    • Bei einigen Medien, die ich kenne und die sich im Niedergang befinden, wurden die Editoren als Erstes entlassen. Danach fiel die Qualität rapide ab, und der Teufelskreis beschleunigte sich. Inzwischen gibt es oft nicht einmal mehr Senior Editoren.
    • Soweit ich mich erinnere, waren früher oft Junior-Reporter dafür zuständig, Zitate, Daten, Namen usw. faktenzuprüfen.
    • Wenn man mit hohem Fieber krank ist und von zu Hause arbeitet, können solche Fehler leicht passieren. Das eigentliche Problem ist eher, dass die Organisation den Text einer kranken Person einfach so übernommen hat.
    • Grundsätzlich halte ich die Kultur, in der Menschen Journalismus kostenlos erwarten, für das Problem. Die Ablehnung von Abos oder Werbung und das Umgehen über Archiv-Links erzeugen enormen Druck auf Reporter. Die Kultur bei Ars ist problematisch, aber es gibt auch einen größeren gesellschaftlichen Hintergrund.

  • Über die auf Bluesky veröffentlichte Entschuldigung von Benj Edwards wurde Verantwortung eingeräumt.
    Einige Umstände wurden erklärt, aber er sagte, dass es vollständig seine Verantwortung sei. Ob das ein Einzelfall ist, bleibt abzuwarten.

    • Der Kern des Problems ist, dass er mit Fieber im Bett gearbeitet hat. Das wirft Fragen zur Arbeitskultur bei Ars Technica auf.
    • Die Entschuldigung wirkte, als wolle sie erst Empathie erzeugen und dann den Fehler abmildern. Auf mich wirkte das nicht wie eine wirklich aufrichtige Entschuldigung.
    • Ich bin Ars gegenüber kritisch, aber ich halte es nicht grundsätzlich für falsch, wenn Reporter mit AI-Tools experimentieren. Es hätte nur sehr viel vorsichtiger geschehen müssen.
      Wie auch in diesem Kommentar gesagt wurde, ist es selbst für ein AI-skeptisches Medium sinnvoll, die Grenzen solcher Tools direkt zu erfahren.
    • Neugierige Leser werden wahrscheinlich alte Artikel durchforsten, um zu sehen, ob es ähnliche Fälle gegeben hat.
    • Dieser Vorfall ist nicht nur das Problem eines einzelnen Reporters, sondern Teil einer gesellschaftlichen Debatte über die wiederkehrenden Fehler, die durch den Einsatz von AI-Tools entstehen.

  • Hier eine Sammlung aktueller verwandter HN-Threads:

  • Ich fand es seltsam, dass einige Abonnenten Ars übermäßig dafür lobten, den Fehler gefunden und ehrlich zurückgezogen zu haben.
    Tatsächlich gehört das zur grundlegenden Medienethik, und in diesem Fall kam es nur ans Licht, weil die betroffene Person selbst in den Kommentaren darauf hingewiesen hat.

    • Trotzdem ist es positiv, dass der Artikel korrigiert wurde und man versprochen hat, eine Wiederholung zu verhindern. Viele Organisationen tun nicht einmal das.
    • Dass ausdrücklich gesagt wurde: „So etwas wird nie wieder passieren“, halte ich für besser als bei anderen Medien. Manche lassen ganze Artikel von AI erzeugen.

  • Es ist gut, dass Ars und der Reporter Verantwortung übernommen haben, aber die Formulierung in der Rücknahmeerklärung war enttäuschend.
    Statt „entsprach nicht unseren Standards“ hätte dort explizit stehen sollen, dass von AI erzeugte erfundene Zitate veröffentlicht wurden.
    Nur so können Menschen, die den Artikel zuvor gelesen haben, die Fehlinformation korrigieren.

  • Ich habe nachgeprüft, welche Teile erfunden waren. Die GitHub-Zitate am Anfang waren echt, aber die Zitate im letzten Abschnitt waren komplett erfunden.
    Es wirkte, als stammten sie aus Shambaughs Blog, tatsächlich existierten diese Sätze aber gar nicht.
    Das Original lässt sich über den Archiv-Link überprüfen.

  • Ich fand es merkwürdig, dass kein Link zum zurückgezogenen Artikel vorhanden ist.
    Die zugehörige Diskussion läuft im Ars-Forum.
    Die Originalversion des Artikels ist im Webarchiv zu sehen.

    • Dass der Link fehlt, wirkt wie ein absichtliches Weißwaschen.
    • Andererseits könnte ein erneuter Link auf den zurückgezogenen Artikel den Sinn der Rücknahme untergraben.
    • Als Autoren des Artikels werden Benj Edwards und Kyle Orland genannt.

  • Ich bin gespannt, welche Maßnahmen zur Verhinderung einer Wiederholung man künftig ergreifen wird.
    Warum die Nutzung eines LLM nicht offengelegt wurde und ob es ähnliche Fälle in anderen Artikeln gab, bleibt fraglich.
    Dieses Mal flog es auf, weil die Zitate erfunden waren; sonst hätte es vielleicht niemand bemerkt.

    • Letztlich wirkt die Reaktion wie: „Es war ein Fehler, und wir werden künftig vorsichtiger sein.“
    • Die offizielle Position lautet, dass der Artikel nicht von AI geschrieben wurde, sondern nur die Zusammenfassung der Zitate an AI delegiert wurde. Diese Entscheidung war jedoch äußerst leichtfertig.

  • Besonders schockierend ist der Vorfall, weil Ars seit Langem vor den Risiken der Abhängigkeit von AI gewarnt hat.
    Die Zitaterfindung verstieß gegen interne Richtlinien, und verlorenes Vertrauen wird sich nicht leicht zurückgewinnen lassen.
    Zum Glück hatte die betroffene Person den Zugriff von LLMs blockiert, wodurch die Halluzinationen von AI sichtbar wurden.