Sollte HN Kommentare verbieten, die „I asked AI, and it said …“ zitieren?

• Kommentare mit KI-generierten Antworten zu zitieren, wird auf Hacker News als Thema der Diskussion über deren Zulässigkeit geführt
• Einige Nutzer argumentieren, dass solche Kommentare die Authentizität von Meinungen und die Qualität der Diskussion mindern
• Andere Nutzer betonen, dass der Einsatz von KI selbst nützlich sein kann und ein vollständiges Verbot überzogen wäre
• Die Debatte wurde auf die Frage der Überarbeitung der HN-Richtlinien und die Zuverlässigkeitsprobleme von KI-Aussagen ausgeweitet
• Das Gespräch mündet in die Frage, wie die Community im KI-Zeitalter neue Standards für Redeverantwortung und Qualitätskontrolle festlegen sollte

---

Streit um KI-zitierte Kommentare in der HN-Community

• Einige Nutzer kritisieren Kommentare in der Form „I asked AI, and it said…“, da sie bedeutungslose automatisch erzeugte Informationen verbreiten
  • Es wird kritisiert, dass solche Kommentare eher die wiederholten Antworten der KI reproduzieren als den eigentlichen Diskurs voranzutreiben
• Die Gegenseite meint, KI könne als Werkzeug für Informationssuche oder Zusammenfassung nützlich sein, und die Nutzung der Ergebnisse als Zitat sei ein natürliches Vorgehen der Nutzenden
  • Dennoch gibt es Stimmen, die sagen, dass bei Zitaten Quelle und Kontext eindeutig angegeben werden sollten

Diskussion über eine Richtlinienanpassung

• Einige fordern, der Kommentarrichtlinie von HN einen expliziten Verbotsparagrafen hinzuzufügen
  • Der Ausdruck „die KI hat so gesagt“ mache die Quellen der Meinung unklar und schwäche die Verantwortlichkeit in der Diskussion
• Andere Nutzer lehnen ein Verbot mit Verweis auf Meinungsfreiheit und die Vielfalt der technologischen Nutzung ab
  • Stattdessen wird ein Kompromiss gefordert, bei dem bei KI-Zitaten eine klare Kennzeichnung oder ein Prüfmaßstab gilt

Zentrale Streitpunkte der Debatte

• Verlässlichkeit von KI-Aussagen, Unterscheidung echter menschlicher Meinungen und die Aufrechterhaltung der Community-Qualität stehen im Zentrum
• Es wird befürchtet, dass mit zunehmender Nutzung von KI-Zitaten die Diskussionsstruktur und das Vertrauenssystem von HN beeinflusst werden könnten
• Ein klares Fazit wurde nicht gezogen; stattdessen herrscht die Einsicht, dass Selbstregulierung der Community und kultureller Konsens nötig sind

[GN⁺]

Meinungen auf Hacker News

• Man kann wohl nicht vollständig verhindern, dass Leute AI nutzen, um ihre Antworten zu glätten, aber es ist frustrierend, wenn das mit „hilfreich sein“ verwechselt wird.
  Ich komme hierher, weil ich menschliche Gedanken lesen will, nicht die Gedanken einer AI. Wenn ich also merke, dass jemand AI für einen Beitrag verwendet hat, werte ich das allein schon entsprechend.

  • Sehe ich genauso. Ich würde aber eine Ausnahme für Leute machen, deren Muttersprache nicht Englisch ist und die an einer englischsprachigen Diskussion teilnehmen.
    LLM-Übersetzungen wirken heute zwar natürlich, aber dieser typische AI-Stil schimmert trotzdem durch, und ab dem Punkt sinkt für mich das Vertrauen.
  • Wenn bei der Arbeit jemand sagt: „ChatGPT hat Folgendes gesagt“, klingt das für mich wie: „Ich habe gesucht, aber die Antwort nicht überprüft.“
  • Inzwischen macht es mich traurig, dass Leute sofort denken: „Das ist von AI geschrieben“, sobald ich einen Gedankenstrich (—) benutze.
  • Ich frage mich, ob es ähnlich ist, wenn jemand „Quelle?“ fragt. Im Prinzip kann zwar jeder googeln, aber trotzdem hebt das Einfordern von Belegen die Qualität einer Diskussion.
  • Auch bei mit AI geschriebenen Beiträgen gibt es gut gemachte und beleidigende Varianten. Viele glauben, sie gehörten zur ersten Kategorie, in Wirklichkeit fallen sie aber oft in die zweite.

• Ich würde Kommentare mit AI-Zitaten mit „etwas aus den Suchergebnissen kopieren und unverändert einfügen“ gleichsetzen.
  Der Unterschied ist, dass viele AI-Ausgaben für eine autoritative Antwort halten.
  Wenn es in einer Diskussion über AI selbst darum geht, eine AI-Antwort als Beispiel zu zitieren, ist das aber natürlich. Ein Totalverbot wäre deshalb unangebracht.
  Am Ende wirkt das wie ein neuer Benimmstandard, der sich gerade in Echtzeit herausbildet. So wie damals in den 2000ern mit Leuten, die Bluetooth-Headsets im Café trugen, wird sich das wohl durch sozialen Druck einpendeln.

  • Eigentlich ist es eher so, als hätte jemand nur das erste Suchergebnis angesehen und dann mitgebracht.
  • Das erinnert an das frühere Phänomen der „Google-Glass-Träger (glasshole)“. AI-Sätze öffentlich ungefiltert auszugeben wirkt anmaßend.
  • Eigentlich gilt das Gleiche auch für die Websuche. Wenn man nicht prüft, landet man im selben Problem.
  • Internetkommentare waren schon immer ein Ort des Selbstausdrucks. Auch AI hineinzumischen ist in gewisser Weise nur eine Fortsetzung davon.
  • Wenn es darum geht, auf eine Frage direkt zu antworten, ist das okay, aber AI als Hilfswerkzeug zu nutzen, um eine menschliche Antwort auszubauen, kann sogar positiv sein.

• Solche AI-generierten Kommentare sind tatsächlich bereits ein Verstoß gegen die HN-Regeln.
  In diesem Link gibt es einschlägige Beispiele.
  Die HN-Regeln haben grundlegende Leitlinien wie eine Verfassung, und die Moderationskommentare von dang und tomhow funktionieren wie Präzedenzfälle.

  • Stimmt. Weitere Verbotsfälle findet man in den Kommentaren von dang und tomhow, die „please don’t“ enthalten.
  • Das Problem ist allerdings, dass solche inoffiziellen Regeln für Neulinge schwer zu erkennen sind.
    Wenn man sie ausdrücklich in die Richtlinien aufnehmen würde, könnte das für mehr Transparenz und eine einladendere Atmosphäre sorgen.

• Schon vor LLMs gab es Leute, die „das erste Suchergebnis kopieren und einfügen“.
  Natürlich kann jeder frei seine Meinung schreiben, aber wenn man das Denken vollständig auslagert, trägt man nichts mehr zum Gespräch bei.
  Wenn HN so etwas gewollt hätte, hätte es längst Bots eingeführt.

  • Guter Punkt.

• Ich komme hierher, um die Gedanken anderer Menschen zu lesen. Deshalb will ich keine AI-Kommentare sehen.
  Aber inzwischen ist es ermüdend, dass man schon allein wegen eines Gedankenstrichs für AI gehalten wird. Unter macOS lässt er sich leicht eingeben, und ich finde ihn nützlich, um meine Gedanken auszudrücken.

  • Gerade weil Leute sich darüber beschweren, benutze ich Gedankenstriche inzwischen noch häufiger.

• Braucht es dafür wirklich eine Regel? Solche Kommentare bekommen ohnehin viele Downvotes. Wer das nicht bemerkt, liest vermutlich auch keine Regeln.

  • Wenn die Moderatoren es trotzdem für nötig halten, sollte es ausdrücklich als Regel festgehalten werden.
    Ich finde, die Haltung der Community zeigt sich in den Stimmen, die Haltung des Raums in den Regeln.
    Unwissenheit ist kein Entschuldigungsgrund, deshalb ist eine Verschriftlichung nötig.
  • Ich denke auch, dass das Abstimmungssystem ausreicht, wenn es richtig funktioniert. Das Problem ist nicht die Regel, sondern das Design des Voting-Mechanismus.
  • In der Praxis gibt es aber auch Leute, die AI-Kommentare verteidigen. Gerade Menschen aus AI-Startups neigen dazu.
  • Mit Richtlinien kann man Neulingen eine Richtung vorgeben.
    Einfaches LLM-Copy-paste ist nicht interessant, daher wäre ein ausdrückliches Verbot sinnvoll.
  • HN ist grundsätzlich eine Community mit starker Selbstregulierung.

• Auf Community-Ebene sollte man meiner Meinung nach die Offenlegung der AI-Nutzung (Disclaimer) fördern.
  Wenn jemand schreibt: „Ich habe ChatGPT gefragt, und es hat Folgendes geantwortet“, kann die Information an sich immer noch nützlich sein.
  Statt eines Totalverbots wäre es besser, Transparenz und Kürze zu fördern.

  • Stimme zu. Wenn man es verbietet, werden die Leute ihre AI-Nutzung eher verstecken.

• Nur LLM-Antworten zu kopieren und einzufügen sollte verboten sein. Das ist ungefähr so uninteressant wie „ich habe es einfach gesucht und hergebracht“.

  • Im Kontext einer Diskussion über LLMs selbst braucht es aber Ausnahmen.
    Statt eines pauschalen Verbots wäre eine Steuerung über kollektive Peinlichkeit (collective embarrassment) besser.
  • Eigentlich ist es sogar schlimmer als eine einfache Suche. Bei einer Suche steckt zumindest noch der Versuch, etwas zu verstehen, dahinter; bei AI-Copy-paste nicht einmal das.
  • Kommentare nach dem Muster „Ich habe es nachgeschlagen und verifiziert“ haben aber weiterhin Wert.
  • Es ist ohnehin bereits verbotenes Verhalten.
  • Manche behaupten, schon der Prompt selbst sei ein Beitrag.

• Wenn man dafür eine Regel macht, würden auch Beiträge erfasst, die Fehler oder Verzerrungen von AI experimentell diskutieren.
  Deshalb halte ich eine Richtlinie im Sinn von „lasst es lieber“ für besser als ein vollständiges Verbot.
  Ohnehin liest nicht jeder alle Regeln, und da das HN-Publikum heute weniger technisch ist als früher, werden solche Antworten wohl weiter auftauchen.

• Selbst wenn man so eine Regel einführt, wird man AI-Kommentare nicht los; vermutlich hätte sie nur den Effekt, dass weniger offengelegt wird, dass AI benutzt wurde.

  • Ich finde gerade das gut. Wenn die Leute es aus Scham verbergen, verschwindet es am Ende vielleicht ganz.
  • Mich stören AI-Kommentare an sich nicht, aber ungekürztes langes Copy-paste wirkt auf mich unhöflich.
    Wenn es dagegen kurz und natürlich ist, sodass man es gar nicht bemerkt, würde ich daraus kein Problem machen.