Ask HN: Sollte ein Kennzeichen für KI-generierte Beiträge hinzugefügt werden?
(news.ycombinator.com)- Es wird eine Funktion vorgeschlagen, die nur eine Kennzeichnung hinzufügt, ohne das Ranking von KI-generierten Beiträgen herabzusetzen, damit Nutzer, die solche Inhalte nicht lesen möchten, sie überspringen können
- Streitpunkt ist, ob das bestehende Abstimmungssystem allein ausreicht oder ob HN im Zeitalter generativer KI seine lange bewahrten Grundprinzipien ändern sollte
1 Kommentare
Meinungen auf Hacker News
dang: Auf HN selbst gibt es bereits eine Regel gegen generierten KI-Text: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
Für Beiträge gibt es dieselbe Regel bisher noch nicht, aber die Community scheint solche Texte im Allgemeinen nicht zu wollen oder niedrig zu bewerten. Reaktionen wie „Zeig uns nur den Prompt“ haben wir unter https://news.ycombinator.com/genai-pushback gesammelt, um Nutzer dorthin zu verweisen, die fragen, warum ein generativer KI-Text gemeldet wurde.
Derzeit läuft ein interessantes Wettrüsten: KI lernt von Menschen, während menschliche Gruppen zugleich den Schreibstil der KI lernen. Leser reagieren geradezu allergisch auf LLM-artigen Stil, und in solchen Momenten rutscht ein Text sofort in eine Kategorie mit niedrigem Status. Wohin das führt, während KI und Menschen sich gegenseitig anpassen, ist unklar.
Umgekehrt gilt: Wenn man möchte, dass ein Text als hochwertig eingeordnet wird, sollte man ihn selbst schreiben. pg hat das einmal als „writes and write-nots“ bezeichnet: https://paulgraham.com/writes.html
Das ist keine Ablehnung der LLM-Technologie an sich; HN stützt sich selbst stark darauf. Die Kernfrage ist, wie man sie einsetzt und ob man sie für Texte verwenden sollte, die man anderen Menschen öffentlich zeigt: https://x.com/paulg/status/2058871512451412457
Meldungen nur zur Kennzeichnung wären faktisch eine Tag-Funktion, die HN bisher immer abgelehnt hat, aber ganz ausgeschlossen ist sie nicht. Wahrscheinlicher ist, dass beim Melden ein Grund verlangt wird und man etwa Verdacht auf generative KI, Spam, Off-Topic oder Aggressivität auswählen kann. Normale Votes allein reichen nie aus: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
Auf die Frage, ob sich HN im Zeitalter generativer KI ändern muss, würde ich mit https://news.ycombinator.com/item?id=48887149 antworten; das ist eine Hommage an https://news.ycombinator.com/item?id=3742902
Man weiß nicht, ob Missverständnisse oder Lücken daran liegen, dass der Autor etwas nicht verstanden hat, dass die KI es nicht verstanden hat oder dass der Autor es nicht ordentlich geprüft hat. Selbst wenn es eine überraschende Idee gibt, ist schwer festzustellen, ob sie aus der Einsicht des Autors stammt, ob er sie weiter erklären kann oder woher sie kommt.
Wenn ein menschlicher Co-Autor ausreichend daran arbeitet, kann der Text dessen Perspektive und Verständnis genau widerspiegeln. In der Praxis passiert das aber selten; dass es im Grunde keinen Autor gibt, mit dem man sich tiefer über den Inhalt austauschen kann, ist gerade für Diskussionsseiten ein besonders großes Problem.
Einen Text eines bekannten Experten kann man mit der Haltung lesen, ihm zu vertrauen und daraus zu lernen. Abgedroschene Formulierungen, wie sie KI übermäßig verwendet, werden dagegen zu einem Signal dafür, dass unklar ist, wie viel menschliche Prüfung stattgefunden hat. Am Ende legt man ihn als „Text, dessen Wert sich vielleicht erst zeigt, wenn ein Mensch alles analysiert“ beiseite oder lehnt ihn direkt ab.
IgorPartola: Wenn man eine Kennzeichnung für KI-Erzeugung anbringt, verliert man Vertrauen, also wird sie niemand freiwillig setzen wollen. Die Community kann anhand von Hinweisen und Vermutungen melden, aber das ist ungenau und bedeutet zusätzliche Arbeit.
Die Ära der Blogs ist im Grunde vorbei, und das ist nicht unbedingt nur schlecht. Schon vor KI haben Blogspam und Unternehmensblogs hochwertige Blogs ruiniert; die eigentliche Frage lautet also: Was ersetzt Blogs?
Wenn KI-Texte von menschlichen Texten nicht zu unterscheiden, korrekt und interessant sind, ist es dann wichtig, wer sie verfasst hat? Was man vermeiden sollte, ist nicht KI-Erzeugung an sich, sondern niedrige Qualität.
Es mag eine Zukunft geben, in der man sie nicht mehr perfekt unterscheiden kann, aber das Argument, wegen einer ungewissen Zukunft jetzt gar nichts zu tun, ist nicht gut. Aktuell sind KI-Inhalte ziemlich gut erkennbar, und wenn sie so überarbeitet wurden, dass sie nicht nach KI aussehen, steckt zumindest mehr menschliche Mühe darin.
Ob jemand die Tasten selbst gedrückt hat, ist nicht wichtig; wichtig ist aber, ob der Inhalt von einem Menschen geformt wurde. Ein LLM tippt nicht einfach nur, sondern entscheidet auch über Stil, Ton, Stimme und Struktur – und genau das ist zentral für Kommunikation zwischen Menschen.
Retr0id: Ein erheblicher Teil der Wähler erkennt KI-generierte Sätze nicht; und selbst wenn sie sie erkennen, stört es sie nicht, oder sie sehen darüber hinweg, wenn die Prämisse interessant genug ist. Wenn man eine zweidimensionale Abstimmung mit gut/schlecht und KI/Mensch einführen würde, ließen sich Meta-Debatten darüber, wie viel KI in einem Beitrag steckt, wohl reduzieren
minimaxir: Eine KI-Kennzeichnung ist in der Praxis viel gefährlicher als in der Theorie. In sozialen Medien reicht es, wenn jemand böswillig „KI?“ in den Raum wirft, und schon entsteht ein Aufruhr durch False Positives, bei dem der ursprüngliche Autor sich beweisen muss
Bei Blogbeiträgen fehlen zudem konkrete Möglichkeiten, menschliche Urheberschaft nachzuweisen, und es wäre unfair, die Vorlage der Bearbeitungshistorie zu verlangen. Wenn HN diese Funktion einführt, ist die Wahrscheinlichkeit hoch, dass der Schaden den Nutzen überwiegt
shantnutiwari: Dagegen. Unter fast jedem Top-Beitrag auf HN stehen inzwischen ein paar Kommentare wie „Das ist LLM“, und mittlerweile ist es zu einer Ersatzformulierung für „Ich mag diesen Beitrag nicht, also muss er von einem LLM sein“ geworden: https://news.ycombinator.com/item?id=48063759
Solche Kommentare bekommen immer ein paar Upvotes, daher fühlt es sich wie faules Karma-Farming an. Wenn man 100 Beiträge als LLM abstempelt, liegt man irgendwann einmal richtig und kann sich wie ein Astrologe mit diesem einen Treffer brüsten. Es braucht eine Möglichkeit, solche Low-Effort-Kommentare einzudämmen
dawnerd: Angesichts der Investitionen von YC in KI ist so eine Maßnahme kaum zu erwarten. Hier gibt es auch viel zu viele Leute, die meinen, man müsse einfach nachgeben und es akzeptieren; persönlich fühlt sich das für mich wie Täterlogik an
nunez: Ich habe dieselbe Funktion schon vor einem Monat angefragt: https://news.ycombinator.com/item?id=48296731
Wenn genügend Nutzer einen Inhalt als KI-Inhalt melden, wäre es gut, am Ende des Titels eine
[AI Generated]-Kennzeichnung anzuhängenCM30: Eine Kennzeichnung wäre nützlich, weil in KI-generierte Inhalte meist weniger Aufwand investiert wurde als in selbst erstellte Arbeit; unklar ist aber, wie man das sinnvoll umsetzt
Online gibt es viele Hexenjagden und False Positives, bei denen sogar menschliche Werke als KI abgestempelt werden, nur weil ein langer Gedankenstrich verwendet wurde oder Hände in einem Bild seltsam aussehen. Wenn sehr misstrauische Nutzer vom Schlimmsten ausgehen, könnte am Ende die Hälfte der Seite eine KI-Kennzeichnung tragen
Wenn Autoren sich selbst melden sollen, verlieren sie Vertrauen und Leser, also ist der Anreiz zu lügen groß; und KI-Erkennungstools haben ebenfalls viele False Positives und sind schwer zu vertrauen. Man könnte KI-Inhalte als Meldegrund hinzufügen, bei normalen Einreichungen aber von guten Absichten ausgehen, und ich hoffe, dass die gesamte Seite nicht übermäßig paranoid oder restriktiv wird
Debugreality: Es gibt Ideen, die ohne KI-Unterstützung nie in die Welt gekommen wären. Ich habe kürzlich ein Whitepaper zu einem Demokratiekonzept veröffentlicht, über das ich seit Jahrzehnten nachdenke; KI hat mir geholfen, die Ideen auszuweiten sowie die Dokumentstruktur und den Fließtext zu schreiben
Da ich kein Wissenschaftler bin, hätte ich es ohne KI wahrscheinlich nicht fertiggestellt, und ich halte es für besser, wenn es veröffentlicht wird, als dass es nur in meinem Kopf bleibt und verschwindet. Ein selbst verfasstes wissenschaftliches Dokument wäre besser, aber auch wenn der Großteil von KI geschrieben wurde, habe ich zwei Tage lang bei jedem Absatz geprüft, ob ich ihm zustimme, und Probleme korrigiert
Bei der Qualitätsbewertung ist es angemessener, auf den eingebrachten menschlichen Aufwand zu schauen als auf die Frage, ob KI verwendet wurde
Ich würde eine Version, in der nur die zentralen Einsichten direkt niedergeschrieben sind, deutlich bevorzugen, statt den eigentlichen Text von einem LLM schreiben zu lassen. Ich möchte nicht in mehreren Seiten Sätzen nach den Kernaussagen suchen müssen. Besonders wenn man ein LLM nutzt, um Ideen „aufzupolstern“, ist das der sicherste Weg, Menschen zu langweilen
Die Arbeit, Einsichten in ein ausschweifendes Dokument zu verwandeln, ist erst in der Gesetzgebungsphase nötig. Man muss nur „Sagt, wie ihr Daten verwendet“ mit den entsprechenden Artikeln der DSGVO vergleichen
lazyasciiart: Wie wäre es mit einer Titelmarkierung wie
[1997]? Das ist Inhalt, der Leser interessieren kann oder auch nicht, aber wenn sie die Herkunft kennen, nehmen sie ihn womöglich anders auf[AI]hängen, aber da KI an sich legitime Verwendungszwecke hat, wäre[SLOP]vielleicht passenderteo_zero: So wie manche Leute KI-generierte Texte nicht ertragen, gibt es auch Leute, die Grammatikfehler nicht ertragen. Wenn es eine
AI generated-Kennzeichnung gibt, werde ich auch eine Kennzeichnunglousy with mistakeswollenDevKoala: Entscheidend ist nur, ob ein Text nützlich, faktenbasiert und unvoreingenommen ist. Wie er geschrieben wurde, ist mir egal
thinkingemote: Ein erheblicher Teil der Beiträge, die man auf HN sehen möchte, dreht sich um LLMs, und viele davon sind mit LLMs geschrieben. Sie sind furchtbar zu lesen, und inspirierende Perlen gibt es kaum; wenn sie relevant sind, überfliege ich sie nur, der eigentliche Wert liegt meist in den Kommentaren.
Wenn man den LLM-Stil leicht erkennt, lohnt sich auch ein Blick auf Paper von KI-Forschern und Gründern aus der Zeit vor Consumer-LLMs. Dieser Stil ist der heutigen LLM-Prosa erstaunlich ähnlich.
rddbs: Ich möchte eher Beiträge über KI an sich ausblenden als von KI geschriebene Beiträge. Inzwischen fühlt sich der Großteil der HN-Inhalte wie KI-Gerede an, und das nervt. Ich frage mich, ob es etwas wie eine Browser-Erweiterung gibt, die wieder für mehr Ausgewogenheit sorgt.
Mein eigener erster Schritt ist, alle KI-bezogenen Beiträge auf der Startseite auszublenden; im zweiten Schritt suche ich dann unter dem Rest nach interessanten Beiträgen. Leider gibt es heutzutage oft Tage, an denen nichts übrig bleibt.
mattas: An diesem Punkt wäre es vielleicht passender, eine
not AI-Kennzeichnung einzuführen.ramon156: Ich habe mir eine persönliche Erweiterung gebaut, die Leute aus meinem Feed blockiert, die vor allem KI-generierte Informationen posten. Für mich persönlich funktioniert das gut, aber ich weiß nicht, ob es auch für den gesamten Dienst sinnvoll wäre.
Es könnte schon reichen, nur Tags bereitzustellen, damit die Leute selbst entscheiden können. YouTube-Erweiterungen wie DeArrow und SponsorBlock setzen einen Crowdsourcing-Ansatz gut um.
cloudpilot: Ich habe mit Hilfe von KI eine App gebaut, die Nachricht aber selbst geschrieben, und wurde trotzdem gemeldet.
jaredcwhite: Ich bin fest davon überzeugt, dass KI-generierter Text gar nicht erst auftauchen sollte. Abgesehen von offensichtlichen LLM-Spuren ist das aber schwer zu beweisen, und echte Belege für menschliche Autorenschaft zu verlangen, ist ebenfalls nicht einfach.
Ich bevorzuge zunehmend Communities, in denen bei legitim geteilten Beiträgen die Annahme gilt, dass sie von Menschen geschrieben wurden.
Ich stimme dem Prinzip zu, aber es ist schwer fair umzusetzen, und das Diskriminierungsrisiko ist groß. Paradoxerweise wirkt ein Text sogar menschlicher, wenn man Tippfehler korrigiert und Bearbeitungsspuren hinterlässt.
shahzaibmushtaq: KI ist der menschlichen Intelligenz (HI) nicht überlegen und kann es auch künftig nicht sein. Offenzulegen, ob die eigene Arbeit mit KI generiert wurde und zu welchem Anteil KI verwendet wurde, liegt in der Verantwortung von Autor und Verfasser.
KingOfCoders: Ein Text ist gut oder eben nicht. Ob er von einem Menschen, einer KI oder einer Katze geschrieben wurde, ist mir egal.
amelius: Es wäre gut, wenn Unicode einen Codebereich hinzufügen würde, der den Latin-1-Zeichen entspricht, aber exklusiv für KI-Tools reserviert ist. So könnte man in KI-Erzeugnissen eine Art dauerhaftes Markierungsbit hinterlassen.
Schon heute ließe sich etwas Ähnliches umsetzen, indem man KI-Firmen verpflichtet, statt ASCII
0x20ein spezielles Leerzeichen zu verwenden; das würde auch helfen, das Problem zu vermeiden, generierte Daten wieder ins Training einzuspeisen.nickandbro: Bei reinen Textbeiträgen weiß ich nicht, ob man dann wenigstens die Anzahl langer Gedankenstriche zählen soll oder wie man das praktisch durchsetzen will. Selbst eigens dafür gebaute KI-Detektoren haben sehr hohe Fehlerraten.
warshinder: Ich schaue zuerst in die Kommentare. Irgendjemand weist immer darauf hin, ob ein Beitrag KI-Text ist, nicht lesenswert ist oder nicht lädt.
In der frühen HN-Zeit half das Einreichenden auch dabei, Ansturm auf ihre Server zu vermeiden, und wenn es eine Paywall gab, postete jemand eine archivierte Version in den Kommentaren.
CqtGLRGcukpy: Ein Beitrag, den jemand für KI-generiert hält, muss es in Wirklichkeit nicht sein, und auch KI-Erkenner sind nicht zuverlässig genug, um das mit Sicherheit zu sagen.
Ein gutes Beispiel ist der seichte, werbliche Beitrag, der derzeit auf Platz 1 der Startseite steht: https://news.ycombinator.com/item?id=48884853
aryehof: Ich fürchte, dass es sehr leicht werden könnte, die Sichtweise eines bestimmten Menschen abzutun oder zum Schweigen zu bringen, nur indem man andeutet, sie sei KI-generiert.
rdataguy: Ob etwas KI-generiert ist, lässt sich nicht immer leicht erkennen, und die Funktion könnte missbraucht werden. Trotzdem könnte sie nützlich sein, wenn kollektive Intelligenz eine ausreichend große Menge korrekt einordnet.
itsgrimetime: Ich habe nichts dagegen, KI-Texte zu kennzeichnen, aber ich wünschte, wir würden uns stärker mit dem Inhalt selbst befassen, unabhängig davon, wie er entstanden ist. In letzter Zeit scheint es häufiger zu werden, dass Beiträge sofort abgelehnt oder kritisiert werden, nur aufgrund der Entstehungsweise, statt danach, was sie aussagen.
Xotic007: Eine KI-Kennzeichnung würde Erstellern nur ein klares Erkennungsziel liefern, das sie vermeiden müssen. Dadurch würde der offensichtliche KI-Stil wohl seltener, aber es ist nicht schwer, die Erkennung zu umgehen, also würde der Aufwand für Ersteller kaum steigen.
deevus: Mein selbst geschriebener Show-HN-Beitrag ist in die automatische Moderation geraten. Ehrlich gesagt hat das meine Zurückweisungsempfindlichkeit getriggert, und seitdem poste ich nichts mehr auf HN.
edoceo: Vielleicht müsste man bei eingereichten Beiträgen einfach nur eine Downvote-Funktion hinzufügen.
flag.Esophagus4: Ein passendes Konzept dazu ist https://en.wikipedia.org/wiki/Evil_bit.
atomicthumbs: Jemandem nahezulegen, einen von einer Maschine geschriebenen Text zu lesen, respektiert die Zeit des Gegenübers nicht. Wenn man sich nicht genug darum gekümmert hat, ihn selbst zu schreiben, gibt es auch keinen Grund, warum jemand anderes ihn lesen sollte; der Wert ist 0
mleroy: Statt KI-Inhalte nachzuverfolgen und zu melden, könnte man Autorinnen und Autoren freiwillig kennzeichnen lassen, dass es sich um Originalinhalte handelt. Links könnten Tags wie
[Handmade],[Craft-Article],[Artisan-Thinking]tragenjeremyjh: Einreichungen kann man nicht downvoten, und es gibt viele Leute, die kein Problem damit haben, Texte zu lesen, die niemand selbst geschrieben hat; normale Abstimmungen reichen daher nicht aus
Da in Prozesse außerhalb des Schreibens erheblicher Aufwand fließen kann, lässt sich nicht pauschal sagen, dass ein KI-geschriebener Text wertlos ist. Trotzdem neige ich dazu, Nachteile zu vergeben, um eine Norm zu etablieren, die echte Kommunikation zwischen Menschen respektiert
Ich nutze KI viel für verschiedene Zwecke und lese daher häufig generierte Inhalte; die KI-typische Stimme stört umso mehr, je besser man sie erkennt. Es ist ein großer Unterschied, ob ich eine Antwort auf meinen Prompt lese oder einen Text, bei dem ich nichts über Prompt, Zahl der Überarbeitungen oder menschliche Prüfung weiß
Normalerweise steckt ein menschlicher Autor mindestens fünfmal so viel Aufwand in einen Text wie die Lesenden, aber bei KI-Texten weiß man nicht, ob die Lesenden mehr Zeit investieren als der Autor; das wird zu einer kaum erträglichen Störung
nyellin: Wenn man eine Kennzeichnung für KI einführt, werden die Kommentare zu jedem Beitrag zu einer Debatte darüber, ob KI ihn geschrieben hat und in welchem Umfang. Besser ist es, ihn nach dem Inhalt selbst zu bewerten
lukasbm: Niemand liest gern ungefilterte Chatbot-Ausgaben, aber sie zuverlässig zu erkennen ist ebenfalls unmöglich