Menschen AI-Ausgaben zu zeigen, ist unhöflich

• Von AI erzeugte Texte unreflektiert an andere weiterzuleiten, ist ein Verhalten, das das Gegenüber verwirrt
• Früher galt geschriebener Text als Beleg menschlichen Denkens, doch mit dem Fortschritt von AI ist dieses Vertrauen zerbrochen
• Die Verbreitung von AI-generierten Inhalten ist nur dann vertretbar, wenn die sendende Person das Ergebnis selbst verarbeitet und in eigenen Worten weitergibt oder die Zustimmung der empfangenden Person vorliegt
• Der Missbrauch von AI-Botschaften verursacht bei Empfängerinnen und Empfängern Müdigkeit durch nutzlose Informationen und Ressourcenverschwendung
• Wer AI-Etikette missachtet und AI-Antworten direkt weiterleitet, begeht etwas, das gesellschaftlich als unhöflich angesehen wird

---

Der Hintergrund des Romans Blindsight und die Bedeutung von Signalen

• In Peter Watts’ SF-Roman Blindsight steht die Begegnung der Menschheit mit bewusstlosen außerirdischen Spezies (scramblers) im Zentrum
• Scramblers mögen im Unterschied zu Menschen keine unnötigen Informationen und betrachten die Übertragung nutzloser Signale als einen Akt der Invasion
• So wie Menschen bedeutungslose Texte wahllos verbreiten, wird Informationsmissbrauch als ein Angriff interpretiert, der die Ressourcen des Gegenübers verschwendet

Das Konzept des Proof-of-thought

• Früher war nur direkt von Menschen verfasster Text Träger von Kommunikation, deshalb konnte man beim Lesen ganz selbstverständlich Spuren menschlichen Denkens vertrauen
• Durch die Verbreitung von AI werden Texte, Code, Bilder und Videos sowie alle anderen Medien viel zu leicht massenhaft erzeugt, wodurch der Beweis menschlichen Denkens (Proof-of-thought) aus den Inhalten verschwindet
• Sobald irgendjemand AI-Erzeugnisse einfach weiterleitet, läuft die empfangende Person Gefahr, wertvolle Zeit an bedeutungslose Informationen zu verlieren
• AI liefert grundsätzlich nur dann Antworten, wenn sie auf eine Anfrage reagiert, daher verursacht AI ohne menschliche Aufforderung nicht von selbst eine Informationsflut
• Letztlich liegt das Wesen des Problems nicht bei AI selbst, sondern bei Menschen, die AI-Ausgaben unbedacht nutzen und verbreiten

Warum AI-Etikette notwendig ist

• Wenn AI-Erzeugnisse unverändert an andere weitergegeben werden, braucht es zwingend eine gemeinsame Absprache oder eine klare Zustimmung
• Jemandem direkt so etwas zu sagen wie "Ich habe ChatGPT gefragt, und das kam dabei heraus", kann beim Gegenüber als unhöflich ankommen
• Eine von AI gelieferte Antwort ohne eigene Meinung oder Einschätzung weiterzureichen, verursacht beim Gegenüber Unbehagen und Informationsverschmutzung
• Sagt man stattdessen zum Beispiel: "Ich habe mit ChatGPT diese Antwort bekommen; wenn du willst, kann ich dir das Gesprächsprotokoll zeigen", hat die andere Person eine Wahlmöglichkeit
• Wenn man das eigene Arbeitsergebnis prüfen lassen will, ist statt "Das wurde automatisch von AI erstellt, schau es dir einfach an" eine Haltung gefragt, bei der man es selbst prüft, zusammenfasst und erst dann verschickt

Fazit: Worauf man bei der Verbreitung von AI-Ausgaben achten sollte

• Anders als Scramblers sind Menschen keine Wesen, die völlig bedeutungslose Signale passiv empfangen, sondern solche, die sie auswählen und annehmen
• Es gehört zur Höflichkeit, AI-Etikette zu wahren und von AI erzeugte Texte nicht direkt weiterzureichen
• Auch wenn man AI-Erzeugnisse nutzt, ist stets eine Haltung nötig, die Zeit und Aufmerksamkeit der empfangenden Person respektiert
• Wenn man Ergebnisse aus der AI-Nutzung unverändert weitergibt, ist es wichtig, sich zuerst die Zustimmung der empfangenden Person einzuholen
• In einer Flut von von AI erzeugtem „Rauschen“ muss sich die Fähigkeit, Informationen verantwortungsvoll auszuwählen und selbst zu filtern, als gesellschaftliche Etikette etablieren

[GN⁺]

Hacker-News-Kommentare

• Ich wünschte, einige Kollegen würden aufhören, E-Mails oder Teams-Nachrichten von einem LLM schreiben zu lassen; solche Nachrichten wirken so lieblos, dass ich sie inzwischen nicht einmal mehr lesen möchte.

  • Manchmal lassen Kollegen versehentlich Teile ihrer Unterhaltung mit der AI stehen, und das fällt sofort auf. In einer kürzlich erhaltenen E-Mail stand am Ende etwa: "Soll ich das in Outlook formatieren, oder Ihnen helfen, es in einem bestimmten Kanal oder einer Verteilerliste zu posten?"
  • In solchen Fällen habe ich direkt darum gebeten: "Es wirkt auf mich, als seien einige Ihrer Nachrichten von einem LLM erzeugt worden. Ich weiß es zu schätzen, dass Sie auf korrekte Grammatik und Stil achten, aber gelegentliche Tippfehler oder etwas holprige Formulierungen sind mir viel lieber, als wenn Bedeutung verzerrt wird oder Kontext verloren geht. Bitte schreiben Sie mir künftig direkt selbst. In der internen Kommunikation stören mich weder fehlende Großschreibung noch umgangssprachliche Formulierungen."
  • Menschen, denen das Schreiben aufgrund einer Behinderung schwerfällt, können mit Hilfe von AI ihre Gedanken oft besser ausdrücken als sonst. Das ist zwar nicht direkt dieselbe Situation, sollte aber mitbedacht werden.
  • LinkedIn ist in dieser Hinsicht am schlimmsten. Es war ohnehin schon voll mit "Corporate-/Professional-Verwässerung", und jetzt empfiehlt die Oberfläche auch noch aktiv AI-generierte Antworten. Für mich das schlimmste soziale Netzwerk. Beispiel: "Wirklich aufschlussreich! Dass du eine Alltagsaufgabe in eine transformative Branding-Chance verwandelt hast, zeigt, dass du ein wahrer Meister der Selbstvermarktung bist!"
  • Ich habe einem Kollegen solches Feedback tatsächlich direkt gegeben. Jemand, der an mich berichtet, fing an, mit AI Slop zu reagieren, und als ich fragte: "Hast du das selbst geschrieben?", sagte er nein. Daraufhin habe ich ihm genau zurückgemeldet: "So fühlt es sich an, als hättest du mir gar nicht zugehört." Zum Glück hörte das danach auf. Je schlauer die Modelle werden, desto schwerer wird das wohl zu erkennen sein, aber am Ende schaden sich damit die Leute selbst, die gedankenlos einfach AI dranhängen und abschicken. Wie in einer South-Park-Folge kann man am Ende für Commits geradestehen, die man selbst nicht einmal versteht.

• Wenn man jemandem eine Frage stellt, geht es nicht nur darum, eine technische Antwort zu bekommen, sondern auch darum, unerwartete Gedanken des Gegenübers zu hören, sich verbunden zu fühlen oder einen Einstiegspunkt für Zusammenarbeit zu finden. In einem echten Gespräch entstehen viele Wege und Verästelungen des Denkens, AI wirkt dagegen einfach leblos. Wenn mir jemand eine von AI erzeugte Antwort nur kopiert und einfügt, fasse ich das so auf, dass diese Person an mir überhaupt kein Interesse hat. Mit so jemandem möchte ich nicht interagieren.

  • Es fühlt sich in Gesprächen kaum anders an als: "Hättest du auch einfach googeln können."

• Ich habe einmal einen PR mit dem Slogan gesehen: "In 15 Minuten emotional zusammengeschraubter PR, bitte reviewen." In Wirklichkeit lässt der Autor so einen Hinweis aber nicht stehen und gibt es selbst auf Nachfrage des Reviewers nicht zu. Mein Review-Kommentar wird dann direkt an eine AI weitergereicht, zehn Minuten später taucht derselbe PR erneut auf, nur wieder irgendwie anders verändert, und mein eigentliches Kernfeedback ist überhaupt nicht eingeflossen. Ich wünschte fast, ich könnte stattdessen direkt mit der AI reden. (Nebenbei: Ich habe nicht einmal die Befugnis, solche PRs zu ignorieren oder zu schließen.)

  • Man sollte den PR nicht einfach ignorieren oder schließen, sondern das Gespräch beginnen. AI ist keine Person, und wenn man Code mit Bugs oder Qualitätsproblemen einreicht, liegt die Verantwortung am Ende trotzdem bei der einreichenden Person. Wichtig ist auch klarzumachen: Wenn jemand gar nicht selbst reviewt und nur AI-Output weiterreicht, fügt diese Person selbst überhaupt keinen Wert hinzu. Wenn Leute um einen herum nur AI Slop weiterreichen, kann man das auch als Mentoring-Gelegenheit sehen und ihnen die richtige Richtung zeigen; vielleicht hebt das sogar die Qualität der gesamten Branche. Ich bin überzeugt, dass künftig Menschen wirklich wettbewerbsfähig sein werden, die kritisch denken, debuggen und Business-Kontext herstellen können, während die anderen immer weiter zurückfallen werden.
  • Die tatsächliche Realität ist wohl noch deprimierender. Wer den Review-Prozess komplett an AI auslagert, riskiert am Ende auch, dass die eigene Leistungsbewertung darunter leidet. Ich frage mich, ob man das bei Performance Reviews negativ bewerten sollte.
  • Vertrauen wird langsam aufgebaut und in einem Moment zerstört. Wenn mir ohne vorherige Absprache immer wieder die Reviews schlampiger, AI-generierter PRs aufgedrückt werden, reviewe ich den nächsten PR dieser Person nicht mehr.
  • Das ist wirklich übel, das klingt nach einer geradezu höllischen Arbeitsumgebung.
  • In so einem Fall kann es auch ein Weg sein, sofort zum Manager zu gehen.

• Mit dem Satz "Schreiben war kostspieliger als Lesen" kann ich mich sehr identifizieren. Seit den LLMs hat sich diese Gleichung umgedreht, und bei mir ist insbesondere die Zeit für Code Reviews massiv gestiegen. In einer Umgebung, in der Autor und Reviewer ein ähnliches Verständnisniveau über die Codeänderungen haben, wird es umso wichtiger, dass der PR selbst klarer geschrieben ist. Ich frage mich auch, welche versteckten Effekte dieser Wandel noch mit sich bringt.

  • Früher war es viel aufwendiger, eine Landschaft zu malen, als eine echte Landschaft anzuschauen, aber heute erfordern beide ungefähr ähnlich viel Aufwand. Die Menschheit hat sich an solche Veränderungen gut angepasst, und ich bin froh, in einer Welt mit Fotografie zu leben. Ich glaube, dass sich künftig ganz natürlich eine starke negative Wahrnehmung gegenüber nicht offengelegt AI-generierten Inhalten und gegenüber Inhalten entwickeln wird, die nicht ordentlich verifiziert wurden.

• Dass Leute heutzutage von ihren Gesprächen mit ChatGPT erzählen, ist irgendwie zu einem neuen "Erzähl mir von deinem Traum von gestern" geworden. (Etwas schade ist, dass ich über manche dieser Gespräche tatsächlich gern mehr reden würde, es aber kaum gelingt.)

  • Über ein Gespräch mit AI zu sprechen und zu sagen: "Ich hatte diese Erfahrung, das fand ich daran interessant, und das hat bei mir diese Wirkung ausgelöst", ist völlig menschlich und legitim. Den Gesprächsverlauf einfach unverändert weiterzugeben, wirkt dagegen wie die Haltung: "Ich habe den Input geliefert, jetzt denk du über das Ergebnis nach und mach was damit." Auch ich spreche mit Freunden oder meiner Partnerin darüber, was ich bei Gesprächen mit Claude oder ChatGPT empfunden habe, aber ich teile nicht einfach das Transcript.
  • Von Träumen kann man immerhin sagen, dass sie ein direktes Produkt meines Gehirns sind, während ChatGPT eher so etwas ist wie das "eingelegte" Gehirn zahlloser Internetnutzer, das beim Anblick eines Prompts sofort Assoziationen ausspuckt. Das ist eine völlig andere Art von Ergebnis.
  • Ich hatte einen ganz ähnlichen Eindruck. Für die Person, die es erlebt hat, ist es interessant, aber für die zuhörende Seite meist nicht besonders spannend. Manchmal ist dieser kleine Blick in den Kopf eines anderen zwar ganz erfrischend, aber der Inhalt selbst ist nicht sonderlich wichtig. Sowohl Träume als auch AI-Antworten haben diese "halluzinatorische Eigenschaft" gemeinsam — also dass ihnen substanzieller Inhalt fehlt. Am Ende geht es um das Wesen von Kommunikation.
  • Eher wie: "Ich habe meinen betrunkenen Onkel gefragt, und die Antwort klang extrem selbstbewusst."

• Wenn jemand ein AI-generiertes Ergebnis weiterleitet, sollte diese Person das klar offenlegen. Dass die Qualität niedrig ist, wird nicht dadurch entschuldigt, dass AI verwendet wurde; wichtig ist, alle Quellen offenzulegen. Wenn man keine AI-generierten Inhalte erhalten möchte, kann man sie dank dieser Kennzeichnung im Voraus aussortieren.

• Kürzlich hatte ich mit einem Nichtfachmann zu tun, der einen Screenshot von ChatGPT (Gratisversion) per E-Mail anhängte, um meiner technischen Einschätzung zu widersprechen. Die LLM-Antwort war nicht falsch, aber sie war in überflüssige Formulierungen eingepackt, und mein Gegenüber hatte gar nicht die Fähigkeit, die eigentliche Kernaussage der Antwort zu verstehen.

• In dem Zusammenhang finde ich es sogar besser, gleich den Prompt selbst zu lesen https://news.ycombinator.com/item?id=43888803

  • Meine Position dazu ist:
    • Stimme zu
    • Aber die Leute wollen normalerweise geschriebenen Fließtext und mögen keine Stichpunkte
    • Das ist eine Frage kultureller Unterschiede

• Ich finde Situationen interessant, in denen jemand mithilfe von ChatGPT diskutiert. Selbst im Vergleich zu jemandem, der mit eigener Hand schreibt, merkt man mit der Zeit, dass es immer wieder an Tiefe fehlt und nur an der Oberfläche kratzt. Solche Gespräche beende ich schnell, weil ihnen Sorgfalt und Aufrichtigkeit fehlen.

  • Nicht die Menschen ohne AI fallen zurück, sondern eher die, die sich nur auf AI verlassen. (Roko's Reverse Basilisk?)

• Ich hatte kürzlich ein unangenehmes Erlebnis mit einem Online-Shop und habe dem Support gemailt: "Die Firma an sich mag ich, aber diese Erfahrung war unangenehm." Zurück kam nur eine mit allerlei Floskeln angereicherte Antwort von einem "AI Agent Bot", dass kein Handlungsbedarf bestehe und die Bestellung normal bearbeitet worden sei, daher werde das Ticket geschlossen. LLMs zur Hilfe beim Verfassen von E-Mails zu nutzen, ist in Ordnung, aber Kundenanfragen pauschal von einem Bot schließen zu lassen, empfinde ich als wirklich unhöflich.

  • Das ist ein Fall, in dem die innere Kultur des Unternehmens unverblümt sichtbar wird. Man liest daraus die Haltung: "Kunden sind die Mühe nicht wert."