Nein, ich möchte nicht, dass KI meinen Text „glättet“
(thebloggess.com)- Beim Schreiben einer E-Mail erschien der „Polish“-Zauberstab. Er sah wie eine Übersetzungsfunktion aus, tatsächlich war es aber eine Funktion, mit der Gmail per KI die Formulierungen überarbeitet und die gesamte E-Mail verändert
- Die von der KI geänderten Sätze klangen so anders als der übliche Tonfall, dass sie für Bekannte wie eine E-Mail von jemandem wirken konnten, der entführt wurde
- Selbst nachdem ausdrücklich dazugeschrieben wurde, dass keine KI-Überarbeitung gewünscht ist, tauchte der Polish-Vorschlag erneut auf, und sogar dieser Ablehnungssatz sollte von der KI umgeschrieben werden
- Tippfehler, ausschweifende Klammern, Entschuldigungen für späte Antworten und Signaturen wie „HUGS“ oder „FIGHT THE PATRIARCHY“ sind Spuren, die zeigen, dass die E-Mail wirklich von der Autorin stammt
- Auch beim Schreiben eines Blogposts drängte sich ein Vorschlag zur KI-Bilderzeugung dazwischen, sodass es sich anfühlte, als würde der Computer beim Kreativsein ständig wie ein Kleinkind rufen: „Ich mach das!“
Der Moment, in dem Gmail „Polish“ die ganze E-Mail umschrieb
- Während des Verfassens einer E-Mail erschien zusammen mit einem kleinen Zauberstab-Symbol der Hinweis „Polish“
- Zunächst wirkte es wie eine Funktion, die die E-Mail ins Polnische übersetzen wolle, was seltsam erschien
- Beim Anklicken, um das Symbol loszuwerden, ersetzte Gmail die komplette E-Mail durch einen von der KI geglätteten Text
- Die veränderte E-Mail klang so untypisch, dass Bekannte glauben könnten, sie stamme nicht von der eigentlichen Absenderin
KI wollte sogar die Ablehnung noch einmal umschreiben
- Nachdem der vorgeschlagene Neuentwurf gelöscht worden war, wurde ein eigener Satz ergänzt, dass keine KI-Überarbeitung der E-Mail gewünscht sei
- Danach erschien die Polish-Funktion von Gmail trotzdem erneut
- Die KI versuchte sogar, den Absatz noch einmal zu glätten, der sinngemäß sagte: „Ich möchte nicht, dass KI diesen Absatz überarbeitet.“
- Das wurde so wahrgenommen, als wolle das System den Text unabhängig vom klar geäußerten Nein der Nutzerin weiter aufräumen
Lieber ein erkennbarer Stil als geglättete Sätze
- Die eigenen E-Mails tragen normalerweise Spuren wie diese
- Tippfehler
- ausschweifende Sätze in Klammern
- Entschuldigungen dafür, dass die Antwort Monate zu spät kommt
- Signaturen wie „HUGS“, „LOVE“, „FIGHT THE PATRIARCHY“, „DOWN WITH POWDERED GRAVY“ oder „SORRY I SUCK SO MUCH“
- Gerade diese unperfekte und zerstreute Art macht erkennbar, dass die Nachricht wirklich von ihr stammt
- Sie witzelt, dass die KI hoffentlich von ihr lernt, wenn sie ihre Vorschläge oft genug ablehnt, und ihre schlechten E-Mail-Manieren in die Welt trägt
Auch beim Blogschreiben drängte sich ein KI-Bildvorschlag auf
- Als einem Text darüber, KI zu hassen, ein Bild hinzugefügt werden sollte, schlug das Blogsystem KI-Bilderzeugung vor
- Die Nutzerin klickte eigentlich, um ein bestimmtes Bild einzufügen, doch stattdessen empfahl das System die Erzeugung eines KI-Bildes
- Die Situation fühlte sich wie eine versteckte Kamera an, und der ganze Computer wirkte wie ein Kleinkind, das beim Kreativsein ständig ruft: „Ich mach das!“
Der Prompt „please stop giving me AI“
- Um zu testen, wie viel besser die KI es angeblich noch machen könne, wurde in ein Bildgenerierungsprogramm der Prompt „please stop giving me AI“ eingegeben
- Auf das Ergebnis reagierte sie spöttisch mit dem Kommentar, dass offenbar wirklich Hilfe nötig gewesen sei
- Das gesamte Erlebnis endet letztlich in dem kurzen Fazit: „Das ist nichts.“
1 Kommentare
Hacker-News-Kommentare
Jedes Mal, wenn ich etwas erstellen will, fühlt sich der ganze Computer an wie ein Kleinkind, das „Ich mach das!“ schreit.
Jede Autokorrektur oder jeder automatische Vorschlag hat sich schon immer so angefühlt, aber jetzt ist die Lautstärke auf 11 gedreht. Selbst der einst unscheinbare Adobe Reader ist mit glitzernden Buttons und Pop-ups übersät und bietet an, mir „Insights“ zu geben, ohne dass ich das Dokument lesen muss.
Erstens darf er meine proprietären Dokumente nicht lesen, und wegen digitaler Signaturen bezweifle ich auch, dass viele Menschen, die diese Software nutzen, überhaupt berechtigt sind, geistiges Eigentum mit Dritten zu teilen. Manchmal kann es ein nützliches Tool sein, aber wie es einem überall direkt vors Gesicht gehalten wird, wirkt verzweifelt.
Die Tech-Branche steckt wirklich in einem ernsten Problem.
Ich weiß nicht, was die Branche glaubt, was sich geändert hat, sodass die Leute jetzt „Es sieht so aus, als würden Sie etwas tun“ begrüßen würden.
Es war nicht nur ein Aggregationslink, sondern sie hatten die README neu geschrieben und sogar einen „Pitch“ angehängt, was sich wie eine Verletzung anfühlte.
Vielleicht ist es weniger ein Problem der gesamten Tech-Branche als eines von Consumer-Apps.
Mein Arbeitgeber hat die Nutzung von AI für geistiges Eigentum verboten, bis dieses Problem ordentlich gelöst ist. Denn er kümmert sich tatsächlich um Leaks.
Vielleicht gibt der Datenschutzausschuss irgendwann Mitte der 2030er eine Richtlinie heraus, dass all das nicht DSGVO-konform ist.
Die AI-Version ist eindeutig langweilig und schlecht, aber noch wichtiger: Sie hat die Bedeutung der Nachricht komplett verändert.
Die AI-Version entschuldigt sich, deutet an, dass dem Empfänger diese E-Mail als „Antwort“ auf irgendetwas „zugesagt“ worden sei, schiebt es auf einen vollen Terminkalender und bietet an, Fragen zu beantworten.
Im Original stand davon nichts, nicht einmal implizit. Das ist keine „verfeinerte“ Version, sondern einfach eine völlig andere E-Mail. Ich dachte, den Stil zu ändern und dabei die Bedeutung beizubehalten, sei eine der wenigen Sachen, die LLMs gut können, aber dieses Beispiel schafft nicht einmal diese niedrige Hürde.
Das war als Scherz gemeint, nicht als Belehrung, aber Apparate zur Produktion von Subjektivität existieren tatsächlich.
Niemand, der mich kennt, könnte diese E-Mail bekommen, ohne zu glauben, ich sei entführt worden.
Dieser Person ist wichtig, keine falsche Identität vorzuschieben. Eine ziemlich coole Haltung, aber Social Media hat gezeigt, dass viele Menschen keinerlei Skrupel haben, eine Illusion zu präsentieren.
Die Leute werden keine Scham empfinden, gut geschriebene Texte als Ergebnis ihres eigenen Talents und ihrer eigenen Mühe auszugeben. Digitalem Make-up sind keine Grenzen gesetzt.
Eine Persona sorgfältig zu formen, um Klicks zu maximieren, ist etwas anderes, als mit einer langweiligen, merkmalslosen Identität gleichgeschaltet zu werden.
Ich kann schreiben, wie es mir gerade in den Kopf kommt, und hoffen, dass ein digitaler Schreiber es so umformuliert, dass sich der Leser respektiert, anerkannt und gelobt fühlt. Schiebe ich dann eine falsche Identität vor? Präsentiere ich eine Illusion von Professionalität? Vielleicht ist schon die Verwendung von „Best regards“ statt „Bye“ von Anfang an eine Maske der Professionalität.
Man muss nur kopieren, einfügen und auf den Button „Text erstellen“ drücken. Wenn man darauf hinweist und nachhakt, bekommt man vermutlich eine zugleich ziemlich nervige und komische Antwort zurück, inklusive des Versuchs, diese Illusion als die eigene auszugeben.
Auch früher haben viele Menschen beim Schreiben nicht gründlich darüber nachgedacht, was sie vermitteln wollen oder wie sie wirken. Heute ist es genauso: Sie denken nicht besonders tief darüber nach und schicken oft LLM-Ergebnisse ab, ohne sie sinnvoll zu prüfen.
Natürlich gefällt mir das nicht. Trotzdem kann man Menschen, die klar kommunizieren wollen, immer noch ziemlich oft von denen unterscheiden, die das nicht wollen. Leid tun mir allerdings diejenigen, die wie die Bug- und Security-Responder des curl-Projekts übermäßig vom neuen Paradigma ausgebremst werden.
Das fühlt sich so an, als würden „AI“-Lösungen das, was wir ohnehin selbst getan haben, nur schneller erledigen.
Ich habe erst vor Kurzem angefangen, AI zu nutzen, und festgestellt, dass mein Kriterium dafür, ob ich sie einsetze oder ablehne, davon abhängt, wie ich emotional zu der Aufgabe stehe. Der Punkt mit der Authentizität trifft bei mir wirklich einen Nerv
Als Manager ist es mir wichtig, wenn ich E-Mails an Kunden schreibe oder mit Teammitgliedern spreche. Dabei können zwar übertrieben blumige Sätze herauskommen, aber es sind immer noch meine übertrieben blumigen Sätze
Andererseits gibt es ein Meeting, das ich jede Woche abhalten muss und das nur existiert, um Compliance-Nachweise zu hinterlassen. Es fühlt sich an wie eine CIA-Sabotage-Feldanleitung, wie David Graeber sie hätte beschreiben können. Inzwischen ist daraus ein 30-Sekunden-Job geworden: Ich lade die Mitschrift in ChatGPT hoch, lasse drei Nachweispunkte herausziehen und füge sie in ein Wiki ein, das niemand lesen wird
Ich spüre da einen klaren Unterschied, kann ihn aber nicht genau begründen. Von AI geschriebene Texte zu teilen ist okay, aber nur, wenn klar gesagt wird, dass sie von AI stammen
Vermutlich hat es damit zu tun, dass es in Ordnung sein kann, Code von anderswo zu kopieren, wenn ich ihn ausreichend geprüft habe und er nur das tut, was ich erwarte, während ich ein Zitat nicht kopieren und als meine eigenen Worte ausgeben würde. Meine Worte sind meine Worte. Mein Code gibt nicht dieselbe Garantie
Wenn es dagegen darum geht, beim Finanzamt ein bestimmtes Dokument anzufordern, überlasse ich das der AI
Tools, die mechanische Vorschläge zur Lesbarkeit machen, etwa einfache Synonyme vorschlagen oder zu lange Sätze markieren. Ich habe so etwas schon verwendet, wenn ich ein wichtiges Dokument geschrieben habe, das viele Leute lesen würden
Man kann dann die Ausrede bringen: „Das hat die AI geschrieben, deshalb ist es knapp“
AI-„Polishing“-Tools sind im Kern eine Form von Dekompression. Sie nehmen knapp formulierte Informationen und blähen sie unnötig mit Förmlichkeit und Füllmaterial auf, damit sie „professioneller“ wirken. Dabei werfen sie nützliche Metadaten wie den Tonfall der Nachricht weg
Der Empfänger wird mit Sicherheit irgendeine Form von AI-Zusammenfassung nutzen, um all diesen hinzugefügten „Glanz“ wieder zu entfernen, wodurch der ganze Prozess völlig doppelte Arbeit wird
Das fühlt sich wirklich absurd an
Je mehr die erste aufbläht, desto notwendiger wird die zweite
Wenn AI wirklich intelligent wäre, wäre das beängstigend, weil sie wie ein Organismus wirkt, der sich innerhalb des Ökosystems selbst notwendig macht
Das passiert, weil alle zu verunsichert sind, direkt miteinander zu sprechen
Was diese Trottel damit tatsächlich beweisen, ist, dass sie überflüssig sind; also sollte man sie einfach machen lassen
Du hast eine persönliche und unverwechselbare Art zu sprechen und zu schreiben? Bürger, das müssen wir mit der Geschwätzmaschine glattbügeln
Also verzichte ich darauf. Korrigiert mir nur schulbuchmäßige Zeichensetzungsfehler, und lasst mir meine weitschweifigen und „nicht positiv genug“ klingenden Sätze
Deshalb wird ungeglättete Kommunikation zur zusätzlichen Überwachung markiert. In solchen Stilentscheidungen könnte ja etwas verborgen sein
Du hast eine persönliche und unverwechselbare Art zu sprechen und zu schreiben? Du wirst dir wünschen, dass deine E-Mails allen schöne Grüße ausrichten, du Firmenaffe
Schon vor Turboclippy war die digitale Kultur unecht genug, performativ und unaufrichtig
Ich wünschte, sie würde mit etwas Scharfkantigem verschwinden
Es fühlt sich an, als würde die ganze Welt zu einer Personalabteilung, die auf dem ideologischen Axiom beruht: „Tötet man einen Menschen, ist es Mord; tötet man eine Million, ist es Statistik“
Ich halte LLMs für transformativ, aber es erstaunt mich, wie einfallslos die meisten Produktmanager sind
Es erinnert mich an die 90er, als Leute entdeckten, dass man GIFs auf Webseiten einbauen konnte, und plötzlich jede Seite hundert GIFs haben musste. Es war kitschig, und genauso ist heute der Großteil der eingebetteten AI
Früher konnte ich mich gegenüber SIRI nicht an den Namen eines Albums erinnern, das ich hören wollte, und sie spielte immer wieder das Falsche ab
Beim ungefähr fünften Versuch sagte ich: „Siri, du bringst mich um“, und sie rief 911 an
Die Zukunft ist mies
Ich murmele ChatGPT viel schneller Beschimpfungen entgegen. AI-induzierte Wut wird wohl ein eigenes Phänomen werden. Ich hoffe nur, dass das nicht irgendwann zurückwirkt und beeinflusst, wie man Menschen behandelt
Hast du erwartet, dass eine Maschine feine Nuancen versteht und wie ein lockerer Freund reagiert? Dass AI zu 100 % ernst ist, ist in Ordnung
Tatsächlich nutze ich ein LLM, um die Diktatergebnisse von MacWhisper[0] in eine weniger geglättete Form umzuschreiben, die eher dazu passt, wie ich in Chats schreibe. MacWhisper erlaubt es, einen Prompt für die automatische Nachbearbeitung von Transkripten festzulegen
Mein Prompt weist es an, als professioneller Korrektor und Editor das Diktat für Chats mit lockererer Großschreibung und Zeichensetzung umzuschreiben. Ableitungen wie „I“ und „I’m“ sollen immer großgeschrieben werden, Sätze sollen mit Kleinbuchstaben beginnen, außer sie beginnen mit „I“, ausdrücklich gesprochene Satzzeichen sollen in echte Satzzeichen umgewandelt werden, am Ende einer Nachricht soll kein Punkt stehen, Punkte zwischen Sätzen sollen aber erhalten bleiben, Kommas sollen nicht entfernt werden, und schwierige Wörter sollen nicht durch häufigere ersetzt werden. Es soll nur das Ergebnis zurückgeben und keine Erklärungen oder Kommentare zu den Bearbeitungen hinzufügen
[0]: https://goodsnooze.gumroad.com/l/macwhisper