- Substack hat den Pangram-Scan eingeführt, mit dem Leserinnen und Leser den Anteil menschlicher Autorenschaft und AI-Unterstützung in Beiträgen schätzen können, sowie die Funktion „How I make this“, die den Entstehungsprozess offenlegt
- Im Fokus steht weniger die AI-Nutzung selbst als der Mangel an Transparenz: Autorinnen und Autoren sollen Anerkennung für ihren Beitrag erhalten, und Leserinnen und Leser sollen Inhalte besser einschätzen können
- Autorinnen und Autoren begrüßen mehr Transparenz, sorgen sich aber um Fehlklassifikationen, kreative Prozesse, die sich nicht mit einem einzelnen Label erfassen lassen, und das Risiko, dass man gegenseitig die Arbeitsweise überwacht
- Nach Feedback ist nun auch ein Deaktivieren des Leser-Scans pro Beitrag möglich, ohne zuvor mit Pangram zu interagieren oder selbst einen Scan auszuführen
- Da AI in vielen Phasen wie Recherche, Übersetzung, Editing und Entwurf eingesetzt wird, lässt sich aus einem Erkennungsergebnis allein nur schwer auf Gedanken und Arbeit der Autorin oder des Autors schließen; die Offenlegung der konkreten Arbeitsweise dient dem Vertrauensaufbau mit dem Publikum
AI-Transparenzfunktionen auf Basis von Pangram
- Leserinnen und Leser können auf Substack veröffentlichte Texte scannen, um den geschätzten Anteil von direkt von Menschen geschriebenen und mit AI unterstützten Passagen zu sehen
- Es gibt auch Funktionen für Publisher
- Vor der Veröffentlichung kann Pangram auf einen Entwurf angewendet werden
- Leser-Scans lassen sich pro Beitrag deaktivieren
- Mit dem Hinweis „How I make this“ kann der kreative Prozess erklärt und die Erwartung des Publikums gesetzt werden
- Die Funktionen sind auf Web, iOS und Android verfügbar
- Substack und Pangram verwenden die Inhalte von Publishern nicht zum Training generativer AI-Modelle
Fokus auf Transparenz statt auf AI-Nutzung
- Normen für den Einsatz und die Offenlegung von AI haben sich noch nicht etabliert, doch Substack geht davon aus, dass nicht unbedingt die AI-Nutzung selbst problematisch ist, wohl aber fehlende Transparenz
- Ziel ist es, dass Autorinnen und Autoren angemessene Anerkennung für ihre Arbeit bekommen und Leserinnen und Leser informierter entscheiden können, wofür sie ihre Zeit aufwenden
- Ausgangspunkt ist die Annahme, dass menschliche Perspektiven unabhängig von der Leistungsfähigkeit von AI ein notwendiger Bestandteil von Kultur sind
Debatte über menschliches Schaffen und AI
- Archie Hall ist hinsichtlich des wirtschaftlichen Potenzials von AI optimistisch, meint aber, dass selbst von AI geschriebene Sätze, die lesbar sind, vermieden werden sollten
- Lincoln Michel urteilt, dass Kunst Absicht und Auswahl erfordert; AI-Output, der nicht das Ergebnis solcher Entscheidungen ist, könne daher keine Kunst sein
- Das Hinternet Editorial Board schlägt vor, den AI-Anteil mit einer Morse-Skala von 0 bis 10 zu klassifizieren
- Sam Kriss lehnt es in scharfem Ton ab, das Schreiben an AI abzugeben
- Autorinnen und Autoren haben selbst erprobt, was AI erzeugen kann und was nicht
- Freddie deBoer experimentierte damit, ob große Sprachmodelle die Bausteine eines Romans schreiben können, abgesehen von den eigentlichen Sätzen
- Rohit Krishnan untersuchte statistische Merkmale literarischer Stile und ob Modelle diese lernen können
- Hollis Robbins verglich Gedichte zweier verschiedener LLMs, um zu prüfen, ob sie großartiger Dichtung näherkommen können, und vertritt die Ansicht, dass für Dichterinnen und Dichter außergewöhnlicher Ausdruck selbst Poesie ist
- Elle Griffin schrieb fiktional über einen Tag in einer zukünftigen AI-Utopie
- Andrea Bartz formulierte eine detaillierte Begründung gegen die heutige generative AI
- Teddy (T.M.) Brown meint, ein erheblicher Teil des kommerziellen Schreibens sei ursprünglich keine kreative Ausdrucksform gewesen; verloren gehe daher weniger eine Seele als vielmehr die Lebensgrundlage von Schreibenden
Positive Reaktionen direkt nach dem Launch
- Einige Autorinnen und Autoren bewerten die Transparenztools als richtigen ersten Schritt zum Schutz von Schreibenden und zur Verbesserung des Leseerlebnisses
- Katie Harbath unterstützt Transparenz, warnt aber davor, dass AI-Erkennungstools die feinen Unterschiede ethischer Nutzung verwischen könnten
- Sie erklärt, dass AI ihr geholfen habe, neben Beratung, Buchveröffentlichungsvorbereitung und Alltag einen regelmäßigen Newsletter aufrechtzuerhalten
- Gergely Orosz sagt, dass er einen Text nicht liest, wenn er erfährt, dass er von AI geschrieben wurde, da der Ersteller dann keine Zeit investiert habe, ihn selbst zu schreiben
- Joe Hill meint, AI schreibe besser als durchschnittliche Menschen, aber schlechter als professionelle Autorinnen und Autoren; dieser Unterschied führe zu massenhaft erzeugten Inhalten niedriger Qualität, die Leserinnen und Leser verdrängen
- Helen Lewis legte nach einer Einstufung ihrer 2.000 Wörter als menschlich geschrieben offen, wie sie AI nutzt
- Sie schreibt ihre Texte selbst und verwendet AI weder für Faktenchecks noch für Rechtschreibprüfung
- Wenn sie AI für Recherche nutzt, prüft sie wie bei einer Suchmaschine die Originalquellen direkt
Sorgen über Fehlklassifikationen und Community-Kultur
- Gegenstimmen benennen drei Grenzen, die entstehen, wenn AI-Nutzung auf ein einzelnes Label reduziert wird
- Fehlklassifikationen, bei denen von Menschen geschriebene Texte als AI-generiert eingestuft werden
- Die Schwierigkeit, den gesamten kreativen Prozess eines Textes mit einem einzigen Label zu erfassen
- Die Gefahr, dass das Interesse sich eher auf die Überwachung der Arbeitsweise anderer richtet als auf das Werk selbst
- Emma Richmond sorgt sich, dass akademische Sätze, die bestimmten Regeln folgen, fälschlich als AI klassifiziert werden könnten
- Kathleen Schmidt meint, dass bei frei nutzbaren Erkennungstools mit Fehlerpotenzial selbst Autorinnen und Autoren ohne AI-Einsatz unter AI-Verdacht geraten könnten
- Monica Hebert kritisiert AI-Erkennung als verkappten Test moralischer Reinheit
- Ein Detektor könne zwar die Wahrscheinlichkeit von AI-Beteiligung schätzen, aber nicht erkennen, wer die ursprüngliche Idee hatte, wer eine Erfahrung tatsächlich gemacht hat oder wer die Geschichte erzählt und überarbeitet hat
- Er könne auch die menschliche Arbeit nicht messen, Entwürfe zu verwerfen, Argumente zu verändern, Humor wiederherzustellen und Absätze sowie Schluss neu zu schreiben
Deaktivierung des Scans nach Feedback
- Substack hat nach Feedback geändert, dass Publisher Leser-Scans pro Beitrag deaktivieren können, ohne den Text zuvor selbst zu scannen oder mit Pangram zu interagieren
- Da die Art des AI-Einsatzes so vielfältig ist wie die Zahl der Kreativen, kann der konkrete Prozess über den zusammen mit dem Scan-Ergebnis angezeigten Hinweis „How I make this“ offengelegt werden
Beispiele für die Nutzung von „How I make this“
- Claudia Sahm schreibt erste Entwürfe immer selbst; AI nutzt sie vor allem für Editing zur Verbesserung der Klarheit
- Vor dem Schreiben bespricht sie Ideen mit AI und nutzt sie auch zum Sammeln von Hintergrundmaterial einschließlich von ihr angeleiteter Datenanalyse und Diagrammen
- Sie erklärt, dass sie die Verantwortung für Fehler und Auslassungen trägt
- Thierry, dessen Muttersprache nicht Englisch ist, nutzt AI wie eine englischsprachige Lektorin
- Formulierungen werden geglättet, Gedanken oder inhaltliche Aussagen jedoch nicht verändert
- Plum Sykes macht kurz klar, dass sie AI überhaupt nicht nutzt
- Nate verwendet AI für Recherche, Entwurf, Schreiben und Editing insgesamt
- Zunächst wandelt er 10 bis 15 Minuten lang Sprache in Text um, um seine Gedanken in ihrer ursprünglichen Form festzuhalten
- Danach erstellt er mit dem Modell einen Entwurf und überarbeitet ihn wiederholt, damit seine Gedanken und Absichten präzise wiedergegeben werden
- Dass der Text als AI-unterstützt eingestuft wird, hält er für ein korrektes und erwartbares Ergebnis
- Morgan Vogel verwendet die humorvolle Formulierung, er schreibe mit öffentlich einsehbaren Google Docs, koffeinhaltigen Getränken und Gebet
- Sara Szal MD erklärt, dass ihre Ideen aus ihrer Forschung, 30 Jahren klinischer Praxis und sechs veröffentlichten Büchern stammen
- Sie nutzt ein mit ihren eigenen Texten trainiertes AI-Tool, um Editing und Publishing effizienter zu machen, entwickelt aber Framework, Modell, kritisches Denken und klinische Empfehlungen selbst
- Anthony Lawrance nutzt Claude so, wie ein Redakteur ein Reporterteam steuert
- Er lässt Material und Geschichten sammeln, prüft dann die Quellen, bearbeitet Entwürfe gründlich und übernimmt Titelgebung sowie Verantwortung für die Veröffentlichung selbst
- Jim Waterson erklärt, dass in seiner Arbeit viel menschliche Arbeit steckt und er keine AI verwendet hat
Ausblick
- Substack will Vertrauen zwischen Kreativen und Publikum aufbauen und ein Umfeld schaffen, in dem beide Seiten Entscheidungen treffen können, die zu ihrer kreativen Arbeit und ihrem Geschäft passen
- Ab nächster Woche startet die Reihe „Model Behavior“, die sich mit den Arbeitsweisen im AI-Zeitalter und den Gefühlen von Autorinnen, Autoren, Kreativen und Denkerinnen und Denkern gegenüber AI beschäftigt
- Publisher werden weiterhin um Meinungen dazu gebeten, wie sich Autorinnen, Autoren und Kreative in einer von AI geprägten Umgebung unterstützen lassen — über Re-Posts, Kommentare und die Offenlegung via „How I make this“
Noch keine Kommentare.