AdVons KI-gestützte Content-Produktion und der Einsatz gefälschter Autoren
- Autoren aus Entwicklungsländern arbeiteten bei AdVon Commerce als Vertragskräfte, erhielten nur wenige Cent pro Wort und verfassten Online-Produktbewertungen
- Die Rolle der Autoren änderte sich bald dahin, Entwürfe zu überarbeiten, die vom von AdVon entwickelten KI-System "MEL" erzeugt wurden
- Die Autoren wurden gebeten, detaillierte Notizen zu MELs Arbeit zu hinterlassen; sie glauben, dass diese dazu verwendet wurden, die KI feinzujustieren, die ihre eigene Rolle schließlich ersetzen sollte
- Als MEL "ausreichend trainiert war, um selbst schreiben zu können", wurden die Autoren entlassen
- Ein Autor sagte, er habe "ziemlich stark gelitten" und "sie waren ausbeuterisch"
Beispiele für AdVons Einsatz gefälschter Autoren
- Ein Gannett-Mitarbeiter entdeckte auf der Website von USA Today Produktbewertungen mit Bylines, die nicht wie echte Personen wirkten
- Auch bei Sports Illustrated betrieb AdVon ein ähnliches Vorgehen mit Bylines gefälschter Autoren und KI-generierten Profilbildern
- AdVon bestritt weder, dass die Bylines gefälscht waren, noch dass die Profilbilder KI-generiert waren, behauptete jedoch, die eigentlichen Artikel seien von echten Menschen geschrieben worden
Die weite Verbreitung von AdVon-Inhalten
- AdVons gefälschte Autoren und ihre Texte wurden in großem Umfang gefunden, von Promi-Klatschmedien wie Hollywood Life und Us Weekly bis hin zu renommierten Zeitungen wie der LA Times
- McClatchy beendete die Beziehung zu AdVon und löschte Hunderte von AdVon-Artikeln aus mehr als 20 Zeitungen, darunter dem Miami Herald und dem Sacramento Bee
- Früher führte die AdVon-Website viele bekannte Medien als Partner auf, darunter PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens und Southern Living
Demo-Video zur Erstellung von Reviews mit AdVons MEL-KI
- Ein AdVon-Manager zeigt, wie die MEL-KI den gesamten Artikeltext erzeugt, wenn nur der Titel des Artikels und ein Amazon-Produktlink eingegeben werden
- MELs Arbeit ist oft holprig und vage und widerspricht sich mitunter selbst
- Wenn die Ausgabe unverständlich ist, weist der Manager einfach an, eine neue Version zu erzeugen
- "Unser Ziel ist, dass es sich nicht anhört, als hätte es ein Roboter geschrieben", sagt der Manager
Die geringe Qualität der AdVon-Reviews und seltsame Fehler
- AdVon-Reviews sind voller Füllmaterial und Banalitäten und enthalten mitunter bizarre Fehler, sodass man kaum glauben kann, dass sie vor der Veröffentlichung ernsthaft von Menschen geprüft wurden
- Themen springen mitunter ohne Erklärung abrupt um, etwa wenn eine Review zu Gewichthebergürteln plötzlich über Kleidungsgürtel spricht oder eine Mikrowellen-Review auf einmal von herkömmlichen Öfen handelt
- In einer anderen Mikrowellen-Review desselben Autors taucht derselbe seltsame Fehler erneut auf, etwa die Aussage, man könne Aluminiumfolie in der Mikrowelle verwenden
Zuweisung gefälschter Autoren und Austausch durch Bylines realer Personen
- Nachdem ein Artikel fertig war, bestand die Aufgabe von AdVon-Insidern darin, ihm den Namen eines gefälschten Autors zuzuweisen
- Nachdem ein Gannett-Mitarbeiter die gefälschten AdVon-Autoren bei USA Today angesprochen hatte, verschwanden die falschen Namen und wurden durch Namen scheinbar realer Personen ersetzt, insbesondere von Menschen mit persönlichen Beziehungen zu AdVon-CEO Ben Faw
- Eine Byline namens Julia Yoo erschien; sie scheint Ben Faws Ehefrau zu sein und besitzt einen im Vergleich zu anderen AdVon-Mitarbeitern auffallend glanzvollen Lebenslauf mit MIT-Abschluss, einer Karriere als Führungskraft bei Autodesk und einer Tätigkeit als Wirtschaftsberaterin im Weißen Haus unter der Obama-Regierung
- Auch eine Byline namens Denise Faw erschien; sie scheint Ben Faws Mutter zu sein
Gesponserte Reviews über AdVons SellerRocket
- AdVon-CEO Ben Faw und Präsident Eric Spurling betreiben auch ein weiteres Unternehmen namens SellerRocket, das von Amazon-Produkthändlern Geld dafür annimmt, auf denselben Medienseiten beworben zu werden, auf denen AdVon Produktbewertungen veröffentlicht
- Mitarbeiter von SellerRocket erklären in YouTube-Videos sehr offen, wie dieses Modell funktioniert
- Produkte von SellerRocket-Kunden werden im CMS von AdVon mit einem "niedlichen kleinen Raketen-Icon" markiert und "immer priorisiert"
Karriere und Geschäftspraktiken von AdVon-CEO Ben Faw
- Faw hat einen glanzvollen Lebenslauf, versuchte laut ehemaligen Kollegen jedoch ständig, mit minderwertigen Inhalten noch mehr Geld zu verdienen
- Faw habe "vollkommene Verachtung für Verbraucher" und "es interessierte ihn nur, Wege zu finden, schnell und billig mehr Geld für sich selbst zu verdienen"
- Faw betonte persönliche und geschäftliche Beziehungen zu Führungskräften der Muttergesellschaft von Futurism, um Einfluss auf die Berichterstattung zu nehmen
Wechselnde und widersprüchliche Behauptungen von AdVon
- AdVon bestritt zunächst den Einsatz von KI, räumte dann aber nach Vorlage von Video-Beweisen für KI-generierte Reviews ein, bei einigen Kunden KI zu verwenden
- Die von AdVon vorgelegten Bearbeitungsprotokolle der Artikel sind als Beleg wenig überzeugend, da sie in einem Tempo erstellt wurden, das für von Menschen geschriebene Texte zu schnell wirkt
- AdVon behauptet, die MEL-KI sei bis 2023 nicht im Einsatz gewesen, doch LinkedIn-Profile von Mitarbeitern widersprechen dem
- AdVon behauptet, wegen der Umstellung auf KI keine Autoren entlassen zu haben, doch die Zahl der Autoren auf LinkedIn scheint stark zurückgegangen zu sein
Reaktionen der Leser auf KI-Inhalte und Trends in der Branche
- In einer Umfrage direkt nach dem Fall mit den gefälschten Sports-Illustrated-Autoren sagten 80 % der Befragten, dies sollte illegal sein
- Journalismus ist eine auf Vertrauen basierende Branche, doch im Labyrinth aus gefälschten Autoren und juristischen Drohungen von AdVon ist es schwer, selbst grundlegenden Fragen zu vertrauen, etwa ob ein Autor wirklich existiert oder ob eine KI den Artikel erzeugt hat
- Einige Medien suchen nach ehrlichen Wegen, KI einzusetzen, doch die meisten Experimente kämpfen mit Problemen wie Fehlern und möglichem Plagiat
- Im schlimmsten Fall droht KI Betrügern die Massenproduktion minderwertiger Inhalte in beispiellosem Ausmaß zu ermöglichen und das gesamte Web mit Spam zu überziehen
- Dass Unternehmen wie AdVon mit KI miserable Inhalte am Fließband produzieren und Autoren verdrängen, ist nicht überraschend; dass vertrauenswürdige Medien diese verbreiten, ist jedoch eine Tragödie des KI-Zeitalters
1 Kommentare
Heißt das, dass am Ende wirklich nur noch die Kontoerstellung per Identitätsprüfung auf Basis einer jeder Person zugewiesenen eindeutigen Nummer – wie in Korea oder China – die Lösung wäre ... Das ist beängstigend.