Fast ein Drittel der Social-Media-Forschung hat nicht offengelegte Verbindungen zur Industrie

• Eine neue Preprint-Studie zeigt, dass bei rund 30 % der in führenden Fachzeitschriften veröffentlichten Social-Media-Forschung Verbindungen zur Industrie nicht offengelegt wurden
• Einige Forschende hatten in der Vergangenheit Finanzierung von Social-Media-Unternehmen erhalten oder gemeinsam mit Mitarbeitenden aus der Industrie geforscht
• Es zeigte sich die Tendenz, dass industrienahe Forschung sich eher auf das individuelle Verhalten beim Teilen von Desinformation konzentriert als auf den Einfluss von Plattform-Algorithmen
• Die Forschenden argumentieren, dass es in der Wissenschaft an ausreichenden Standards zur Offenlegung von Interessenkonflikten fehlt und dass Fachzeitschriften Transparenz-Audits und Korrekturen des wissenschaftlichen Protokolls benötigen
• Die Ergebnisse werfen die Frage auf, ob Industriefinanzierung die Forschungsrichtung verzerren könnte, und unterstreichen die Notwendigkeit größerer Transparenz in der Zusammenarbeit zwischen Wissenschaft und Industrie

---

Zentrale Erkenntnisse des Preprints

• Das Forschungsteam analysierte 295 Social-Media-bezogene Arbeiten, die seit 2010 in Science, Nature, PNAS und deren Schwesterzeitschriften veröffentlicht wurden
  • Diese Arbeiten wurden insgesamt 50.000-mal zitiert und in mehr als 15.000 Nachrichtenberichten erwähnt
  • Nur 20 % der Arbeiten legten Verbindungen zur Industrie ausdrücklich offen
• Durch den Abgleich mit der OpenAlex-Datenbank und Mitteilungen aus der Industrie zeigte sich, dass die Hälfte aller Arbeiten in irgendeiner Form mit der Industrie verbunden war
  • Davon haben schätzungsweise rund 30 % der Arbeiten einen Interessenkonflikt nicht offengelegt
• Eine zusätzliche Analyse einiger Arbeiten, bei denen Informationen zu Herausgebenden und Gutachtenden offengelegt waren, erhöhte den Anteil mit Industriebezug auf 66 %
  • Unter Einbeziehung anonymer Gutachtender wurde geschätzt, dass nur ein Fünftel aller Arbeiten vollständig unabhängig war

Reaktionen von Forschenden und Fachleuten

• Sander van der Linden von der Universität Cambridge bezeichnete die Ergebnisse als „schockierend und inakzeptabel“
  • Er merkte jedoch an, dass im Bereich der Sozialwissenschaften die Normen zu Interessenkonflikten weniger etabliert seien als etwa in der Medizin
• Naomi Oreskes von Harvard wies darauf hin, dass angesichts des Umfangs der Forschungsfinanzierung durch Big Tech ein hohes Risiko für Interessenkonflikte bestehe
  • Sie sagte, die Studie könne eine breitere Debatte über Transparenz anstoßen
• Mitautorin Cailin O’Connor erklärte, dass es nicht darum gehe, einzelne Forschende zu benennen, sondern ein systemisches Problem sichtbar zu machen
  • Einzelne Fälle könnten für sich genommen nachvollziehbare Gründe haben, insgesamt zeige sich jedoch ein ungewöhnliches Muster

Probleme bei Fachzeitschriften und Offenlegungsstandards

• Joe Bak-Coleman argumentiert, dass Fachzeitschriften bestehende Social-Media-Forschung auditieren und bei Verstößen gegen Standards das wissenschaftliche Protokoll korrigieren sollten
  • Das würde die Transparenz der bestehenden Literatur erhöhen und Autorinnen und Autoren an ihre Offenlegungspflichten erinnern
• Einige Wissenschaftlerinnen und Wissenschaftler kritisierten, dass die Kriterien zur Einstufung von Industrieverbindungen in der Studie zu streng seien
  • So wurden etwa Arbeiten, die kürzlich zusammen mit Meta-Mitarbeitenden verfasst wurden, ebenfalls als potenzieller Interessenkonflikt gewertet
  • Ein Sprecher von Science erklärte, dass eine solche Zusammenarbeit nicht als offenlegungspflichtig gelte

Verzerrung bei den Forschungsthemen

• Arbeiten mit Industrieverbindungen konzentrierten sich stärker auf das Verhalten beim Teilen von Desinformation,
  während Forschung zum Einfluss von Plattformstrukturen oder Algorithmen selten war
• Das Forschungsteam erklärte, dass dieses Muster mit der Möglichkeit übereinstimme, dass Industriefinanzierung den Forschungsschwerpunkt auf Konsumentenseite verschiebt
• Van der Linden bezeichnete dieses Phänomen als „falsche Dichotomie“, da eine Forschungsrichtung die andere nicht ausschließen müsse
  • Er wies jedoch darauf hin, dass der Zugang zu Plattformdaten bei Unternehmen konzentriert sei und bestimmte Experimente ohne Zusammenarbeit mit Unternehmen nicht möglich seien

Notwendigkeit und Grenzen der Zusammenarbeit zwischen Wissenschaft und Industrie

• Einige Forschende bewerteten die Zusammenarbeit mit der Industrie als nützlich für die Wissensgewinnung
  • Shelby Grossman betonte, dass die Wissenschaft solche Verbindungen transparenter offenlegen müsse
• Oreskes sagte, dass aufgrund von Kürzungen bei Forschungsgeldern in den USA der Druck zur Zusammenarbeit zwischen Universitäten und Privatwirtschaft zunimmt
  • Die derzeitigen Guardrails (Schutzmechanismen) seien jedoch „sehr schwach oder praktisch nicht vorhanden“
  • Mit geeigneten Bedingungen und Kontrollmechanismen könne die Zusammenarbeit mit dem Privatsektor eine positive Rolle spielen

[GN⁺]

Hacker-News-Kommentare

• Soziale Medien wirken wie ein riesiges soziales Experiment
  Früher wurde man von Menschen im eigenen Umfeld beeinflusst, heute verbinden Algorithmen Menschen, indem sie Wut und emotionale Reize priorisieren
  Das führt zu Problemen wie Extremismus, Populismus und dem Zerfall von Institutionen
  Letztlich hält diese Lage an, weil Menschen nach Reizen und Neuheit süchtig werden und Unternehmen auf steigende Aktienkurse aus sind

  • Dieses Phänomen ist nicht das Wesen sozialer Netzwerke, sondern das Ergebnis davon, dass große Plattformen sich aus Profitgründen dafür entschieden haben, die Gesellschaft zu verschlechtern
    Viele Probleme ließen sich lösen, wenn man zu einem Feed zurückkehrte, der einfach die Beiträge der abonnierten Personen in chronologischer Reihenfolge zeigt
  • Das Fernsehen ist reguliert, aber heute kontrollieren Meta und TikTok die Aufmerksamkeit der Zuschauer
    Ich vertraue diesen Unternehmen inzwischen weniger als der Regierung
  • Dieses Phänomen ist eigentlich eine moderne Version des alten Yellow Journalism
    Nur ist Groupthink heute im großen Maßstab ausgedehnt, sodass Tausende gegenseitig ihre Vorurteile verstärken
  • Wir haben das Informationszeitalter hinter uns gelassen und sind ins Zeitalter der Gereiztheit eingetreten
  • Diese Reizstruktur ähnelt auch Nachrichtensendungen
    Politik, Kriminalität und wirtschaftlicher Abschwung werden gemischt, um Zuschauer zwischen den Werbeblöcken festzuhalten

• Historisch hat unkontrollierte Forschung düstere Folgen hervorgebracht
  Doch heute experimentieren Social-Media-Unternehmen an der gesamten Bevölkerung, ohne eine unabhängige ethische Prüfung
  Es ist, als würde man Experimente an Menschen erlauben, die nicht einmal in Tierversuchen genehmigt würden, und ich frage mich, warum das niemand ernst nimmt

  • Die Grenze dessen, was als „Forschung“ gilt, ist unscharf
    Wenn man die UI nur für 1 % ändert, ist das dann Forschung? Braucht man staatliche Genehmigung, wenn man zwei Läden vergleichend testet?
    Und die Behauptung, das sei auf einem Niveau, das nicht einmal in Tierversuchen genehmigt würde, klingt übertrieben
  • Wenn man einen Artikel in einer Fachzeitschrift veröffentlicht, wird er am Ende ohnehin von einer Ethikkommission geprüft
    Ob diese Kommission aber tatsächlich wirksame Befugnisse hat, ist eine andere Frage
  • Genau solche Ethikkommissionen sind eine Ursache für die Ineffizienz und Bürokratie in der Wissenschaft
    Weil sie Forschung mit übermäßig detaillierter Prüfung verzögern, würde ich lieber im privaten Sektor forschen
  • Die Vorstellung eines reinen Wissenschaftsideals, nach der Wissenschaft losgelöst von der Realität nur nach Wahrheit sucht, ist eine Illusion
    In Wirklichkeit ist sie mit gesellschaftlichen Interessen verflochten

• Originalartikel: Industry Influence in High-Profile Social Media Research
  Kurz gesagt: Etwa die Hälfte der Studien in führenden Fachzeitschriften hat direkte oder indirekte Verbindungen zur Industrie, doch diese werden meist nicht offengelegt
  Solche Forschung erhält in Wissenschaft, Politik und Medien mehr Aufmerksamkeit und behandelt tendenziell industriefreundliche Themen statt der strukturellen Auswirkungen von Plattformen
  Deshalb braucht es transparente Offenlegung und mehr Sichtbarkeit für unabhängige Forschung

• Problematisch ist, dass sich bei blockiertem Datenzugang nur schwer objektive Forschung betreiben lässt
  Unternehmen geben ihre Daten unter Verweis auf den Datenschutz der Nutzer nicht heraus
  Letztlich ist Transparenz der erste Schritt, aber große Tech-Unternehmen haben keinen Anreiz dazu

• Ich finde, wir brauchen eine moderne Version von „Thank You for Smoking“

  • Dabei fällt mir der Witz ein: „Das Social Media, das Ärzte am häufigsten nutzen, ist Facebook“
  • Zur Erinnerung: Der Film wurde von Peter Thiel und Elon Musk finanziert
    Wenn man das weiß, liest er sich deutlich stärker als libertäre Botschaft, bleibt aber trotzdem ein interessanter Film

• Forschung in bestimmten Bereichen wird am ehesten von den Menschen mit der größten Fachkompetenz betrieben, also denen, die in dieser Industrie gearbeitet haben

  • Und ein Grund dafür ist, dass die Finanzierung nur in der Industrie vorhanden ist
    Zum Beispiel wird der Großteil der Forschung zu Tiernahrung direkt von den Herstellern durchgeführt
    Das ist weniger eine Verschwörung als einfach die Folge davon, dass sonst niemand die Forschung finanziert

• In letzter Zeit weiß ich nicht mehr, wem man noch glauben soll
  Manchmal möchte ich am liebsten alles hinter mir lassen und in den Wald gehen

  • Seit November 2024 fühlt sich diese Reaktion wie der Standardzustand an
    Ich selbst möchte manchmal auch einfach alles hinschmeißen
  • Forschende, die dieses Problem erkannt haben, haben die Independent Tech Research Coalition gegründet
    Siehe independenttechresearch.org
  • Man muss nicht völlig abschalten
    Stattdessen kann man mehr Reibung einbauen — Apps löschen und nur noch über den Browser zugreifen oder jedes Mal die Adresse direkt eingeben und die Nutzung bewusst machen, dann wird es deutlich besser

• Dem Artikel zufolge wurden in einem Drittel der Forschung in wichtigen interdisziplinären Fachzeitschriften nicht offengelegte Verbindungen zur Industrie gefunden
  Aber allein deshalb, weil ein früherer Mitautor einmal in der Industrie war, von einem Interessenkonflikt zu sprechen, halte ich für überzogen

• Bei Forschung zu KI oder Bitcoin dürfte es ähnlich sein

  • In der Tabak- oder Fossilbrennstoffindustrie war es genauso

• Wenn nur ein Drittel der Forschung Industriebezüge hat, wirkt das ehrlich gesagt besser als erwartet