MIT bittet arXiv um Rücknahme des Papers „AI, Scientific Discovery, and Product Innovation“

• Nachdem ein im November 2024 auf arXiv veröffentlichter Preprint wegen Bedenken zur Forschungsintegrität in die Kritik geraten war, kam MIT nach einer internen, vertraulichen Prüfung zu dem Schluss, dass er aus der öffentlichen Diskussion zurückgezogen werden sollte
• MIT beantragte eine Rücknahme-Kennzeichnung auf arXiv, um den Forschungsstand zu korrigieren, und kontaktierte außerdem The Quarterly Journal of Economics, bei dem das Paper eingereicht worden war
• Das MIT Committee on Discipline hält Herkunft, Zuverlässigkeit und Validität der Daten sowie die Integrität der Forschung für nicht vertrauenswürdig und verweist auch auf einen möglichen Verstoß gegen den arXiv Code of Conduct
• Anträge auf Rücknahme bei arXiv können in der Regel nur von den Autoren eingereicht werden; MIT bat den Autor daher darum, doch dieser hat bislang keinen Rücknahmeantrag gestellt und ist inzwischen nicht mehr am MIT
• Daron Acemoglu und David Autor erklärten, das unveröffentlichte Paper beeinflusse bereits die Diskussion über KI und Wissenschaft; seine Ergebnisse sollten daher nicht als Grundlage in wissenschaftlichen oder öffentlichen Debatten dienen

---

Das von MIT beanstandete Paper und das Rücknahmeverfahren

• Gegen den im November 2024 auf arXiv veröffentlichten Preprint „Artificial Intelligence, Scientific Discovery, and Product Innovation“ wurden Bedenken zur Forschungsintegrität laut
• MIT kam nach einer internen vertraulichen Prüfung zu dem Schluss, dass das Paper aus dem öffentlichen Diskurs zurückgezogen werden sollte
• Um den Forschungsstand zu korrigieren, kontaktierte MIT zwei Stellen
  • arXiv: offizieller Antrag, das Paper als zurückgezogen zu kennzeichnen
  • The Quarterly Journal of Economics: das Journal, bei dem das Paper eingereicht worden war
• In seinem Schreiben an arXiv erklärte das MIT Committee on Discipline, dass es die Ergebnisse der Prüfung wegen Datenschutzgesetzen für Studierende und MIT-Richtlinien nicht veröffentlichen könne, MIT jedoch Folgendem nicht vertraue
  • der Herkunft der Daten
  • der Zuverlässigkeit der Daten
  • der Validität der Daten
  • der Integrität der im Paper enthaltenen Forschung
• Auf Grundlage dieser Einschätzung sieht MIT die Möglichkeit, dass der Verbleib des Papers auf arXiv gegen den arXiv Code of Conduct verstoßen könnte
• Nach MITs Verständnis des arXiv-Verfahrens kann ein Antrag auf Rücknahme eines Papers nur vom Autor des Papers eingereicht werden
  • MIT wies den Autor an, einen Rücknahmeantrag einzureichen
  • Bislang hat der Autor keinen Rücknahmeantrag gestellt
  • MIT bat arXiv, das Paper so schnell wie möglich als zurückgezogen zu kennzeichnen
• Ein Preprint ist per Definition noch nicht peer-reviewed
• MIT ist der Ansicht, dass die Publikation in Forschungsdebatten prominent behandelt wurde und dass offizielle Maßnahmen nötig sind, um die Auswirkungen der Probleme mit der Forschungsintegrität abzumildern
• Der betreffende Autor ist nicht mehr mit MIT verbunden

Verfahren zur Forschungsintegrität und Positionen der beteiligten Professoren

• MIT erklärt, Forschungsintegrität stehe im Zentrum der institutionellen Mission; die Einrichtung verfüge über Richtlinien und vertrauliche Verfahren, um entsprechende Bedenken zu prüfen
• Die entsprechenden Richtlinien sind auf der MIT-Richtlinienseite einsehbar
• Daron Acemoglu und David Autor, deren Namen in einer Fußnote des Papers genannt werden, veröffentlichten eine separate Stellungnahme
  • Das fragliche Paper wurde von einem ehemaligen Doktoranden im zweiten Jahr am MIT Department of Economics verfasst
  • Obwohl es nicht in einem peer-reviewed Journal erschienen ist, ist es in der Literatur zu KI und Wissenschaft bereits bekannt und breit diskutiert
  • Die beiden Professoren entwickelten im Laufe der Zeit Bedenken hinsichtlich der Validität der Forschung und informierten die zuständigen Stellen am MIT
  • MIT führte Anfang Februar gemäß seinen schriftlichen Richtlinien eine interne, vertrauliche Prüfung durch
• Auch die beiden Professoren erklärten, sie könnten die Prüfungsergebnisse wegen Datenschutzgesetzen für Studierende und MIT-Richtlinien nicht veröffentlichen, vertrauten aber der Herkunft, Zuverlässigkeit und Validität der Daten sowie der Integrität der Forschung nicht
• Da das unveröffentlichte Paper dennoch Diskussionen und Prognosen über den Einfluss von KI auf die Wissenschaft prägt, sollten seine Ergebnisse zum jetzigen Zeitpunkt nicht als Grundlage für wissenschaftliche oder öffentliche Debatten herangezogen werden