Tod des OpenAI-Whistleblowers, der in einer Wohnung in San Francisco gefunden wurde
(mercurynews.com)- Der frühere Forscher Suchir Balaji, der im OpenAI-Urheberrechtsprozess als möglicher Zeuge und Besitzer relevanter Unterlagen galt, wurde am 26. November tot in seiner Wohnung in San Francisco aufgefunden; die Behörden stuften die Todesart als Suizid ein
- Balaji hatte vor seinem Tod öffentlich kritisiert, OpenAI habe beim Training von ChatGPT gegen das US-Urheberrecht verstoßen und die Nutzung der Trainingsdaten falle nicht unter Fair Use
- Die New York Times bezeichnete Balaji in einem am 18. November beim Bundesgericht eingereichten Schriftsatz als Inhaber von „unique and relevant documents“, die für den Prozess hilfreich sein könnten
- Seit der Veröffentlichung von ChatGPT haben Autoren, Programmierer und Medienhäuser Klagen eingereicht und OpenAI vorgeworfen, urheberrechtlich geschütztes Material rechtswidrig für das Training verwendet zu haben; darunter sind Mercury News und sieben Schwestermedien sowie die New York Times
- OpenAI weist dies zurück und erklärt, die eigene Arbeit sei nach dem Grundsatz des Fair Use rechtmäßig; zugleich sieht das Unternehmen in KI-Tools wie ChatGPT das Potenzial, die Beziehung zwischen Verlagen und Lesern sowie das Nachrichtenerlebnis zu stärken
Tod von Suchir Balaji und Einschätzung der Behörden
- Der frühere OpenAI-Forscher Suchir Balaji wurde im Alter von 26 Jahren am 26. November tot in einer Wohnung an der Buchanan Street in San Francisco gefunden
- Die Polizei rückte an diesem Tag gegen 13 Uhr zu seinem Wohnsitz in Lower Haight aus
- Auslöser war eine Meldung mit der Bitte um eine Wohlergehensprüfung
- Die Polizei von San Francisco und das Büro des leitenden Gerichtsmediziners bestätigten den Todesfall in dieser Woche
- Das Gerichtsmedizinerbüro stufte die Todesart als Suizid ein
- Die Polizei erklärte, es gebe derzeit keine Hinweise auf ein Verbrechen
- Balajis Mutter bat während der Trauer um den Tod ihres Sohnes um Schutz der Privatsphäre
Seine Rolle im OpenAI-Urheberrechtsprozess
- Die Informationen, über die Balaji verfügte, sollten voraussichtlich eine wichtige Rolle in den Klagen gegen das in San Francisco ansässige OpenAI spielen
- Anwälte der New York Times bezeichneten Balaji in einem am 18. November beim Bundesgericht eingereichten Schriftsatz als Inhaber von „unique and relevant documents“, die in der Klage gegen OpenAI hilfreich sein könnten
- Vor einer geplanten Aussage war er einer von mindestens 12 Personen, die in Gerichtsunterlagen namentlich als Besitzer von für den Fall nützlichen Materialien genannt wurden
- Viele von ihnen waren frühere oder aktuelle OpenAI-Mitarbeiter
Kritik an den Trainingsdaten von ChatGPT
- Balajis Tod erfolgte drei Monate nachdem er OpenAI öffentlich kritisiert hatte, bei der Entwicklung von ChatGPT gegen das US-Urheberrecht verstoßen zu haben
- ChatGPT ist ein generatives KI-Programm, das von Hunderten Millionen Menschen weltweit genutzt wird und Ende 2022 veröffentlicht wurde
- In einem am 23. Oktober veröffentlichten Interview mit der New York Times argumentierte er, OpenAI schade den Unternehmen und Gründern, denen die für das ChatGPT-Training verwendeten Daten ursprünglich gehörten
- Balaji sagte: „Wenn man glaubt, was ich glaube, muss man das Unternehmen verlassen“, und: „Es ist kein nachhaltiges Modell für das gesamte Internet-Ökosystem.“
- Ende Oktober veröffentlichte er auf seiner persönlichen Website eine Analyse, in der er darlegte, warum die Nutzung von ChatGPT-Trainingsdaten nicht unter Fair Use falle
- Er schrieb, es sei schwer, Faktoren zu finden, die bei der Nutzung der Trainingsdaten von ChatGPT für Fair Use sprächen
- Zugleich fügte er hinzu, dass dieses Argument nicht nur auf ChatGPT beschränkt sei, sondern ähnlich auch auf generative KI-Produkte in verschiedenen Bereichen angewendet werden könne
Zeit bei OpenAI und Wandel seiner Sichtweise
- Balaji wuchs in Cupertino auf und studierte Informatik an der UC Berkeley
- Damals glaubte er an den potenziellen gesellschaftlichen Nutzen von KI und hoffte auch auf Möglichkeiten wie die Heilung von Krankheiten und die Verlangsamung des Alterns
- 2020 begann er als Forscher bei OpenAI
- Ab 2022 begann sich seine Sichtweise ins Negative zu verändern
- Besonders besorgt war er über die Arbeit, für das GPT-4-Programm Daten aus dem Internet zu sammeln
- Berichten zufolge analysierte das Programm für das KI-Training Text aus nahezu dem gesamten Internet
- Balaji sah darin einen Konflikt mit den US-Gesetzen zum Fair Use, die die Nutzung bestehender Veröffentlichungen regeln
OpenAI und die Klagen der Medienhäuser
- Seit der Veröffentlichung von ChatGPT Ende 2022 folgte eine Klage nach der anderen gegen OpenAI
- Autoren, Computerprogrammierer und Journalisten behaupten, OpenAI habe urheberrechtlich geschütztes Material rechtswidrig übernommen, zum Training seiner Programme genutzt und damit den Unternehmenswert auf mehr als 150 Milliarden Dollar gesteigert
- Mercury News und sieben Schwesternachrichtenmedien verklagten OpenAI im vergangenen Jahr gemeinsam mit mehreren Zeitungen, darunter der New York Times
- Die Medienhäuser werfen OpenAI und Microsoft vor, Artikel zu plagiieren und zu stehlen und damit das Geschäftsmodell der Nachrichtenbranche zu schwächen
- In den Klageschriften heißt es, Microsoft und OpenAI nähmen die Arbeiten von Reportern, Kolumnisten und Redakteuren, die Nachrichten für ihre Gemeinschaften erstellen, ohne Rücksicht auf gesetzliche Rechte an sich
- Microsoft unterhält eine Geschäftsbeziehung zu OpenAI und ist ebenfalls Beklagter in der Klage von Mercury News
OpenAIs Erwiderung und die Verbreitung generativer KI
- OpenAI weist die Vorwürfe entschieden zurück
- Das Unternehmen betont, seine gesamte Arbeit sei nach den Fair-Use-Regeln rechtmäßig
- OpenAI erklärte bei Einreichung der Klagen, KI-Tools wie ChatGPT hätten großes Potenzial, die Beziehung zwischen Verlagen und Lesern zu vertiefen und das Nachrichtenerlebnis zu verbessern
- Generative KI-Programme funktionieren, indem sie enorme Datenmengen aus dem Internet analysieren und anschließend auf Nutzer-Prompts antworten oder Text, Bilder und Videos erzeugen
- Die Veröffentlichung von ChatGPT ließ die Branche von Unternehmen, die Essays schreiben, Kunst erstellen und Code generieren, schnell wachsen
- Viele der wertvollsten Unternehmen der Welt arbeiten im KI-Bereich oder produzieren die Computerchips, die zum Betrieb solcher Programme nötig sind
- Der Unternehmenswert von OpenAI hat sich im vergangenen Jahr nahezu verdoppelt
Informationen zu Krisenhilfe
- Menschen, die mit Depressionen oder Suizidgedanken kämpfen, können bei der 988 Suicide & Crisis Lifeline kostenlose Unterstützung, Informationen und Hilfsangebote rund um die Uhr erhalten
- 988 ist per Anruf oder SMS erreichbar; außerdem ist ein Chat auf der Website 988lifeline.org möglich
1 Kommentare
Hacker-News-Kommentare
Ich war mit Suchir in einem Berkeley-CS-Kurs (Betriebssysteme) Projektpartner, und er war wirklich klug, bescheiden und ein guter Mensch.
Es sah so aus, als würde er in Zukunft Großes leisten, deshalb ist das einfach furchtbar.
In diesem Thread sieht man einige ziemlich kaltherzige Kommentare.
Suchir war gerade einmal 26 Jahre alt und hatte Berkeley erst vor 3 Jahren abgeschlossen. Seine persönliche Website ist https://suchir.net/.
Dass jemand nur wenige Jahre nach dem Studium gegen das antritt, was als Unrecht eines der größten Unternehmen der Welt angesehen wird, ist ziemlich mutig. Ich weiß nicht, wie viele in derselben Lage das tun würden.
Mein Mitgefühl gilt seiner Familie. Er war offensichtlich ein talentierter Ingenieur, und auch seine Auszeichnungen im Competitive Programming auf LinkedIn sind beeindruckend. Vermutlich hatte er auch einen HN-Account.
Bevor man Definitionen von Whistleblowern oder Mordtheorien schreibt, sollte man kurz darüber nachdenken, ob man wollen würde, dass solche Beiträge erscheinen, wenn man selbst oder ein Freund in derselben Lage wäre.
Wenn ich still für mich selbst aus dem Leben geschieden wäre, würde ich wollen, dass es still vorübergeht, aber allein aus dem Artikel geht nicht klar hervor, wie zentral diese Person für das kommende Verfahren war.
Dort steht: „Es wurde erwartet, dass die Informationen, über die er verfügte, in einem Verfahren gegen ein in San Francisco ansässiges Unternehmen eine Schlüsselrolle spielen würden.“
Es ist wirklich tragisch, dass das zu seinem öffentlichen Vermächtnis geworden ist. Er war eindeutig außergewöhnlich, und hätte er noch einige Jahrzehnte gelebt, hätte er wahrscheinlich viel dazu beigetragen, die Welt zum Besseren zu verändern.
Mordtheorien sind aber eben nur Theorien, und streng genommen ist selbst „Theorie“ dafür noch ein zu starkes Wort. Im Grunde ist es Hörensagen, und da es keinen Ansatzpunkt gibt, an dem man ziehen könnte, scheint diese Richtung wenig produktiv.
In jedem Internetforum gibt es immer ein paar geschmacklose Bemerkungen, aber die sind bereits nach unten gerutscht.
Möge er in Frieden ruhen.
Der Begriff „Whistleblower“ wirkt hier etwas verwirrend. Hat er tatsächlich etwas enthüllt, das zuvor nicht öffentlich war?
Es scheint eher so, dass er mit der Frage des „Fair Use“ nicht einverstanden war und Aufmerksamkeit bekam, weil er ein Insider des Unternehmens war. Die Tatsachen selbst waren immer bekannt, und dass OpenAI mit öffentlich zugänglichen urheberrechtlich geschützten Textdaten trainiert hat, war ebenfalls bekannt. Vielleicht wäre Bezeichnungen wie Gegner oder interner Kritiker treffender.
Wahrscheinlich verfügte er auch über interne Kommunikation zur Rechtmäßigkeit seiner Arbeit und stellte diese Frage seinen Vorgesetzten offen.
http://suchir.net/fair_use.html
Ein Text von Suchir Balaji: Wann fällt generative KI unter Fair Use?
Darin erklärt er, dass er sich in dem NYT-Artikel mit Fair Use und generativer KI befasst habe und in einem Blogbeitrag (https://suchir.net/fair_use.html) ausführlich beschrieben habe, warum „Fair Use“ bei vielen generativen KI-Produkten aus seiner Sicht kaum eine überzeugende Verteidigung ist.
Er schreibt, dass er fast 4 Jahre bei OpenAI war, davon die letzten 1,5 Jahre bei ChatGPT mitarbeitete, anfangs wenig über Urheberrecht und Fair Use wusste, sich aber durch die Klagen gegen Unternehmen für generative KI dafür zu interessieren begann. Nachdem er sich näher damit befasst hatte, kam er zu dem Schluss, dass die Fair-Use-Verteidigung bei vielen generativen KI-Produkten aus dem grundlegenden Grund ziemlich schwierig ist, dass sie Ersatzprodukte schaffen können, die mit den Trainingsdaten konkurrieren.
Er sei zwar kein Jurist, halte es aber auch für Nichtjuristen für wichtig, Gesetzestexte und den Zweck dieser Gesetze zu verstehen. Außerdem wolle er nicht, dass dies nur als Kritik an ChatGPT oder OpenAI gelesen werde. Er betont, dass Machine-Learning-Forscher mehr über Urheberrecht lernen sollten und dass oft zitierte Präzedenzfälle wie Google Books nicht unbedingt so günstig sein müssen, wie sie auf den ersten Blick erscheinen.
Für jemanden, der kein Jurist war, wirkte das sehr aufschlussreich. Möge er in Frieden ruhen.
Erstens verdienen Autoren in Wirklichkeit kein Geld mit Lizenzgebühren, sondern werden am Ende von Werbeeinnahmen abhängig, was zu einer Verschlechterung der Dienste führt. Künstler, Copywriter und Musiker würden verhungern, wenn sie nur von Lizenzgebühren leben müssten.
Zweitens konzentriert sich das Urheberrecht zunehmend in den Händen weniger Unternehmen und bringt den eigentlichen Autoren oder Lesern keinen großen Nutzen.
Drittens ist der Konkurrent neuer kreativer Werke in Wahrheit nicht KI, sondern die alten kreativen Werke, die sich in den letzten 25 Jahren im Web angesammelt haben.
Ich glaube nicht, dass wir ein restriktiveres Urheberrecht brauchen. Die Menschen haben sich bereits von passivem Konsum hin zu Interaktion bewegt und bevorzugen Games, soziale Netzwerke und Suchmaschinen gegenüber TV, Nachrichtenmedien und Radio. Das ist ein vom Internet erzeugter Trend und nicht umkehrbar.
Jetzt gibt es Wikipedia, GitHub, Linux, Open Source, Public Domain, offene wissenschaftliche Publikationen und ein unbeschränktes Umfeld für Teilen und Kommentare.
Wenn man den Urheberrechtsschutz bis zum Äußersten treibt, landet man bei dem Schluss, dass nicht nur Ausdrucksformen, sondern auch abstrakte Ideen geschützt werden müssten, weil generative KI Ausdrucksformen leicht umgehen kann. Doch die Wiederverwendung von Abstraktionen zu verhindern, wäre für Kreativität verheerend. Ich halte das Urheberrecht inzwischen für ein faktisch sterbendes System.
Die Polizei sagt nun, der Fall sei als Suizid eingestuft worden
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchir war ein prinzipientreuer Mensch, und wegen dieser Haltung hat er womöglich seine OpenAI-Optionen aufgegeben. Es gab Berichte, dass die Austrittsverträge von OpenAI sehr restriktiv waren [1]
„Ehemalige Mitarbeiter dürfen ihren früheren Arbeitgeber lebenslang nicht kritisieren. Schon anzuerkennen, dass die NDA existiert, gilt als Verstoß.
Wenn ein ausscheidender Mitarbeiter die Unterzeichnung verweigert oder dagegen verstößt, kann er sämtliche bereits unverfallbaren Anteile verlieren, die er während seiner Beschäftigung erworben hat, und deren Wert dürfte in die Millionen gehen“
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
Fast so, als hielte man selbst die Veröffentlichung der Todesursache eines Whistleblowers für ansteckend
Dass OpenAI solche Angst vor Kritik hat, ist wirklich lächerlich. Wenn es nicht nach dem eigenen Willen geht, benehmen sie sich wie trotziges Kleinkindverhalten, und man muss sich immer wieder klarmachen, dass das hier trotzdem Erwachsene tun
Unverfallbare Anteile werden nicht eingezogen, unabhängig davon, ob ein Mitarbeiter eine Austrittsvereinbarung oder eine Non-Disparagement-Vereinbarung unterschrieben hat
Ehemalige Mitarbeiter wurden von den Non-Disparagement-Pflichten entbunden
OpenAI teilte aktuellen und ehemaligen Mitarbeitern mit, dass man „nie bereits unverfallbare Units annulliert hat und dies auch künftig nicht tun wird“
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
Mit „komisch“ meine ich: Firmen drücken manchmal kleinere Klauseln durch und entschuldigen sich später, aber zu behaupten, man sei auf Lebenszeit gebunden, ist auf einem geradezu komischen Niveau
Mein Beileid an die Familie. Er scheint ein sehr nachdenklicher und prinzipientreuer Mensch gewesen zu sein
Wirklich traurig. Suchir war auf derselben Highschool wie ich, und wir waren beide in Berkeley. Er war offensichtlich sehr klug, und ich war immer sicher, dass er Großes erreichen oder etwas wirklich Interessantes machen würde
Wenn dir das Lesen hiervon schwerfällt, möchte ich sagen: Du bist nicht allein. Auch wenn es sich gerade nicht so anfühlt, die Welt möchte aufrichtig, dass es dir gut geht
Der Weg ist offen: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
Seine Eltern zweifeln die Einstufung als Suizid an und haben eine zweite unabhängige Obduktion in Auftrag gegeben: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
Wirklich einfach nur unglaublich traurig, und mein Mitgefühl gilt Suchirs Familie und Freunden
Aus der Perspektive von jemandem, der seit über 10 Jahren in der Tech-Branche arbeitet und selbst mit Suizidgedanken gekämpft hat, frage ich mich, ob die verrückte Kultur der Tech-Branche in der Bay Area dabei eine Rolle gespielt hat
Es ist nicht nur die extreme Hustle-Kultur, sondern auch ein naiver Technologie-Optimismus, der Menschen in den Wahnsinn treiben kann. Man ist von Leuten umgeben, die glauben, es sei in Ordnung, Gesetze zu brechen, Entwicklungsland-Arbeiter für billigen Tech-Support auszubeuten und sich trotzdem einzureden, mit dem Verkauf smarter Küchengeräte die Welt zu verändern. Und das, während sie an Opfern von Überdosen direkt vor ihren Eigentumswohnungen vorbeigehen
Diese Denkweise ist so weit verbreitet, dass man sich fragt, ob man selbst der seltsame Mensch ist, wenn man noch Empathie oder ein Gerechtigkeitsempfinden hat
Ich weiß nichts Konkretes, aber der Wechsel von einem offensichtlich brillanten Studenten in Berkeley zu einem brutalen Startup wie OpenAI muss ein Schock gewesen sein. Man erreicht ein Ziel, für das man das ganze Leben gearbeitet hat, und merkt dann, dass das, was man tut, völlig außerhalb der eigenen Moral und Werte liegt
Selbst wenn der Arbeitgeber, bei dem es Probleme gab, nicht aktiv Vergeltung übt, ist die Aussicht noch düsterer, falls es zusätzlich Vergeltung in Form von Blacklists gibt, die zwischen HR-Abteilungen derselben Branche geteilt werden
Das Hochstapler-Syndrom ist bei Ingenieuren aller Karriere- und Fähigkeitsstufen stark verbreitet. Da ist der Druck des Engineerings selbst, und dazu kommen weitere Gründe, aus denen Menschen Stress oder Druck empfinden, plus die spezifischen Verstärker der Bay Area
Du wärst überrascht, wie viele brillante und fähige Menschen zusammengebrochen sind. Wenn sich hier jemand allein fühlt, hoffe ich, dass das nicht so bleibt. Selbst wenn alle um dich herum glücklich und selbstsicher wirken, garantiere ich dir, dass weit mehr Menschen kämpfen, als man denkt
Eines davon ist aktuell wegen massiver Verstöße von der FTC angeklagt. Ich habe diese unmoralische Denkweise wirklich gehasst, bei der man unbedingt gewinnen will und dafür alles opfert — vom Wohlbefinden der Mitarbeiter bis hin zu offenkundig illegalem Verhalten gegenüber Kunden