Elon Musk reicht Klage gegen Sam Altman, Greg Brockman und OpenAI ein [PDF]

 (courthousenews.com)
1 Punkte von GN⁺ 2024-03-02 | 1 Kommentare | Auf WhatsApp teilen
  • Elon Musk hat gegen Sam Altman, Greg Brockman und mit OpenAI verbundene Rechtsträger Klage mit fünf Anspruchsgründen eingereicht, darunter Vertragsbruch, und fordert ein Schwurgerichtsverfahren
  • Im Kern der Klage steht die Behauptung, dass OpenAI 2015 als gemeinnütziges AGI-Forschungsinstitut gestartet sei und eine Founding Agreement geschlossen habe, nach der Technologie zum „Wohl der Menschheit“ offengelegt werden sollte
  • Musks Seite sieht GPT-4 als geschlossene Technologie, deren internes Design und Trainingsinformationen nicht offengelegt wurden, die faktisch Microsoft zugeordnet sei und damit von OpenAIs ursprünglicher Mission abgewichen sei
  • Unter Berufung auf öffentliche Aussagen von Microsoft-Forschern, wonach GPT-4 eine frühe AGI sein könnte, wird argumentiert, dass die exklusive Microsoft-Lizenz von 2020 nur für pre-AGI-Technologie gelte
  • Nach den Vorgängen im Vorstand im November 2023 habe sich der neue Vorstand Altman und Microsoft angenähert und könne nicht mehr unabhängig über AGI befinden; mit der Klage soll OpenAI dazu gezwungen werden, die Founding Agreement einzuhalten

Klageparteien und Umfang der Ansprüche

  • Elon Musk hat beim California Superior Court im San Francisco County Klage gegen Sam Altman, Greg Brockman, OpenAI, Inc. und mehrere mit OpenAI verbundene Rechtsträger eingereicht
  • Die fünf Anspruchsgründe sind folgende

    • Vertragsbruch

      • Promissory Estoppel
      • Verletzung treuhänderischer Pflichten
      • Unlauterer Wettbewerb nach Cal. Bus. & Prof. Code §§ 17200 ff.
      • Rechnungslegung
      • Zu den Beklagten zählen OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC sowie Does 1 through 100
      • In den Klageunterlagen wird OpenAI, Inc. als gemeinnützige Gesellschaft oder gemeinnütziger Bereich unterschieden, während „OpenAI“ als Sammelbegriff für alle verbundenen OpenAI-Rechtsträger verwendet wird

Wahrnehmung von AGI-Risiken und Hintergrund der OpenAI-Gründung

  • AGI wird als allgemeines KI-System behandelt, das ähnlich wie Menschen bei verschiedenartigen Aufgaben Intelligenz zeigt
  • Musk habe nach eigener Darstellung schon lange erkannt, dass AGI eine erhebliche existenzielle Bedrohung für die Menschheit darstellen könne, im gleichen Kontext wie die Bedenken von Stephen Hawking und Bill Joy
  • Mit der Übernahme von DeepMind durch Google im Jahr 2014 sei Google an die Spitze des AGI-Wettlaufs gerückt, und Musk habe es als besonders riskant angesehen, dass ein geschlossenes gewinnorientiertes Unternehmen wie Google AGI kontrollieren könnte
  • Auch Veröffentlichungen von Google/DeepMind werden zitiert
    • AlphaZero erreichte durch Reinforcement Learning innerhalb von 24 Stunden übermenschliches Niveau in Schach, Shogi und Go
    • Es wird dargestellt, dass es die Weltmeisterprogramme der jeweiligen Disziplinen geschlagen habe

Founding Agreement und das frühe OpenAI

  • Laut Musks Seite habe Altman ihm 2015 vorgeschlagen, gemeinsam ein gemeinnütziges KI-Forschungsinstitut als Gegenmodell zu Google aufzubauen
  • Musk, Altman und Brockman hätten demnach vereinbart, dass das neue Institut folgende Bedingungen erfüllen solle
    • AGI zum Wohl der Menschheit entwickeln, nicht für die Aktionärsinteressen eines gewinnorientierten Unternehmens
    • Technologie offenlegen, sofern keine Sicherheitsgründe dagegen sprechen, und sie nicht aus exklusiv-kommerziellen Gründen abschotten oder geheim halten
  • In der Gründungsurkunde von OpenAI, Inc. vom 8. Dezember 2015 stehe laut Klage, dass die daraus hervorgehende Technologie der Öffentlichkeit zugutekommen solle, gegebenenfalls im öffentlichen Interesse Open Source gemacht werde und die Organisation nicht zum privaten Vorteil einzelner gegründet worden sei
  • Musk behauptet, er habe im Vertrauen auf die Founding Agreement in den ersten Jahren mehr als die Hälfte der OpenAI-Finanzierung bereitgestellt, die Forschungsrichtung beraten und eine Schlüsselrolle bei der Anwerbung von Wissenschaftlern und Ingenieuren einschließlich Ilya Sutskever gespielt
  • Die frühe OpenAI-Forschung sei so betrieben worden, dass freier öffentlicher Zugang zu Designs, Modellen und Code gewährt wurde; nach der Veröffentlichung transformerbasierter Sprachmodelle seien Open-Source- und kommerzielle Communities gewachsen

Microsoft-Lizenz und der Streitpunkt GPT-4

  • Altman wurde 2019 CEO von OpenAI, Inc., und OpenAI schloss am 22. September 2020 mit Microsoft eine exklusive Lizenz für GPT-3 ab
  • Zu GPT-3 sei ein ausführliches Paper veröffentlicht worden, das interne Struktur und Trainingsdaten beschrieb, sodass die Community ähnliche Modelle habe bauen können, so die Argumentation von Musks Seite
  • Die zentrale Auslegung der Klage ist, dass die Microsoft-Lizenz nur für pre-AGI-Technologie von OpenAI gilt und Microsoft keine Rechte an AGI erhalten habe
  • Für GPT-4, veröffentlicht im März 2023, werden folgende Leistungen genannt
      1. Perzentil im Uniform Bar Exam
      1. Perzentil im GRE Verbal Assessment
    • 77 % in der Advanced-Sommelier-Prüfung
  • Musks Seite behauptet, das interne Design von GPT-4 werde von OpenAI und nach Information und Überzeugung auch von Microsoft vollständig geheim gehalten
    • Es wird auch darauf hingewiesen, dass es kein wissenschaftliches Paper zur Architektur von GPT-4 gebe, sondern nur Pressemitteilungen, die die Leistung hervorheben
  • GPT-4 sei zum exklusiven kommerziellen Vorteil von OpenAI und Microsoft geschlossen worden und faktisch zu einem proprietären Algorithmus von Microsoft geworden, der in die Office-Software-Suite integriert sei

Die Vorstandskrise 2023 und das Ziel der Klage

  • Musks Seite behauptet, GPT-4 sei ein AGI-Algorithmus und liege damit außerhalb des Umfangs der exklusiven Microsoft-Lizenz von 2020
  • Es wird angeführt, dass Microsoft-Forscher öffentlich erklärt hätten, GPT-4 könne angesichts seiner Breite und Tiefe der Fähigkeiten vernünftigerweise als „frühes, wenn auch noch unvollständiges AGI-System“ angesehen werden
  • Ebenfalls enthalten ist die Aussage, OpenAI entwickle ein Modell namens Q* oder Q star, was die Behauptung stütze, dass es sich um AGI handele
  • Am 17. November 2023 entließ der Vorstand von OpenAI, Inc. Altman mit der Begründung, er sei „gegenüber dem Vorstand nicht durchgängig offen“ gewesen
  • In den darauffolgenden Tagen hätten Altman und Brockman zusammen mit Microsoft unter Nutzung von Microsofts Einfluss auf OpenAI den Rücktritt der Mehrheit des Vorstands erzwungen, so Musks Darstellung
  • Am 21. November 2023 kehrte Altman als CEO von OpenAI, Inc. zurück
    • Die Mitglieder des neuen Vorstands seien direkt von Altman ausgewählt und von Microsoft gebilligt worden; zudem fehle ihnen die KI-Fachkompetenz, um unabhängig zu beurteilen, ob AGI erreicht worden sei
  • Musks Seite ist der Auffassung, dass OpenAI, Inc. sich in eine geschlossene faktische Tochtergesellschaft des weltweit größten Technologieunternehmens Microsoft verwandelt habe und unter dem neuen Vorstand AGI entwickle und verbessere, um Microsofts Interessen zu maximieren
  • Ziel der Klage ist es, OpenAI zur Einhaltung der Founding Agreement zu zwingen und die Organisation zu ihrer Mission zurückzuführen, AGI zum Wohl der Menschheit statt im Interesse der einzelnen Beklagten und von Microsoft zu entwickeln

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-03-02
Meinungen auf Hacker News

  • Wenn OpenAI bei der Umwandlung in eine Non-Profit-Organisation in die Satzung geschrieben hat, dass „die daraus hervorgehende Technologie dem Gemeinwohl dienen, wo angemessen im Interesse des Gemeinwohls als Open Source veröffentlicht werden und nicht zum privaten Vorteil einer Einzelperson organisiert sein soll“, dürfte es nicht schwer sein zu zeigen, dass das, was sie heute tun, sich sehr stark von dem unterscheidet, was sie ursprünglich angekündigt hatten.

    • Der Kernpunkt ist hier meiner Ansicht nach weniger der Non-Profit-Status als vielmehr Open Source.
      Man hat in ein Open-Source-Unternehmen investiert, aber das Unternehmen hat den Source nicht veröffentlicht, sondern statt einer Technologie, von der alle profitieren können, alles geschlossen gehalten und exklusiven Zugriff verkauft. OpenAI dürfte es schwerfallen, dieses Verhalten zu verteidigen, und es scheint möglich, erheblichen Schadenersatz für das Geld zu fordern, das Investoren ausgegeben haben, um aufzuholen.
    • In der Satzung heißt es: „Der konkrete Zweck dieser Körperschaft ist es, Mittel für die Forschung, Entwicklung und Verbreitung von Technologien im Zusammenhang mit künstlicher Intelligenz bereitzustellen. Die daraus hervorgehende Technologie soll dem Gemeinwohl dienen und, wo angemessen, im Interesse des Gemeinwohls als Open Source veröffentlicht werden.“
      Allein anhand dieser Formulierung ist es sehr schwer zu sagen, OpenAI tue etwas völlig anderes als ursprünglich behauptet. Der erklärte Zweck ist, Forschung und Entwicklung von KI-Technologie zu finanzieren; es heißt nicht, die Technologie „gehöre“ der Öffentlichkeit, sondern sie „diene dem Gemeinwohl“, und die Veröffentlichung ist durch „wo angemessen“ eingeschränkt.
      Es ist auch nicht illegal, dass eine Non-Profit-Organisation eine gewinnorientierte Tochtergesellschaft hat und Einnahmen erzielt. Viele Non-Profits beziehen einen erheblichen Teil ihrer jährlichen Einnahmen aus kommerziellen Aktivitäten, und diese gewinnorientierten Tochtergesellschaften oder Aktivitäten unterliegen der Einkommensteuer. Entscheidend ist, dass diese Einnahmen an die Non-Profit-Mutter gehen und für den gemeinnützigen Zweck verwendet werden; genau danach sieht es auch jetzt aus. Ein Problem privater Bereicherung entsteht erst, wenn Direktoren oder Mitarbeiter übermäßige Vorteile wie Gehälter oder Benefits oberhalb des Marktniveaus erhalten.
    • OpenAI sagt zwar, das Endergebnis sei entscheidend, aber so nach dem Motto, dass man die noch nicht fertiggestellte KI in der Zwischenzeit an Microsoft lizenzieren könne.
    • Ich weiß nicht, wie schwer der Schadenersatz nachzuweisen sein wird.
      Um Missverständnisse zu vermeiden: Ich meine nicht Absatz 127, sondern die Absätze 126, 132 und 135. In der Klageschrift steht, dass der Kläger durch die Verstöße der Beklagten Schäden erlitten habe, deren Betrag derzeit unbekannt sei, die aber den Mindestbetrag der Zuständigkeit des Gerichts von 35.000 Dollar deutlich überstiegen, und dass dies nötigenfalls im Prozess bewiesen werde.
      Selbst wenn diese Klage nicht abgewiesen wird, könnte das Endergebnis darauf hinauslaufen, dass OpenAI den Klägern einen Betrag in Höhe ihrer Investitionen zahlt und sich vergleicht. Laut dieser Klageschrift sind wir alle Drittbegünstigte der Gründungsvereinbarung, aber ich kann mir schwer vorstellen, dass wir in einem tatsächlichen Vergleich entschädigt werden. Die Kläger wollen offensichtlich ihr Geld zurück und scheinen keine Skrupel zu haben, „die Öffentlichkeit“ als Drittbegünstigte vorzuschieben, um eine Rückzahlung zu erreichen. Ihr tatsächliches Interesse an „der Öffentlichkeit“ wirkt zweifelhaft.
      Falls es Ergebnisse einer SEC-Untersuchung zu falschen Angaben gibt, die Altman gegenüber Investoren gemacht hat, könnten sie diesen Klägern helfen.
    • Das ist leicht nachzuweisen. Die Handlung nimmt die Körperschaft selbst vor, und die auf Gewinn ausgerichtete Seite ist eine separate juristische Person.

  • Was auch immer der Grund ist – ob Groll darüber, zu früh von Bord gegangen zu sein und eine Chance verpasst zu haben, oder der Versuch, im Namen der Menschheit zu handeln –, es enthält Punkte, die öffentlich behandelt werden sollten, und ein Gericht scheint der beste Ort dafür zu sein.
    Microsoft wirkt so, als missbrauche es die Zusammenarbeit ausschließlich dazu, andere Unternehmen am Zugriff auf geistiges Eigentum zu hindern. Da sie bereits alles bekommen haben, was sie brauchen, und sogar gesagt haben, dass sie die Zusammenarbeit nicht mehr benötigen, scheint es auch keinen Grund zu geben, sie aufrechtzuerhalten.
    Wenn Microsoft Zusammenarbeit auf diese Weise missbraucht, sieht auch die neue Kooperation mit Mistral nicht gut aus. Selbst dann nicht, wenn man unbegrenzte Compute-Ressourcen erhält und die Freiheit behält, Modelle als Open Source zu veröffentlichen.
    Dass Mistral Large nun kein Open-Source-Modell ist, fühlt sich ebenfalls bitter an. Ich frage mich auch, ob diese Klage der Grund war, warum er sich Windows 11 angesehen hat.

    • Ich glaube nicht, dass es Groll darüber ist, zu früh gegangen zu sein. Er ist ausdrücklich gegangen, weil er nicht mehr zur Organisation passte.
      Wenn man seine öffentlichen Äußerungen zu KI betrachtet, wirkt das wie etwas, das sich schon lange angekündigt hat. Der Zweck seiner Investition in OpenAI war, die KI-Entwicklung aus nächster Nähe zu überwachen; unabhängig davon, ob man seinen öffentlichen Aussagen glaubt, wirken Elons Aussagen zu KI auf mich bis zu einem gewissen Grad aufrichtig.
    • Ein Unternehmen braucht ein Produkt, das es verkaufen kann. Wenn man alles kostenlos veröffentlicht, hat man nichts mehr zu verkaufen. Das könnte von Anfang an immer der Plan gewesen sein.
      Man könnte das Modell veröffentlichen und eine API verkaufen, aber es ist schwierig, den Dienst so günstig anzubieten wie Unternehmen mit Vorteilen bei Cloud-Skaleneffekten, GPU-Preisen und maßgeschneiderten Inferenz-Chips, etwa Google/Microsoft/Amazon.
      Wenn man das Modell selbst verkaufen will, kann man es nicht kostenlos herausgeben. Anders als bei Open-Source-Code scheint es dafür noch keinen etablierten Markt für Zusatzverkäufe wie Support zu geben.
    • Elon hat der Non-Profit-Organisation weiter Geld gegeben, auch nachdem die Diskussionen über die gewinnorientierte Körperschaft und Investoren begonnen hatten; ich glaube, es waren zusätzlich etwa 3 Millionen Dollar.
      Jedenfalls dürfte er nicht gedacht haben, dass der gewinnorientierte Bereich zu einer Gelddruckmaschine werden würde.
    • In der Klageschrift steht sinngemäß, der Grund sei, dass er vom soziopathischen CEO Sam Altman gnadenlos getäuscht worden sei.
      Der Kern der Klageschrift ist, dass Musk OpenAI, Inc. gemeinsam mit Altman und Brockman gegründet und finanziert habe, weil er sich auf die Gründungsvereinbarung verlassen habe, wonach AGI der Menschheit zugutekommen solle und nicht einem gewinnorientierten Unternehmen; 2023 seien seine Beiträge dann so verdreht worden, dass sie den Beklagten und dem größten Unternehmen der Welt zugutekämen.
      Auch die Analogie ist stark: Es sei, als hätte man an eine Non-Profit-Organisation gespendet, die den Amazonas-Regenwald schützen will, und diese Non-Profit-Organisation hätte als Ergebnis der Spende ein gewinnorientiertes Holzunternehmen gegründet, das den Wald abholzt. Außerdem wird behauptet, er habe zig Millionen Dollar sowie Zeit und Ressourcen unter der Bedingung bereitgestellt, dass OpenAI sich unwiderruflich der Entwicklung einer sicheren Open-Source-AGI zum Wohl der Allgemeinheit verschreibe; später habe OpenAI diese „unwiderrufliche“ Non-Profit-Mission aufgegeben, die Bereitstellung öffentlicher Informationen eingestellt und AGI-Algorithmen exklusiv dem größten gewinnorientierten Unternehmen der Welt bereitgestellt und lizenziert.

  • Bei der Recherche zur einzigartigen Corporate-Governance-Struktur und zum Aufbau von OpenAI bin ich auf interessante Materialien gestoßen
    OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
    Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
    Forschungsarbeit „AI is Testing the Limits of Corporate Governance“ - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
    OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...

    • Auch OpenAIs Formular 990 ist einsehbar: https://projects.propublica.org/nonprofits/organizations/810...
      Der zentrale Punkt bei OpenAI ist, dass die Kosten für Datensammlung und Modelltraining strukturell enorm sind, sodass selbst frühere Software-plus-physische Geschäftsmodelle wie Uber oder Airbnb im Vergleich niedrige Betriebskosten zu haben scheinen. Daher wird OAI für Computing stärker von Cloud-Anbietern abhängig
      Außerdem beruhen der Verteidigungsgraben und Netzwerkeffekte ebenfalls auf einer eher indirekten Versorgung mit nutzergenerierten Inhalten. Wie einige der oben genannten Beiträge argumentieren, könnte der Nonprofit-Status Vorteile dabei bieten, geistiges Eigentum für das Training zu nutzen

  • Diese Klage behauptet einen Verstoß gegen die „Gründungsvereinbarung“, aber es gibt kein tatsächliches Dokument namens Founding Agreement, sondern nur E-Mails, die angeblich Teil davon sein sollen
    Ich bin kein Rechtsexperte, aber da es eine Satzung gibt, frage ich mich, ob diese E-Mails heute noch große Bedeutung haben. In der Klageschrift kommt auch die Satzung vor, aber die durch die E-Mails angedeutete „Gründungsvereinbarung“ wird deutlich häufiger erwähnt
    Auch die Stelle, an der GPT-4 als AGI bezeichnet wird, wirkt etwas überzogen. Elon dürfte in dem Umfang gewinnen können, in dem er Spenden zurückverlangt, weil in E-Mails zur Spendengewinnung ein bestimmter Zweck genannt wurde, der sich später geändert hat
    Das Ziel dieser Klage ist aber eindeutig, das „Open“ in „OpenAI“ wiederzubeleben, mehr Informationen über GPT-4 und spätere Modelle zu teilen und die exklusive Microsoft-Lizenz zu beseitigen. Ob das mit so einer Klage möglich ist, dürfte letztlich von der Auslegung der Satzung abhängen

    • Auf Seite 37 der Klage findet sich die Gründungsurkunde, und dort steht genau das, was Musk behauptet. Das ist das Gründungsdokument, von dem er spricht
    • Vieles dürfte davon abhängen, was im jeweiligen Gerichtsstand als gültiger Vertrag gilt. Manche Bundesstaaten erkennen auch eine „Handschlagvereinbarung“ als rechtlich bindenden Vertrag an, und wer eine solche Vereinbarung bricht, kann verklagt werden
      Es dürfte sicher Fälle gegeben haben, in denen jemand in rechtlichem Kontext haftbar gemacht wurde, weil er in E-Mails auf eine Weise geantwortet und dann gegenteilig gehandelt hat
      Die Satzung wird das zentrale Rechtsdokument sein, aber die Gründungsvereinbarung ist wichtig, um die ursprünglichen Absichten und Motive der Parteien zu zeigen. Nur so entsteht die Grundlage für den Fall, dass es etwas gab, das Altman dazu brachte, das Unternehmen in eine andere Richtung zu lenken
      Ich halte es nicht für unfair zu sagen, dass Altman das Unternehmen gesteuert hat. Altmans Entlassung war offenbar eine Strategie, um Microsoft-kritische Board-Mitglieder offenzulegen, und sobald sie identifiziert waren, wurden sie nach Altmans Rückkehr anscheinend leicht entfernt. Wenn Altman nicht gesteuert hätte, gäbe es keinen Grund, ihn nach der Entlassung wieder einzustellen
    • Diese Leute haben heute einen Anwalt hinzugezogen und das behandelt; es war ziemlich interessant, und tatsächlich scheint es um promissory estoppel zu gehen: https://content.next.westlaw.com/practical-law/document/I77e...
      [1] https://www.youtube.com/watch?v=0hWZJg_nda4
    • Die ganze Klageschrift liest sich amateurhaft. Sie wirkt wie ein jammernder Teenager, der sich ungerecht behandelt fühlt, und erinnert mich an Hans Niemanns Schachklage

  • In der Klageschrift steht, GPT-4 verfüge nicht nur über Schlussfolgerungsfähigkeit, sondern schneide darin besser ab als der durchschnittliche Mensch; es erreiche beim Uniform Bar Exam für Anwälte das 90. Perzentil, im verbalen Teil des GRE das 99. Perzentil und bei der Advanced-Sommelier-Prüfung 77 %
    Allerdings lässt sich sagen, dass diese Prüfungen eines gemeinsam haben: Sie testen Gedächtnisleistung. Man kann argumentieren, dass die überdurchschnittlichen Ergebnisse von GPT-4 nicht zwingend ein Beleg für Schlussfolgern sind. Mit anderen Worten: GPT-4 verfügt möglicherweise nicht über „Verständnis“, sondern über enorme Lesegeschwindigkeit und Behaltensleistung, also Gedächtnis
    Während die Vorbereitung auf die genannten Prüfungen stark auf Auswendiglernen beruht, könnten andere Prüfungen Schlussfolgern und Verständnis stärker gewichten. Es gibt sicher Prüfungen, durch die GPT-4 fallen würde, doch bei den Prüfungsergebnissen von GPT-4 werden nur positive Resultate berichtet
    https://freeman.vc/notes/reasoning-vs-memorization-in-llms

    • Der Default ist, durch die Prüfung zu fallen. Selbst wenn man offen sagte: „Das ist eine kurze Liste der einzigen Prüfungen, die es bestanden hat“, wäre das wohl nicht weniger beeindruckend
      Noch vor ein paar Jahren wäre es absurd gewesen, dass eine Maschine bei solchen Prüfungen überhaupt zweistellige Punktzahlen erreicht. Dass eine Maschine überhaupt irgendeine dieser Prüfungen bestehen kann, ist erstaunlich
      Wenn es inzwischen nichts Besonderes mehr ist, bei Prüfungen für den Einstieg in manche Berufe eine Bestehenspunktzahl zu erreichen, ist das ehrlich gesagt ein wenig enttäuschend. GRE verbal 99. Perzentil hätte einen NLP-Forscher im Jahr 2010 schockiert; wenn man das jetzt als „kein Schlussfolgern“ bezeichnet, verschiebt man ständig den Maßstab dafür, was Schlussfolgern ist
    • Dieses Argument wird OpenAI vermutlich nicht vorbringen. Denn damit würde die erwartbare Verteidigung, das Modell aus Sicherheitsgründen nicht als Open Source zu veröffentlichen, erheblich geschwächt
    • Keine dieser Prüfungen ist für sich genommen Grundlage einer beruflichen Qualifikation. Es sind keine Prüfungen, bei denen man allein durch Bestehen die Befähigung für einen bestimmten Beruf erhält
      Die Advanced-Sommelier-Prüfung ist Teil eines Verfahrens, das weitere Prüfungen und Kurse umfasst; der verbale Teil des GRE wird in der Regel zusammen mit anderen GRE-Teilen abgelegt und für die Zulassung zu Programmen genutzt, worauf möglicherweise noch jahrelanges weiteres Studium folgt. Auch das UBE wird üblicherweise nach mehreren Jahren Studium in einem anerkannten Studiengang abgelegt
      Die Kläger müssen argumentieren, dass GPT-4 AGI ist. Denn die fragliche Vereinbarung zur Gründung von OpenAI drehte sich nicht bloß um die Entwicklung und Verbesserung großer Sprachmodelle, sondern um AGI. Wenn OpenAI AGI noch nicht erreicht hat, könnte man auch sagen, dass diese Vereinbarung auf das, was OpenAI derzeit tut, nicht anwendbar ist
    • Dass GPT-4 nur durch „ein paar“ Prüfungen fallen würde, ist untertrieben: In elementarer Mathematik ist es lächerlich schlecht
      Selbstbewusst ist es allerdings reichlich

  • Es ist klar, dass OpenAI zu etwas anderem geworden ist, als bei der Gründung beabsichtigt war. Diese Veränderung kann aus guten Gründen erfolgt sein, aber die Tatsache, dass es eine Veränderung gab, ist schwer zu bestreiten

    • Das Wort „Absicht“ ist interessant. Ich frage mich, wie viele der Gründer insgeheim hofften, sehr viel Geld zu verdienen
      Fairerweise muss man sagen, dass auch eine solche Erwartung wohl mit der Erwartung verknüpft war, das öffentlich erklärte Ziel zu erreichen, irgendeine Form von AGI zu entwickeln
    • Wenn Elon Musk ein echter Milliardär ist und Sam Altman ein Schein-Milliardär, dessen Vermögen größtenteils in OpenAI gebunden ist, wäre das ein ungleicher Kampf
    • Wenn ein Unternehmen ändert, was es tut, nennt man das im Allgemeinen einfach Pivot. Es ist nicht klar, warum Elon in dieser Klage klagebefugt sein sollte oder warum eine Richtungsänderung des Unternehmens überhaupt Gegenstand einer Klage sein sollte
      Das wirkt ähnlich, als würde man Google verklagen, weil es „Don’t be evil“ aus seiner Mission gestrichen hat

  • Ich denke weiterhin, dass Musk aus banaleren Gründen verärgert ist, als er behauptet, aber trotzdem bin ich wirklich froh, dass er diese Klage eingereicht hat
    OpenAI ist offensichtlich in erheblichem Maße an eines der gefährlichsten und verantwortungslosesten Unternehmen der Welt verkauft worden, und angesichts der Größe der Organisation musste wohl jemand mit so viel Geld klagen, um überhaupt eine Möglichkeit zur Rechenschaftspflicht zu schaffen

    • Jeder kann ein nützlicher Idiot sein; warum also nicht Elon Musk
      Ich stimme allerdings der Einschätzung zu, dass er wahrscheinlich aus eher kleinlichen Gründen eingestiegen ist

  • Ein fähiger Anwalt würde Musk in den Zeugenstand rufen und ihn seine Ansichten über die Gefahren von KI noch einmal darlegen lassen
    Wenn die Technologie wirklich gefährlich ist, lässt sich argumentieren, dass es im öffentlichen Interesse liegt, sie stärker geschlossen zu halten; OpenAI hat früher selbst solche Gründe angeführt
    Ich stimme nicht zu, dass Closed Source im öffentlichen Interesse ist, aber man kann durchaus argumentieren, dass es nichts Positives ist, böswilligen Akteuren zu helfen, schneller aufzuholen

    • Nein. Wie Sicherheit durch Unklarheit bremst das lediglich das Tempo
      Um die besten Informationen darüber zu bekommen, worin die tatsächlichen Risiken liegen und wie man darauf reagieren kann, muss es offen sein. Andernfalls ist jemand, der dasselbe auf geschlossene Weise macht, im Vorteil, wenn er es missbraucht
    • Man muss ihn dafür gar nicht in den Zeugenstand rufen. Das ist keine Fangfrage, es steht alles schon in der Klageschrift. Dort heißt es, „AGI ist eine ernste Bedrohung für die Menschheit, möglicherweise die größte existenzielle Bedrohung, der wir heute gegenüberstehen“
      Allerdings ist es sehr unwahrscheinlich, dass ein Gericht darüber entscheidet, ob Offenheit oder Nichtoffenlegung sicherer ist. Die Gründungsvereinbarung ist ziemlich eindeutig in der Absicht, aus Sicherheitsgründen offen zu veröffentlichen. Das Gericht entscheidet über Vertragsbruch, nicht darüber, ob der Bruch philosophisch betrachtet eine gute Sache war
    • Wenn das stimmt, hätte man von Anfang an nicht so starten dürfen. Man kann nicht beides haben
      Entweder verfolgt man, wie der Name nahelegt, das Ziel der Offenheit, oder die ursprüngliche Struktur war von vornherein unangemessen
    • Was sollte man dann mit all den offenen Modellen machen, die der Leistung von OpenAI nahekommen
    • Es gibt keinerlei Grund zu glauben, dass „KI“ in den Händen von Altman, Brockman und anderen besser aufgehoben ist, und ein Großteil der Öffentlichkeit dürfte das ähnlich empfinden

  • Laut einem Artikel der New York Times hat Musk OpenAI wiederholt dafür kritisiert, zu einem gewinnorientierten Unternehmen geworden zu sein. 2017 soll er jedoch einen Plan gehabt haben, Altman und den anderen Gründern die Kontrolle über das KI-Labor zu entziehen und es in einen kommerziellen Betrieb umzuwandeln, der mit seinen anderen Unternehmen wie Tesla zusammenarbeitet und immer leistungsfähigere Supercomputer nutzt.
    Der Darstellung zufolge verließ er den OpenAI-Verwaltungsrat, nachdem dieser Versuch der Kontrollübernahme gescheitert war. Wenn das stimmt, dürften die Anwälte von OpenAI diese Klage sehr lange hinziehen können.

    • Interessanterweise spendete er dem Dokument zufolge noch bis September 2020 weiter an OpenAI.
    • Ich verstehe nicht, warum das die Klage lange hinziehen sollte.
    • Könnte er auch hinter dem jüngsten OpenAI-Coup gesteckt haben?
    • Dass Musk vor den Gefahren von KI warnt und dann selbst eine veröffentlicht, ist genauso.
    • Ich verstehe nicht, warum das für den Fall ein Problem sein sollte. Es zeigt eher, dass OpenAI die Technologie der Öffentlichkeit nicht zugänglich gemacht hat, und zu dieser Öffentlichkeit gehört auch Elon Musk.
      Wenn die Non-Profit-Organisation ihre Aufgabe ordentlich erfüllt hätte, hätte er gar nicht versuchen müssen, die Kontrolle an sich zu reißen.

  • Muss man in solchen Klagen nicht einen Schaden nachweisen? Wenn OpenAI tatsächlich gegen den Vertrag verstoßen hat, welcher Schaden ist Musk persönlich entstanden?

    • Ist es nicht so, dass eine Non-Profit-Organisation sein Geld genommen hat, dann gewinnorientiert wurde und nun mit den KI-Bemühungen seiner Unternehmen konkurriert?
    • Ich weiß nicht, wie gut das vergleichbar ist, aber wenn ich einer Universität 44 Millionen Dollar spende und vereinbart wird, dass das Geld auf eine bestimmte Weise verwendet wird, etwa für den Bau eines bestimmten Gebäudes oder die Unterstützung eines bestimmten Programms, die Universität das Geld dann aber anders einsetzt, sollte ich meiner Meinung nach klageberechtigt sein.
      Natürlich hängt das von den im Vertrag festgehaltenen Investitionsdetails und vom einschlägigen Recht ab; mit beidem kenne ich mich nicht gut aus.
    • In den Klagegründen sind jede Menge Schäden aufgeführt. Es wird behauptet, Musk habe aufgrund bestimmter Zusicherungen der Beklagten 44 Millionen Dollar gespendet und außerdem Büroräume sowie weitere Beiträge geleistet.
    • Weil OpenAI beschlossen hat, den GPT-4-Quellcode und die Daten proprietär zu halten, hat er keinen Zugriff darauf.
    • Die eigentliche Klageschrift lohnt sich zu lesen. Sie ist ziemlich verständlich geschrieben.
      https://www.courthousenews.com/wp-content/uploads/2024/02/mu...