Zwei Gründe, die OpenAI-Mitarbeitern für die Entlassung von Sam Altman genannt wurden
(businessinsider.com)- Der unabhängige Vorstand von OpenAI teilte den Mitarbeitenden zwei Beispiele mit, die die Erklärung zur Entlassung von Sam Altman stützen sollten, er sei in der „Kommunikation mit dem Vorstand nicht durchgängig offen“ gewesen
- Als Ilya Sutskever am Sonntagabend den ehemaligen Twitch-CEO Emmett Shear als neuen Interims-CEO vorstellte, reagierten Mitarbeitende, die auf Altmans Rückkehr gehofft hatten, mit starkem Widerstand
- Die vom Vorstand angeführten Beispiele waren, dass er intern dasselbe Projekt zwei Personen gleichzeitig anvertraute und dass er gegenüber zwei Vorstandsmitgliedern zu einer bestimmten Personalie unterschiedliche Meinungen äußerte
- Die Mitarbeitenden fanden die Erklärung nicht überzeugend, und ein offener Brief, der den Rücktritt des Vorstands und Altmans Rückkehr forderte, wurde von mehr als 90 % der OpenAI-Mitarbeitenden unterzeichnet
- Altman verhandelt weiterhin über eine mögliche Rückkehr, während er eine Interimsrolle bei Microsoft innehat; Microsoft ist mit einer Investition von mindestens 10 Milliarden US-Dollar der größte Investor von OpenAI
Zwei Beispiele, die der Vorstand den Mitarbeitenden nannte
- Der unabhängige Vorstand von OpenAI erklärte als Grundlage für die Entlassung von Sam Altman, er sei in der „Kommunikation mit dem Vorstand nicht durchgängig offen“ gewesen
- Den Mitarbeitenden wurden dazu zwei konkrete Beispiele genannt
- Altman habe bei OpenAI zwei Personen dasselbe Projekt übertragen
- Altman habe zu einer bestimmten Personalie gegenüber zwei Vorstandsmitgliedern unterschiedliche Meinungen geäußert
- Ein OpenAI-Sprecher reagierte nicht auf eine Bitte um Stellungnahme
Größerer interner Schock durch die Ernennung von Emmett Shear
- Am Sonntagabend stellte Ilya Sutskever den Mitarbeitenden in einem der OpenAI-Büros in San Francisco den ehemaligen Twitch-CEO Emmett Shear als neuen Interims-CEO vor
- Shear wurde ernannt, um wiederum Mira Murati zu ersetzen, die am Freitag nach Altmans Ausscheiden Interims-CEO geworden war
- An dem Treffen nahm nur eine Minderheit der OpenAI-Mitarbeitenden teil, während die übrigen de facto einen Walkout vollzogen
- Die Mitarbeitenden hatten erwartet, an diesem Tag zu hören, dass Altman als CEO zurückkehrt
- Laut einer mit der Sache vertrauten Person hörten die Mitarbeitenden am Sonntagabend innerhalb von etwa 30 Minuten intern in dieser Reihenfolge folgende Nachrichten
- Altman kehrt zurück
- Altman kehrt nicht zurück
- Shear wird ernannt
- Die Nachricht von Shears Ernennung war für die ohnehin das ganze Wochenende über angespannten Mitarbeitenden ein weiterer Schock, und viele nahmen sie „sehr schlecht“ auf
Misstrauen gegenüber Sutskever
- Sutskever stimmte für Altmans Entlassung und war die Person, die die eigentliche Kündigung über Google Meet mitteilte
- Bei dem Treffen, in dem die Ernennung von Shear bekanntgegeben wurde, soll Sutskever einen „niedergeschlagenen“ Eindruck gemacht haben
- Die Mitarbeitenden ließen sich von den zwei vom Vorstand genannten Erklärungen nicht überzeugen
- Intern verbreitete sich die Deutung, es handle sich bei dem Vorfall um einen offenen Putsch des Vorstands
- Eine mit der Sache vertraute Person sagte, praktisch kein Grund, den der Vorstand jetzt anführe, habe unter den Mitarbeitenden noch Überzeugungskraft
Offener Brief und Druck durch drohende Massenkündigungen
- Wenige Stunden nach dem Treffen zur Ernennung von Shear wurde unter OpenAI-Mitarbeitenden ein offener Brief verfasst und über Nacht verbreitet
- Der offene Brief wurde auch von der OpenAI-Führung unterschrieben, darunter Murati und Sutskever
- Nach dem neuesten Stand vom Montagmittag hatten mehr als 90 % der Mitarbeitenden unterzeichnet
- In dem offenen Brief erklärten die Mitarbeitenden, sie würden kündigen, wenn die folgenden Bedingungen nicht erfüllt würden
- Die verbleibenden Vorstandsmitglieder treten zurück
- Neue Vorstandsmitglieder werden ernannt
- Altman kehrt ins Unternehmen zurück
- Eine mit der Sache vertraute Person sagte: „Die Leute waren außer sich, und eine Massenkündigung stand unmittelbar bevor.“
Zusammensetzung des Vorstands und die weitere Entwicklung
- Der OpenAI-Vorstand bestand zu diesem Zeitpunkt aus dem Quora-CEO Adam D'Angelo, der Tech-Unternehmerin Tasha McCauley, Helen Toner vom Georgetown Center for Security and Emerging Technology sowie Ilya Sutskever
- Sutskever unterzeichnete zwar den offenen Brief, der mit Kündigungen drohte, soll aber technisch gesehen weiterhin Vorstandsmitglied sein
- Auch Sam Altman und OpenAI-Präsident Greg Brockman gehörten zuvor dem Vorstand an
- Altman verhandelt weiter über eine mögliche Rückkehr zu OpenAI, während er eine von CEO Satya Nadella koordinierte Interimsrolle bei Microsoft innehat
- Microsoft ist mit einer Investition von mindestens 10 Milliarden US-Dollar der größte Investor von OpenAI
- Murati zog direkt nach Altmans Entlassung zunächst den Zorn einiger Mitarbeitender auf sich, später beruhigte sich die Stimmung jedoch wieder
- Es hieß, Murati habe sich direkt nach Freitag weiterhin an Sutskever „deferred“
- Murati hat erklärt, dass sie das Unternehmen verlassen werde, falls Altman nicht zurückkehrt
- Sutskever äußerte öffentlich „regret“ über seine Beteiligung an Altmans Entlassung, doch manche glauben, dass ihm nicht leicht verziehen wird und er möglicherweise weder eingeladen wird, sich Microsofts neuem Vorhaben anzuschließen, noch dort zu bleiben
1 Kommentare
Meinungen auf Hacker News
Link ohne Paywall: https://web.archive.org/web/20231120233119/https://www.busin...
Es muss bei dieser Sache einen größeren Hintergrund geben
Altman übernahm eine Non-Profit-Organisation, zog große Spendensummen an und verwandelte OpenAI dann in das weltweit heißeste TC-artige Startup; anschließend drückte er bei der Kommerzialisierung aufs Gas
Letzte Woche wollte er, während Hinton davor warnte, die größte Bedrohung durch mächtige KI bestehe darin, dass reiche und mächtige Menschen die Technologie nutzen, um ihre Kontrolle über die Gesellschaft zu festigen, mit Milliarden Dollar aus Saudi-Arabien KI-Beschleuniger bauen
Nimmt man dazu noch ein unerfahrenes Board und D'Angelos Manöver, ergibt das eines der größten Chaosereignisse in der Geschichte der Tech-Branche
Es wurde abgestimmt, eine Seite hat gewonnen, und vielleicht gibt es gar keine größere, spannendere Geschichte
Das passiert in Softwareunternehmen häufig, und möglicherweise ist alles nur, dass das OpenAI-Board eine Entscheidung getroffen hat, die Markenwert und Goodwill in Milliardenhöhe vernichtet hat
Quora wird schnell durch ChatGPT ersetzt, und als OpenAI auf dem Dev Day GPTs ankündigte, traf das auch Quoras Konkurrenzprodukt „Poe Creator Monetization“ direkt
https://quorablog.quora.com/Introducing-creator-monetization...
https://techcrunch.com/2023/10/31/quoras-poe-introduces-an-a...
Eine Non-Profit-Organisation muss nicht zwingend nur den Armen helfen, und es ist unklar, inwiefern die Gründung einer gewinnorientierten Tochtergesellschaft, die eine Lizenz für OpenAI-Forschung erhält und damit Einnahmen erzielt, irgendein politisches Ränkespiel oder eine Täuschung sein soll
Der Zweck einer solchen Rechtsstruktur ist, die Eigentümer dazu zu bringen, sich stärker auf die Mission als auf den Shareholder Value zu konzentrieren; in diesem Fall war das Ziel, AGI auf ethische Weise zu schaffen
Außerdem haben weder Sam Altman noch OpenAI diese Struktur erfunden
Die Frage des saudischen Geldes hängt zwar ebenfalls mit der oben erwähnten Rechtsstruktur zusammen, ist aber ein ziemlich theoretisches Argument, das voraussetzt, dass eine solche Kontrolle tatsächlich möglich ist und dass die Korrelation zwischen Modellleistung und Rechenaufwand weiter bestehen bleibt
Das Training von GPT-4 kostete über 100 Millionen Dollar, und dieses Geld muss irgendwoher kommen
Bis etwas anderes gesagt wird, nehme ich es so hin, wie sie es erklärt haben: a) Sie haben zwei Personen demselben Projekt zugeteilt und b) zwei Board-Mitgliedern unterschiedliche Erklärungen zu demselben Mitarbeiter gegeben
Das Internet muss nicht anstelle des Boards neue, plausibel klingende Gründe erfinden
Diese beiden Gründe scheinen nichts mit großen Ideologien wie AGI-Sicherheit oder OpenAIs Non-Profit-Status zu tun zu haben, sondern eher nach Mikromanagement von Personalentscheidungen auszusehen
Auch Ilya Sutskever gibt die Entlassungsgründe so weiter, wie er sie gehört hat
Die Leute haben sich auf die Seite des Boards gestellt, weil sie es als eine Entlassung verstanden, die von einem Chefforscher vorangetrieben wurde, der sich Sorgen um AGI macht; jetzt wirkt es eher so, als werde das Board durch D'Angelo repräsentiert, der ein AI-Chatbot-Unternehmen besitzt, das nach dem Dev Day direkter mit OpenAI konkurriert
Mit Ockhams Rasiermesser wirkt das plausibel
Wo ich bin, könnten Board-Mitglieder in so einer Situation persönlich für alle möglichen unangenehmen rechtlichen Schritte verantwortlich gemacht werden, wenn sie nichts tun
Ich weiß nicht, ob es wegen des Non-Profit-Status anders ist oder warum das Board immer noch glaubt, damit durchzukommen
Ich glaube, bei Quora hat er etwas Ähnliches gemacht
Greg wurde nicht eingeladen, wodurch eine Stimme auf Sams Seite fehlte, und Sam könnte ebenfalls gebeten worden sein, sich aus der Abstimmung herauszuhalten, also könnten drei Personen eine Mehrheit gehabt haben
Ilya, der jetzt bei „Team Sam“ ist, könnte dagegen gestimmt haben, oder er könnte in dem Moment gedacht haben, dass er als Nächster dran sein könnte, und ist einfach mitgezogen
Greg nicht über die Board-Sitzung zu informieren und ohne ihn fortzufahren, war unprofessionell und scheint der Punkt zu sein, an dem Ilya es vermasselt hat
Auch Sam hätte in diesem Moment sagen müssen: „Moment, wir machen nicht weiter, bevor Greg hier ist“
OpenAI wollte vielleicht faktisch nicht zur Forschungs- und Entwicklungsorganisation von Microsoft werden
Die mobile ChatGPT-App wirkt unausgereift und hat scheinbar kaum Produktdesign, daher wirkt die Kritik, dass zu früh zu viele Funktionen herausgehauen wurden, besonders dann berechtigt, wenn es wie eine Funktionsfabrik für Microsoft aussieht
Wenn man sich vorstellt, Sam sei Microsofts trojanisches Pferd gewesen, wäre das wohl inakzeptabel gewesen
Wenn man Sam als Meister der Politik bezeichnet, kann ich dem zustimmen, auch ohne ihn gut zu kennen
Er ist die Microsoft-nahe Person, die von 90 % des OpenAI-Teams unterstützt wird, und diese beiden Dinge schaffen zusammen einen Interessenkonflikt
Es ist eine ziemlich berechtigte Frage an den CEO: „Glaubst du noch an die Vision von OpenAI, oder glaubst du inzwischen an die Vision von Microsoft?“
Das Unternehmen steckt in einer existenziellen Krise, aber seit dem Tweet um 1 Uhr nachts gab es keine öffentliche Äußerung mehr.
Ich würde erwarten, dass er erst einmal die Lage sondiert, statt am ersten Tag nach dem Umbruch so zu tun, als hätte er alles im Griff.
Was ich über Shear gelesen habe, ist ungefähr, dass er einer Verlangsamung der KI-Entwicklung und Yudkowsky-artigen KI-Weltuntergangsszenarien wohlgesonnen ist; das könnte eine Pille sein, die das Unternehmen nicht zu schlucken bereit ist.
https://x.com/drtechlash/status/1726507930026139651
„Ich sage klar, dass ich für eine Verlangsamung bin. Ähnlich wie eine Pause, aber nicht anhalten, sondern das Tempo drosseln.“
„Wenn die Geschwindigkeit jetzt bei 10 liegt, bedeutet eine Pause, sie auf 0 zu reduzieren. Ich denke, wir sollten 1–2 anpeilen.“
„- Emmett Shear, 16. September 2023“
https://x.com/eshear/status/1703178063306203397
Wenn man sich nicht schnell bewegt, entstehen auf HN alle möglichen wilden Spekulationen, und das sei natürlich inakzeptabel.
Noch schlimmer: Wenn es nicht nahezu Echtzeit-Updates gibt, könnten die Leute am Ende merken, dass die Sache gar nicht so wichtig ist, und zur nächsten Nachricht weiterziehen.
Natürlich könnte es schwerwiegende Folgen geben, etwa dass sich die URI ändert, auf die ein API-Endpunkt zeigt, also sollte man darüber wohl keine Witze machen.
Egal welches Szenario ich durchrechne, ich sehe keinen Weg, wie das für ihn vorteilhaft ausgehen kann.
Ein erfahrener Silicon-Valley-CEO hätte diese Rechnung vermutlich gemacht und das als aussichtsloses Unterfangen betrachtet; dass er angenommen hat, wirkt auf mich wie ein Zeichen, dass er kein besonders guter Leader ist.
Er hat dasselbe Projekt an zwei Leute vergeben?
Das scheint mir etwas zu sein, das man häufig macht, wenn man unterschiedliche Ansätze bekommen und sie dann für den Launch zusammenführen will.
Ist es ein Grund, einen CEO zu entlassen, wenn er über dieselbe Person unterschiedliche Meinungen abgegeben hat?
Der Vorstand hat entweder keinen Grund für die Entlassung, oder er will den tatsächlichen Grund für Sams Entlassung nicht nennen.
Sie haben es vermasselt.
Vielleicht sah Sam in Ilya einen Instabilitätsfaktor und einen Single Point of Failure des Unternehmens und wollte sicherstellen, dass OpenAI auch ohne Ilya weiterbestehen kann.
[0] https://news.ycombinator.com/reply?id=38357843
Weil die Interpretation der Daten sehr komplex war, ließ man zur zusätzlichen Validierung zwei Teams voneinander isoliert die Daten interpretieren und Bilder erstellen.
Wenn die Ergebnisse nahezu gleich sind, ist das eine starke Bestätigung, dass sie stimmen.
Das ist also eindeutig eine valide Strategie.
Altman wirkt für den CEO eines Milliardenunternehmens deutlich näher am Normalbereich.
Er ist sicher nicht perfekt, aber diese kleinteiligen Entlassungsgründe haben einen verdächtigen Beigeschmack.
Ich habe das Gefühl, dass Ilya vielleicht etwas naiv ist, was die Art angeht, wie Menschen agieren, und möglicherweise in einem klassischen Machtkampf benutzt wurde, der als Sicherheitsproblem verpackt wurde.
Es ging um Click Wheel gegen Multitouch, und wenig überraschend verlor das Click-Wheel-iPhone.
Man musste wählen, ob man bei DOS bleiben, zu OS/2 gehen oder zu Windows wechseln sollte; Lotus entschied sich für OS/2, aber der Markt ging zu Windows, und Excel brachte Lotus zu Fall.
Lotus war damals ein wohlhabendes Unternehmen; an ihrer Stelle hätte ich drei Gruppen gebildet und alle drei Optionen verfolgt.
Wenn ich die Erklärung höre, „Altman habe zwei Personen bei OpenAI dasselbe Projekt gegeben“, frage ich mich, ob diese Leute je in einem anderen Unternehmen gearbeitet haben.
In praktisch jedem Unternehmen mit mehr als zehn Mitarbeitern passiert so etwas.
Das ist kein Witz.
Besonders dann, wenn es nicht darum geht, einer Person diesen und einer anderen jenen Ansatz zu geben, um die Ergebnisse zu vergleichen; und erst recht, wenn sie bis zum Ende nichts voneinander wussten.
Wenn man voraussetzt, dass er auf Basis der damals verfügbaren Informationen angemessen und richtig gehandelt hat: Was wäre zum Beispiel, wenn das zweite Projekt mit Alignment zu tun hatte und Sam dessen Existenz vor Ilya verborgen oder ihn darüber in die Irre geführt hätte?
Wenn Sam das getan hätte, weil er glaubte, Ilya richte die KI übermäßig stark aus und beeinträchtige dadurch ihre Funktionalität, könnte man dieses Verhalten dann als angemessen betrachten?
Man kann die Intransparenz des Vorstands als Versuch sehen, „eine sehr schlechte, unprofessionelle Entscheidung zu verbergen“, und im Moment wirkt das wie die wahrscheinlichere Möglichkeit.
Umgekehrt könnte es auch sein, dass er in der ersten Kommunikation eine Fehleinschätzung getroffen hat und jetzt bei jeder Äußerung extrem vorsichtig ist, weil das Unternehmen undicht wie ein Sieb ist und er keine Schlammschlacht mit Sam führen will.
Es ist noch zu undurchsichtig, um das zu beurteilen.
Allein dieser Inhalt klingt nicht wie der wahre Grund, warum Altman gefeuert wurde
Deshalb fällt das Wort „Coup“, aber auch das beantwortet die eigentliche Frage nicht
Warum wurde Altman wirklich gefeuert?
Es scheint eindeutig einen Grund zu geben, über den man nicht sprechen kann
Vielleicht passiert im Unternehmen etwas Schlimmes, etwa ein Liquiditätsengpass, ernst genug, um den CEO zu entlassen, aber nicht öffentlich kommunizierbar
Wenn man sich vorstellt, der Verwaltungsrat einer Bank entlässt den CEO, weil er das Kapital zu weit hat absinken lassen, könnte man das nicht so sagen, weil es die Chancen auf eine Erholung zerstören würde
Vielleicht gibt es „etwas“, das Altman dem Board nicht gesagt hat, und das auch sie uns nicht sagen können
Sie patchen die Realität sozusagen, damit sie wieder Sinn ergibt
Manchmal sind Menschen mit aufgeblasenem Ego wegen kleiner Kränkungen frustriert, Groupthink übernimmt, und ein orbitaler Bombardement-Schlag wirkt kurz wie eine gute Idee
Ich rationalisiere gerade auch
Wenn man wie ein SAT-Solver in einer unlösbaren Schleife feststeckt, muss man mindestens eine Constraint lockern
Vielleicht gab es keinen guten Grund, oder der Grund war schlecht
Als Board haben sie ein Versagen auf Tschernobyl-Niveau erlebt
Und weil alles so überstürzt ablief, könnte die Sache auch erst ganz kürzlich passiert sein
Zum Beispiel könnte es um ein Gespräch oder eine Vereinbarung bei APEC gegangen sein
Allerdings macht Ilyas Kehrtwende diese wilde Spekulation kaputt, sodass ich am Ende wie alle anderen im Zustand „????????“ bin
Einer war Vorsitzender des Boards, der andere Board-Mitglied
Trotzdem wollen beide, dass Sam wieder eingestellt wird
Es ist auch schwer, beide als Komplizen eines Fehlverhaltens hinzustellen, denn das Board wollte Greg im Unternehmen behalten, und Ilya sitzt weiterhin im Board und hatte sie zuvor unterstützt
Was auch immer der Grund ist: Es ist ziemlich klar ein persönliches bzw. politisches Problem mit Sam, nicht die schwerwiegende Krise, die sie angedeutet haben
Nach meinem Verständnis hat Altman bereits unehrliches Verhalten gezeigt, indem er OpenAI von Non-Profit zu For-Profit und von Open-Source-Modellen zu geschlossenen Modellen umgebaut hat
Noch schlimmer ist, dass die Leute diese Art Charakter offenbar vollständig akzeptieren
Gefährlich ist nicht die AI selbst, sondern dass AI von Altmans gebaut wird
Und wenn es um einen konkreten Vorfall gegangen wäre, hätte Ilya die Entlassung wahrscheinlich weiter verteidigt, statt sie zu bereuen
Das sieht nach einem einfachen Machtkampf aus, bei dem Board und Mitarbeitende unterschiedliche Richtungen wollten
Nicht direkt mit der neuesten Entwicklung verbunden, aber Geoffrey Irving von DeepMind vertraut dem Board mehr als Altman: https://x.com/geoffreyirving/status/1726754270224023971
Bei einem so großen Interessenkonflikt und null bekannten Fakten sollte man einfach still sein
Es gibt auch die Passage „Wegen Menschen, die ich respektiere, insbesondere Helen Toner und Ilya Sutskever, fühlte ich mich verpflichtet, ein paar Worte zu sagen“, aber Toner scheint hier keine moralische Autorität zu haben
Ilya hatte diese Autorität eindeutig, und wenn er OpenAI niederbrennen wollte, hätte er dazu wahrscheinlich sogar das Recht gehabt
Allerdings wäre es mindestens besser gewesen, alles an Microsoft zu übergeben
Aber wie wir alle wissen, hat Ilya eine 180-Grad-Wende gemacht, und das war wirklich erstaunlich
Der Satz „Sutskever nannte die zwei Erklärungen, die er nach eigener Aussage vom Board gehört hatte“ muss überprüft werden
Sutskever hat während dieser unterhaltsamen Katastrophe ziemlich inkonsistent geredet
„die Nicht-Mitarbeitenden Adam D’Angelo, Tasha McCauley, Helen Toner“
Am Donnerstagmorgen gestartet:
https://x.com/poe_platform/status/1725194752901988744?s=46
Den Mann hinter dem Vorhang kann man einfach ignorieren