Ehemaliges OpenAI-Vorstandsmitglied legt Gründe für Sam Altmans vorübergehende Absetzung offen

• Das ehemalige OpenAI-Vorstandsmitglied Helen Toner behauptet, Sam Altman habe den Vorstand mehrfach belogen, und dieser Vertrauensbruch habe im November 2023 zu seiner vorübergehenden Absetzung geführt
• Vom ChatGPT-Launch habe der Vorstand über Twitter erfahren, und laut Toner habe Altman über Jahre hinweg interne Vorgänge im Unternehmen verschwiegen oder falsch dargestellt
• Dass Altman seinen Besitz am OpenAI startup fund nicht offengelegt habe, wird als zentraler Fall angeführt, der im Widerspruch zu seiner Darstellung als unabhängiges Vorstandsmitglied steht
• Toner ist zudem der Ansicht, dass Altman dem Vorstand auch zur Zahl der offiziellen Sicherheitsprozesse bei OpenAI unzutreffende Informationen gegeben habe, wodurch es für den Vorstand schwer gewesen sei, die Angemessenheit der Sicherheitsmaßnahmen zu beurteilen
• Der Vorstand habe seit Oktober 2023 ernsthaft über eine Absetzung diskutiert, ihn jedoch nach Drohungen mit Mitarbeiterabwanderung und Spekulationen, Microsoft könne Altmans Team übernehmen, in weniger als einer Woche als CEO zurückgeholt

---

Helen Toner erläutert die Hintergründe der Absetzung

• Das ehemalige OpenAI-Vorstandsmitglied Helen Toner legte im Interview mit Bilawal Sidhu in „The TED AI Show“ die Hintergründe von Sam Altmans vorübergehender Absetzung im November 2023 offen
• Laut Toner habe Altman den Vorstand „mehrfach“ belogen, und der Vorstand habe auch vom ChatGPT-Launch erst über Twitter erfahren
• Berichten zufolge habe Altman über Jahre Informationen zurückgehalten und falsch dargestellt, was im Unternehmen geschah
• Außerdem habe er den Vorstand nicht darüber informiert, dass er den OpenAI startup fund besaß, während er weiterhin behauptete, ein unabhängiges Vorstandsmitglied ohne finanzielles Interesse am Unternehmen zu sein
• Dieser Vorfall habe das Vertrauen des Vorstands in Altman massiv beschädigt, und bereits im Oktober 2023 sei die Notwendigkeit seiner Absetzung sehr ernsthaft diskutiert worden
• Auf eine Bitte um Stellungnahme von Business Insider reagierte OpenAI zunächst nicht

Sicherheitsprozesse und Vertrauensprobleme in der Führung

• Berichten zufolge habe Altman dem Vorstand auch über die wenigen offiziellen Sicherheitsprozesse bei OpenAI unzutreffende Informationen gegeben
  • Dadurch sei es für den Vorstand nahezu unmöglich geworden zu verstehen, ob die Sicherheitsmaßnahmen ausreichend waren oder geändert werden mussten
• Toner zufolge habe es weitere Einzelfälle gegeben, am Ende sei der Vorstand jedoch an einen Punkt gelangt, an dem er Altmans Aussagen nicht mehr glauben konnte
• Sie betonte zudem, dass die Rolle des Vorstands in der unabhängigen Aufsicht über OpenAI bestehe und nicht nur darin, dem CEO bei der Beschaffung weiterer Mittel zu helfen
• Im Oktober 2023 hätten zwei Führungskräfte in mehreren Gesprächen mit dem Vorstand ihre Erfahrungen mit Altman geschildert und dabei den Ausdruck „psychological abuse“ verwendet
  • Diese Führungskräfte seien zu dem Schluss gekommen, dass Altman nicht die richtige Person sei, um das Unternehmen zu AGI zu führen
  • Außerdem hätten sie erklärt, dass sie nicht glaubten, er könne oder werde sich ändern, und dass es nichts bringe, ihm Feedback zu geben oder gemeinsam Probleme lösen zu wollen
• Als dem Vorstand klar geworden sei, dass Altman ersetzt werden müsse, sei laut Toner ebenso klar gewesen, dass Altman „alle Mittel einsetzen“ würde, um Schritte des Vorstands zu blockieren, falls er davon erfahre
  • Laut Toner habe Altman begonnen, andere Vorstandsmitglieder über Toner zu belügen, um sie aus dem Vorstand zu drängen
  • Der Vorstand habe das Verfahren bis zum 17. November 2023 so geführt, dass abgesehen vom Rechtsteam im Voraus fast niemand informiert wurde
• Altmans Absetzung dauerte nicht lange, und nachdem Mitarbeitende mit Kündigung gedroht hatten und spekuliert worden war, Microsoft könne Altmans Team von OpenAI abwerben und direkt einstellen, holte der Vorstand ihn in weniger als einer Woche als CEO zurück
• Toner trat weniger als zwei Wochen nach Altmans Rückkehr als CEO aus dem OpenAI-Vorstand zurück

[GN⁺]

Hacker-News-Meinungen

• https://archive.is/LpDuJ

• Die ganze Angelegenheit ist eine interessante Fallstudie zu formaler Autorität und tatsächlicher Macht.
  Auf dem Papier hat der Verwaltungsrat die Befugnis, die Führung zu überwachen sowie einzustellen und zu entlassen; in der Praxis ist er bei Informationen aber von der Unternehmensführung abhängig.
  Die tatsächliche Macht liegt dort, wo ein Investor die Hälfte hält, die Gründer die Roadmap vorantreiben und Einfluss darauf haben, ob Schlüsselkräfte gehen.

  • In diesem Fall war die Position des OpenAI-Verwaltungsrats noch deutlich schlechter.
    Das Unternehmen war im Grunde eine Kombination aus Forschern, Ingenieuren und Microsoft-Azure-Credits; man konnte zwar den CEO austauschen, aber wenn ihnen das nicht passte, konnte der gesamte Unternehmenswert einfach zur Tür hinausgehen.
  • Der Verwaltungsrat hat einfach aufgegeben.
    Das waren nicht die richtigen Leute für diese Aufgabe; hätten sie nur etwas länger durchgehalten und eine gute PR-Strategie ausgearbeitet, hätten sie gewonnen.
  • Genauer gesagt geht es um den Unterschied zwischen positionsbasierter Macht und beziehungsbasierter Macht.
  • Das erinnert an einen Dialog aus A Song of Ice and Fire:

    Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”
    
    “So power is a mummer’s trick?”
    
    “A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”  
    

• Es wirkt ziemlich wahrscheinlich, dass das stimmt; gleichzeitig lässt es den Verwaltungsrat wie eine unfähige Gruppe erscheinen, die mit Konfrontation nicht umgehen konnte.
  Es hätte Optionen gegeben wie formale Beanstandungen, strengere Aufsicht, die Übertragung von Sams Zuständigkeiten auf andere oder die Androhung rechtlicher Schritte. Stattdessen versuchten sie einen geheimen Coup, wodurch Sam am Ende wie der Underdog wirkte.

  • Du scheinst die Rolle eines Verwaltungsrats grundlegend misszuverstehen.
    Von Unternehmensverwaltungsräten sagt man oft, dass sie im Grunde eine einzige Aufgabe haben: den CEO zu ernennen und zu entlassen.
    Das mag etwas übertrieben sein, aber der Kern ist: Wenn sich der Verwaltungsrat in die Entscheidungen des Managements einmischt, wird es schlechter.
    Wenn einem die Entscheidungen nicht gefallen, muss man den CEO austauschen, und genau dort liegt auch die Befugnis.
    Ich weiß nicht, an wen sich eine „formale Beanstandung“ richten soll.
    Der Verwaltungsrat ist die letzte Instanz; unklar, bei wem er sich beschweren sollte.
    Auch „Sams Zuständigkeiten auf andere übertragen“ würde jeder Experte für Corporate Governance als Rezept für eine Katastrophe sehen, und in der Unternehmenshierarchie wäre es ohnehin nicht möglich.
    Ich habe mehrfach gesagt, dass die Art und Weise, wie Altman entlassen wurde, sehr naiv war und die Kommunikation damals miserabel, aber ich sehe darin keinen „Coup“ irgendeiner Art, und die vorgeschlagenen Reaktionen ergeben ebenfalls keinen Sinn.
  • Ich habe den Ausdruck „Coup“ oft gesehen, aber er ist schwer zu rechtfertigen.
    Sie sind der Verwaltungsrat, und CEOs einzustellen und zu entlassen ist ihre Kernaufgabe.
    In einer Non-Profit-Organisation gilt dasselbe dafür, die Ausrichtung an der Mission zu wahren.
  • An wen soll eine „formale Beanstandung“ gehen?
    Der Verwaltungsrat selbst ist die letzte Instanz mit der Befugnis, zu untersuchen und zu handeln.
    Wenn Mitglieder Bedenken haben, handeln sie oder sie handeln nicht; es gibt keine andere Stelle, an die man Verantwortung abgeben kann.
  • Wenn man jemandem so sehr misstraut, dass er nur mit einer metaphorischen Zwangsjacke richtig handeln kann, weiß ich nicht, welchen Sinn es hat, ihn als CEO zu behalten.
    Und wenn er rachsüchtig veranlagt ist, kann er mit interner Macht noch viel leichter Schaden anrichten.
  • Der Standardrat im Umgang mit missbräuchlichen Menschen in persönlichen Beziehungen ist meiner Ansicht nach: weglaufen.
    Denn es ist meist unrealistisch zu erwarten, dass man sie ändern kann.
    Warum sollte dieselbe Logik nicht auch für Geschäftsbeziehungen gelten, die auf Vertrauen beruhen müssen?

• Dass man im Vorfeld fast niemanden informierte, sollte den Verwaltungsrat vor Altmans Einmischung schützen, brachte ihn aber letztlich in eine unhaltbare Verteidigungsposition.
  Im Grunde stand er allein gegen sehr reiche, bestens vernetzte Leute da, ohne auch nur eine Narrative vorweisen zu können.

  • Ich habe das Gefühl, dass eine einzige Pressemitteilung das Ergebnis völlig hätte verändern können.
    Sollte ein Verwaltungsrat nicht wenigstens in der Lage sein, sich intern auf eine Pressemitteilung zu einigen?
  • Der entscheidende Punkt ist, dass sie das getan haben und anschließend öffentlich nicht erklären konnten, warum.
    Wenn man so etwas macht, muss alles vorbereitet sein und man muss bereit sein, es zu verteidigen.

• Es heißt, man habe „sehr vorsichtig und umsichtig ausgewählt, wen man informiert, und abgesehen von der Rechtsabteilung im Grunde fast niemanden vorab informiert“. Wenn die Sorge vor Leaks so groß war, hätte man dann nicht zumindest für den Tag selbst Briefing-Material für den wichtigsten Investor, also Microsoft, vorbereiten müssen?
  Umso mehr, wenn man die wichtigsten Investoren, praktisch die eigenen Vorgesetzten, nicht im Voraus überzeugen konnte.

  • In diesem Fall ist der wichtigste Investor nicht der Vorgesetzte des Verwaltungsrats.
    OpenAI ist eine Non-Profit-Organisation.
    Microsoft hat Anreize, gegen die Ziele der Non-Profit-Charta zu handeln, und hat das auch in diesem Fall getan.

• Alle Belege deuten darauf hin, dass Altman gelogen und doppelzüngig gehandelt hat.
  Ich hätte ihn auch gefeuert.

  • Meinst du den Typen, der sich Regierungsanordnungen widersetzt hat und aus zwei Ländern rausgeworfen wurde, weil er nicht aufgehört hat, Menschen die Augen zu scannen und sie dafür mit einem Shitcoin zu bezahlen?
    Der soll gelogen und doppelzüngig gehandelt haben?

• Weiterhin seltsam ist, wie der Vorstand ihn überhaupt wieder zurückgeholt hat.
  Aus keinem Blickwinkel ergibt das Sinn.
  Es ist ziemlich offensichtlich, dass er gelogen und intrigiert hat; ich verstehe nicht, warum das kein Problem gewesen sein soll.
  Nach seiner Entlassung hatte er keine Befugnisse mehr.
  Wenn ein anderes Unternehmen ihn einstellen wollte, sollte es das eben tun; und wenn er auf Twitter nur plausibel klingende Dinge von sich gibt, muss man sich nicht darum kümmern.
  Wenn Mitarbeitende damit gedroht haben zu gehen, hätte man sie gehen lassen sollen.
  Viele wären meiner Meinung nach tatsächlich nicht gegangen, und selbst wenn doch, hätte man neu einstellen und einen ordentlichen CEO suchen können.
  Gerade die Mitarbeitenden, die geblieben wären, waren wahrscheinlich diejenigen, die man hätte halten müssen.
  Warum also hat man ihn wieder eingestellt und ist danach zurückgetreten? Hätte man nicht einfach zurücktreten können, während er entlassen blieb?
  Ich verstehe auch nicht, warum Microsoft Altman so wichtig war.
  Microsoft hatte keinen Sitz im Vorstand, also war das eben hinzunehmen, und Microsoft hätte keinen Einfluss haben dürfen.
  Wenn Microsoft OpenAI will, soll es OpenAI kaufen.
  Ich verstehe auch nicht, welchen Wert Microsoft davon gehabt hätte, Altman ins eigene Unternehmen zu holen.
  Nichts davon ergibt Sinn.
  Am offensichtlichsten ist vielmehr Altmans negatives Verhaltensmuster.
  Ich erinnere mich daran, wie er lautstark und naiv wirkend verkündete, er habe keine Anteile an OpenAI.
  Klar, wir sollen also glauben, dass ein erfahrener Venture-Investor ein neues Unternehmen so strukturiert hat, dass er keinerlei finanziellen Vorteil daraus zieht?
  In einer anderen Zeitlinie hätte OpenAI ihn entlassen, einen Interims-CEO eingesetzt, den ganzen sonstigen Lärm ignoriert und einen neuen CEO gesucht — und es wäre gut gelaufen.
  Ich verstehe nicht, warum Microsoft und andere so einen Wirbel gemacht haben, und ich verstehe auch nicht, warum der Vorstand eine so rätselhafte Pressemitteilung herausgab, obwohl er Details hätte liefern können.
  Selbst wenn man verschwörungstheoretische Möglichkeiten offenlässt, ergibt es keinen Sinn.
  Es wirkt, als wüsste keiner der Beteiligten, bis hin zu Satya Nadella, was er da tut.

  • Du hast die Antwort im Grunde schon genannt und dann verworfen.
    Der Vorstand stimmte Sam Altmans Rückkehr wegen einer massiven Druckkampagne zu, bei der mehr als 90 % der Mitarbeitenden mit Kündigung drohten und Microsoft, das über OpenAIs geistiges Eigentum verfügte, anbot, sie alle sofort einzustellen.
    Dazu gehörte auch die zentrale Führung des Unternehmens.
    Die Organisation löste sich über Nacht auf; das war weit jenseits der Schwelle von „ein paar unzufriedene Mitarbeitende könnten gehen“.
    Es hätte kein OpenAI mehr gegeben, das man hätte weiterführen können.
  • In welcher Lage befindet sich der Vorstand dann jetzt?
    Der CEO hat sich weder entschuldigt noch Verantwortung übernommen, und selbst wenn er es getan hätte, ist die aktive Behinderung der Aufsicht durch den Vorstand eine klare rote Linie.
    Wie soll ein Vorstand seine Rolle erfüllen, wenn der CEO nicht einmal die für die Ausübung des Mandats nötigen Informationen bereitstellen will?
    Solange dieser CEO in einer Position bleibt, in der er den Informationszugang blockieren kann, hat der Vorstand keine Glaubwürdigkeit.
  • Stimme vollständig zu.
    OpenAI oder die einzelnen Vorstandsmitglieder interessieren mich überhaupt nicht, aber ich habe zu viel Inkompetenz bei der einen Sache gesehen, die ein Vorstand zumindest ordentlich machen sollte: Einstellungen und Entlassungen.
    Schon allein deshalb halte ich die Umbesetzung des Vorstands für gut.
    Es ist egal, wen man in dieser Sache unterstützt.
  • Microsoft braucht eine ausverkaufte Version von OpenAI.
    Denn so kann es so viel Geld wie möglich verdienen, ohne dass Leute lästige Dinge über Ethik und Sicherheit sagen.
  • Laut Helen Toner hätten OpenAI-Anwälte gesagt, Toner und andere Vorstandsmitglieder könnten persönlich haftbar gemacht werden, wenn sie ihn weiter ausschlössen und das Unternehmen dadurch viel Geld verliere.

• Es ist interessant, dass der CEO des Unternehmens, das AGI am nächsten kommt, sehr klug ist, aber ein klares Alignment-Problem hat.

• Toners aktuelle Erklärung dafür, warum Sam abgesetzt wurde, klingt in gewisser Weise wahr.
  Sie ist stimmig.
  Was auch immer man persönlich von Sam hält: An ihrer Stelle hätte ich wahrscheinlich dieselbe Entscheidung getroffen.
  Wenn ein CEO den Vorstand mehrfach belügt und täuscht, ist das eine ziemlich ernsthafte rote Linie.

  • Das ähnelt auch dem Grund, warum Sam bei Y Combinator abgesetzt wurde.
    Das ist nichts Neues; wenn Geld im Spiel ist, wird das Gedächtnis der Leute nur ebenso trüb wie ihre Moral.

• Es ist ironisch, dass Leute im Forum von Y Combinator herbeieilen, um Sam Altman zu verteidigen.
  YC hat ihn aus ähnlichen Gründen aus einer Führungsrolle im Management entfernt.

  • Meine Meinung zu Altman ist dieselbe wie damals, als GPT-2 aus Sicherheitsgründen nur langsam veröffentlicht wurde.
    Unabhängig davon, wie die Realität aussieht, ist es am besten, vom Schlimmsten auszugehen und Systeme und Verfahren zu haben, die auch damit umgehen können, falls es tatsächlich so ist.
  • Für Leute, die lange genug dabei waren, um sowohl den Anfang als auch das Ende von Loopt mitzuerleben, ist das völlig gewöhnlicher gesunder Menschenverstand.
    Altman ist ein Dark-Triad-Soziopath mit nur einer verkäuflichen Fähigkeit, und diese Fähigkeit ist, wie pg sagte, „powerful“ zu werden.
    Er kann nicht coden, nicht entwerfen, keine Paper veröffentlichen, keine traditionelle Unternehmensleiter erklimmen, die auch nur ein bisschen Betrugsschutz hat, und er kann seine Hand nicht aus der Keksdose lassen.
    Stattdessen kann er ohne Zögern oder Reue lügen, drohen, schmeicheln, manipulieren und bestechen.
    Ich wette seit zehn Jahren gegen diesen Unsinn, und das hat mir zwar nicht geholfen, ohne Pleite durchzuhalten, aber wenn Märkte rational werden, geschieht das meist auf einmal.
    Karpathy, Ilya und Yoon fallen mir sofort ein, und es gibt unzählige weitere.
    LeCun ging vor Kurzem auf X ganz bewusst aggressiv in die Offensive.
    Es fühlt sich an, als würden Insider Short-Positionen eingehen, wie damals Goldman gegenüber Burry.
    Er hat neun Leben und ist bereits etwa dreimal wegen betrügerischer Probleme gefeuert worden und lebt trotzdem weiter so; vielleicht hält er am Ende sogar lange genug durch, um Ice Nine in mein Glas zu tun.
    Aber so etwas kann sich nicht unendlich oft wiederholen.
  • Stimmt nicht: https://twitter.com/paulg/status/1796107666265108940
  • Wurde die Sache mit seiner Schwester geklärt?
  • Du hast „abgesetzt“ geschrieben, aber ich habe versucht, bei Google eine konkrete und verlässliche Quelle zu finden, und nichts gefunden.
    Das Beste, was ich gefunden habe, war etwa: „Altman soll als Präsident von Y Combinator abgesetzt worden sein, weil er seine eigenen Interessen priorisiert habe.“
    Der Kern ist hier das Wort „allegedly“.
    Gibt es eine YC-Pressemitteilung oder eine Erklärung eines Insiders zur Entlassung? Wenn nicht, ist es nur ein Gerücht.
    Zur Klarstellung: Ich schreibe das nicht, um Altman oder YC zu verteidigen.