Sam Altman kehrt als CEO von OpenAI zurück, neuer vorläufiger Vorstand steht fest

• OpenAI schließt die Führungslücke, holt Sam Altman als CEO zurück und setzt Mira Murati wieder als CTO sowie Greg Brockman als President ein
• Der neue vorläufige Vorstand startet mit dem Vorsitzenden Bret Taylor, Larry Summers und Adam D’Angelo; Ilya Sutskever scheidet aus dem Vorstand aus
• Die kurzfristigen Aufgaben des Unternehmens konzentrieren sich auf Fortschritte bei der Forschungs-Roadmap, Investitionen in Full-Stack-Sicherheit, Produktverbesserung und -bereitstellung, Kundensupport sowie die Erweiterung des Vorstands und bessere Governance
• Microsoft wird dem neuen Vorstand als nicht stimmberechtigter Beobachter beitreten; außerdem wird ein unabhängiger Ausschuss zur Überprüfung der jüngsten Ereignisse eingerichtet
• Im Update vom 8. Dezember 2023 übernehmen Bret Taylor und Larry Summers den Vorsitz des Aufsichtsausschusses für die Überprüfung und benennen Anjan Sahni und Hallie B. Levin von WilmerHale

---

Rückkehr der Führung und vorläufiger Vorstand

• Sam Altman kehrt als CEO von OpenAI zurück
• Mira Murati kehrt in die Rolle der CTO zurück
• Greg Brockman kehrt als President zurück
• Der neue vorläufige Vorstand besteht aus drei Personen
  • Bret Taylor, Vorsitzender
  • Larry Summers
  • Adam D’Angelo

Bisheriger Vorstand und zentrale Personen im Überblick

• Ilya Sutskever ist nicht mehr im Vorstand tätig
  • Altman hofft, die Arbeitsbeziehung mit Ilya fortzusetzen, und spricht darüber, wie er seine Arbeit bei OpenAI fortführen kann
• Adam D’Angelo gehört dem neuen vorläufigen Vorstand an
• Tasha McCauley und Helen Toner werden als Personen erwähnt, die sich stark um eine Lösung bemüht haben
• Emmett Shear spielte eine zentrale und konstruktive Rolle beim Erreichen des Ergebnisses; sein Engagement für AI-Sicherheit und den Ausgleich der Interessen sei deutlich geworden

Botschaft an Mitarbeitende, Partner und Kunden

• Altman erklärt, das OpenAI-Team habe auch unter unklaren und beispiellosen Umständen Resilienz und Stärke gezeigt
• In diesem Zeitraum habe es keinen einzigen Abgang von Mitarbeitenden gegeben
• OpenAI erklärt, auch keinen einzigen Kunden verloren zu haben
• Microsofts Satya, Kevin, Amy und Brad werden als Partner genannt, die mit den richtigen Prioritäten an der Seite des Unternehmens standen
  • Altman sagt, die Partnerschaft mit Microsoft sei die richtige Entscheidung gewesen
  • Im neuen Vorstand soll Microsoft als nicht stimmberechtigter Beobachter vertreten sein

Unmittelbare Prioritäten von OpenAI

• Die erste Priorität besteht darin, den Forschungsplan voranzubringen und stärker in Full-Stack-Sicherheit zu investieren
  • Altman sagt, die Forschungs-Roadmap sei klar
  • Diese Arbeit werde gemeinsam mit Mira Murati vorangetrieben
• Die zweite Priorität ist, Produkte weiter zu verbessern und bereitzustellen sowie Kunden zu unterstützen
  • Es sei wichtig, dass Menschen die Chance haben, die Vorteile und Möglichkeiten von AI zu erleben und mitzugestalten
  • Gemeinsam mit Brad, Jason und Anna wolle man die Zusagen gegenüber Nutzern, Kunden, Partnern und Regierungen weltweit klarstellen
• Die dritte Priorität ist die Erweiterung des Vorstands, die Verbesserung der Governance-Struktur und eine unabhängige Überprüfung der jüngsten Ereignisse
  • Bret Taylor, Larry Summers und Adam D’Angelo übernehmen die Aufgabe, einen Vorstand mit unterschiedlichen Perspektiven aufzubauen
  • Dies sei ein Schritt, um Vertrauen in die Stabilität von OpenAI zu schaffen

Governance-Plan des Vorstandsvorsitzenden Bret Taylor

• Der Vorstand von OpenAI konzentriert sich auf die Stärkung der Corporate Governance des Unternehmens
• Geplant ist der Aufbau eines qualifizierten und vielfältigen Vorstands mit Erfahrungen, die die Breite der Mission abdecken
  • Dazu gehören Technologie, Sicherheit und Politik
  • Ein nicht stimmberechtigter Beobachter von Microsoft soll dazugehören
• Auch die Stabilisierung der Organisation ist Teil des Plans
  • Dafür wird ein unabhängiger Vorstandsausschuss einberufen, der die Überprüfung der jüngsten Ereignisse überwacht
• Die Governance-Struktur soll so verbessert werden, dass Nutzer, Kunden, Mitarbeitende, Partner und Mitglieder der Community dem weiteren Wachstum von OpenAI vertrauen können

Die Rolle von ChatGPT und OpenAI

• Bret Taylor sagt, OpenAI sei zu einer noch wichtigeren Institution als zuvor geworden
• ChatGPT trägt dazu bei, künstliche Intelligenz in den Alltag von Hunderten Millionen Menschen zu bringen
• Die Popularität von ChatGPT rückt Nutzen und Risiken von AI ins Zentrum der Diskussionen über die Zukunft von Regierungen, Unternehmen und Gesellschaft
• Der Vorstand von OpenAI erkennt das Gewicht dieser Debatten und die zentrale Rolle von OpenAI bei Entwicklung und Sicherheit neuer Technologien an

Update vom 8. Dezember 2023

• Der Vorstand von OpenAI beruft einen Ausschuss aus Bret Taylor und Larry Summers ein, um die Überprüfung der jüngsten Ereignisse zu beaufsichtigen
• Dieser Ausschuss führt Gespräche mit mehreren führenden Kanzleien, die die Überprüfung durchführen könnten
• Schließlich werden Anjan Sahni und Hallie B. Levin von WilmerHale ausgewählt
• Der Vorstand setzt parallel zur laufenden Überprüfung die folgenden Arbeiten fort
  • Stärkung der Corporate Governance von OpenAI
  • Aufbau eines qualifizierten und vielfältigen Vorstands
  • Aufsicht über OpenAIs Mission, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt

[GN⁺]

Hacker-News-Meinungen

• Wir wissen noch nicht, worauf Sam tatsächlich angespielt hat, aber ich denke, dass etwas, das Sam am Abend vor seiner Entlassung sagte, der Auslöser der Spannungen gewesen sein könnte.
  Er sagte, er sei in der Geschichte von OpenAI einige Male an Punkten gewesen, an denen man „den Schleier der Unwissenheit zurückschiebt und die Grenze der Entdeckung nach vorn verlagert“, und klang so, als könne das, woran sie gerade arbeiten, der größte technologische Sprung sein.
  Auf die Frage, welche überraschende Sache das Unternehmen nächstes Jahr ankündigen werde, antwortete er außerdem, dass die Modellfähigkeiten auf ein Niveau springen würden, das niemand erwartet, und dass das Ausmaß der Modellverbesserungen, das die Leute für nächstes Jahr erwarten, sich stark von der tatsächlichen Veränderung unterscheiden werde.

  • Ich kann mir das schwer vorstellen. Zum Beispiel dürfte die Hochschulbildung schon allein mehrere Jahre brauchen, um zu den aktuellen State-of-the-Art-Modellen aufzuschließen.
    Gleichzeitig kann ich es mir doch vorstellen. Es wäre wohl ähnlich wie die Nutzung von ChatGPT heute, nur in einer Form, die Aufgaben tatsächlich bis zum Ende erledigt. Derzeit muss man fast alles, was man mit ChatGPT gemacht hat, noch einmal machen, sodass man kaum Zeit spart, aber es erweitert die Perspektive.
  • Wenn das bedeutet, dass der Vorstand direkt am nächsten Tag mittags nach diesen Aussagen eine Sitzung einberufen hat, dann hätte er kaum darüber nachgedacht. Das scheint eher unwahrscheinlich.
    Der Vorstand dürfte bereits über die Fortschritte informiert gewesen sein, daher passt die öffentliche Äußerung selbst auch nicht gut zu der Einschätzung, er sei „nicht aufrichtig“ gewesen.
  • Wenn es nicht bedeutet, dass es tatsächlich verstehen kann, ist es weiterhin nur ein genaueres Vorhersagemodell. Weckt mich, wenn die Singularität kommt.
  • Die Formulierung ist vage genug, dass man sie auch so lesen kann, dass es hinter den Erwartungen zurückbleibt. Mein Betrugsradar schlägt aus.

• https://www.theverge.com/2023/11/29/23982046/sam-altman-inte...
  Das war ein ziemlich interessantes Interview. Interessant ist, dass er dieselbe Methode nutzt wie Politiker, die Fragen unter Verweis auf eine Untersuchung nicht beantworten; der Vorstand sagte, er sei „nicht durchgehend aufrichtig“ gewesen, und da es auch auf die erste Frage „Warum wurde er entlassen?“ noch keine klare Antwort gibt, bleibt einem fast nichts anderes übrig, als dem ersten Urteil zuzustimmen.
  Persönlich bin ich mir nicht sicher, ob man jemandem vertrauen kann, der eine Kryptowährung entwickeln wollte, in die die Funktion eingebaut ist, die Augen aller Menschen zu scannen.

  • Gibt es irgendeinen Grund zu erwarten, dass Sam weiß, warum er entlassen wurde? Im besten Fall weiß er nur, was der Vorstand ihm gesagt hat, und das muss nicht unbedingt etwas mit den tatsächlichen Motiven zu tun haben.

• Es ist immer noch nicht klar, welche Vorwürfe gegen Altman erhoben wurden. Ging es darum, dass er Sicherheitsfragen auf die leichte Schulter genommen habe? Wenn das der Vorwurf ist und es Belege dafür gibt, verstehe ich nicht, warum die Absetzung falsch gewesen sein soll oder warum die Mitarbeiter ihn zurückholen wollen.

  • Der große Fehler des Vorstands war, genau diesen Punkt nicht klar und konkret benennen zu können. Aus meiner Sicht hatte der Vorstand ein Problem damit, dass er sich nicht wie der Leiter einer gemeinnützigen Organisation verhielt, die er eigentlich führen sollte, sondern im Interesse der gewinnorientierten Tochtergesellschaft und seiner eigenen Interessen handelte, und dass diese Interessen mit der Non-Profit-Charta kollidierten.
    Der wirklich große Fehlschlag lag darin, dass sie diese Behauptung nicht überzeugend darlegen konnten oder wollten.
  • Selbst wenn es wirklich um Alignment-Fragen ging, also um Konflikte wie gemeinnützig vs. gewinnorientiert oder Sicherheit, ist das ein großes „wenn“. Der Vorstand hat die Umsetzung extrem schlecht gehandhabt und die Reaktion der Mitarbeiter völlig falsch eingeschätzt.
    Dadurch wurde sichtbar, wie weit ihre Macht und Überzeugungskraft im Vergleich zu Altman, der Versuchung des Profits und der Kraft reichen, den Alltag ohne ein geheimniskrämerisches Aktivisten-Board stabil und klar weiterlaufen zu lassen.
    Oder sie wussten bereits, dass die Mitarbeiter nicht auf ihrer Seite waren, und hofften mangels anderer Optionen, mit einer plötzlichen und dramatischen Absetzung des CEO alle zum Mitmachen bewegen zu können.
    Wenn ein CEO scheinbar gute Arbeit leistet und dann plötzlich ohne klaren Grund entlassen wird, wäre ich auch ziemlich besorgt gewesen. Hätte der Vorstand seine Gründe und Belege erklärt, hätten einige Mitarbeiter vielleicht zugehört, aber das tat er nicht, und bis heute wissen wir nicht, worin die tatsächlichen Vorwürfe bestehen.
    Von außen sieht es wie ein gescheiterter Putsch aus, und die Seite, die ihn versucht hat, liefert keine Erklärung.
  • „Um es klarzustellen: Unsere Entscheidung betraf die Fähigkeit des Vorstands, das Unternehmen effektiv zu beaufsichtigen, und das war unsere Rolle und Verantwortung. Es gab viele Spekulationen, aber der Wunsch, die Arbeit von OpenAI zu verlangsamen, war nicht das Motiv.“
    https://nitter.net/hlntnr/status/1730034022737125782#m
    Es gibt auch interessante Hintergründe, die erahnen lassen, was passiert ist: https://nitter.net/labenz/status/1727327424244023482#m
  • Es ist auch nicht klar, warum man Altman nicht durch jemand anderen hätte ersetzen können, ohne dass sich am Betrieb und am Fortschritt buchstäblich irgendetwas geändert hätte.
    Ich finde es wirklich verwirrend, warum die Leute reagierten, als hätte man Michael Jordan bei den Bulls gefeuert.
  • Der Grund, warum die Mitarbeiter ihn zurückholen wollen, ist, dass er derjenige ist, der verspricht, sie alle reich zu machen.

• Ich habe früher E-Mails mit Bret Taylor ausgetauscht, als er noch bei Google war. Er hatte die Windows-App Notable gebaut, die ich täglich zum Notizenmachen nutzte, und später begann auch ich, dazu beizutragen.
  Es ist interessant, seinen Werdegang zu sehen: vom Produktmanager bei Google zum Co-CEO von Salesforce und jetzt zum Vorsitzenden des OpenAI-Boards. Vor Elon war er auch Vorsitzender des Twitter-Boards.

  • Soweit ich weiß, ist er auch der Erfinder des Like-Konzepts. Es wurde bei FriendFeed eingeführt und später von Facebook übernommen.

• Ich weiß nicht, wie man die Tatsache verstehen soll, dass Ilya nicht mehr im Board ist und dass Ilya in der „Leadership group“ der Erklärung nicht enthalten ist.

  • Wie Sam sagte, scheint noch abgestimmt zu werden, wie sie zusammenarbeiten. Wenn diese Gespräche abgeschlossen sind, könnte er ins Leadership-Team kommen.

• „Ich freue mich wirklich darauf, gemeinsam mit euch die Arbeit an einer nützlichen AGI zu Ende zu bringen — das beste Team der Welt, die beste Mission der Welt.“
  Sam Altman lebt in einer ganz anderen Welt als ich.

  • Alle sollten Superintelligence lesen. OpenAI rast auf wirklich furchterregende Ergebnisse zu, die in den meisten Szenarien das Aussterben der Menschheit einschließen.

• Haben wir inzwischen mehr darüber erfahren, warum er ursprünglich gefeuert wurde?

  • Nicht wirklich. Helen Toner hat allerdings ein wenig getwittert: „Um das klarzustellen: Bei unserer Entscheidung ging es um die Fähigkeit des Boards, das Unternehmen wirksam zu beaufsichtigen, und das war unsere Rolle und Verantwortung. Es gab viele Spekulationen, aber der Wunsch, die Arbeit von OpenAI zu verlangsamen, war nicht das Motiv.“ https://twitter.com/hlntnr/status/1730034020140912901
  • Nicht wirklich. Einen zugehörigen Prediction Market gibt es hier: https://manifold.markets/sophiawisdom/why-was-sam-altman-fir...
    Da mehrere Optionen als richtig ausgewählt werden können, scheint die Summe der Wahrscheinlichkeiten nicht 100 % zu sein
  • Es gibt zwar ein kursierendes Leak-Gerücht zu Q*. Aber wirklich wissen tut es niemand

• Ich will Sam nicht kritisieren, aber ich glaube, vielen ist nicht bewusst, dass es eigentlich Greg war, der die Vision von OpenAI entwickelt hat. Man muss nur seinen Blog lesen
  Greg ist ein ruhiger Mensch, der kein Drama produziert, und er dürfte Sam geholt haben, weil er wusste, dass Sam ein hervorragender Kommunikator und Manager ist. Allerdings wirkt es so, als sei Greg derjenige im Team mit der seltensten Genialität und Beharrlichkeit, und es ist etwas schade, dass er es weiterhin erfolgreich schafft, außerhalb des Rampenlichts zu bleiben

  • „Greg und ich sind Partner, die dieses Unternehmen gemeinsam führen. Wir haben noch nicht wirklich herausgefunden, wie wir das im Organigramm ausdrücken, aber wir werden es herausfinden.“
  • Nach dieser Beschreibung klingt es so, als bekäme Greg genau das, was er will
  • Wer hat gesagt, dass er überhaupt ins Rampenlicht will?

• Der Grund, warum es so schwer ist, diese Angelegenheit zu lesen und ihr zu folgen, liegt in der großen moralischen Vision und den jeweils unterschiedlichen Graden naiven Glaubens daran
  Ob Ilya, Sam oder das Board: Ihre Aussagen sind alle voll von Alignment, Nutzen für die Menschheit und Ähnlichem
  Gleichzeitig sind alle beteiligten Parteien ernstzunehmende Schwergewichte, die auf der KI-Welle reiten und Moats, Monopole und das nächste AdWords oder Azure schaffen wollen
  Diese beiden Wortwelten sind so extrem unterschiedlich, dass sie sich kaum zusammenfügen lassen; es fühlt sich an, als liefen zwei Gespräche mit völlig unterschiedlichen Prämissen gleichzeitig. Deshalb geht am Ende jeder davon aus, dass zumindest irgendwer völlig unaufrichtig ist
  „AI Alignment“ ist ein sehr faszinierendes Thema, aber das weniger futuristische und realere Alignment-Problem ist das Alignment zwischen Microsoft, OpenAI, anderen Investoren und den Mitgliedern des Konsortiums
  Wenn Ilya, Sam und andere sich wirklich Sorgen um das Alignment von Superintelligenz machen, sollten sie zumindest auch dem Gedanken Gewicht geben, dass wir alle uns Sorgen um ihr menschliches Alignment machen

  • Man sollte nicht auf Worte schauen, sondern nur auf tatsächliche Handlungen
    Und ehrlich gesagt fällt es schwer zu glauben, dass es echte Altruisten gibt. Besonders, wenn sie reich sind. Wenn sie wirklich altruistisch wären, hätten sie ihr Vermögen schon vor ihrem Tod vollständig abgegeben. Ob man Geld, das nach dem Tod in eine „wohltätige Stiftung“ fließt, wirklich gelten lassen kann, bezweifle ich ebenfalls

• Wegen dieser Sache hat unser kleines Team einmal die GPT-3.5-Instanz von Azure ausprobiert, und überraschenderweise ist sie 20-mal schneller
  Es gibt auch keine nicht beantworteten Serveranfragen, wie wir sie bei der OpenAI API viel zu oft erlebt haben. Jetzt gibt es endlich etwas, das schnell und stabil genug ist, um es tatsächlich zu nutzen. Der Preis ist höher, aber verdammt, es funktioniert tatsächlich

  • Die Leute bei OpenAI sind sicher hervorragend, aber sie konzentrieren sich auf Forschung und Mathematik und scheinen wenig Betriebserfahrung zu haben
    Ehrlich gesagt war allerdings auch die Azure API gestern instabil
  • Witzig ist, dass OpenAI komplett auf Azure läuft und der Preis trotzdem höher ist
  • Ich frage mich, wie alle Azure nutzen. Für mich ist Azure die Standard-Arbeitsumgebung, aber für Leute, die hauptsächlich AWS genutzt haben, dürften Azures CLI, API, Portal ziemlich anders und ungewohnt sein, was interessant sein dürfte
    Es gibt zwar auch Kosten für ein- und ausgehenden Traffic, aber am Ende dürften die KI-Kosten in den meisten Fällen ohnehin deutlich höher sein