Sam Altman versucht weiterhin, als OpenAI-CEO zurückzukehren
(theverge.com)- Auch nach der Ankündigung des Wechsels zu Microsoft ist die Zukunft von Sam Altman und Greg Brockman nicht endgültig geklärt; falls der OpenAI-Vorstand zurücktritt, sind beide bereit zurückzukehren
- Fast die gesamte Belegschaft von OpenAI hat einen offenen Brief unterzeichnet, der den Rücktritt des Vorstands und Altmans Rückkehr fordert; auch Ilya Sutskever, der an der Entlassung beteiligt war, hat unterzeichnet
- Microsofts Ankündigung der Einstellung wirkte eher wie ein vorläufiger Zustand, um die Krise vor Öffnung der Börsen am Montag zu beruhigen; Microsoft lehnte eine Stellungnahme dazu ab
- Der neue CEO Emmett Shear hat die Dokumente mit der Begründung für Altmans Entlassung noch nicht erhalten und teilte den Mitarbeitenden mit, dass er einen unabhängigen Ermittler beauftragen werde, den gesamten Vorgang zu untersuchen
- Satya Nadella sagte, er sei offen dafür, dass Altman und die Mitarbeitenden entweder bei OpenAI bleiben oder zu Microsoft kommen, sehe aber die Notwendigkeit von Veränderungen in der Governance bei OpenAI
Warum eine Rückkehr Altmans weiter möglich ist
- Sam Altmans Wechsel zu Microsoft wurde nach seiner Entlassung bei OpenAI bekanntgegeben, ist aber noch kein endgültig abgeschlossener Deal
- Altman und Mitgründer Greg Brockman sind bereit, eine Rückkehr zu OpenAI zu akzeptieren, wenn die verbliebenen Vorstandsmitglieder zurücktreten, die sie entlassen haben
- Altman schrieb auf X: „Wir werden so oder so alle zusammenarbeiten“, was zeigt, dass der Konflikt noch nicht beendet ist
Öffentlicher Druck der Mitarbeitenden und Kräfteverhältnisse im Vorstand
- Fast die gesamte Belegschaft von OpenAI hat einen offenen Brief unterzeichnet, der den Rücktritt des Vorstands und Altmans Rückkehr fordert
- Auch das Vorstandsmitglied und der Chief Scientist Ilya Sutskever, der bei Altmans Entlassung eine Schlüsselrolle spielte, hat den Brief unterzeichnet
- Wenn nur zwei der drei verbliebenen Vorstandsmitglieder ihre Haltung ändern, wäre Altmans Rückkehr wieder möglich
- Die verbliebenen Vorstandsmitglieder, die sich gegen Altman stellen, sind Quora-CEO Adam D’Angelo, die ehemalige GeoSim-Systems-CEO Tasha McCauley und Helen Toner, Strategic Director am Georgetown Center for Security and Emerging Technology
Die Unsicherheit nach der Microsoft-Ankündigung
- Altman, Brockman und OpenAI-Investoren versuchen, einen einvernehmlichen Ausweg zu finden, bei dem der Vorstand zurücktreten kann
- Microsofts Ankündigung der Einstellung kam in einer Situation, in der vor Börsenöffnung am Montag eine Lösung für die Krise gebraucht wurde, und glich eher einem „holding pattern“
- Ein Microsoft-Sprecher lehnte eine Stellungnahme zu der Angelegenheit ab
- Altman schrieb später auf X, seine oberste Priorität sei es, sicherzustellen, dass OpenAI weiter gedeihen könne, und dass er und Microsoft sich dafür einsetzten, Partnern und Kunden operative Kontinuität zu bieten
- Altman war anschließend noch nicht im internen Unternehmensverzeichnis von Microsoft aufgeführt
Interner Widerstand bei OpenAI und Emmett Shears erste Aufgabe
- Seit Altmans Entlassung läuft intern bei OpenAI seit Freitag ein Machtkampf
- Nahezu alle Mitarbeitenden von OpenAI stellen sich gegen den aktuellen dreiköpfigen Vorstand, der sich Altman widersetzt
- Mitarbeitende am Hauptsitz in San Francisco weigerten sich, an einer kurzfristig einberufenen All-Hands-Sitzung mit dem neuen CEO Emmett Shear am Sonntag teilzunehmen
- Auf die Ankündigung des neuen CEO gab es im OpenAI-Slack Emoji-Reaktionen mit „fuck you“
- Mitarbeitende posteten in sozialen Medien, dass sie die Services für OpenAI-Entwickler stabil hielten; das wirkt wie der Versuch, zu verhindern, dass das Unternehmen trotz des Drucks zum Rücktritt des Vorstands vollständig kollabiert
Forderungen nach Begründung der Entlassung und Governance-Änderungen
- Emmett Shear hat die schriftliche Dokumentation mit den detaillierten Gründen für Altmans Entlassung durch den Vorstand noch nicht erhalten
- Diese detaillierten Gründe wurden auch nicht mit OpenAI-Investoren geteilt
- In einer Mitteilung an die Mitarbeitenden erklärte Shear, seine erste Aufgabe werde darin bestehen, einen unabhängigen Ermittler zu beauftragen, den gesamten bisherigen Ablauf zu untersuchen und einen vollständigen Bericht zu erstellen
- Satya Nadella sagte bei CNBC, ob Altman und OpenAI-Mitarbeitende zu Microsoft wechseln, sei eine Entscheidung von OpenAI-Vorstand, Management und Belegschaft
- Nadella sagte, Microsoft habe sich ausdrücklich für die Partnerschaft mit OpenAI entschieden und sei für beide Optionen offen: dass die OpenAI-Leute bleiben oder zu Microsoft kommen
- Auf die Frage, ob Microsoft einen Sitz im OpenAI-Vorstand brauche, sagte Nadella, es sei klar, dass Veränderungen in der Governance nötig seien, und man werde mit dem Vorstand sprechen
- Bei Bloomberg TV sagte er: „Überraschungen sind schlecht“ und machte deutlich, dass Microsoft klar Governance-Veränderungen wolle
1 Kommentare
Meinungen auf Hacker News
Stand 10 Uhr Pacific Time haben 700 von 770 Mitarbeitenden die Forderung nach dem Rücktritt des Board unterzeichnet
https://twitter.com/joannejang/status/1726667504133808242
Apropos „Alignment“: Tatsächlich ist Alignment in den Köpfen vieler Menschen zu Gruppendenken geworden
Die einzige Person bei OpenAI in einer relevanten Position, die möglicherweise empirische Verzerrungen (IS) und Wertverzerrungen (OUGHT) hätte trennen können, war wohl Ilya. Ihn zu verlieren oder auf einen bedeutungslosen Posten abzuschieben, könnte weit verheerender sein, als 700 operative Mitarbeitende zu verlieren, deren Jobsicherheit beim Betrieb der Infrastruktur vage erhalten bleibt. Microsoft ist in der Lage, mit internen Leuten und eigener Kapitalausrüstung allein auf Basis des in der öffentlichen Literatur vorhandenen LLM-Verständnisses das „IP“ von OpenAI nachzubilden
Als Zeichen der Solidarität mag das nützlich sein, aber ich bin skeptisch, wie hoch die Konversionsrate dieser Unterzeichner ist, die tatsächlich kündigen und Sam zu Microsoft oder sonstwohin folgen. Ich vermute, dass vielleicht 20 % der Mitarbeitenden, also etwa 140 Leute, wirklich den Schritt machen würden
Ich frage mich wirklich, was hier eigentlich vor sich geht
Dass diese Leute jetzt nicht versuchen, die Uhr einfach auf vor etwa eine Woche zurückzudrehen, zeigt die Gefahr des menschlichen Egos
Wenn alle Parteien zustimmen, gibt es bislang noch keine dauerhafte Maßnahme, die sich nicht relativ leicht rückgängig machen ließe. Was wir hier sehen, ist der Effekt der Trägheit des Egos auf Entscheidungen
Einen Versuch wäre es wert. Es ist kein verrückter Gedanke. Wenn man sich darauf einigt, alles auf den Stand von vor einer Woche zurückzusetzen und weiterzumachen, wäre es fast so, als würde man mit Wissen über die Zukunft starten, nur mit ein paar verbleibenden Nachwirkungen. Wenn das möglich wäre, würde die Organisation damit einen enormen evolutionären Sprung in ihrer Fähigkeit zur Selbstkorrektur zeigen
Es ist ähnlich wie bei einem Partner, der fremdgegangen ist. Beide Seiten möchten vielleicht die Uhr zurückdrehen, aber leider ist das unmöglich
Menschen sind berüchtigt hart gegenüber Leuten, die ihre Fehler eingestehen. Wenn man zum Beispiel in einer Auseinandersetzung verliert, ob weil man schlecht debattiert hat oder weil die eigene Position offensichtlich falsch war, dann sehen die Leute ein Eingeständnis nicht als Demut, sondern als Anlass, sich darauf zu stürzen, damit jeder weiß, dass man „derjenige ist, der falsch lag“
Diesmal geht es nicht um Internetpunkte, sondern um Jobs, sehr viel Geld und enorme Reputation. Wenn das Risiko bei gezeigter Demut extrem hoch ist und die Belohnung nahezu null, warum sollte man dann nicht durchhalten und versuchen, bis zum Ende zu gewinnen
Wenn der Ehepartner einem mitten in der Nacht in den Rücken fällt, ist es weder einfach noch klug, die Uhr zurückzudrehen. Warum sollte man das tun
Altman und sein Umfeld müssen anerkennen, was anzuerkennen ist: Sie waren enorm innovativ darin, eine Non-Profit-Organisation in ein gewinnorientiertes Unternehmen umzudrehen. Aber es ist eine Doppelmissionsstruktur ohne Mechanismus, um die Spannungen aufzulösen. An irgendeinem Punkt wird daraus fast zwangsläufig etwas, das Steuerbetrug oder Wertpapierbetrug begeht
Selbst wenn man also alle Teile wieder zusammensetzt und Feindseligkeit und Ego beruhigt, läuft es am Ende nur darauf hinaus, eine kaputte Aufziehmaus wieder aufzuziehen
Wenn durch diese Sache eines klar geworden ist, dann, dass die Menschheit nicht bereit ist, Hüter der Superintelligenz zu sein.
Das sollten die besten Köpfe sein, die eine der einflussreichsten Technologien unserer Zeit, vielleicht der Geschichte, geschaffen haben, aber sie benehmen sich alle wie kleinliche Kinder. Egos und persönliche Interessen ziehen in alle Richtungen, und alle versuchen, ihren Anteil zu sichern.
Wir sind wohl wirklich am Ende.
Im Moment denken zu viele Leute, diese Modelle hätten eine Hürde genommen, also würden sie die übrigen in den nächsten Jahren auch leicht nehmen.
Meiner Ansicht nach ist jede der nächsten Hürden mindestens um eine Größenordnung komplexer.
Wenn man das Gefühl hat, dass ChatGPT oder verwandte Coding-Tools den eigenen Job bedrohen, macht man wahrscheinlich keine Arbeit, die Intelligenz erfordert. CSS herumschieben, für jede Animation, Tabelle und jeden API-Aufruf dieselbe Logik neu schreiben – das ist keine sinnvolle Arbeit.
Menschen wirken, besonders im Vergleich zu anderen Arten, beeindruckend.
Es scheint eine verbreitete Vorstellung zu geben, dass die Natur die Antworten bereits kennt und der Mensch die Natur stört, aber ich bin nicht überzeugt, dass das stimmt. Die Natur wirkt wie eine riesige Gladiatorenarena, in der alles Todeskämpfe austrägt. Die Natur findet Gleichgewicht durch Tod, oft durch massenhaften Tod. Auch dieses Gleichgewicht ist kein großer Entwurf, sondern ein Schicksal, das darum organisiert ist, welche Art eine Energiequelle erfolgreich entdeckt und nutzt.
Der Mensch ist nicht die erste Art, die ihre Umwelt durcheinanderbringt, und vielleicht nicht einmal die erste, die ein Massenaussterben verursacht hat. Soweit ich es verstehe, war das Große Sauerstoffereignis ein von einer Art verursachtes Massenaussterben.
Die meisten Arten verbrauchen in Boomzeiten alle Ressourcen und verhungern in schlechten Zeiten, wobei sie Teile des Ökosystems mitreißen. Der Mensch dagegen ist, bildlich gesprochen, die Art, die den ganzen Mais auffrisst und trotzdem den Kopf hebt und sagt: „Leute, wir essen gerade den ganzen Mais auf, und ich glaube, das geht nicht gut aus. Sollten wir nicht etwas tun?“
Dieses Bewusstsein auf Artebene gibt Hoffnung und ist wirklich großartig.
Ich habe keinen besseren Kandidaten für Platz 1 unter den Arten gesehen, wenn es darum geht, Leben verantwortungsvoll zu verwalten und die Wahrscheinlichkeit zu erhöhen, dass Leben auch nach der relativ kurzen Zeitspanne überlebt, in der die Erde Leben tragen kann. Ich würde sogar sagen, dass der Mensch vor jeder Art, die man auf Platz 2 setzen könnte, mit ziemlich großem Abstand vorn liegt.
Verglichen mit einer hypothetischen „perfekten menschlichen Utopie“ ist der Mensch mangelhaft. Aber das ist tautologisch. Die meiste Kritik am Menschen liest sich eher wie ein Ziel als wie ein Defizit im Vergleich zur natürlichen Ausgangslage.
Auch bei dem Problem, uns vor anorganischer Superintelligenz zu schützen, habe ich kein plausibles Szenario gesehen, wie wir scheitern würden. Wir haben ein Eigeninteresse daran, nicht zu sterben. Solange wir sie nicht erschaffen, ohne die Superintelligenz zu bemerken, und auch nicht bemerken, dass sie sich darauf vorbereitet, uns zu beseitigen, würden wir doch jeden Trick ziemlich früh den Stecker ziehen. Bei dem großen Interesse daran, Superintelligenz zu schaffen und zu erkennen, sehe ich nicht, wie uns das entgehen sollte.
Wenn wir zum Beispiel bemerken, dass eine Superintelligenz eine Armee aufbaut, warum sollten wir sie nicht stoppen, bevor diese Armee mit bestehenden nationalen Armeen konkurrieren kann?
Wenn eine Superintelligenz anfängt, die Wirtschaft oder Computersysteme zu stören, warum sollten wir das nicht früh erkennen und sie entfernen können?
Wenn wir eine Superintelligenz erschaffen, wird sie mit ziemlicher Sicherheit frei sein, sobald sie superintelligent ist. Wir können sie nicht bewachen, sondern nur hoffen, dass sie aligned ist.
Laut Amir Efrati (The Information) sagen über 92 % der OpenAI-Mitarbeiter, dass sie Altman zu Microsoft folgen werden, wenn der Vorstand nicht zurücktritt.
Zu den Unterzeichnern gehören auch die Mitgründer Karpathy, Schulman und Zaremba.
https://twitter.com/amir/status/1726680254029418972
Es wäre sehr schade, wenn es irgendwann keine Dokumentation gäbe, die erklärt, was zum Teufel da passiert ist.
Ich bin mir nicht einmal sicher, ob die Leute mitten in dieser Sache wissen, was gerade passiert.
Eine Strategie, die so hochentwickelt ist, dass Menschen sie nicht durchschauen können.
Das Ziel ist unbekannt, aber am Ende wird sich alles wegen dieser einen E-Mail zusammenfügen.
Die Kettenreaktion lässt sich nicht stoppen.
Ein Freund meinte, es wäre gut, wenn Michael Cera sowohl Ilya als auch Altman spielt.
Selbst meine nichttechnischen Freunde, die ChatGPT nur nebenbei nutzen, und solche, die es gar nicht nutzen, sind von dieser Geschichte gefesselt.
Egal wie sehr man sich anstrengt, eine noch absurdere Handlung kann man sich wohl kaum ausdenken.
Bei diesem Tempo würde es mich nicht einmal wundern, wenn Musk sich einmischt. Es ist schon absurd genug – was sollte da noch unmöglich sein?
https://www.theverge.com/2023/3/24/23654701/openai-elon-musk-failed-takeover-report-closed-open-source
„Laut Semafor machte sich Musk Anfang 2018 jedoch Sorgen, dass das Unternehmen hinter Google zurückfalle. Er schlug vor, OpenAI selbst zu übernehmen und zu führen, wurde aber Berichten zufolge von anderen OpenAI-Gründern abgewiesen, darunter der damalige CEO Sam Altman und der damalige President Greg Brockman.“
Der Tweet scheint gelöscht zu sein, daher gebe ich das aus dem Gedächtnis sinngemäß wieder – entsprechend einordnen.
Mir fallen da ein paar Dinge ein.
Emmett Shear hätte in seinen Vertrag einen kräftigen goldenen Fallschirm aufnehmen lassen sollen. Dann hätte er leicht Geld verdient.
Gestern war Satya noch das Genie, das das Board zum Rücktritt bringen würde, und heute Morgen war er das Genie, das OpenAI für 0 Dollar übernommen hat. Wenn sama zurückkehrt, wird wieder eine andere Geschichte erzählt werden. Falls sama also zurückkommt, würde ich gern hören, warum Satya ein Genie ist.
Stattdessen hat Microsoft das Chaos gemanagt und dafür gesorgt, dass es unabhängig vom Ausgang gewinnt. Ein Genie ist nicht jemand, der eine komplizierte, krampfhaft verdrehte Handlung im Voraus perfekt vorhersagt, sondern jemand, dem das egal sein kann, weil er alles so aufgestellt hat, dass er in jedem Fall gewinnt.
OpenAI kollabiert? Dann hat man im Grunde kostenlos Talente gekauft.
OpenAI 2.0 ist erfolgreich? Gut, man ist weiterhin investiert.
Realistisch betrachtet wird Sam @ MSFT wohl nicht sofort erfolgreich sein. Selbst mit Wissen und Know-how stellt man nicht einfach ein neues Modell auf GPT-4-Niveau online. Im besten Fall liegt man etwa 12 Monate hinter Anthropic zurück und ist trotzdem vermutlich 2 Jahre vor Google.
Inzwischen scheint er sich gut genug positioniert zu haben, dass alle möglichen Ausgänge für Microsoft positiv aussehen.
Ich neige immer mehr zu der Theorie, dass ein Zeitreisender, der in die Vergangenheit geschickt wurde, um AGI zu verhindern, OpenAI zerstört.
Das erinnert mich an das Ende von Terminator 2. Als würde die Tech-Community aufwachen und versuchen zu verstehen, dass die Cyberdyne-Zentrale explodiert ist und es eine Schießerei gab: „Was zur Hölle ist da gerade passiert?!“
Ich würde mir wünschen, dass alle anerkennen, dass das kein moralischer Kreuzzug ist, sondern Kapitalflucht.
Die Mitarbeiter wollen Altman folgen, wohin auch immer er geht, weil sie viel Geld verdienen wollen. Es ist ohnehin eine kluge Entscheidung, da er das halbe Silicon Valley in Bewegung setzt. Der öffentliche Diskurs, Sam sei ein Held, wird von den Leuten im Tech-Ökosystem, das sich derzeit um KI dreht – also im Spiel der „OpenAI-Wrapper“ –, noch weiter verfestigt.
Niemand interessiert sich für Sicherheit, Offenheit oder die Auswirkungen von KI auf die Menschheit. Es ist bis zum Schluss Gier. Sich auf die Seite zu stellen, die wahrscheinlich gewinnt. Das ist rationales Eigeninteresse, keine „edle Sache“.
Man kann auch nicht ausschließen, dass D’Angelo ihn aus einem absurden Grund entlassen hat, etwa wegen eines Interessenkonflikts mit Poe.
Noch vor ein paar Stunden verehrten alle Ilya als edlen Idealisten. Doch jetzt scheint selbst er diese Entlassung zurücknehmen zu wollen und sie zu bereuen. Die Leute scheinen diese neue Information nicht aufzunehmen und nicht neu zu bewerten, wie gut diese Entscheidung wirklich war. Im besten Fall waren die Absichten edel, aber die Umsetzung völlig inkompetent; inzwischen steckt man wohl in einer Lage fest, in der sturer Stolz und Angst vor rechtlicher Haftung zusammenkommen und ein Rückzug unmöglich wird.
Wenn ich OpenAI-Mitarbeiter wäre, wäre ich frustriert. Es ist etwas völlig anderes, für gute idealistische Gründe enorme Stock Options usw. aufzugeben, als aufgefordert zu werden, so etwas aufzugeben, ohne dass wie jetzt irgendein Grund genannt wird.
Ich habe gerade eine plausible Theorie gesehen: D’Angelo habe das Ganze vorangetrieben, weil Sam Poe beim Dev Day überholt habe. Ich weiß nicht, ob das stimmt, aber falls ja, würde es erklären, warum er niemandem den Grund nennt, nicht einmal Sam zum Zeitpunkt der Entlassung. Denn wenn er diesen Grund offenlegen würde, könnte er sich einem erheblichen rechtlichen Risiko aussetzen.
https://twitter.com/scottastevenson/status/1726731022862008733
Ich weiß, dass das der Anfang des Films ist, die Phase, bevor alles eskaliert, aber mir scheint die Übertreibung enorm. Ich sehe ein riesiges Potenzial im therapeutischen Bereich oder darin, mit „jemandem“ zu sprechen, dem man Gedanken vorwerfen kann und der einen sanft korrigiert oder in die richtige Richtung schubst.
Viele Menschen können sich Therapie nicht leisten. Wenn ChatGPT dabei helfen kann, auf Wissensgrundlagen bestimmter Methoden wie CBT, DBT oder IFS zurückzugreifen und grundlegende problematische Muster in Sprache oder Verhalten zu erkennen, könnte man nahezu kostenlos und so oft man möchte Anleitung bekommen und Selbstkorrektur üben.
Genau dieser Punkt interessiert mich, und ich werde darin immer großes Potenzial sehen.
Ich wünsche mir, dass es allen gut geht und alle freundlich zueinander sind. Das ist sowohl Prozess als auch Ziel, und ich glaube, dass Menschen lernen können, beides zu lieben und sich auf eine Weise darauf einzulassen, die reich an Chancen für tiefe, echte Erholung und Heilung ist. Chancen, die immer offenstehen und jeden aufnehmen.
Dazu: Ich kann so viel Therapie bekommen, wie ich möchte, empfinde sie aber im Allgemeinen nicht als besonders hilfreich oder nützlich. ChatGPT ist gut, weil es helfen kann, wirksame Dinge wie CBT/DBT/IFS zu üben, und weil man es mit Referenztexten verwenden kann, wodurch man erfundene Inhalte umgehen kann.
Aus meiner Sicht ist die größte Bedrohung durch ChatGPT der Einkommensverlust der Menschen. Mir geht es nicht um „Jobs“ an sich, sondern darum, ob die Menschen genug haben und anständig leben können. Wenn wir mit den egoistischen Leuten umgehen können, die sich noch mehr von einem Kuchen nehmen wollen, von dem sie bereits mehr als genug und einen großen Anteil haben, dann müssen sie teilen und eine Auszeit bekommen oder ganz beiseitetreten, bis es fair wird. Jetzt reicht es. Niemand muss Überfluss haben, bevor alle genug haben; danach kann jeder nehmen, was er will, solange er anderen nicht schadet. Anderen zu schaden muss aufhören.
Ein CEO, der nach außen hin gute Arbeit geleistet hatte, wurde gewaltsam entfernt. Es ist natürlich, dabei starke Gefühle zu haben.
Genau dieses Ergebnis entsteht, weil OpenAI nicht von einem von Investoren eingesetzten Board kontrolliert wird.
Bitte hört jetzt mit diesem „zum Wohl der Menschheit“ auf.
Da es insgesamt an nützlicher Kommunikation mangelt, fände ich es lustig, wenn Sam Altman genau in dem Moment zu OpenAI zurückkehrt, in dem alle Mitarbeiter kündigen ;)