- Der OpenAI-Vorstand entließ am Freitag überraschend CEO Sam Altman, woraufhin President Greg Brockman und drei leitende Forscher das Unternehmen verließen; selbst der wichtigste Investor Microsoft wurde vorab nicht informiert und zeigte sich schockiert
- Im Zentrum des Konflikts stand Chief Scientist Ilya Sutskever; Altmans Strategie der schnellen Kommerzialisierung und des raschen Wachstums kollidierte frontal mit der sicherheitsbezogenen Verantwortung aus der gemeinnützigen Mission
- Wegen der ungewöhnlichen Governance-Struktur, in der eine Non-Profit-Organisation die gewinnorientierte Tochter besitzt und kontrolliert, verblieben nach dem Ausscheiden von Altman und Brockman nur noch Sutskever, Adam D’Angelo, Tasha McCauley und Helen Toner im Vorstand
- Der Vorstand nannte als Entlassungsgrund eine „nicht durchgängig offene Kommunikation“, doch ein internes Memo von COO Brad Lightcap stellte klar, dass die Entscheidung nicht auf Fehlverhalten oder Praktiken in den Bereichen Finanzen, Geschäft, Sicherheit, Security oder Datenschutz zurückging
- Der Vorfall machte die Spannungen zwischen sicherem Entwicklungstempo und Monetarisierungsdruck sichtbar; die Stabilisierung des Betriebs unter Interims-CEO Mira Murati wurde damit zur unmittelbaren Aufgabe für Mitarbeitende, Partner, Nutzer und Kunden gleichermaßen
Unmittelbares Chaos nach Altmans Entlassung
- OpenAI entließ am Freitag überraschend CEO Sam Altman; die Entscheidung führte zum Rücktritt von President Greg Brockman und zum Weggang von drei leitenden Wissenschaftlern
- Selbst Microsoft, wichtigster Investor und Minderheitsgesellschafter, wurde nicht vorab informiert; laut Bloomberg reagierte CEO Satya Nadella wütend
- Möglicherweise wurde Altmans Sturz von Chief Scientist Ilya Sutskever vorangetrieben, gestützt auf Sorgen über Sicherheit und Tempo bei der Bereitstellung von OpenAI-Technologie
- Sutskever sagte am Freitagnachmittag in einer eilig einberufenen All-Hands-Runde, der Vorstand habe damit seine Pflicht gegenüber der Non-Profit-Mission erfüllt, „sicherzustellen, dass OpenAI AGI zum Nutzen der gesamten Menschheit entwickelt“
- Das von OpenAI angestrebte AGI bezeichnet eine hypothetische Technologie, die intellektuelle Aufgaben ausführen kann, zu denen Menschen fähig sind
Risse wegen Kommerzialisierungstempo und Sicherheit
- Der interne Konflikt verschärfte sich an Altmans Drängen auf Kommerzialisierung und hohes Unternehmenswachstumstempo; Sutskever vertrat die Position, dass das Tempo gesenkt werden müsse
- Laut Aussagen von Quellen gegenüber Kara Swisher galt der OpenAI Dev Day am 6. November als Wendepunkt, an dem Altman mit starkem Fokus auf Consumer-Produkte „zu weit, zu schnell“ gegangen sei
- Altman und Brockman erklärten am Freitagabend in einer gemeinsamen Stellungnahme, sie seien über das Vorgehen des Vorstands „schockiert und traurig“
- Angel-Investor Ron Conway kritisierte den Vorgang als einen Vorstandscoup, wie man ihn seit der Verdrängung von Steve Jobs durch den Apple-Vorstand 1985 kaum gesehen habe, und sagte, dies sei Sam, Greg und den Buildern von OpenAI gegenüber nicht richtig
Non-Profit-Governance und der verbleibende Vorstand
- OpenAI hat eine ungewöhnliche Struktur, bei der eine gemeinnützige 501(c)(3)-Organisation den gewinnorientierten Bereich besitzt und kontrolliert
- Vor der Entlassung gehörten dem Vorstand der Non-Profit-Organisation Altman, Brockman, Ilya Sutskever sowie drei Nicht-OpenAI-Mitarbeitende an
- Adam D’Angelo: CEO von Quora
- Tasha McCauley: Adjunct Senior Management Scientist bei der RAND corporation
- Helen Toner: Director of strategy and foundational research grants am Georgetown Center for Security and Emerging Technology
- Nach Altmans Entlassung und Brockmans Ausschluss aus dem Vorstand blieben dort nur noch Sutskever, D’Angelo, McCauley und Toner übrig
Der Entlassungsprozess und die interne Information
- Laut der gemeinsamen Erklärung von Brockman und Altman kam Altmans Entlassung für beide völlig überraschend
- Altman wurde am Donnerstagabend gebeten, an einer Remote-Vorstandssitzung am Freitagmittag teilzunehmen, und in diesem Termin am nächsten Tag entlassen
- Brockman, damals Vorstandsvorsitzender von OpenAI, war zu dieser Sitzung nicht eingeladen
- Rund 30 Minuten später teilte Sutskever Brockman mit, dass er aus seiner Vorstandsfunktion entfernt werde, aber im Unternehmen bleiben könne; zugleich informierte er ihn darüber, dass Altman entlassen worden war
- Brockman lehnte es ab, im Unternehmen zu bleiben, und trat später am Freitag zurück
- Nach Brockmans Darstellung erfuhr das OpenAI-Management erst direkt nach der Entscheidung davon; Mira Murati, damals CTO und später Interims-CEO, wurde jedoch bereits am Donnerstagabend informiert
„Nicht offene Kommunikation“ und die Zurückweisung von Fehlverhalten
- In OpenAIs Mitteilung zu Altmans Abgang hieß es, Altman sei in der Kommunikation mit dem Vorstand „nicht durchgängig offen“ gewesen, wodurch der Vorstand an der Wahrnehmung seiner Verantwortung gehindert worden sei
- Das Unternehmen hat bislang nicht präzisiert, was diese Formulierung konkret bedeutet
- Insider sehen den Schritt vor allem als Machtkampf zwischen Altman und Sutskever sowie als Ausdruck eines kulturellen Risses
- Zu den Konfliktpunkten zählten Altmans Führungsstil und seine verstärkte öffentliche Selbstdarstellung
- Sutskever schrieb am 29. September auf X: „Ego is the enemy of growth“
- Ein von Axios eingesehenes internes Memo von COO Brad Lightcap erklärte, dass die Entscheidung des Vorstands nichts mit Fehlverhalten oder mit Praktiken in den Bereichen Finanzen, Geschäft, Sicherheit, Security oder Datenschutz zu tun habe
- Lightcap fasste den Vorfall als „Zusammenbruch der Kommunikation zwischen Sam und dem Vorstand“ zusammen
Abgänge von Forschern und interne Unruhe
- Drei AI-Forscher, die Altman wohlgesonnen waren, verließen nach den Nachrichten vom Freitag ebenfalls das Unternehmen
- Jakub Pachocki: GPT-4-Lead und Director of Research bei OpenAI
- Aleksander Madry: Leiter des Teams für AI-Risikobewertung
- Szymon Sidor: Forscher für Open Source Baselines
- Ihre Rücktritte zeigen, dass sich die durch Altmans Entlassung ausgelöste interne Unruhe bis in die Forschungsorganisation ausgebreitet hatte
Superalignment, GPT-5 und die Debatte über das Tempo
- Sutskever ist Co-Lead des Superalignment-Teams, das erforscht, wie sich hypothetische superintelligente AI kontrollieren lässt
- Dadurch verbreiteten sich innerhalb von OpenAI Gerüchte, dass der Riss zwischen langsamerer und schnellerer Entwicklung mit einem jüngsten internen Durchbruch zusammenhängen könnte
- Altman sagte am Donnerstag beim APEC CEO Summit, er habe in der Geschichte von OpenAI viermal Momente erlebt, in denen man „den Schleier der Unwissenheit zurückschiebt und die Grenze des Entdeckens nach vorn verschiebt“; der jüngste davon liege „innerhalb der letzten Wochen“
- Diese Sorgen bedeuten nicht, dass OpenAI bereits superintelligente AI entwickelt hat; Fachleute halten das für unwahrscheinlich
- Der von Altman erwähnte neue Durchbruch könnte den Druck zwischen dem Anspruch der Non-Profit-Organisation auf sicheres Vorankommen und den Monetarisierungsanforderungen der gewinnorientierten Tochter erhöht haben
- Altman sagte zuletzt, dass GPT-5, mutmaßlich ein leistungsstarker Nachfolger von GPT-4, in Entwicklung sei
Botschaften an die Mitarbeitenden und Aufgaben der Stabilisierung
- OpenAI-Engineering-Manager Evan Morikawa sagte auf X, das Unternehmen werde weiterhin Produkte veröffentlichen, und Sam und Greg seien keine Mikromanager gewesen
- Er erklärte, viele Talente aus Forschung, Produkt, Engineering und Design erzielten Ergebnisse, und zwischen den Führungskräften gebe es intern Einigkeit über eine größere Mission
- Lightcap räumte in seinem internen Memo ein, dass Mitarbeitende Verwirrung, Trauer und Angst empfinden könnten
- Das Unternehmen konzentriere sich darauf, die Situation zu bewältigen, zu klären und aufzulösen sowie zur Arbeit zurückzukehren, und betone seine Verantwortung gegenüber Mitarbeitenden, Partnern, Nutzern, Kunden und der weiteren Welt
- Er sagte, die Position des Unternehmens sei weiterhin stark, unterstützte Interims-CEO Mira Murati und fügte hinzu, er teile die Sorgen über die Art des Verfahrens und arbeite an einer Lösung der Situation
1 Kommentare
Meinungen auf Hacker News
Für Sam und Greg ist das bedauerlich, aber die Aufgabe des Boards ist nicht, Sam & Greg gegenüber nett zu sein, sondern die richtige Entscheidung für OpenAI zu treffen.
Wenn das Management 10.000 Mitarbeiter entlässt, klatschen Investoren und sagen „das ist Business“, aber wenn ein CEO entlassen wird, der ihnen nahesteht, plötzlich mit Moral zu argumentieren, halte ich für falsch.
Natürlich muss man auch die Auswirkungen auf Mitarbeiter berücksichtigen, aber ein CEO ist eher ein Kommandant mit großer Verantwortung und Autorität für die Ergebnisse des Unternehmens, während normale Mitarbeiter eher Zivilisten sind, für die eine Entlassung viel schwerer zu verkraften ist.
Sie haben Partner wie Satya hintergangen, das Unternehmen in zwei Lager gespalten und Sam und Greg wütend gemacht, sodass sie nun nach Vergeltung suchen.
Das Ergebnis ist sogar das Risiko, dass eine profitorientierte Version von OpenAI ohne höheren Zweck den Markt dominiert; für diese Vorgehensweise scheint es keine Rechtfertigung zu geben.
Den Investoren der nachgeordneten gewinnorientierten Gesellschaft OpenAI Global LLC wurde ausdrücklich mitgeteilt, dass sie ihre Investitionen wie Spenden behandeln sollten und dass der Zweck des Unternehmens nicht darin besteht, Investoren Renditen auszuschütten, sondern die gemeinnützige Funktion der Non-Profit-Körperschaft zu erfüllen.
Er schien überhaupt nicht zu merken, wie das vor einem Publikum klingen würde, das bedeutungsvolle und einflussreiche Unternehmen aufbauen wollte.
Nur weil jemand viel Geld hat, heißt das nicht, dass sein Urteilsvermögen nützlich ist.
Er ist definitiv gründerfreundlich, wirkte auf mich aber nicht wie der Typ skrupelloser Investor, der Kostensenkungen oder Entlassungen durchdrückt.
Wenn das nur bei einer überwältigenden Mehrheit möglich ist, könnte es fairer werden – zumindest wäre es eine interessante Struktur.
Alle drehen durch, aber aus meiner persönlichen Erfahrung mit „wichtigen“ CEOs in mehreren Unternehmen hätte es mich wahrscheinlich überhaupt nicht gekümmert, wenn dieser CEO gegangen wäre.
CEOs bekommen von außen übermäßig viel Anerkennung für die Leistung eines Unternehmens, und das bedeutet nicht automatisch, dass der CEO tatsächlich so wichtig ist.
OpenAI kann anders sein, aber ich würde nicht davon ausgehen, dass es eine völlige Ausnahme ist.
Wenn aber eine Non-Profit-Organisation mit Gemeinwohlmission ein gewinnorientiertes Unternehmen besitzt, kann diese Entwicklung in die falsche Richtung gehen.
Die Dev-Day-Ankündigungen, insbesondere der Marketplace, lassen sich als Hinweis darauf sehen, dass bei OpenAI genau das passierte.
Nicht alle wollen nach dem Motto „move fast and break things“ coole LLM-Spielzeuge verkaufen; diese Leute scheinen verantwortungsvolle AGI anführen zu wollen, bevor andere es unverantwortlich tun.
Es ist eine so kleine Gruppe, dass jemand sofort als Genie gilt, solange er es nicht komplett vermasselt.
Wenn man Milliarden Dollar und Hunderte hervorragende Ingenieure und Forscher bekommt, können viele Leute irgendwie dafür sorgen, dass der Laden läuft; nur bekommen so wenige diese Chance, dass solche Dinge entstehen.
Oft machen sie die eigentliche Arbeit nicht und kassieren nur den Ruhm.
Es könnte sich herausstellen, dass Sam und andere in Wahrheit eher kompetente Tech-Evangelisten oder Verkäufer waren, und genau deshalb scheinen die Leute in der Tech-Branche jetzt nervös zu sein.
Die bisherige Richtung war ziemlich stark darauf ausgerichtet, Menschen zu ermöglichen, auf der Technologie aufzubauen.
Jetzt gibt es die Sorge, dass der Zugang nur noch auf Forscher beschränkt wird, denen man als „sicher“ vertraut.
Wenn Menschen mit einem Produktionsprozess nicht sehr vertraut sind, fixieren sie sich auf den öffentlich sichtbarsten Aspekt und auf die Person, die scheinbar die größte Autorität hat.
Das passiert, obwohl auch Regisseure oder CEOs oft anderen Rechenschaft schuldig sind; natürlich kann der Einfluss Einzelner groß sein, aber diese Größe entsteht selten allein.
Es fällt schwer zu glauben, dass ein Board, das weder sich selbst noch seine Mitarbeiter kontrollieren kann, KI verantwortungsvoll steuern könnte; fraglich ist auch, ob überhaupt irgendjemand AGI steuern kann.
Non-Profit-Organisationen haben ein altes Governance-Problem, und unklare Ziele begünstigen interne Politik.
Der Vorteil eines gewinnorientierten Boards liegt darin, dass die Ziele auf gut verstandene Risikoabwägungen verengt werden, etwa ob Wachstum jetzt oder später stattfinden soll, und dass die Board-Mitglieder aus Personen ausgewählt werden, die an diesen Zielen tatsächlich ein eigenes Interesse haben.
Auch religiöse Organisationen oder ideologische Regierungen sind schwer vertrauenswürdig, weil sie von interner Politik vereinnahmt werden.
Bei AI/AGI wäre es meiner Ansicht nach sinnvoller, sie als vollständig gewinnorientiertes Geschäft zu betreiben, aber die Haftungsgrundannahme umzudrehen, sodass Entwickler alle externen Kosten tragen, die ihre Produkte verursachen.
Software und Internet waren Bereiche, in denen Verbraucher für auf sie abgewälzte Kosten praktisch keinerlei Abhilfe bekamen; genau dadurch konnten sie enorm wachsen und disruptive Innovation hervorbringen.
Wenn man AI/AGI kontrollieren will, sollte man sie gewinnorientiert machen, aber den Entwicklern die Haftung für externe Kosten auferlegen; dann würden die Anwendungen sehr eng werden und sich auf Fälle mit einem gesellschaftlichen Nettonutzen beschränken.
Blind nur ökonomischer Logik zu folgen, kann Probleme schaffen; darin liegt auch ein wichtiger Grund dafür, dass sich die US-Unternehmenskultur davon wegbewegt hat, zuerst gute Produkte zu bauen, hin zur Maximierung des Shareholder Value.
Betrachtet man allerdings nur diese Entscheidung, wirkt das OpenAI-Board sprunghaft und impulsiv.
Deshalb muss in Non-Profit-Organisationen zwangsläufig mehr Politik auf menschlicher Ebene hineinspielen.
Wenn man im Handeln von Non-Profits leben will, muss man das akzeptieren.
Zu sagen, sie seien wegen der Politik nicht vertrauenswürdig, ist ähnlich wie zu sagen, sobald menschliche Angelegenheiten ins Spiel kommen, seien sie weniger vertrauenswürdig als Computer.
Wenn man sich keine wirksame Politik vorstellen kann, kann man sich auch keine wirksamen menschlichen Angelegenheiten vorstellen; dann bleibt nur die mechanische Arbeit einfacher Optimierungssysteme wie kapitalistischer Märkte.
All das geschah für Kleingeld.
Man muss nur noch einen Weg finden, aktuelle Daten in Echtzeit ins Modell einfließen zu lassen; ich vermute, dass OpenAI sich damit ebenfalls aktiv beschäftigt: https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
Die eigentliche Gefahr besteht nicht darin, dass Kinder nach Rezepten für illegale Drogen fragen, sondern darin, dass irgendeine Regierung die Ergebnisse in ein nationales Verteidigungssystem à la Skynet einspeist.
Angesichts des merkwürdigen Schweigens zu Anwendungen von LLMs im militärisch-industriellen Komplex kommt der Verdacht auf, dass dies Teil der OpenAI-Geschichte sein könnte.
Auf HN habe ich gesehen, wie argumentiert wurde, dass selbst ein sehr wichtiger Engineer nicht zu wichtig sei und auch Ilya ersetzbar wäre, mit dem Beispiel, dass Apple nach Woz’ Weggang gewachsen ist. Ich halte aber den besseren Vergleich für John Carmacks Rauswurf von Romero bei id Software nach der Veröffentlichung von Quake.
Carmack trieb fast ein Jahrzehnt lang Spitzentechnologie voran, vom flüssigen horizontalen Scrolling in Commander Keen über das Fake-3D von Doom bis zum vollständigen 3D von Quake, und sorgte damit für enorme Fortschritte bei Grafik. Von 1991 bis 1996 schufen die neuen Engines von id praktisch neue Genres.
Das wusste man damals auch intern bei id, und dadurch hatte Carmack genug Macht, um Mitgründer John Romero zu entlassen.
Romero war das schillernde, allgegenwärtige öffentliche Gesicht von id, doch nach seiner Entlassung schaffte er es trotz viel Geld und enormer PR nicht, etwas von der Größenordnung von Doom oder Quake zu erschaffen, und auch seine neue Firma ging unter.
Unter Carmack hingegen landete id weiter Hits.
Wenn jedes bisschen zusätzliche Performance aus Spitzentechnologie den Umsatz stark steigen lässt, ist Engineering-Expertise wirklich entscheidend – und das gilt bei der Ausgabequalität heutiger LLMs genauso wie bei PC-Grafik in den 90ern.
Deshalb halte ich es für gut möglich, dass Ilya bei OpenAI eine ähnliche Rolle spielt wie Carmack als zentraler Wachstumstreiber von id.
Nach Quake 1 machten ids Produkte eindeutig einen Schritt nach unten; die Technik war hervorragend, aber die Spiele waren langweilig und wenig inspiriert, bestenfalls „gut“, nicht „großartig“.
Bis Doom 2016 erschien, gelang ihnen 20 Jahre lang nichts wirklich Spannendes mehr.
Der größte Erfolg von id nach Romero lag nicht als Spieleentwickler, sondern als Technologie-Lizenzierungsunternehmen, dessen Technik Spiele wie Half-Life, Medal of Honor und Call of Duty antrieb.
Romeros Ion Storm scheiterte am Ende zwar, brachte aber interessante Spiele wie Deus Ex und Anachronox hervor, und selbst Daikatana halte ich für interessanter als Quake 2 oder Quake III.
Es braucht jemanden, der über Umsätze, Investoren und Partner fortlaufend Kapital hereinholt und Zugang zu GPUs und proprietären Datensätzen ermöglicht.
Carmack konnte mit einem Computer und seinem eigenen Kopf Fortschritte in der Grafik erzielen, aber Ilya braucht sehr viel mehr, um OpenAI weiter voranzubringen.
Ein riesiges Gehirn allein reicht nicht.
Dieser Trick existierte schon mehr als zehn Jahre, bevor er ihn verwendete, und ich erinnere mich, lange vor Carmacks angeblicher „Erfindung“ in Jim Blinns Kolumne in einem IEEE-Magazin ähnliche schmutzige Tricks gelesen zu haben.
https://en.wikipedia.org/wiki/Fast_inverse_square_root
Ilya ist in diesem Fall nicht wie Carmack; er hat sich stärker auf Sicherheits- und Alignment-Forschung konzentriert als darauf, GPT-[n] zu bauen.
Verschiedenen Darstellungen zufolge hatten in den letzten Jahren Greg Brockman, der von dieser Maßnahme angeekelt aufhörte, und die Senior Researchers, die gestern kündigten, größeren Einfluss als Ilya.
Auch id sollte man nicht überschätzen. Zwar explodierte es nicht spektakulär wie Ion Storm, aber id verlor nach und nach an Bedeutung; selbst wenn die Grafik führend war, erreichte es nicht mehr den Innovationshöhepunkt der frühen Carmack+Romero-Zeit und wurde schließlich an Zenimax verkauft.
Carmack allein war deutlich besser als Romero allein, aber offenbar nicht so gut wie beide zusammen.
Sam Altman ist auch nicht wie John Romero. Romeros Problem bei Ion Storm war, dass er auf der Suche nach Perfektion endlos kreiste und nichts veröffentlichte; Ilyas Problem mit Altman ging hingegen in die Richtung, dass zu schnell veröffentlicht wurde.
Ich hoffe, dass Sam und Greg ein neues Foundation-AI-Unternehmen gründen; falls das passiert, würde mich das deutlich mehr erwarten lassen als ein von Alignment und Regulierung geprägtes OpenAI, wie Ilya und Helen es offenbar wollen.
Danach umfasst die Liste, wie unter https://en.wikipedia.org/wiki/List_of_id_Software_games zu sehen, im Wesentlichen Quake 2, Quake 3 und Doom 3; darüber hinaus gibt es kaum etwas von Wert oder kulturellem Einfluss.
Es gab viele technische Leistungen, aber ein denkwürdiges Spiel braucht mehr als nur interessante Technik.
Für Menschen, die diese Spiele heute kennenlernen, ist Quake einfach Quake; sie erinnern sich nicht getrennt an 1, 2 und 3.
id war zwar ein erfolgreiches Softwareunternehmen, aber allein mit den Produkten nach Romero wäre es wohl kein Branchenriese geworden, der die Zukunft der Videospiele geprägt hätte.
Man kann sagen, dass Carmack allein mehr erreicht hat als Romero allein, aber um im Bereich Videospiele echte Größe zu erreichen, brauchten die beiden einander.
Was die Geschichte über Altman und Sutskever sagen wird, bleibt abzuwarten.
Diese Entlassung wirkt wie eine sehr persönliche Entlassung.
Solange nicht noch wirklich schwerwiegendes Fehlverhalten ans Licht kommt, würde ein verantwortungsbewusster Vorstand keinen CEO feuern und dabei so achtlos den Ruf des Unternehmens und seine Partner beschädigen – es sei denn, es ginge um persönliche Ressentiments im Zusammenhang mit einem internen Machtkampf.
Für alle Beteiligten ist das peinlich, und sama hat echten Grund, sich zu beschweren.
Auch juristische Nachwirkungen scheinen möglich.
Natürlich könnte ein von AGI-Doomern geprägter Vorstand unvorsichtig gehandelt haben, falls sie tatsächlich AGI erfunden hatten und sama versuchte, sie zu monetarisieren.
Aber selbst dann wäre das eine Auseinandersetzung gewesen, die hinter verschlossenen Türen hätte gelöst werden müssen.
Alle werden an Jobs denken, aber Gary Gygax von TSR in den 80ern könnte ein weiteres Beispiel sein.
Währenddessen schrieb TSR enorme Verluste, und Anfang der 80er kam das Unternehmen gerade einmal auf 30 Millionen Dollar Jahresumsatz, hatte aber 1,5 Milliarden Dollar Schulden.
Außerdem war Gygax’ Sturz die Folge seines eigenen Coups.
Er drängte Kevin Blume hinaus und holte Lorraine Williams ins Unternehmen; nachdem sie Blumes gesamte Anteile aufgekauft hatte, entzog sie Gygax etwa ein Jahr später die Kontrolle über das Unternehmen und strich die meisten Projekte, woraufhin er ein Jahr später zurücktrat.
Im Moment hat er die moralische Oberhand, und der Vorstand wirkt kleinlich und unreif; es wäre also unklug, etwas zu tun, das diese Konstellation umkehrt.
Wahrscheinlich wird er in den nächsten Wochen ein neues Venture ankündigen, und ob es sich dabei um AI handelt oder nicht, wird zeigen, wie er die Aussichten dieses Feldes tatsächlich einschätzt.
Brockman und die anderen werden vermutlich sehr wahrscheinlich etwas Neues im AI-Bereich machen.
Er war missbräuchlich und schwierig im Umgang, der Macintosh war damals ein Verkaufsflop, und wie bei Lisa gegen Mac nutzte er interne Teams und Unternehmenspolitik, um Teams gegeneinander auszuspielen und Integration sowie Erfolg zu untergraben.
Auch nach seiner Rückkehr blieb sein Charakter schwierig, aber diese anderen Probleme traten nicht mehr auf.
Nach seiner Rückkehr wurde Apple zu einem Unternehmen, das äußerst gut darin war, eine gemeinsame, kooperative Vision umzusetzen.
Das beginnt schon damit, dass er AD&D schuf, um Arneson keine Tantiemen zahlen zu müssen.
Es war im wahrsten Sinne eine prägende Erfahrung.
Dass es Spannungen zwischen dem profitorientierten Wachstumslager und dem non-profit-orientierten Wachstumslager gab, ist klar, aber ich verstehe nicht, warum der Dev Day als letzter Auslöser genannt wird.
Das war ein Product-Launch-Event.
Ilya und der Vorstand hätten schon Monate im Voraus wissen müssen, was an diesem Tag vorgestellt wird, und zumindest die Pläne gesehen oder sie möglicherweise sogar genehmigt haben.
Der Zeitpunkt, eine Grenze zu ziehen, wäre vor dem Launch gewesen; man fragt sich, ob sie erst nach der Ankündigung in den Spiegel schauten und plötzlich zur Besinnung kamen.
Schon in der Erklärung hieß es, Sam sei in irgendeiner Weise nicht ehrlich gewesen, und auch Greg war betroffen.
Ilya könnte das einzige Vorstandsmitglied gewesen sein, das es im Tagesgeschäft natürlicherweise gewusst hätte, aber da er seit etwa Juli im Bereich Superalignment arbeitete, könnte es auch eine andere Abteilung gewesen sein.
Es könnte sein, dass der Vorstand über Dritte oder über Ilya von dem Projekt erfuhr, Sam sagte, das sei zu schnell, und Sam es ignorierte und trotzdem launchte.
In Wirklichkeit weiß es niemand.
Im Gegenteil: Das könnte zu dem Teil der Vorstandserklärung passen, in dem es hieß, Sam sei nicht ehrlich gewesen.
Das ist schlecht für OpenAI, aber es gibt so viele hungrige Wettbewerber, die OpenAI ersetzen wollen, dass es für das gesamte Feld vermutlich keine großen langfristigen Folgen haben wird.
Ich frage mich, welche Aufsichtsrechte und Rechtsmittel Investoren oder auch Spender haben.
Viele Leute, die heute ziemlich viel Geld hineingesteckt haben, dürften ziemlich wütend sein.
Das könnte durchaus ein Blick-in-den-Spiegel-Moment gewesen sein.
Ilya Sutskever ist jemand, der wirklich glaubt, dass LLMs AGI sind, und darin steht er seinem Doktorvater an der University of Toronto, Geoff Hinton, nahe.
Hinton sagte: „Wenn man es darauf trainiert, das nächste Wort wirklich gut vorherzusagen, zwingt man es tatsächlich zum Verstehen. Ja, es ist Autocomplete, aber man hat nicht darüber nachgedacht, was wirklich gutes Autocomplete bedeutet.“[1]
Altman hingegen kam zu dem Schluss, dass LLMs nicht dieser Weg sind.[2]
Daher wollte Altman aus LLMs ein gewinnorientiertes Produkt machen und Wert daraus ziehen, während Sutskevers Seite sie offenbar als AGI ansah und non-profit halten wollte.
Dazu kommt der Unterschied, ob AGI ein existenzielles Risiko ist oder ob die heutigen AI-Risiken eher bei algorithmischem Bias, sozioökonomischer Ungleichheit, Fehlinformation und Desinformation sowie Tech-Solutionism liegen.
Es gibt noch eine andere Hypothese
Demnach könnte der Rauswurf sehr wahrscheinlich von Chief Scientist Ilya Sutskever angeführt worden sein, aus Sorge um die Sicherheit und das Tempo der Bereitstellung von OpenAI-Technologie; allerdings war es nicht OpenAI, sondern Quoras Poe, das zuerst einen GPT-/Agenten-Marketplace gestartet hat
Gleichzeitig sitzt der CEO von Quora im Non-Profit-Board von OpenAI
Zumindest lässt sich erkennen, wo seine Interessen lagen, als er gegen Altman und Greg stimmte
ChatGPT war das größte Produkt in der Unternehmensgeschichte und der wichtigste Schritt in Richtung Consumer-Markt
Daher ist es schwer, die Sache einfach als Grenzziehung nach dem Muster „Sam wollte Umsatz, Ilya/das Board wollte reine Forschung“ zu verstehen
Wenn eine Non-Profit-Organisation, in deren Board man sitzt, ein Produkt herausbringt, das mit dem Produkt des eigenen Unternehmens konkurriert: Wie geht man mit diesem Interessenkonflikt um?
Es wirkt so, als hätte er zurücktreten sollen
Das ist kein Coup
Coup sagt man, wenn Macht gewaltsam entrissen wird, nicht wenn Mitglieder zu dem Schluss kommen, dass man ihre Interessen nicht mehr gut vertritt
Das ist so, als würde man es einen Coup nennen, wenn ein Politiker bei einer Wahl abgewählt wird
Wenn man es Coup nennt, entsteht die falsche Implikation, OpenAI habe in irgendeinem Sinne Sam Altman gehört
Eher coupartig ist die Vorstellung, ein Gründer gründe ein Unternehmen, verkaufe Anteile und betrachte es trotzdem weiter so, als gehöre es ihm
Damit würde man den tatsächlichen Eigentümern die Kontrolle entziehen und sie einem Manager geben, der das öffentliche Gesicht ist
Ein buchstäblicher Coup ist tatsächlich die gewaltsame Übernahme eines Staates mit Unterstützung des Militärs, aber im Business und in der weiteren Welt bedeutet Coup im übertragenen Sinn eine heimlich geplante und überraschend ausgeführte Machtergreifung
Genauso wie ein Unternehmen, das „den Krieg erklärt“, nicht meint, dass es Raketen abfeuert und Menschen tötet, sondern dass es Ressourcen auf ein Ziel bündelt und konkurriert
Das hier ist eindeutig ein Coup
Ein Teil des Boards hat es heimlich geplant, es wurde in einer geheimen Board-Sitzung ohne zwei Mitglieder, darunter den Vorsitzenden, umgesetzt, und selbst Microsoft, das 49 % in die gewinnorientierte Einheit investiert hat, hatte weder Kenntnis noch Mitspracherecht
Ich sage damit nicht, ob es richtig oder falsch war, aber es ist einer der Board-Coups, die in die Geschichtsbücher eingehen werden
Es gibt einen Grund, warum das nicht nur auf HN, sondern auch als Titelstory in NYT und WSJ gelandet ist
Auch in der Französischen Revolution werden Ereignisse wie der Sturz Robespierres oder die Annullierung von Wahlen durch das Direktorium häufig als Coups beschrieben
Letzteres war sogar ziemlich unblutig
Es kommt eher einer Verteidigung der verfassungsmäßigen Ordnung von OpenAI gleich
Das Unternehmen ist wie Mozilla um eine Non-Profit-Organisation herum aufgebaut, und der gewinnorientierte Teil wurde bewusst so konstruiert, dass er Kapital zur Erfüllung dieser Mission beschafft
Man sollte sich ansehen, was sie selbst über die Struktur geschrieben haben: https://openai.com/our-structure
Besonders diesen Teil: https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
Die kommerzielle Seite der Marke OpenAI wirkt verschwunden
Wenn ein Non-Profit-Board die Entwicklung verlangsamt und den Kunden ein schlechteres Produkt gibt und damit gegen deren Interessen handelt, wie sollen Kunden sich dann auf OpenAI verlassen?
Die AGI-Seite von OpenAI dürfte dagegen in Ordnung sein
Die verantwortungsvolle AGI-Entwicklung unter Ilya Sutskever wird weitergehen, und ich hoffe, sie hat Erfolg
Microsoft wird vermutlich einige Klagen einreichen und OpenAI intern Steine in den Weg legen
Als Unternehmen mit einem Wert von fast 3 Billionen Dollar und einer Armee von Anwälten kann es großen Schaden anrichten, besonders wenn OpenAI im Silicon-Valley-VC-Lager nicht viel Sympathie genießt
Er hätte auch bankrottgehen, durch Klagen zusammenbrechen oder von Microsoft übernommen werden können
Nur weil der CEO gefeuert wurde, muss man schauen, ob der Erfolg GPT oder dem CEO zu verdanken war
Ersteres ist noch da und ist auch nicht schlechter geworden
Eine Verlangsamung des Wachstums bedeutet nicht automatisch Schrumpfung
In diesem Bereich holen die Konkurrenten schnell auf
Wenn es wirklich wegen Dingen wie dem Dev Day war, könnte das bis zu einem gewissen Grad Sinn ergeben; aber wenn nützliche KI, die Menschen hilft, als unanständig behandelt wird, frage ich mich, ob OpenAI immer mehr zu einem abgeschotteten Kult wird
Dann wird es zu ClosedAI, das man selbst gegen Bezahlung nicht nutzen kann
Ein Beitrag von Jeremy Howard von fast.ai: https://x.com/jeremyphoward/status/1725712220955586899
Er ist nicht gerade ein Insider, aber er scheint im Großen und Ganzen nahe an Ilya und dem Forscherlager zu sein oder mit ihnen zu sympathisieren, und offenbar hat er auch Kontakte
Dieser Tweet und diese Perspektive waren ein nützlicher Proxy dafür, wie sich das Gefühl der Spaltung intern angefühlt haben könnte
Entwickler, mich eingeschlossen, mochten den Dev Day