Wenn OpenAI weiterhin eine 501(c)(3)-Wohltätigkeitsorganisation bleibt, hätte ein Microsoft-Mitarbeiter im Board die Treuepflicht, die Mission der Wohltätigkeitsorganisation über die geschäftlichen Bedürfnisse von Microsoft zu stellen. Der Interessenkonflikt ist so offensichtlich, dass die IRS diese Struktur wohl kaum mögen dürfte.
In Boards großer Unternehmen sind Interessenkonflikte „auf dem Papier“ üblich. Wenn man Menschen mit echter Managementerfahrung im Board haben und von ihnen verantwortungsvolles Handeln erwarten will, passiert das in jeder Branche; es ist kein spezielles Problem der Tech-Branche oder von OpenAI.
In der Praxis läuft es nach Board-Regeln und gesundem Menschenverstand darauf hinaus, sich bei Bedarf herauszuhalten und keinen Unsinn zu machen.
Eine Non-Profit-Organisation dürfte noch nie einer so großen Prüfung ausgesetzt gewesen sein, und die neuen Direktoren werden sich zum eigenen Schutz wohl Anwälte ins Boot holen wollen. Man muss sich nur ihre Position vorstellen, falls Sam Altman tatsächlich etwas getan hat, das eine Entlassung rechtfertigt.
OpenAI als gemeinnützige Public Charity aufzusetzen, war ein großer Fehler, und es ist wenig verlockend, sich in ein solches Chaos zu begeben. Wenn es später in Richtung Private-Foundation-Status kippt, wird es noch interessanter.
OpenAI ist keine Wohltätigkeitsorganisation. Microsofts Investment ging in die gewinnorientierte Gesellschaft OpenAI Global, LLC.
Laut https://openai.com/our-structure wird die gewinnorientierte Tochtergesellschaft vollständig von OpenAI Nonprofit kontrolliert, und die Board-Mitglieder müssen ihre Treuepflicht im Sinne der Mission einer „breit nützlichen, sicheren AGI“ erfüllen. Die Gewinnbeteiligung von Investoren, Mitarbeitern und Microsoft ist gedeckelt, und der über diese Obergrenze hinausgehende Restwert fließt zum Nutzen der Menschheit an die Non-Profit-Organisation zurück. Außerdem entscheidet das Board, ob AGI erreicht wurde; AGI ist von Microsofts Lizenz für geistiges Eigentum und den kommerziellen Bedingungen ausgenommen.
Es gibt keine Anzeichen dafür, dass ein von Microsoft benannter Director zwingend ein Microsoft-Mitarbeiter ist. Das könnte natürlich sein, aber in großen Non-Profit-Organisationen sind Board-Mitglieder aus gewinnorientierten Unternehmen häufig.
Die IRS wird sich darum vermutlich nicht besonders kümmern. Wenn die Behauptung lautet, OpenAI verschaffe dem steuerzahlenden gewinnorientierten Unternehmen Microsoft Vorteile, wirkt das selbst unter Annahme der böswilligsten Einflussnahme eher wie ein Thema für die SEC als für die IRS.
Ich glaube nicht, dass die Regierung das streng regulieren wird. AI ist für Regierung und Militär zu wichtig, als dass man wegen kleiner Interessenkonflikte einen Wettbewerbsvorteil ausbremsen würde.
Mit Sams Rückkehr als CEO hat das OpenAI-Board meiner Meinung nach bewiesen, dass es seine Funktion verloren hat. Wer auch immer im Board sitzt: Es kann seine grundlegendste Befugnis, den CEO zu entlassen, nicht mehr ausüben, und Sam hat gezeigt, dass er faktisch unentlassbar ist.
Damit will ich nicht behaupten, dass Sam gelogen hat oder das künftig tun wird.
Überhaupt nicht. Das Board hat nur auf die inkompetenteste Weise gehandelt, die eine verantwortliche Gruppe wählen konnte.
Hätte es ein ordentliches Verfahren gegeben, hätte man Mitarbeiter und Investoren informiert und die Gründe für die Entlassung des CEO veröffentlicht, dann hätte es keine per 15-minütigem Google Meet abgewickelte Aktion mit anschließendem vollständigem Schweigen gegeben, und diese Empörung wäre nicht entstanden.
Stell dir vor, Apples Board würde Tim Cook unmittelbar nachdem er auf der Bühne die diesjährigen Updates der Entwicklerplattform sowie Rekordwachstum und -verkäufe präsentiert hat, ohne jede Vorwarnung entlassen, den Investoren mehrere Tage lang Gründe oder irgendeine hilfreiche Kommunikation verweigern und am selben Wochenende den ersten Interims-CEO durch einen weiteren Interims-CEO aus einer völlig anderen Branche ersetzen.
Wenn du glaubst, es hätte keine Aktionärsrevolte gegen das Board gegeben, nur weil es seine grundlegende Befugnis zur Entlassung des CEO ausgeübt hat, übersiehst du einen Teil der Situation.
Das ist für das Board ein besserer Deal und für Sam ein schlechterer, als viele denken. Sam, Greg und Ilya sind alle nicht mehr im Board, D'Angelo bleibt trotz absurden Verhaltens, und er bekommt ein Vetorecht und großen Einfluss bei der Ernennung neuer Directors.
Künftig werden alle Sam mit Vorsicht begegnen. Er hat viel weniger Hebel als im früheren Board. Am Ende kann er mit Charme und sozialen Fähigkeiten vielleicht andere unabhängige Directors überzeugen und gewinnen, aber er muss sein eigenes Verhalten stark kontrollieren, damit sie auf seiner Seite bleiben und nicht auf D'Angelos.
Stimmt, aber umgekehrt hat diese Episode gezeigt, dass OpenAI nicht mehr reibungslos funktioniert und das wahrscheinlich auch nie wieder tun wird. Man kann einer Schlange nicht den Kopf abschlagen, ihn wieder annähen und erwarten, dass sie weiterkriecht wie zuvor.
Selbst wenn Sam bleibt, gibt es in einer komplexen Organisation wie OpenAI tausende implizite Regeln, Beziehungen und versteckte Abläufe, die auch ohne direkte Einmischung des CEO funktionieren müssen. Sams Wiedereinstellung wirkt wie ein Zeichen dafür, dass das künftige OpenAI nur noch ein blasser Schatten des früheren sein wird. Wenn er wirklich wieder festen Halt findet, wäre das merkwürdig, erst recht mit Blick auf die anderen Abgänge. Das heißt nicht, dass OpenAI stirbt, aber es hat eindeutig eine Schwäche offengelegt.
Das Board kann Sam weiterhin entlassen, wenn es die wichtigsten Stakeholder vorher überzeugt. Jemanden, der gute Arbeit leistet, ohne jede Begründung zu entlassen, ergab keinen Sinn, und das scheint der Kern des Problems gewesen zu sein.
Letztlich wissen alle, dass diese Non-Profit-Struktur nur Fassade ist und nicht gut funktionieren wird.
Irgendwie erinnert mich das an das Coke/New-Coke-Fiasko. Am Ende machte es Coke Classic bekannter als zuvor.
Die Verbraucher waren wütend und wollten den Geschmack zurück, mit dem sie aufgewachsen waren, und die Forderung nach der Rückkehr des ursprünglichen Produkts war so groß, dass Journalisten sogar fragten, ob das ganze Projekt inszeniert gewesen sei. Darauf antwortete Coca-Cola-Präsident Don Keough am 10. Juli 1985: „Wir sind weder so dumm noch so klug.“ https://en.wikipedia.org/wiki/New_Coke
Als New Coke wegen Stranger Things neu aufgelegt wurde, habe ich es probiert, und es war deutlich besser als Coca Cola Classic. Schade, dass es gescheitert ist.
Ich hatte vermutet, dass diese Inszenierung dazu gedacht war, den Wechsel von Zucker zu Maissirup mit hohem Fructosegehalt zu verschleiern.
Ilya ist aus dem Board raus, Adam ist aber immer noch dabei. Das lässt einen schon die Augenbrauen hochziehen, aber so ist es nun mal.
Nur weil Sam zurück ist, wird diese Sache nicht einfach verschwinden. Seit Sam wie jemand wirkt, der unersetzlich ist, wird OAI große Veränderungen durchmachen. Ich bezweifle, dass OAI langfristig zu einem dieser Megakonzerne wie Facebook oder Uber wird; Vertrauen ist verloren gegangen.
Es geht weniger darum, dass er unersetzlich ist, sondern eher darum, dass es Probleme gibt, wenn man jemanden ohne großen Grund plötzlich rauswirft.
Die Geschichte hat immer wieder gezeigt, dass ein gutes Produkt viel wichtiger ist als Vertrauen, und Facebook und Uber sind der Beweis dafür. Direkt nach einem Skandal sagen alle laut, sie hätten das Vertrauen verloren, aber wenn es so weit ist, verlängern sie stillschweigend ihre Verträge.
Große Werbekonzerne wie Google, Amazon und Facebook haben fast jeden Monat einen Skandal, aber die Werbeumsätze fließen weiter. Meltdown war ein großer Skandal, aber Intel produziert weiter Chips.
Facebook hat so viel Vertrauen verloren, dass man es gar nicht mehr zählen kann, ist aber immer noch eine Megacorp, oder?
Sam Altman ist ein enorm charismatischer Gründer-CEO, den manche für manipulativ halten, der aber von vielen Mitarbeitern geliebt wird. Er wurde vom Board rausgeworfen und kehrte zurück, als das Board seinen Fehler erkannte.
Das passt nicht genau zur Gründungsstory riesiger Erfolgskonzerne wie Facebook, Amazon, Microsoft oder Google, aber ich halte es weiterhin für möglich, dass so jemand ein riesiges Unternehmen aufbaut. Wichtiger als ein riesiges Unternehmen aufzubauen ist natürlich, ein wahnsinnig gutes Produkt zu bauen.
Am Ende wissen wir immer noch nicht genau, was passiert ist, und werden es vermutlich auch nie erfahren. Klar scheint nur, dass es einen Riss gab zwischen Team Sam, das für schnelle Kommerzialisierung stand, und Team Helen/Ilya, das für das Festhalten an den ursprünglichen Prinzipien stand.
Schon ein Artikel von vor GPT-3 sagte, dass die Gründungsideale von Transparenz, Offenheit und Zusammenarbeit durch harten Wettbewerb und den Druck nach mehr Finanzierung ausgehöhlt würden. Team Helen handelte panisch, dürfte aber geglaubt haben, zu gewinnen, weil es meinte, die Gründungsprinzipien der Organisation zu verteidigen. Aber sie hatten von Anfang an keine Chance. Nur wenige in der Öffentlichkeit interessieren sich wirklich für AI Safety, der Rest mag es, dass ChatGPT bei den Hausaufgaben hilft. Dass das Board absurd dumm gehandelt hat, verdient Spott, aber man sollte auch die Gegenseite bedenken: Wenn man wirklich glaubt, dass übermenschliche KI nahe ist und bösartig handeln kann, würde man dann nicht versuchen, das Tempo zu drosseln?
Ehrlich gesagt fällt es mir schwer, diese Bedrohung ernst zu nehmen, aber ich möchte sie inzwischen besser verstehen als früher. Vielleicht ist sie nicht so unbegründet, wie ich dachte. Ich hoffe, dass nie der Tag kommt, an dem Team Helen sagen kann: „Genau das wollten wir verhindern.“ https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Was die breite Öffentlichkeit darüber denkt, ist hier nicht wichtig. Der entscheidende Faktor war die Mitarbeiterrebellion, und ohne Mitarbeiter ist eine Organisation nur eine leere Hülle.
Die Mitarbeiter stellten sich auf die Seite, die schnell Wirkung in der realen Welt erzielen wollte, und das wirkt sich auch direkt auf ihre Karrieren und Aktienoptionen aus. Es ist auch naiv, das als Prinzipienstreit zu betrachten. Die Parolen schnelle Kommerzialisierung gegen Prinzipien waren das, womit die jeweiligen Lager ihre Seite sammelten; tatsächlich war es wahrscheinlich eher eine unverblümte Machtübernahme, die eine schwache und chaotische Organisationsstruktur ausnutzte. Der „richtige“ Weg, Altman loszuwerden, wäre gewesen, seine Befugnisse im Board nach und nach einzuschränken und ihn zunehmend in eine zeremonielle Rolle zu drängen, bis er von selbst geht.
Wenn OpenAI sich der Singularität nähert, dann gilt das auch für Google, Meta, Baidu und andere. Dann wäre es richtig, die NSA oder das Weiße Haus einzubeziehen und zusammen mit Google, Meta und Microsoft Gegenmaßnahmen einzuleiten.
Nur OpenAI zu verlangsamen, schadet dem Unternehmen, wenn die Annahme falsch ist, und hilft nicht, wenn sie stimmt. Das wirkt weniger wie ein Kampf um Prinzipien und Richtung, sondern eher wie ein Kampf um Ego und Macht.
Dieses Narrativ klingt plausibel, erklärt aber nicht die bizarren und aggressiven Formulierungen in der ersten Pressemitteilung.
Hätte man auf die Gründungsprinzipien oder die Charta verwiesen und gesagt, dass das Board und Sam unüberbrückbare Meinungsverschiedenheiten über deren Auslegung hatten, und sich zugleich zutiefst für seine bisherigen Verdienste bedankt, hätte die Lage anders aussehen können. Natürlich wären ein geeigneter Nachfolge-CEO und die Zusicherung, dass die PPUs der Mitarbeiter liquidierbar werden, noch viel wichtiger gewesen. Anfangs war die Erklärung so schlecht, dass ich dachte, Sam müsse irgendein Verbrechen begangen haben.
Die Ironie, dass eine Organisation, die von verantwortungsvollem Fortschritt sprach, nicht einmal die Ausrichtung der Anreizstrukturen in der eigenen Organisation hinbekommen hat, darf man ruhig verspotten. Das ist ein schwerer Schlag für die Glaubwürdigkeit und lässt sogar ihre vorgebrachten ethischen Bedenken zweifelhaft erscheinen.
Wenn man die Bedrohung für real hält, ist es dann nicht ohnehin schon vorbei? OpenAI ist nur eines von mehreren Teams, die an diesem Problem arbeiten, und alle werden von den enormen Geld- und Talentressourcen großer börsennotierter Unternehmen getragen.
OpenAI hat zwar einen einzigartigen Beitrag geleistet, ist aber nicht überwältigend weit voraus. Wenn OpenAI ins Wanken gerät, wird wahrscheinlich jemand anderes die Führung übernehmen, und man weiß auch nicht, wo die nächste große Innovation herkommt. Wenn man die Bedrohung wirklich ernst nimmt, verstehe ich nicht, warum man annimmt, OpenAI sei der absolute Spitzenreiter. Wenn man das Unternehmen langsamer macht, ist das wahrscheinlichste Ergebnis, dass man die Führung an jemand anderen abgibt.
Man kann die Konstellation so sehen: Bei einem Entwickler namens Ilya gegen einen Geschäftsmann namens Sam gewinnt Sam. Wenn Hunderte Entwickler mit Kündigung drohen und das Board dagegenhält, gewinnen die Entwickler.
Von außen betrachtet sieht es so aus, als hätten die Entwickler von Anfang an die Macht gehabt, und so sollte es auch sein.
Dass in irgendeinem Unternehmen 95 % dieselbe Position einnehmen, ist beispiellos, aber es gibt mehrere Gründe dafür.
Sie hätten in dem neuen Microsoft-Startup ähnliche Positionen und Vergütung bekommen können, ihre Jobs waren also nicht in Gefahr; Sam hatte ursprünglich jede Einstellung abgesegnet; und OpenAI hatte Leute eingestellt, die lieber in einer zielorientierten Non-Profit-Organisation arbeiten wollten als in anderen Unternehmen, die höhere Vergütung zahlen können. Jedenfalls war es eine gute Strategie, gemeinsam mit Kündigung zu drohen, und sie hat funktioniert. „OpenAI is nothing without its people“ war ein Macht-Check gegen ein schlechtes Board.
Es gibt drei Drachen: Mitarbeiter, Kunden, Regierung. Wenn sie motiviert und ausgerichtet sind, kann jeder dieser drei ein Unternehmen beenden, wenn er will.
Man sollte den Drachen nicht wecken.
Es ist eher so, dass das Geld gewonnen hat. Die meisten Mitarbeitenden scheinen sich ganz offensichtlich nicht besonders um die Mission von OpenAI gekümmert zu haben. Ich mache ihnen keinen Vorwurf, denn sie wurden von der gewinnorientierten OpenAI-Firma angestellt und entsprechend diesem Ziel mit Anteilen vergütet.
Meiner Meinung nach hatte der Vorstand recht damit, zu versuchen, die ursprüngliche Mission von OpenAI zu schützen. Auch wenn diese Mission jetzt bedeutungslos geworden ist. Das Argument, Google, Meta und Microsoft würden es ohnehin entwickeln, ist eine bequeme Logik. Im nuklearen Wettrüsten wurde es genauso benutzt: „Wenn wir es nicht bauen, bauen es andere.“ Das Ergebnis ist die heutige Lage.
Können wir sicher sein, dass Ilya der Ursprung dieser Sache war? Anfangs unterstützte er sie, später unterschrieb er aber auch den Brief, in dem stand, man werde kündigen, falls es nicht rückgängig gemacht wird.
Ich frage mich, welche Belege es dafür gibt, dass nicht D'Angelo, sondern Ilya dahintersteckte.
Der Zusammenhalt der Entwickler wirkt stärker als das Unternehmen selbst. Genau deshalb hassen Big-Tech-Führungskräfte Gewerkschaften so sehr.
Ich hatte Hoffnungen in einen von der Privatwirtschaft getragenen Ansatz für AI Safety, aber das scheint jetzt schwierig zu sein; und weil staatliche Investitionen in öffentliche KI-Forschung und -Entwicklung langsam sind, wirken alle Ansätze für AI Safety unsicher.
Sicherheitsforschung an Spielzeugmodellen wird weiter Fortschritte machen, aber die Erwartung in der Branche scheint zu sein, dass es wegen emergenter Eigenschaften eine niedrige Obergrenze dafür gibt, was man über Sicherheit lernen kann, ohne an Spitzenmodellen zu forschen. Altman hat die Governance-Struktur von OpenAI als Mechanismus beworben, der Sicherheit priorisieren sollte, aber Berichte, wonach Sicherheitspersonal zur Bewältigung der ChatGPT-Last umverteilt wurde, sind besorgniserregend. Nun hat der Vorstand gezeigt, dass er zwar technisch dazu in der Lage war, aber nicht stark genug, um solche Interessenkonflikte zu kontrollieren; und es ist unklar, wie sicherheitsorientierte Organisationen, einschließlich Anthropic, dem akzelerationistischen Einfluss ihrer Geldgeber entkommen können.
So etwas wie emergente Eigenschaften gibt es nicht, es wächst nur das durchsuchbare Wissen linear.
Sie können nicht planen, nicht rechnen und nicht schlussfolgern. Man kann Wissen grob über natürlichsprachliche Anfragen durchsuchen, und dieser Teil ist ziemlich gut; außerdem können Daten in natürlicher Sprache und anderen Modalitäten kodiert werden. Das an sich beunruhigt mich nicht, wohl aber, dass Menschen massiv missverstehen, was diese Modelle können, und sie dann für wichtige Dinge einsetzen wollen.
Wenn mehr Aufwand in frühe Kommerzialisierung fließt, etwa ChatGPT dauerhaft stabil zu betreiben, könnte entsprechend weniger Aufwand in die Entwicklung von Spitzenfähigkeiten gehen. Altman war von Anfang an kein AI-Safety-Mensch, daher hoffe ich persönlich, dass Anthropic dieses Problem mit besserer Führung vermeidet.
Es reicht, nicht inkompetent zu sein und die eigene Macht nicht für persönliche Vorteile zu missbrauchen. Die Leute sind nicht so dumm, wie man denkt; sie durchschauen solchen Unsinn und kündigen eher, als einem dummen Tyrannen zu folgen.
Ich würde gern wissen, was ein Modell ist, das kein „Spielzeugmodell“ ist.
Ich hätte wirklich nicht gedacht, dass so etwas passieren würde. Die nächste Frage ist natürlich, was mit Ilya passiert. Nach dieser Ankündigung scheint er aus dem Vorstand raus zu sein, aber ist er weiterhin Chief Scientist? Es ist schwer zu glauben, dass er und Sam ihre Beziehung wiederherstellen und so eng zusammenarbeiten können.
Interessant ist auch, dass Adam im Vorstand bleibt; das scheint mehrere der hier kursierenden Theorien zu widerlegen, wonach er wegen Interessenkonflikten der Drahtzieher gewesen sei.
Aus Ilyas Sicht scheint sich nicht viel geändert zu haben. Sam hat ihn vor einem Monat wegen anhaltender Meinungsverschiedenheiten darüber, wie schnell die Kommerzialisierung vorangetrieben werden sollte, an den Rand gedrängt.
Wenn Ilya weiterhin an den Rand gedrängt bleibt, wird er wahrscheinlich gehen, und das Unternehmen, das ihm die meiste Kontrolle gibt, wird ihn holen. Dasselbe gilt, wenn er entlassen wird. Wenn er als Teil der Einigung wieder ins Zentrum gerückt wird, bleibt er vermutlich Chief Scientist. Ich hoffe, Sams Feindseligkeit lässt jetzt etwas nach.
Seltsamerweise finde ich, dass Ilya aus dieser Sache ziemlich gut herauskommt. Er traf eine Entscheidung nach seinen Werten und dem, was er für das Beste für AI Safety hielt; als er die Folgen sah, änderte er seine Meinung und übernahm Verantwortung.
Obwohl er gewusst haben muss, dass er im Internet für die Kehrtwende verspottet würde, bewegte er sich in die Richtung, die er für das Beste für die unterzeichnenden Mitarbeitenden hielt. Seine Handlungen kann man kritisieren, aber sie haben seinen moralischen Charakter gezeigt. Die anderen Vorstandsmitglieder scheinen aus persönlicheren Gründen entschieden zu haben, was auch zu Adams Interessenkonflikt passt. Ehrlich gesagt ist Ilya der Einzige der vier, den ich im Vorstand behalten wollen würde. In Führungspositionen braucht man Menschen, die aufgrund neuer Informationen den Kurs ändern können.
Man kann es auch optimistischer sehen. Die beiden kennen einander ziemlich gut und wissen, wie man gemeinsam große Dinge schafft. Manchmal passieren Dinge, oder jemand macht einen Fehler, und eine aufrichtige, einfache Entschuldigung kann ziemlich weit tragen.
Sam wird keine Probleme haben, die Beziehung wiederherzustellen, weil er weiß, wie Geschäftsbeziehungen funktionieren. Außerdem hat Ilya, wie in seinem Tweet zu sehen war, bereits den Ring geküsst.
Im neuen Vorstand wirkt Adam D'Angelo pro Vorstand, Brett Taylor pro Sam und Larry Summers eher neutral. Brett hat seit Sonntag auf Sams Rückkehr gedrängt, also nehme ich an, dass Sam und die OpenAI-Führung ihn mögen. Larry hat zwar nie im KI-Bereich gearbeitet, ist aber allgemein ein respektierter Name, und beide Seiten werden vor dem Kompromiss umfangreiche Interviews und Reputationsprüfungen vorgenommen haben.
Es wird interessant, wie sich der Vorstand künftig verändert. Grob gesagt gab es zwei Fraktionen. Die Fraktion, die Sam für zu schnell hielt, entließ ihn; zu der Fraktion, die Sams Kurs für in Ordnung hielt, gehörten Sam und Greg. Jetzt gibt es im Vorstand ein Gleichgewicht, und spätere Ernennungen könnten ihn in die eine oder andere Richtung kippen. Leider halten gespaltene Vorstände selten lange, und am Ende dürfte eine Seite gewinnen. Ich glaube, Sams Seite wird letztlich gewinnen, aber wir werden sehen.
Eines der traurigsten Ergebnisse dieses Dramas ist, dass Greg aus OpenAI gedrängt wurde. Greg ist nicht nur herausragend, sondern hat auch konsequent 80 bis 90 Stunden pro Woche in OpenAI gesteckt und kann wohl sagen, dass er einen erheblichen Teil seines Lebens dem Aufbau dieser Organisation gewidmet hat. Wenn so jemand von einem Vorstand zurücktreten musste, der kaum zum Aufbau von OpenAI beigetragen hat, geschweige denn 90-Stunden-Wochen dafür gearbeitet hat, ist das eine Beleidigung. Ilya ist die Ausnahme, und bemerkenswert ist auch, dass er seine Position umkehrte, als er sah, dass seine Handlungen OpenAI töteten.
Die beängstigende Wahl hier ist Larry Summers. Seine Haltung zur Deregulierung der Banken führte zur globalen Finanzkrise, und es gab auch mehrere Kontroversen wegen rassistischer und sexistischer Positionen. Außerdem war er ein langjähriger Freund von Epstein und war mehrmals auf dessen Insel.
Greg musste nur von seinem Vorstandssitz zurücktreten, nicht von seiner Stelle.
1 Kommentare
Meinungen auf Hacker News
In diesem Thread gibt es über 1800 Kommentare. Wer alle lesen möchte, kann unten auf jeder Seite auf „More“ klicken oder die Seiten direkt wie unten öffnen.
https://news.ycombinator.com/item?id=38375239&p=2
https://news.ycombinator.com/item?id=38375239&p=3
https://news.ycombinator.com/item?id=38375239&p=4
Wenn OpenAI weiterhin eine 501(c)(3)-Wohltätigkeitsorganisation bleibt, hätte ein Microsoft-Mitarbeiter im Board die Treuepflicht, die Mission der Wohltätigkeitsorganisation über die geschäftlichen Bedürfnisse von Microsoft zu stellen. Der Interessenkonflikt ist so offensichtlich, dass die IRS diese Struktur wohl kaum mögen dürfte.
In der Praxis läuft es nach Board-Regeln und gesundem Menschenverstand darauf hinaus, sich bei Bedarf herauszuhalten und keinen Unsinn zu machen.
OpenAI als gemeinnützige Public Charity aufzusetzen, war ein großer Fehler, und es ist wenig verlockend, sich in ein solches Chaos zu begeben. Wenn es später in Richtung Private-Foundation-Status kippt, wird es noch interessanter.
Laut https://openai.com/our-structure wird die gewinnorientierte Tochtergesellschaft vollständig von OpenAI Nonprofit kontrolliert, und die Board-Mitglieder müssen ihre Treuepflicht im Sinne der Mission einer „breit nützlichen, sicheren AGI“ erfüllen. Die Gewinnbeteiligung von Investoren, Mitarbeitern und Microsoft ist gedeckelt, und der über diese Obergrenze hinausgehende Restwert fließt zum Nutzen der Menschheit an die Non-Profit-Organisation zurück. Außerdem entscheidet das Board, ob AGI erreicht wurde; AGI ist von Microsofts Lizenz für geistiges Eigentum und den kommerziellen Bedingungen ausgenommen.
Die IRS wird sich darum vermutlich nicht besonders kümmern. Wenn die Behauptung lautet, OpenAI verschaffe dem steuerzahlenden gewinnorientierten Unternehmen Microsoft Vorteile, wirkt das selbst unter Annahme der böswilligsten Einflussnahme eher wie ein Thema für die SEC als für die IRS.
Mit Sams Rückkehr als CEO hat das OpenAI-Board meiner Meinung nach bewiesen, dass es seine Funktion verloren hat. Wer auch immer im Board sitzt: Es kann seine grundlegendste Befugnis, den CEO zu entlassen, nicht mehr ausüben, und Sam hat gezeigt, dass er faktisch unentlassbar ist.
Damit will ich nicht behaupten, dass Sam gelogen hat oder das künftig tun wird.
Hätte es ein ordentliches Verfahren gegeben, hätte man Mitarbeiter und Investoren informiert und die Gründe für die Entlassung des CEO veröffentlicht, dann hätte es keine per 15-minütigem Google Meet abgewickelte Aktion mit anschließendem vollständigem Schweigen gegeben, und diese Empörung wäre nicht entstanden.
Wenn du glaubst, es hätte keine Aktionärsrevolte gegen das Board gegeben, nur weil es seine grundlegende Befugnis zur Entlassung des CEO ausgeübt hat, übersiehst du einen Teil der Situation.
Künftig werden alle Sam mit Vorsicht begegnen. Er hat viel weniger Hebel als im früheren Board. Am Ende kann er mit Charme und sozialen Fähigkeiten vielleicht andere unabhängige Directors überzeugen und gewinnen, aber er muss sein eigenes Verhalten stark kontrollieren, damit sie auf seiner Seite bleiben und nicht auf D'Angelos.
Selbst wenn Sam bleibt, gibt es in einer komplexen Organisation wie OpenAI tausende implizite Regeln, Beziehungen und versteckte Abläufe, die auch ohne direkte Einmischung des CEO funktionieren müssen. Sams Wiedereinstellung wirkt wie ein Zeichen dafür, dass das künftige OpenAI nur noch ein blasser Schatten des früheren sein wird. Wenn er wirklich wieder festen Halt findet, wäre das merkwürdig, erst recht mit Blick auf die anderen Abgänge. Das heißt nicht, dass OpenAI stirbt, aber es hat eindeutig eine Schwäche offengelegt.
Letztlich wissen alle, dass diese Non-Profit-Struktur nur Fassade ist und nicht gut funktionieren wird.
Irgendwie erinnert mich das an das Coke/New-Coke-Fiasko. Am Ende machte es Coke Classic bekannter als zuvor.
Die Verbraucher waren wütend und wollten den Geschmack zurück, mit dem sie aufgewachsen waren, und die Forderung nach der Rückkehr des ursprünglichen Produkts war so groß, dass Journalisten sogar fragten, ob das ganze Projekt inszeniert gewesen sei. Darauf antwortete Coca-Cola-Präsident Don Keough am 10. Juli 1985: „Wir sind weder so dumm noch so klug.“
https://en.wikipedia.org/wiki/New_Coke
Als New Coke wegen Stranger Things neu aufgelegt wurde, habe ich es probiert, und es war deutlich besser als Coca Cola Classic. Schade, dass es gescheitert ist.
Ilya ist aus dem Board raus, Adam ist aber immer noch dabei. Das lässt einen schon die Augenbrauen hochziehen, aber so ist es nun mal.
Nur weil Sam zurück ist, wird diese Sache nicht einfach verschwinden. Seit Sam wie jemand wirkt, der unersetzlich ist, wird OAI große Veränderungen durchmachen. Ich bezweifle, dass OAI langfristig zu einem dieser Megakonzerne wie Facebook oder Uber wird; Vertrauen ist verloren gegangen.
Große Werbekonzerne wie Google, Amazon und Facebook haben fast jeden Monat einen Skandal, aber die Werbeumsätze fließen weiter. Meltdown war ein großer Skandal, aber Intel produziert weiter Chips.
Das passt nicht genau zur Gründungsstory riesiger Erfolgskonzerne wie Facebook, Amazon, Microsoft oder Google, aber ich halte es weiterhin für möglich, dass so jemand ein riesiges Unternehmen aufbaut. Wichtiger als ein riesiges Unternehmen aufzubauen ist natürlich, ein wahnsinnig gutes Produkt zu bauen.
Am Ende wissen wir immer noch nicht genau, was passiert ist, und werden es vermutlich auch nie erfahren. Klar scheint nur, dass es einen Riss gab zwischen Team Sam, das für schnelle Kommerzialisierung stand, und Team Helen/Ilya, das für das Festhalten an den ursprünglichen Prinzipien stand.
Schon ein Artikel von vor GPT-3 sagte, dass die Gründungsideale von Transparenz, Offenheit und Zusammenarbeit durch harten Wettbewerb und den Druck nach mehr Finanzierung ausgehöhlt würden. Team Helen handelte panisch, dürfte aber geglaubt haben, zu gewinnen, weil es meinte, die Gründungsprinzipien der Organisation zu verteidigen. Aber sie hatten von Anfang an keine Chance. Nur wenige in der Öffentlichkeit interessieren sich wirklich für AI Safety, der Rest mag es, dass ChatGPT bei den Hausaufgaben hilft. Dass das Board absurd dumm gehandelt hat, verdient Spott, aber man sollte auch die Gegenseite bedenken: Wenn man wirklich glaubt, dass übermenschliche KI nahe ist und bösartig handeln kann, würde man dann nicht versuchen, das Tempo zu drosseln?
Ehrlich gesagt fällt es mir schwer, diese Bedrohung ernst zu nehmen, aber ich möchte sie inzwischen besser verstehen als früher. Vielleicht ist sie nicht so unbegründet, wie ich dachte. Ich hoffe, dass nie der Tag kommt, an dem Team Helen sagen kann: „Genau das wollten wir verhindern.“
https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Die Mitarbeiter stellten sich auf die Seite, die schnell Wirkung in der realen Welt erzielen wollte, und das wirkt sich auch direkt auf ihre Karrieren und Aktienoptionen aus. Es ist auch naiv, das als Prinzipienstreit zu betrachten. Die Parolen schnelle Kommerzialisierung gegen Prinzipien waren das, womit die jeweiligen Lager ihre Seite sammelten; tatsächlich war es wahrscheinlich eher eine unverblümte Machtübernahme, die eine schwache und chaotische Organisationsstruktur ausnutzte. Der „richtige“ Weg, Altman loszuwerden, wäre gewesen, seine Befugnisse im Board nach und nach einzuschränken und ihn zunehmend in eine zeremonielle Rolle zu drängen, bis er von selbst geht.
Nur OpenAI zu verlangsamen, schadet dem Unternehmen, wenn die Annahme falsch ist, und hilft nicht, wenn sie stimmt. Das wirkt weniger wie ein Kampf um Prinzipien und Richtung, sondern eher wie ein Kampf um Ego und Macht.
Hätte man auf die Gründungsprinzipien oder die Charta verwiesen und gesagt, dass das Board und Sam unüberbrückbare Meinungsverschiedenheiten über deren Auslegung hatten, und sich zugleich zutiefst für seine bisherigen Verdienste bedankt, hätte die Lage anders aussehen können. Natürlich wären ein geeigneter Nachfolge-CEO und die Zusicherung, dass die PPUs der Mitarbeiter liquidierbar werden, noch viel wichtiger gewesen. Anfangs war die Erklärung so schlecht, dass ich dachte, Sam müsse irgendein Verbrechen begangen haben.
OpenAI hat zwar einen einzigartigen Beitrag geleistet, ist aber nicht überwältigend weit voraus. Wenn OpenAI ins Wanken gerät, wird wahrscheinlich jemand anderes die Führung übernehmen, und man weiß auch nicht, wo die nächste große Innovation herkommt. Wenn man die Bedrohung wirklich ernst nimmt, verstehe ich nicht, warum man annimmt, OpenAI sei der absolute Spitzenreiter. Wenn man das Unternehmen langsamer macht, ist das wahrscheinlichste Ergebnis, dass man die Führung an jemand anderen abgibt.
Man kann die Konstellation so sehen: Bei einem Entwickler namens Ilya gegen einen Geschäftsmann namens Sam gewinnt Sam. Wenn Hunderte Entwickler mit Kündigung drohen und das Board dagegenhält, gewinnen die Entwickler.
Von außen betrachtet sieht es so aus, als hätten die Entwickler von Anfang an die Macht gehabt, und so sollte es auch sein.
Sie hätten in dem neuen Microsoft-Startup ähnliche Positionen und Vergütung bekommen können, ihre Jobs waren also nicht in Gefahr; Sam hatte ursprünglich jede Einstellung abgesegnet; und OpenAI hatte Leute eingestellt, die lieber in einer zielorientierten Non-Profit-Organisation arbeiten wollten als in anderen Unternehmen, die höhere Vergütung zahlen können. Jedenfalls war es eine gute Strategie, gemeinsam mit Kündigung zu drohen, und sie hat funktioniert. „OpenAI is nothing without its people“ war ein Macht-Check gegen ein schlechtes Board.
Man sollte den Drachen nicht wecken.
Es ist eher so, dass das Geld gewonnen hat. Die meisten Mitarbeitenden scheinen sich ganz offensichtlich nicht besonders um die Mission von OpenAI gekümmert zu haben. Ich mache ihnen keinen Vorwurf, denn sie wurden von der gewinnorientierten OpenAI-Firma angestellt und entsprechend diesem Ziel mit Anteilen vergütet.
Meiner Meinung nach hatte der Vorstand recht damit, zu versuchen, die ursprüngliche Mission von OpenAI zu schützen. Auch wenn diese Mission jetzt bedeutungslos geworden ist. Das Argument, Google, Meta und Microsoft würden es ohnehin entwickeln, ist eine bequeme Logik. Im nuklearen Wettrüsten wurde es genauso benutzt: „Wenn wir es nicht bauen, bauen es andere.“ Das Ergebnis ist die heutige Lage.
Ich frage mich, welche Belege es dafür gibt, dass nicht D'Angelo, sondern Ilya dahintersteckte.
Ich hatte Hoffnungen in einen von der Privatwirtschaft getragenen Ansatz für AI Safety, aber das scheint jetzt schwierig zu sein; und weil staatliche Investitionen in öffentliche KI-Forschung und -Entwicklung langsam sind, wirken alle Ansätze für AI Safety unsicher.
Sicherheitsforschung an Spielzeugmodellen wird weiter Fortschritte machen, aber die Erwartung in der Branche scheint zu sein, dass es wegen emergenter Eigenschaften eine niedrige Obergrenze dafür gibt, was man über Sicherheit lernen kann, ohne an Spitzenmodellen zu forschen. Altman hat die Governance-Struktur von OpenAI als Mechanismus beworben, der Sicherheit priorisieren sollte, aber Berichte, wonach Sicherheitspersonal zur Bewältigung der ChatGPT-Last umverteilt wurde, sind besorgniserregend. Nun hat der Vorstand gezeigt, dass er zwar technisch dazu in der Lage war, aber nicht stark genug, um solche Interessenkonflikte zu kontrollieren; und es ist unklar, wie sicherheitsorientierte Organisationen, einschließlich Anthropic, dem akzelerationistischen Einfluss ihrer Geldgeber entkommen können.
Sie können nicht planen, nicht rechnen und nicht schlussfolgern. Man kann Wissen grob über natürlichsprachliche Anfragen durchsuchen, und dieser Teil ist ziemlich gut; außerdem können Daten in natürlicher Sprache und anderen Modalitäten kodiert werden. Das an sich beunruhigt mich nicht, wohl aber, dass Menschen massiv missverstehen, was diese Modelle können, und sie dann für wichtige Dinge einsetzen wollen.
Ich hätte wirklich nicht gedacht, dass so etwas passieren würde. Die nächste Frage ist natürlich, was mit Ilya passiert. Nach dieser Ankündigung scheint er aus dem Vorstand raus zu sein, aber ist er weiterhin Chief Scientist? Es ist schwer zu glauben, dass er und Sam ihre Beziehung wiederherstellen und so eng zusammenarbeiten können.
Interessant ist auch, dass Adam im Vorstand bleibt; das scheint mehrere der hier kursierenden Theorien zu widerlegen, wonach er wegen Interessenkonflikten der Drahtzieher gewesen sei.
Wenn Ilya weiterhin an den Rand gedrängt bleibt, wird er wahrscheinlich gehen, und das Unternehmen, das ihm die meiste Kontrolle gibt, wird ihn holen. Dasselbe gilt, wenn er entlassen wird. Wenn er als Teil der Einigung wieder ins Zentrum gerückt wird, bleibt er vermutlich Chief Scientist. Ich hoffe, Sams Feindseligkeit lässt jetzt etwas nach.
Obwohl er gewusst haben muss, dass er im Internet für die Kehrtwende verspottet würde, bewegte er sich in die Richtung, die er für das Beste für die unterzeichnenden Mitarbeitenden hielt. Seine Handlungen kann man kritisieren, aber sie haben seinen moralischen Charakter gezeigt. Die anderen Vorstandsmitglieder scheinen aus persönlicheren Gründen entschieden zu haben, was auch zu Adams Interessenkonflikt passt. Ehrlich gesagt ist Ilya der Einzige der vier, den ich im Vorstand behalten wollen würde. In Führungspositionen braucht man Menschen, die aufgrund neuer Informationen den Kurs ändern können.
Im neuen Vorstand wirkt Adam D'Angelo pro Vorstand, Brett Taylor pro Sam und Larry Summers eher neutral. Brett hat seit Sonntag auf Sams Rückkehr gedrängt, also nehme ich an, dass Sam und die OpenAI-Führung ihn mögen. Larry hat zwar nie im KI-Bereich gearbeitet, ist aber allgemein ein respektierter Name, und beide Seiten werden vor dem Kompromiss umfangreiche Interviews und Reputationsprüfungen vorgenommen haben.
Es wird interessant, wie sich der Vorstand künftig verändert. Grob gesagt gab es zwei Fraktionen. Die Fraktion, die Sam für zu schnell hielt, entließ ihn; zu der Fraktion, die Sams Kurs für in Ordnung hielt, gehörten Sam und Greg. Jetzt gibt es im Vorstand ein Gleichgewicht, und spätere Ernennungen könnten ihn in die eine oder andere Richtung kippen. Leider halten gespaltene Vorstände selten lange, und am Ende dürfte eine Seite gewinnen. Ich glaube, Sams Seite wird letztlich gewinnen, aber wir werden sehen.
Eines der traurigsten Ergebnisse dieses Dramas ist, dass Greg aus OpenAI gedrängt wurde. Greg ist nicht nur herausragend, sondern hat auch konsequent 80 bis 90 Stunden pro Woche in OpenAI gesteckt und kann wohl sagen, dass er einen erheblichen Teil seines Lebens dem Aufbau dieser Organisation gewidmet hat. Wenn so jemand von einem Vorstand zurücktreten musste, der kaum zum Aufbau von OpenAI beigetragen hat, geschweige denn 90-Stunden-Wochen dafür gearbeitet hat, ist das eine Beleidigung. Ilya ist die Ausnahme, und bemerkenswert ist auch, dass er seine Position umkehrte, als er sah, dass seine Handlungen OpenAI töteten.