Stand Ilya Sutskever im „Zentrum“ von Altmans Entlassung?
(twitter.com/karaswisher)- Aus Quellen im Umfeld der internen Vorgänge bei OpenAI heißt es, Chief Scientist Ilya Sutskever sei eine Schlüsselfigur gewesen
- Die Konfliktlinie habe bei Fragen zu Rolle und Einfluss zwischen Sam Altman·Greg Brockman und Sutskever gelegen; der Vorstand habe sich demnach auf Sutskevers Seite gestellt
- Der Developer Day und die Art der Einführung des Stores werden als Wendepunkt genannt, an dem der Eindruck entstand, Altman habe zu schnell zu weit vorangetrieben
- Diese Darstellung basiert auf einem kurzen Beitrag von Kara Swisher unter Berufung auf Quellen; konkrete interne Abläufe oder der Entscheidungsprozess des Vorstands sind darin nicht enthalten
- Swisher ergänzte ihre persönliche Einschätzung, Altman werde wohl bis Montag ein neues Unternehmen gründen
Interner Konflikt um Sutskever
- Aus Quellen wurde bekannt, dass OpenAI Chief Scientist Ilya Sutskever im Zentrum dieser Vorgänge gestanden habe
- Der Konflikt habe sich dem Vernehmen nach um Rollen und Einfluss zwischen Sutskever sowie Sam Altman und Greg Brockman verschärft
- Dazu gehört auch die Darstellung, Sutskever habe dabei den Vorstand auf seine Seite gebracht
Druck nach dem Developer Day
- Der Developer Day und die Art der Einführung des Stores werden als Anlass genannt, bei dem Altman so wahrgenommen wurde, als habe er „zu weit, zu schnell“ vorangetrieben
- Kara Swisher äußerte als persönliche Einschätzung, Altman werde bis Montag ein neues Unternehmen gründen
1 Kommentare
Meinungen auf Hacker News
Meine bevorzugte Hypothese ähnelt einer alten Geschichte: Sam Altman ist wie Ikarus zu nah an Microsofts riesige Geldquelle herangeflogen und hat sich von der Gründungsmission des Unternehmens abgewandt, wodurch er den Dschinn freigesetzt hat, den man ursprünglich kontrollieren wollte.
Wie sich herausstellt, scheint es innerhalb von OpenAI Leute gegeben zu haben, die wirklich an die ursprüngliche Vision glaubten.
Ein Großteil seiner aktuellen externen Aktivitäten könnte den Board nervös gemacht haben, und wenn er seine künftigen Pläne nicht offen geteilt hat, wäre eine Entlassung aus meiner Sicht nachvollziehbar.
Zum Glück hat M$ nicht den Board übernommen.
Was Berge versetzt, sind nicht moralische Überlegenheit, sondern Geld und Profit. Diese optimistische Deutung ist überhaupt nicht glaubwürdig.
Wenn sie wirklich aus einer moralischen Haltung heraus so gehandelt hätten, wären sie nicht ohne andere Motive so lange still geblieben.
Ich frage mich, ob Sam wusste, dass er diesen Machtkampf verlieren würde, und heimlich vor dem Board damit begann, mit loyalen Leuten einen Fluchtplan auszuarbeiten.
Vielleicht hat der Board das bemerkt und ihn so schnell wie möglich rausgeworfen, damit er nicht mit Ressourcen des Unternehmens einen Konkurrenten aufbauen kann.
Ich wäre ein ganz normaler Mensch, der investieren würde, sonst habe ich keine Verbindung dazu.
[1] https://news.ycombinator.com/item?id=35306929
sama und gdb aus so trivialen Gründen wie bloßen strategischen Differenzen hinauszudrängen, wäre völlig unprofessionell. sama wurde damit faktisch schwerwiegendes Fehlverhalten vorgeworfen.
Selbst wenn er bei der Kommerzialisierung der OpenAI-Technologie zu aggressiv war, reicht das nicht aus, um diesen Zirkus zu rechtfertigen.
Und dass es Fraktionskämpfe um die Ziele gab, bedeutet auch nicht, dass es in diesem Kontext keine gravierenden konkreten Handlungen gab.
Es hat schließlich als Non-Profit angefangen.
Ich frage mich, wie stark Hinton seinen ehemaligen Schüler Sutskever beeinflusst hat. Sutskever dürfte Hinton mehr bewundern als fast jeden anderen und Hintons starke Einwände ernst genommen haben.
Persönlich finde ich das bedauerlich. Dieser Trend scheint inzwischen völlig unvermeidbar, und wenn die USA durch ein solches absichtliches Bremsen ihre Führungsposition verlieren, halte ich eine Welt, in der China die beste AI-Technologie kontrolliert, keineswegs für sicherer.
Etwa 75 % der Autoren der AI-Paper, die ich lese, sind Chinesen; wenn man wirklich Angst davor hat, dass China die Führung übernimmt, ist das ein viel deutlicheres Warnsignal.
Vor ein paar Wochen habe ich bei Bloomberg ein Interview gehört, in dem Altman zusammen mit jemandem von OpenAI aus dem Programmierbereich auftrat; die Meinungsverschiedenheiten zwischen den beiden waren deutlich, und der Moderator machte sogar einen Witz daraus.
Vielleicht war Altman dazu bestimmt, der nächste SBF zu werden. Es wirkt so, als hätte er der Öffentlichkeit zu oft stark verzerrt das erzählt, was die Leute hören wollten.
Sutskever: „Man kann es einen Coup nennen, und ich verstehe, warum dieses Wort gewählt wurde, aber ich stimme dem nicht zu. Das war der Vorstand, der seine Pflicht im Sinne der Non-Profit-Mission erfüllt hat, sicherzustellen, dass OpenAI AGI zum Nutzen der gesamten Menschheit entwickelt.“
Scoop: theinformation.com
https://twitter.com/GaryMarcus/status/1725707548106580255
Wenn es geheißen hätte: „Wir hatten Meinungsverschiedenheiten und haben beschlossen, getrennte Wege zu gehen“, wäre das etwas anderes, aber der Vorstand behauptete, Altman habe gelogen. Wenn sich herausstellt, dass der Entlassungsgrund in unterschiedlichen strategischen Richtungen lag, wird niemand wieder mit Sutskever arbeiten wollen. Ich jedenfalls ganz sicher nicht.
Das ist eine enorm rufschädigende Aussage über jemanden, der sich außer fachlichen Meinungsverschiedenheiten nichts hat zuschulden kommen lassen.
https://www.reddit.com/user/Anxious_Bandicoot126/
ChatGPT ist eine beeindruckende technische Leistung und in vielerlei Hinsicht nützlich, aber es gibt keinen Beleg dafür, dass eine Skalierung dieses Ansatzes zu AGI führt. Vermutlich braucht es noch einige große Durchbrüche.
Das ist vielleicht nicht der passende Ort für diesen Eindruck, aber es ist erstaunlich, dass ein prinzipientreuer, herausragender Wissenschaftler zumindest vorerst verhindert hat, dass seine Schöpfung gemeinsam vereinnahmt wird.
Wenn man sich das Sutskever-Interview bei No Priors anhört, könnte der Kontrast zwischen ihm und Altman kaum deutlicher sein, und es ist ziemlich selten, dass Ersterer Letzteren schlägt.
Um es mit George Seniors Stimme zu sagen: Deshalb sollte man weltweit wichtige Dinge nicht als Non-Profit betreiben. In Non-Profits schlägt Politik immer den echten Wert.
Wenn echter Wert finanzieller Wert ist, mag das stimmen. Wenn echter Wert aber wissenschaftlicher oder gesellschaftlicher Wert ist, passt das nicht zwingend zur Verfolgung finanzieller Interessen.
Zur Einordnung: Ich arbeite derzeit an einer gemeinnützigen Forschungseinrichtung und habe keinerlei Interesse daran, Aktionäre reicher zu machen. Wenn die Gerüchte stimmen, wäre es eine gute Veränderung, wenn OpenAI zu Non-Profit-Werten zurückkehrt und sich an das Open im Namen erinnert.
Ich hatte kaum ein Gefühl dafür, wer Ilya Sutskever ist und was er denkt, also habe ich nach einem aktuellen Interview gesucht. Es gibt ein Interview im No-Priors-Podcast von vor zwei Wochen.
https://www.youtube.com/watch?v=Ft0gTO2K85A
Zumindest für mich gab es darin keine eindeutigen Hinweise auf den heutigen Aufruhr, aber es war trotzdem interessant anzuhören.
Zum Glück hat ihn niemand gebeten, das Rad zu erfinden. Die Leute könnten sich sonst zu schnell bewegen und ihre eigene Sicherheit gefährden.
Diese Hypothese wirkt so unüberlegt, dass sie schwer zu glauben ist. Sam Altman mag unverantwortlich gewesen sein und Risiken eingegangen sein, aber sie hatten eine absurd gute Ausgangslage.
Ich sage nicht, dass die guten Zeiten Sam Altman zu verdanken waren, aber wenn man plötzlich eine der sichtbarsten Personen der Gruppe entlässt, offenlegt, wo die persönlichen Loyalitäten liegen, und ohne jede Vorwarnung den Microsoft-Aktienkurs ins Wanken bringt und Microsoft verärgert, dann ist diese gute Ausgangslage wahrscheinlich vorbei.
All das war ohne enormes Kapital und Weltklasse-Talente unmöglich, und vermutlich haben sie beides nun deutlich schwerer erreichbar gemacht.
Aber was weiß ich schon? Wenn man sich beim Bau absurd großer Large Language Models davon überzeugen kann, tatsächlich AGI zu bauen, kann man sich sicher auch von anderen dummen Ideen überzeugen.
Da ist ein junger Mann, der plötzlich enorm reich geworden ist, vielleicht auch Macht bekommen hat, und im landesweiten Fernsehen mit der mächtigsten Regierung der Welt spricht. Ist es so überraschend, dass so jemand ein wenig abhebt, vergisst, was seine Aufgabe ist, und zu glauben beginnt, OpenAI sei er selbst und nicht all die Menschen, die dort arbeiten? Und dann bekommt er die Realität auf die harte Tour beigebracht.
Was soll daran überraschend sein? Das ist zutiefst typisch menschlich, überhaupt nicht überraschend und passiert ständig.
Viele hier haben Schwierigkeiten mit der Vorstellung, dass kluge Menschen nicht grundsätzlich etwas Besonderes sind und dass Klugheit die Möglichkeit, Fehler zu machen oder sich mies zu verhalten, nicht auf magische Weise verschwinden lässt.
Attraktiver wäre wohl das Gefühl, nachts nach Hause gehen zu können, weil der CEO Cybernet nicht schon morgen ausrollen will, sondern erst nächste Woche.
Das ist Arroganz, die an Ignoranz grenzt, und die Realität ist nicht so romantisch.
Ich hoffe nur, dass diese Sache nicht dazu führt, dass OpenAI versucht, Gatekeeper für multimodale Modelle zu spielen, oder umgekehrt dazu, dass alle anderen OpenAI wie Staub hinter sich lassen.
https://finance.yahoo.com/quote/MSFT/