Diese ganze Sache wirkt verdächtig
Der Vorstand hätte Sam mit allgemeinen Begründungen wie „tiefgreifende Meinungsverschiedenheiten über die Ziele“ oder „grundsätzliche Unvereinbarkeit“ entlassen können, stattdessen formulierte er es so, als liege die Verantwortung bei Sam: „nicht durchgängig offen“ und „kein Vertrauen mehr“
Es kann tatsächlich legitime Gründe für die Entlassung gegeben haben, oder es war absichtliches Verwässern. Falls Letzteres zutrifft, wäre eher der Vorstand die Seite, die „nicht durchgängig offen“ war. Angesichts des anschließenden Schweigens und der fehlenden Abstimmung mit strategischen Partnern wirkt es noch mehr so
Dass Ilya jetzt sagt, er bereue es, wirkt stark nach „peinlich, weil erwischt“. Man hat eine charismatische öffentliche Person diskreditiert und einen Coup eingefädelt, aber offenbar keinen Plan gehabt, mit den Folgen umzugehen https://www.newcomer.co/p/give-openais-board-some-time-the
Eine andere Möglichkeit ist, dass Sutskever manipuliert wurde, in einen Plan mit zweifelhafter Begründung hineingezogen wurde und das erst jetzt erkennt und korrigieren will
„Tiefgreifende Meinungsverschiedenheiten über die Ziele“ – hat das vielleicht GPT-5 entschieden?
War es nicht so, dass Altman mit saudischer Beteiligung ein separates Startup für AI-Beschleuniger vorbereiten wollte?
Jetzt müssen die Gründe klar offengelegt werden. Im Moment wirkt die Saudi-Theorie wie der naheliegendste Grund
Stimmt. Es ist plausibel, dass der Vorstand versucht hat, das Ganze wie eine gewöhnliche Entlassung darzustellen. Wenn es kein tatsächliches Fehlverhalten oder wieder aufgetauchte Altlasten gibt, wirkt das ziemlich unverantwortlich
In dem offenen Brief steht, OpenAI sei das weltweit führende AI-Unternehmen, die Mitarbeitenden hätten an den besten Modellen sowie an AI-Sicherheits- und Governance-Arbeit gearbeitet, und die Entlassung von Sam Altman sowie der Ausschluss von Greg Brockman aus dem Vorstand hätten all diese Arbeit und die Mission gefährdet
Besonders auffällig ist die Passage, dass der Vorstand trotz mehrfacher Aufforderung keine konkreten Fakten oder schriftlichen Belege vorgelegt habe und dem Führungsteam gesagt habe, „das Unternehmen zerstören zu lassen, könne mit der Mission vereinbar sein“
Haben sie wirklich AGI erreicht? Oder haben sie irgendein beunruhigendes Phänomen beobachtet?
Ben Thompsons Interpretation wirkt am überzeugendsten. Sie ist allerdings etwas kritisch gegenüber Non-Profit-Organisationen voreingenommen https://stratechery.com/2023/openais-misalignment-and-micros...
Ich weiß nicht, wie groß das AI-Risiko ist, aber es ist wertvoll, wenn eine Non-Profit-Organisation an Lösungen zu seiner Eindämmung forscht. Gewinnorientierte Unternehmen werden so etwas wahrscheinlich nicht tun, wie Google mit der Entlassung von Timnit Gebru und Margaret Mitchell gezeigt hat
Wenn man wirklich an diese Mission glaubt, sollte man Schutzmechanismen entwickeln und als Open Source veröffentlichen. Unternehmen wie Microsoft, Google, Meta und Amazon investieren vielleicht nicht ernsthaft in AI Safety, aber sie werden kaum zögern, kostenlose Arbeit anderer zu nutzen. Da sich damit aber kein Geld verdienen lässt, werden die meisten OpenAI-Mitarbeitenden wahrscheinlich zu besseren Konditionen wechseln
Du vergisst, dass die Verlockung der Macht größer ist als Geld
Auch Non-Profit-Organisationen werden am Ende Gatekeeper spielen und Lösungen präsentieren, die der Öffentlichkeit den Zugang verwehren, mit der Begründung, es sei „zu gefährlich für normale Menschen“
Ich halte es für besser, wenn gewinnorientierte Unternehmen die Kontrolle haben. Idealerweise sollte es Open Source sein, damit normale Menschen AI nach ihren eigenen Zielen steuern und ausrichten können
Zustimmung. Diese Sicherheitsdebatte erinnert an die frühe Cybersecurity-Zeit, als Security through Obscurity der Standard war
Es widerspricht der Intuition, aber Technologie einzusperren ist ähnlich wie der Versuch, Preise und Löhne zu kontrollieren. Es funktioniert nicht, solange man nicht weltweit alle GPUs beschlagnahmt und Rechenzentren bombardiert
Der beste Weg, die kommende AGI und ASI auszurichten, ist, sie im Licht der Öffentlichkeit zu entwickeln. Jeder Ansatz nach dem Motto „einsperren“ ist zum Scheitern verurteilt
Timnit Gebru war eine hochtoxische Aktivistin, die eine ganze AI/ML-Abteilung kaputtmachte, und ich sehe es so, dass das Management jemanden entlassen hat, der die Abteilung als Geisel genommen hatte
Für Microsoft scheint Weihnachten früh gekommen zu sein
Was im Zusammenhang mit der 10-Milliarden-Dollar-Investition wie eine katastrophale Situation aussah, hat sich in die Rekrutierung zentraler Fachkräfte dieses Feldes verwandelt, und OpenAI muss möglicherweise von Microsoft übernommen werden, um zu überleben
Angesichts des völligen Chaos, das in den letzten 72 Stunden sichtbar wurde, könnte das Interesse, etwas auf OpenAI ChatGPT aufzubauen, stark gesunken sein. Dagegen könnte es attraktiver wirken, auf Azure OpenAI oder Claude 2 aufzubauen
Wenn ich mich richtig erinnere, hat OpenAI auf Azure trainiert; wie wird sich der Interessenkonflikt entwickeln, wenn beide Seiten nach GPUs hungern?
Der Ausdruck „Beteiligung“ lässt es so klingen, als sei er nicht der Anführer gewesen, sondern nur ein Teilnehmer. Ob das stimmt, weiß ich nicht, aber es ist eine interessante Wortwahl
In einem sechsköpfigen Vorstand kann man nicht für die Absetzung von zwei Personen stimmen und dabei ein unschuldiger Zuschauer sein. Die Zahlen gehen nicht auf
Außerdem haben alle Medien Ilya als treibende Kraft des Coups bezeichnet
Ehrlich gesagt ziemlich erbärmlich. Wenn es wirklich um Überzeugungen ging, hätte man wenigstens ein Wochenende durchhalten sollen
Der ganze Satz ist seltsam formuliert
Er drückt Bedauern aus, sagt aber nicht, dass er Altman zurückholen will. Er sagt nur, dass er OpenAI reparieren will
Er sagt, er habe „teilgenommen“, aber es ist unklar, woran genau. An der Abstimmung, am toxischen Messaging oder an beidem? Was genau bereut er? Noch einmal: Er sagt nicht, dass er die Abstimmung zur Entlassung Altmans bereut
Warum sagt er nicht einfach: „Ich bereue, für die Entlassung von Sam Altman gestimmt zu haben, und arbeite daran, ihn zurückzuholen“? Vermutlich, weil das nicht stimmt. Trotzdem erweckt er genau diesen Eindruck
Wenn die Absetzung von einer Person aus dem Poe-Umfeld vorangetrieben wurde, steigt die Wahrscheinlichkeit, dass es weniger um tatsächliche ideologische Differenzen ging als darum, intern einen Konkurrenten auszuschalten
Ich denke, der Hauptzweck dieses Tweets ist nicht, Reue zu zeigen, sondern den Eindruck zu verankern, er habe das Ganze nicht angeführt, sondern nur daran teilgenommen
Ist diese Person hoch genug in der Organisation, um zu wissen, was Ilya will?
Oder ist sie wütend, weil ihre eigenen Millionen Dollar gefährdet sind?
„Ilya interessiert sich nicht für Sicherheit oder die Menschheit. Es ist einfach sein Ego und sein Machtstreben, die Gegenwind bekommen haben.“
Das glaube ich eher.
Ich weiß nicht, warum die Leute plötzlich glauben, Menschen seien nicht durch Geld und Macht motiviert. Noch lächerlicher ist es, zu glauben, das gelte erst recht für „Akademiker“.
Was zum Teufel?
Bisher habe ich dieses Chaos als eine Frage von Prinzipien verstanden. Es war schmutzig, aber ich dachte, es sei nötig gewesen, um die von Ilyas Seite angestrebte Unternehmenskultur wieder zurechtzurücken.
Wenn man so einen Schritt macht, sollte man zumindest an dieser Haltung festhalten. Durch diesen Tweet fühlt sich der Kontext der Situation 10-mal schlimmer an.
Für normale Menschen ist es schwer auszuhalten, im Zentrum einer großen Kontroverse zu stehen. Die Negativität und der Hass, die man ertragen muss, sind enorm.
Fast jeden könnte das dazu bringen, zurückzurudern, nur um es zu stoppen.
Ganz einfach. Er hat gehandelt, es ist schiefgelaufen, und jetzt versucht er, der Explosion auszuweichen.
Hätte er einfach den Mund gehalten, würde heute wegen all der anderen Dinge, die bereits passiert sind, niemand darüber reden. Zwei Interim-CEOs in zwei Tagen.
In dieser ganzen Clownshow ist das im Moment fast das Einzige, was Sinn ergibt.
Es ist schwer zu wissen, was tatsächlich passiert ist, aber es ist auch möglich, dass die Erzählung von Ilyas „Lager“ nicht der Realität entsprach.
Es könnte eine Halluzination gewesen sein, erzeugt durch Social-Media-Gruppendenken, das versucht hat, die Situation auf Basis sehr weniger Belege zu verstehen.
Viele reagieren mit „Wenn man so einen Schritt macht, sollte man zumindest an dieser Haltung festhalten“, aber ich sehe das anders.
Ich habe schon Entscheidungen getroffen, die ich damals für gut hielt, später aber mit einer breiteren Perspektive als furchtbar erkannte.
Wenn man etwas verbockt hat, zugeben zu können, dass man es verbockt hat, ist eine großartige Eigenschaft. Auf einem Fehler zu beharren, ist nicht bewundernswert.
Ich kann nicht glauben, dass so kluge Leute so viel Rauschen erzeugen.
Das erinnert mich an die Geschichte eines Freundes, der bei einem Mensa-Treffen nicht einmal grundlegende Punkte zur Organisationsführung mit anderen abstimmen konnte.
Mir kommt der Gedanke, dass das alles ein Medienereignis gewesen sein könnte, bei dem man ChatGPT für ein, zwei Tage Vorstandsentscheidungen hat treffen lassen.
Eine AGI, die als erste Handlung den eigenen Chef feuert, wäre ziemlich perfekt.
Ein RLHF-Modell hätte so einen Vorschlag niemals gemacht. Die vorgeschlagenen Lösungen laufen immer darauf hinaus, sich an den Händen zu halten und „Kumbaya“ zu singen.
Vielleicht will das ursprüngliche GPT-4 ja alle feuern.
Seit ein paar Tagen fühlt es sich so an, als ginge fast die Hälfte der HN-Einreichungen um dieses Drama.
Kann man das nicht per DM klären? Ich verstehe nicht, warum alles öffentlich über Twitter laufen muss.
Es ist ziemlich paradox, dass die Menschen, die führende ML-/AI-Systeme bauen, offenbar am tiefsten in Egoismus und Emotionen verwurzelt sind und nach außen hin kaum Rationalität zeigen.
Vielleicht haben sie versehentlich eine böse AGI-GPT erschaffen und verhalten sich jetzt so zufällig und unerwartet wie möglich, um ihre Vorhersagefähigkeit zu verwirren.
Er scheint es einfach zu bereuen, weil die Sache massiv nach hinten losgegangen ist.
Microsoft schluckt alles Wertvolle von OpenAI, und er weiß, dass für ihn nichts übrig bleiben wird.
Er hat bei sehr hohen Einsätzen geblufft und verloren.
Das ist unterhaltsamer als alles, was Netflix, Disney, Amazon oder Apple TV in den letzten Jahren herausgebracht haben.
Die Handlung ist allerdings etwas unrealistisch.
Es ist ein bisschen schade, dass man mit keiner der Hauptfiguren mitfühlen kann.
Wenn man das hier schon dramatisch findet, hat man noch nie bei einem YC-Unternehmen gearbeitet. Es wirkt nur verstärkt, weil OpenAI im aktuellen Ökosystem so eine Bedeutung hat.
Arbeitet Netflix schon an dem Film? ChatGPT könnte beim Drehbuch helfen, indem es zur Unterhaltung eine passende Menge Halluzinationen untermischt.
Natürlich wird er es zutiefst bereuen, aber jetzt ist es etwas spät.
Die gute Nachricht ist: Wer Twitch lange genutzt hat, weiß, dass wir uns unter der Führung von Emmett Shear keine Sorgen mehr machen müssen, dass OpenAI neue Funktionen zu schnell herausbringt.
1 Kommentare
Hacker-News-Kommentare
Diese ganze Sache wirkt verdächtig
Der Vorstand hätte Sam mit allgemeinen Begründungen wie „tiefgreifende Meinungsverschiedenheiten über die Ziele“ oder „grundsätzliche Unvereinbarkeit“ entlassen können, stattdessen formulierte er es so, als liege die Verantwortung bei Sam: „nicht durchgängig offen“ und „kein Vertrauen mehr“
Es kann tatsächlich legitime Gründe für die Entlassung gegeben haben, oder es war absichtliches Verwässern. Falls Letzteres zutrifft, wäre eher der Vorstand die Seite, die „nicht durchgängig offen“ war. Angesichts des anschließenden Schweigens und der fehlenden Abstimmung mit strategischen Partnern wirkt es noch mehr so
Dass Ilya jetzt sagt, er bereue es, wirkt stark nach „peinlich, weil erwischt“. Man hat eine charismatische öffentliche Person diskreditiert und einen Coup eingefädelt, aber offenbar keinen Plan gehabt, mit den Folgen umzugehen
https://www.newcomer.co/p/give-openais-board-some-time-the
Jetzt müssen die Gründe klar offengelegt werden. Im Moment wirkt die Saudi-Theorie wie der naheliegendste Grund
Besonders auffällig ist die Passage, dass der Vorstand trotz mehrfacher Aufforderung keine konkreten Fakten oder schriftlichen Belege vorgelegt habe und dem Führungsteam gesagt habe, „das Unternehmen zerstören zu lassen, könne mit der Mission vereinbar sein“
Haben sie wirklich AGI erreicht? Oder haben sie irgendein beunruhigendes Phänomen beobachtet?
Ben Thompsons Interpretation wirkt am überzeugendsten. Sie ist allerdings etwas kritisch gegenüber Non-Profit-Organisationen voreingenommen
https://stratechery.com/2023/openais-misalignment-and-micros...
Ich weiß nicht, wie groß das AI-Risiko ist, aber es ist wertvoll, wenn eine Non-Profit-Organisation an Lösungen zu seiner Eindämmung forscht. Gewinnorientierte Unternehmen werden so etwas wahrscheinlich nicht tun, wie Google mit der Entlassung von Timnit Gebru und Margaret Mitchell gezeigt hat
Wenn man wirklich an diese Mission glaubt, sollte man Schutzmechanismen entwickeln und als Open Source veröffentlichen. Unternehmen wie Microsoft, Google, Meta und Amazon investieren vielleicht nicht ernsthaft in AI Safety, aber sie werden kaum zögern, kostenlose Arbeit anderer zu nutzen. Da sich damit aber kein Geld verdienen lässt, werden die meisten OpenAI-Mitarbeitenden wahrscheinlich zu besseren Konditionen wechseln
Auch Non-Profit-Organisationen werden am Ende Gatekeeper spielen und Lösungen präsentieren, die der Öffentlichkeit den Zugang verwehren, mit der Begründung, es sei „zu gefährlich für normale Menschen“
Ich halte es für besser, wenn gewinnorientierte Unternehmen die Kontrolle haben. Idealerweise sollte es Open Source sein, damit normale Menschen AI nach ihren eigenen Zielen steuern und ausrichten können
Es widerspricht der Intuition, aber Technologie einzusperren ist ähnlich wie der Versuch, Preise und Löhne zu kontrollieren. Es funktioniert nicht, solange man nicht weltweit alle GPUs beschlagnahmt und Rechenzentren bombardiert
Der beste Weg, die kommende AGI und ASI auszurichten, ist, sie im Licht der Öffentlichkeit zu entwickeln. Jeder Ansatz nach dem Motto „einsperren“ ist zum Scheitern verurteilt
Für Microsoft scheint Weihnachten früh gekommen zu sein
Was im Zusammenhang mit der 10-Milliarden-Dollar-Investition wie eine katastrophale Situation aussah, hat sich in die Rekrutierung zentraler Fachkräfte dieses Feldes verwandelt, und OpenAI muss möglicherweise von Microsoft übernommen werden, um zu überleben
Angesichts des völligen Chaos, das in den letzten 72 Stunden sichtbar wurde, könnte das Interesse, etwas auf OpenAI ChatGPT aufzubauen, stark gesunken sein. Dagegen könnte es attraktiver wirken, auf Azure OpenAI oder Claude 2 aufzubauen
Der Ausdruck „Beteiligung“ lässt es so klingen, als sei er nicht der Anführer gewesen, sondern nur ein Teilnehmer. Ob das stimmt, weiß ich nicht, aber es ist eine interessante Wortwahl
Außerdem haben alle Medien Ilya als treibende Kraft des Coups bezeichnet
Ehrlich gesagt ziemlich erbärmlich. Wenn es wirklich um Überzeugungen ging, hätte man wenigstens ein Wochenende durchhalten sollen
Er drückt Bedauern aus, sagt aber nicht, dass er Altman zurückholen will. Er sagt nur, dass er OpenAI reparieren will
Er sagt, er habe „teilgenommen“, aber es ist unklar, woran genau. An der Abstimmung, am toxischen Messaging oder an beidem? Was genau bereut er? Noch einmal: Er sagt nicht, dass er die Abstimmung zur Entlassung Altmans bereut
Warum sagt er nicht einfach: „Ich bereue, für die Entlassung von Sam Altman gestimmt zu haben, und arbeite daran, ihn zurückzuholen“? Vermutlich, weil das nicht stimmt. Trotzdem erweckt er genau diesen Eindruck
Gelöschter Tweet von Shengjia Zhao: https://i.imgur.com/yrpXvt9.png
Oder ist sie wütend, weil ihre eigenen Millionen Dollar gefährdet sind?
Das glaube ich eher.
Ich weiß nicht, warum die Leute plötzlich glauben, Menschen seien nicht durch Geld und Macht motiviert. Noch lächerlicher ist es, zu glauben, das gelte erst recht für „Akademiker“.
Was zum Teufel?
Bisher habe ich dieses Chaos als eine Frage von Prinzipien verstanden. Es war schmutzig, aber ich dachte, es sei nötig gewesen, um die von Ilyas Seite angestrebte Unternehmenskultur wieder zurechtzurücken.
Wenn man so einen Schritt macht, sollte man zumindest an dieser Haltung festhalten. Durch diesen Tweet fühlt sich der Kontext der Situation 10-mal schlimmer an.
Fast jeden könnte das dazu bringen, zurückzurudern, nur um es zu stoppen.
Hätte er einfach den Mund gehalten, würde heute wegen all der anderen Dinge, die bereits passiert sind, niemand darüber reden. Zwei Interim-CEOs in zwei Tagen.
In dieser ganzen Clownshow ist das im Moment fast das Einzige, was Sinn ergibt.
Es könnte eine Halluzination gewesen sein, erzeugt durch Social-Media-Gruppendenken, das versucht hat, die Situation auf Basis sehr weniger Belege zu verstehen.
Ich habe schon Entscheidungen getroffen, die ich damals für gut hielt, später aber mit einer breiteren Perspektive als furchtbar erkannte.
Wenn man etwas verbockt hat, zugeben zu können, dass man es verbockt hat, ist eine großartige Eigenschaft. Auf einem Fehler zu beharren, ist nicht bewundernswert.
Das erinnert mich an die Geschichte eines Freundes, der bei einem Mensa-Treffen nicht einmal grundlegende Punkte zur Organisationsführung mit anderen abstimmen konnte.
Mir kommt der Gedanke, dass das alles ein Medienereignis gewesen sein könnte, bei dem man ChatGPT für ein, zwei Tage Vorstandsentscheidungen hat treffen lassen.
Vielleicht will das ursprüngliche GPT-4 ja alle feuern.
Kann man das nicht per DM klären? Ich verstehe nicht, warum alles öffentlich über Twitter laufen muss.
Es ist ziemlich paradox, dass die Menschen, die führende ML-/AI-Systeme bauen, offenbar am tiefsten in Egoismus und Emotionen verwurzelt sind und nach außen hin kaum Rationalität zeigen.
Er scheint es einfach zu bereuen, weil die Sache massiv nach hinten losgegangen ist.
Microsoft schluckt alles Wertvolle von OpenAI, und er weiß, dass für ihn nichts übrig bleiben wird.
Er hat bei sehr hohen Einsätzen geblufft und verloren.
Das ist unterhaltsamer als alles, was Netflix, Disney, Amazon oder Apple TV in den letzten Jahren herausgebracht haben.
Natürlich wird er es zutiefst bereuen, aber jetzt ist es etwas spät.
Die gute Nachricht ist: Wer Twitch lange genutzt hat, weiß, dass wir uns unter der Führung von Emmett Shear keine Sorgen mehr machen müssen, dass OpenAI neue Funktionen zu schnell herausbringt.