1 Punkte von GN⁺ 2023-11-19 | 1 Kommentare | Auf WhatsApp teilen

1 Kommentare

 
GN⁺ 2023-11-19
Hacker-News-Kommentare
  • Korrektur: Lag richtig

    https://twitter.com/karaswisher/status/1725682088639119857

    Hat nichts mit Unehrlichkeit zu tun, das ist nur der offizielle Grund

    Darüber spricht kaum jemand, aber wenn man sich die zwei Schlüsselfiguren hier ansieht, scheint es am Ende auf einen Konflikt zwischen Altman und Sutskever hinauszulaufen

    Auch ein Tweet, den Sutskever vor anderthalb Monaten gepostet hat, ist interessant

    https://twitter.com/ilyasut/status/1707752576077176907

    Die Pressemitteilung mit dem Gerede über ehrliche Gespräche mit dem Board ist womöglich Verpackung, um eine tief verwurzelte philosophische Meinungsverschiedenheit zu kaschieren.
    Sie haben vielleicht einen Grund gefunden, der sich als Kündigungsgrund verwenden ließ, aber das muss nicht zwangsläufig den tatsächlichen Grund widerspiegeln.
    Sam und Ilya blickten nicht mehr in dieselbe Richtung, und mit gpt 4 turbo scheint das seinen Höhepunkt erreicht zu haben

    Am Ende kann man spekulieren, dass Sutskever wegen seiner technischen Fähigkeiten sämtliche Hebel in der Hand hatte.
    Sam ist der typische Geschäftsmann, also sind die beiden wohl zuletzt heftig aneinandergeraten, und Sutskever hat, als seine Grenze erreicht war, diesen Hebel eingesetzt

    Ich bin lange genug in der Tech-Branche, um so etwas schon mehrfach gesehen zu haben.
    Man sollte unersetzliche Ingenieure nicht wütend machen. Dann können sie dich feuern. Ich will keine Seite ergreifen

    PS: Die meisten Ingenieure, mich eingeschlossen, sind ersetzbar. Ilya wahrscheinlich nicht

    • Das ergibt keinen Sinn. Wenn es nur eine einfache Meinungsverschiedenheit gewesen wäre, hätte man das über einen stillen Weg ohne inhaltliche Aussagen in der Pressemitteilung regeln können.
      Stattdessen haben sie in die offizielle Erklärung konkrete Vorwürfe aufgenommen, für die sie rechtlich haftbar sein könnten, falls sie falsch sind.
      Wenn die Grundlage nicht zu 100 % sicher ist, haben sie Sam damit praktisch eine Klage auf dem Silbertablett serviert, die er mit hoher Wahrscheinlichkeit gewinnen würde

    • Swisher hat neue Informationen gepostet

      "More scoopage: sources tell me chief scientist Ilya Sutskever was at the center of this. Increasing tensions with Sam Altman and Greg Brockman over role and influence and he got the board on his side."

      "The developer day and how the store was introduced was in inflection moment of Altman pushing too far, too fast. My bet: He’ll have a new company up by Monday."

      [Quelle: https://twitter.com/karaswisher/status/1725702501435941294]

      Klingt, als hätte sie es fast exakt vorhergesagt

    • Ich glaube, du siehst das genau andersherum. Ein Board tut so etwas nicht, wenn es nicht wirklich nötig ist

      Man muss sich nur die Vergangenheit ansehen. Bei Uber zum Beispiel wurde das Board erst aktiv, nachdem massive Probleme öffentlich explodiert waren.
      Das kann keine bloße Meinungsverschiedenheit sein; um ein Hunderte Milliarden Dollar schweres Unternehmen zu gefährden und so überstürzt zu handeln, müsste es schwerwiegendes finanzielles, ethisches oder gesellschaftliches Fehlverhalten gegeben haben

    • Wenn es wirklich nur darum gegangen wäre, dass sie nicht mehr in dieselbe Richtung blickten, warum stand dann in der Pressemitteilung, Sam sei „in seiner Kommunikation nicht durchgängig offen“ gewesen?
      Wenn es im Kern eine philosophische Meinungsverschiedenheit gewesen wäre, wäre das eine ziemlich unnötige Formulierung. Man hätte stattdessen einfach von unterschiedlichen Zukunftsvisionen sprechen können

    • Das ist der alte Mythos vom unersetzlichen Ingenieur und dem dummen Anzugträger. Frag Wozniak.
      Ich glaube nicht, dass er sagen würde, Apple hätte ohne Steve Jobs existiert

  • https://twitter.com/gdb/status/1725736242137182594

    Das ist Gregs Update

  • Sam und Ilya haben sich zuletzt öffentlich zu AGI geäußert, und dabei scheint eine grundlegende Meinungsverschiedenheit zwischen ihnen sichtbar zu werden

    Sam behauptet, dass große Sprachmodelle allein für AGI nicht ausreichen. Das scheint richtig zu sein

    Ilya behauptet, dass die Transformer-Architektur mit einigen Anpassungen zur Effizienz tatsächlich für AGI ausreicht

    Natürlich sind Transformer der Kernbestandteil heutiger großer Sprachmodelle, und die Details sind wichtig.
    Zukünftige Modelle könnten heutigen Transformern ähneln und zugleich hinsichtlich Trainingsdaten oder Erfahrung dynamischer sein. Aber entschieden ist das noch nicht

    In jedem Fall könnte die Tatsache, dass sie öffentlich über die künftige Richtung von OpenAI auseinanderliegen, ein Signal für ein tieferes internes Problem sein

    • Das ist nur eine Meinungsverschiedenheit in technischer Hinsicht, und in einem ordentlich funktionierenden Unternehmen sollte es so etwas in der Führung immer in gesundem Maß geben.
      Die Pressemitteilung sagte wörtlich, dass er wegen Lügen gefeuert wurde. Es ist wirklich lange her, dass ich ein Board eines großen Unternehmens so habe sprechen sehen

    • Diese Frage hat wegen der Non-Profit-Charta von OpenAI enorme Tragweite.
      Falls Altman dem Board Tatsachen vorenthalten hat, damit es nicht beurteilen kann, ob OpenAI die AGI-Phase erreicht hat, oder wenn er sogar eine faire Bewertung selbst verhindern wollte, dann hat er das Board eindeutig schwerwiegend in die Irre geführt und es daran gehindert, seine Arbeit zu tun

    • „Das scheint richtig zu sein“?

      Niemand weiß das. Ich würde eher dem Wissenschaftler vertrauen, der diese Arbeit leitet, als einem Geschäftsmann, der ein Interesse daran hat, das Gegenteil zu behaupten, um kurzfristiger Regulierung zu entgehen

    • Ilya claims the transformer architecture, with some modification for efficiency, is actually sufficient for AGI.

      Sollte das nicht jemand sein, der weiß, wovon er spricht? Es gab einen Aufsatz dazu, dass große Sprachmodelle nicht generalisieren können[0].
      Jeder, der ChatGPT benutzt hat, kann sehen, dass es Mängel hat

      [0] https://arxiv.org/abs/2309.12288

    • rightfully so

      Ich verstehe nicht, wie Leute sich da so sicher sein können.
      Du erklärst doch gerade selbst, dass zwei kluge Menschen bei einem komplexen Thema vernünftigerweise unterschiedlicher Meinung sein können

  • Kann mir ein sehr kluger, geschäftsorientierter Mensch als Ingenieur erklären, wie so etwas überhaupt passieren kann?

    Wenn es 6 Vorstandsmitglieder gibt und man versucht, 2 davon „abzusetzen“, dürften diese 2 dann nicht eigentlich gar nicht teilnehmen?
    Oder müssten sie zumindest bei einer Abstimmung über sich selbst ausgeschlossen werden?

    Müssen die übrigen 4 sich dann „im Geheimen“ organisieren und abstimmen?
    Was würde verhindern, dass 3 eine Abstimmung ansetzen, um 1 rauszuwerfen, so eine 3/5-Mehrheit herzustellen und dann von dort aus alle nacheinander rauszustimmen?
    Vielleicht ist das eine dumme Frage, aber ich frage aus ehrlichem Interesse.

    • Das hängt von den Satzungs- und Gründungsdokumenten der Non-Profit-Organisation ab.
      Als 501(c)3 gelten bestimmte Anforderungen und Beschränkungen, aber vieles andere hängt davon ab, was der Gründungsvorstand in den Dokumenten zur Errichtung und Führung der Organisation festgelegt hat.

      Solche Dokumente enthalten normalerweise Bestimmungen dazu, wie Abstimmungen, Nachfolge, Ausschluss, Eignung usw. geregelt werden.
      Nach meiner Erfahrung mit Vorständen sowohl in gewinnorientierten als auch in gemeinnützigen Organisationen ist es sehr wahrscheinlich, dass die externen Vorstandsmitglieder externe Rechtsberater hinzugezogen haben.
      Vorstandsmitglieder haben bestimmte zwingende Pflichten, und wenn sie diese nicht in gutem Glauben ausreichend erfüllen, kann das erhebliche rechtliche Haftung nach sich ziehen.

    • Ich hatte dieselbe Frage und habe inzwischen gelernt, dass Non-Profit-Governance offenbar genau so funktioniert.
      Deshalb ist das für eine Organisation wie OpenAI eine schlechte Idee. Bei einem gewinnorientierten Unternehmen könnten die Aktionäre den Vorstand einfach austauschen.

    • Zur Abstimmung stand nur Sam, und Greg hat vielleicht zu seinen Gunsten gestimmt und wurde dann später in einer zweiten Abstimmung oder einem ähnlichen Verfahren zum Rücktritt gezwungen.

    • Can a super smart business-y person educate this engineer on how this even happens.

      Das hat überhaupt nichts mit der Business-Seite zu tun. OpenAI ist eine Non-Profit-Organisation und kann tun, was sie will.

    • Lustigerweise habe ich letzte Woche angefangen, Succession zu schauen.

      Das fühlt sich an wie Succession in echt. Alle im Vorstand versuchen gerade herauszufinden, wie sie ihre eigene Position optimieren.

  • Dem hier nach zu urteilen war Greg Brockman nicht bei der Vorstandssitzung dabei, in der die Entscheidung getroffen wurde, und scheint auch die „Nachricht“, dass er aus dem Vorstand zurücktritt, auf dieselbe Weise erfahren zu haben wie wir.

    • Ich setze „Nachricht“ in Anführungszeichen, weil Greg Brockman sich mit den Worten „based on today’s news“ ausgedrückt hat.

      Das könnte auch einfach bedeuten, dass er mit dem Ergebnis nicht einverstanden war und diesen Dissens durch seinen Rücktritt ausgedrückt hat.

      Korrektur: Ich hatte dummerweise die Mitteilung gelesen, die er an OpenAI-Mitarbeiter geschrieben hat. Im Tweet selbst steht „after learning today’s news“. Trotzdem bleibt unklar, wann und wo er davon erfahren hat.

    • Der Vorstand kann keine Sitzung abhalten oder handeln, ohne die Vorstandsmitglieder zu benachrichtigen und ihnen die Möglichkeit zur Teilnahme zu geben.

    • Ja, schon. An Beratungen über seine eigene Abberufung hätte er wohl nicht teilnehmen dürfen.

    • War er nicht Vorstandsvorsitzender? Man sollte doch annehmen, dass er bei der Sitzung dabei war?
      Plausibler erscheint, dass es eine Art Spaltung gab und er sich auf Sams Seite gestellt hat.

    • Da er Vorstandsvorsitzender war, frage ich mich, wie der Rest des Vorstands das überhaupt umgesetzt hat.

  • Wusste Greg im Voraus von der Entscheidung? Anscheinend nicht.
    Eine Stunde bevor der OpenAI-Post erschien, hat Greg Brockman noch etwas gepostet, das völlig nach normalem Tagesgeschäft aussah: https://x.com/gdb/status/1725595967045398920
    https://x.com/openai/status/1725611900262588813
    Ich kann kaum fassen, wie verrückt diese Situation ist.

  • „Greg Brockman, Mitgründer und Präsident von OpenAI, arbeitet 60 bis 100 Stunden pro Woche und verbringt etwa 80 % seiner Zeit mit Programmieren. Ehemalige Kollegen beschrieben ihn als den härtesten Arbeiter bei OpenAI.“

    https://time.com/collection/time100-ai/6309033/greg-brockman...

  • Wie wahrscheinlich ist es, dass das wegen einer Übernahme durch Microsoft passiert? Reine Spekulation, aber vielleicht war Sam ein Hindernis.

    Korrektur: Diese Erklärung könnte plausibler sein: https://news.ycombinator.com/item?id=38312868
    Ein anderer Punkt, der nicht berücksichtigt wurde: Microsoft liebt es wirklich, seine Marke an alles Mögliche zu hängen.

    • Axios sagt, MS habe vorher nichts davon gewusst.
  • Das sieht danach aus, dass es bei OpenAI tatsächlich eine Spaltung gibt.
    Ich vermute, wir werden hören, dass dort zwei unterschiedliche Philosophien am Werk waren.

    • Wenn man annimmt, dass Altman und Brockman eine beschleunigte Entwicklung wollten, wäre es auch interessant, wenn beide in Führungspositionen bei Microsoft wechseln würden.
      OpenAI würde dann eine neue Richtung einschlagen, Microsoft und Google würden schnell neue Dinge bauen, und die Befürworter offener Modelle könnten weiter gute Arbeit leisten — das wirkt wie ein Gewinn für alle.

      Abgesehen von der unbeholfenen und hastigen Pressemitteilung muss diese Sache nicht zwingend für irgendwen schlecht ausgehen.

      Ich bin ein Fan von OpenAI, seit ich die sehr frühe öffentliche API genutzt habe, aber gleichzeitig freue ich mich auch sehr darüber, dass es ein reichhaltiges Ökosystem gibt.
      Es gibt andere kommerzielle Akteure wie Anthropic, Unterstützung für offene Modelle von Meta und Hugging Face und immer bessere kleine Modelle wie Mistral, die man zu Hause leicht laufen lassen kann.

    • Sam und die Leute, die weiterhin geistiges Eigentum stehlen und dabei die ganze Branche zerstören wollen, werden gehen, und die ethischen Machine-Learning-Wissenschaftler werden bleiben.

  • Als Plausibilitätscheck: Als Hinton Google verlassen hat, haben wir das begrüßt, weil nicht gesichtslose Unternehmensstrukturen das Entwicklungstempo bestimmen sollten, sondern KI-Pioniere, die die Risiken verstehen.

    Wenn es bei OpenAI tatsächlich eine ähnliche Meinungsverschiedenheit gab und diesmal Ilya, also das Gegenstück zu Hinton, gewonnen hat, dann ist das ein Grund zum Feiern.