Alle Kommentare: Dieser Thread hat mehr als 1800 Kommentare. Wenn du sie alle lesen möchtest, klicke unten auf jeder Seite auf „More“ oder nutze den bereitgestellten Link.
Falls OpenAI eine Non-Profit-Organisation bleibt, hätte ein Vorstandsmitglied von Microsoft die gesetzliche Pflicht, die Mission der gemeinnützigen Organisation zu fördern und nicht die geschäftlichen Anforderungen von Microsoft, was einen offensichtlichen Interessenkonflikt verursachen könnte. Es ist zu erwarten, dass der IRS eine solche Struktur nicht gutheißen würde.
Mit Sam Altmans Rückkehr als CEO könnte dies als Beleg dafür gelten, dass der OpenAI-Vorstand seine Funktion verloren hat. Der Vorstand kann sein Recht, Sam zu entlassen, nicht mehr ausüben, und Sam kann nun im Wesentlichen tun, was er will. Das ist kein Vorwurf und keine Unterstellung gegenüber Sam, aber es gibt die Sorge, dass er lügen oder sich unangemessen verhalten könnte.
Das erinnert an Coca-Cola und die Sache mit New Coke, bei der am Ende das Original-Coke noch beliebter wurde. Die Verbraucher forderten nachdrücklich die Rückkehr des vertrauten Geschmacks, und einige Journalisten vermuteten, das Ganze sei eine PR-Strategie gewesen.
In einem Kräftemessen zwischen einem Entwickler und einem Geschäftsmann hat der Geschäftsmann gewonnen, und als Hunderte Entwickler mit Kündigung drohten, gab der Vorstand nach. Das zeigt, dass die Entwickler tatsächlich Macht hatten.
Ilya ist aus dem Vorstand ausgeschieden, aber Adam ist weiterhin dabei. Das mag bei manchen für Stirnrunzeln sorgen, aber durch Sams Rückkehr wird es bei OpenAI erhebliche Veränderungen geben, und langfristig wird OpenAI meiner Meinung nach kein Großunternehmen wie Facebook oder Uber werden. Es gibt die Wahrnehmung, dass Vertrauen verloren gegangen ist.
Es gab einen Konflikt zwischen dem Team der schnellen Kommerzialisierung und dem Team, das an Prinzipien festhält; das zeigte sich schon vor GPT-3 auch in Texten. Nur eine kleine Minderheit der Öffentlichkeit interessiert sich für AI Safety, der Rest ist zufrieden damit, dass ChatGPT bei Hausaufgaben hilft. Man kann über die Unwissenheit des Vorstands spotten, aber wenn jemand die Bedrohung durch Superintelligenz ernst nimmt, sollte man versuchen, sein Handeln nachzuvollziehen.
Ich persönlich nehme die Bedrohung für AI Safety nicht so ernst, aber man sollte sich bemühen, sie zu verstehen. Hoffentlich kommt nicht der Tag, an dem Helens Team sagt: „Genau das war es, was wir zu verhindern versucht haben.“
Es gab Hoffnung auf einen privatwirtschaftlichen Ansatz bei AI Safety, aber das scheint nun unmöglich, und wegen des langsamen Tempos staatlicher Investitionen in öffentliche AI-Forschung und -Entwicklung wirken inzwischen alle Ansätze zur AI Safety unmöglich. Sicherheitsforschung an Spielzeugmodellen wird weiter Fortschritte machen, aber in der Branche geht man davon aus, dass es Grenzen dessen gibt, was man über Sicherheit lernen kann, wenn man nicht an Modellen an der Spitze des Feldes forscht.
Altman hatte argumentiert, die Governance-Struktur von OpenAI sei ein Mechanismus, der die Priorisierung von Sicherheit garantiere, doch Berichte aus dem Inneren, wonach Sicherheitsforschung zur Aufrechterhaltung des ChatGPT-Betriebs umverteilt wurde, geben Anlass zur Sorge. Da sich gezeigt hat, dass der Vorstand zwar technisch handlungsfähig war, aber nicht genügend Macht hatte, um Interessenkonflikte zu steuern, ist unklar, ob irgendeine sicherheitsorientierte Organisation, einschließlich Anthropic, dem akzelerationistischen Einfluss ihrer Geldgeber entgehen kann.
Paul Graham sagte: „Wenn man in fünf Jahren zurückkommt, wird Sam der König dieser Insel sein.“
Es gibt ein verbreitetes Narrativ, dass viele VCs/Microsoft aus Profitmotiven die Governance-Struktur der Non-Profit-Organisation gestürzt hätten, aber ich denke nicht, dass das den Tatsachen entspricht. Die Entscheidung fiel in Wirklichkeit deshalb, weil 95 % der Mitarbeitenden in dieser Frage auf Sams Seite standen und der Vorstand seine Position überhaupt nicht erklärt hat. Sam, 95 % der Mitarbeitenden und alle Investoren standen gegen den Vorstand, und der Vorstand musste hier verlieren. Denn der Vorstand hat nur für sich selbst regiert. Am Ende kam ein faires und gutes Ergebnis heraus, und ich denke weiterhin, dass die Governance-Struktur zur Lösung des AGI-Problems geeignet ist, aber dieser Vorstand war äußerst ungeeignet.
1 Kommentare
Hacker-News-Kommentare