OpenAI-Abgänge: Warum ehemalige Mitarbeiter nicht sprechen können

• ChatGPT kann sprechen, OpenAI-Mitarbeiter aber nicht
  • Sie haben Verträge unterschrieben, die Kritik verbieten, und bei einem Verstoß müssten sie auf ihre Aktien verzichten

Einführung des neuen ChatGPT 4o von OpenAI

• OpenAI hat das neue ChatGPT 4o veröffentlicht
• Es hat eine Stimme, die der KI-Assistentin ähnelt, die Scarlett Johansson im Film "Her" von Regisseur Spike Jonze aus dem Jahr 2013 gesprochen hat
• OpenAI-CEO Sam Altman veröffentlichte einen Tweet, in dem er den Film erwähnte

Rücktritte wichtiger Personen bei OpenAI

• Die Nachricht zur Einführung von ChatGPT 4o wurde von den Rücktritten des OpenAI-Mitgründers und Chief Scientist Ilya Sutskever sowie von Jan Leike, der das Superalignment-Team leitete, überschattet
• Auch Jan Leike, der im vergangenen Jahr auf der Future Perfect 50-Liste stand, trat zurück
• Die Rücktritte waren nicht völlig überraschend
  • Sutskever war an der Revolte im Verwaltungsrat beteiligt, die im vergangenen Jahr zur vorübergehenden Entlassung von CEO Sam Altman führte
  • Nachdem Altman rasch als CEO zurückkehrte, bedauerte Sutskever sein Handeln öffentlich und unterstützte Altmans Rückkehr
  • Seitdem war Sutskever im Unternehmen jedoch größtenteils abwesend, während andere Mitglieder aus den Teams für Politik, Alignment und Sicherheit OpenAI verließen

Spekulationen über das Schweigen ehemaliger Mitarbeiter

• Das Schweigen ehemaliger Mitarbeiter nährt Spekulationen
• Sutskever hinterließ eine gewöhnliche Rücktrittsbotschaft
  • „Ich bin zuversichtlich, dass OpenAI sichere und nützliche AGI bauen wird. Ich freue mich auf das, was kommt“, sagte er
• Leike sagte zunächst nur: „Ich bin zurückgetreten“
  • Einige Tage später erklärte er, dass er aus Sorge zurückgetreten sei, OpenAI entferne sich von einer sicherheitsorientierten Kultur
• Es gibt viele Spekulationen darüber, warum ehemalige Mitarbeiter schweigen
  • Etwa ob sie hinausgedrängt wurden, ob dies Nachwirkungen von Altmans kurzzeitiger Entlassung im vergangenen Herbst sind oder ob sie aus Protest gegen ein geheimes und gefährliches neues Projekt zurücktraten

Warum ehemalige Mitarbeiter schweigen

• Es gibt einen klaren Grund, warum ehemalige Mitarbeiter schweigen
  • Die extrem restriktiven Austrittsvereinbarungen enthalten eine Klausel, die lebenslange Kritik am früheren Arbeitgeber untersagt
  • Schon die Existenz der NDA anzuerkennen, gilt als Verstoß
• Wenn ausscheidende Mitarbeiter die Dokumente nicht unterschreiben oder dagegen verstoßen, können sie sämtliche Beteiligungen verlieren, die sie während ihrer Zeit im Unternehmen erhalten haben
  • Deren Wert dürfte wahrscheinlich in die Millionen gehen
• Ein ehemaliger Mitarbeiter namens Daniel Kokotajlo bestätigte öffentlich, dass er ohne Unterzeichnung der NDA ausgeschieden sei und deshalb eine große Beteiligung aufgegeben habe
  • Er sagte, dies liege daran, dass er „das Vertrauen verloren habe, dass OpenAI im Zeitalter der AGI verantwortungsvoll handeln wird“

NDA-Praktiken im hart umkämpften Silicon Valley

• Im hart umkämpften Silicon Valley sind NDAs an sich nichts Ungewöhnliches
• Ungewöhnlich ist jedoch, bereits gewährte Beteiligungen zu verweigern oder sie bei einem Verstoß zu gefährden
  • Für Mitarbeiter von Startups wie OpenAI sind Beteiligungen ein entscheidender Teil der Vergütung und oft weit wertvoller als das Gehalt
  • Dieses potenziell lebensverändernde Geld zu bedrohen, ist eine sehr wirksame Methode, ehemalige Mitarbeiter zum Schweigen zu bringen

Widerspruch bei OpenAIs Offenheit und Transparenz

• OpenAI war anfangs damit angetreten, leistungsstarke Systeme transparent und verantwortungsvoll zu entwickeln
  • Inzwischen hat das Unternehmen die Idee aufgegeben, Modelle aus Sicherheitsgründen als Open Source bereitzustellen
• Das Unternehmen hat die erfahrensten und angesehensten Mitglieder seines Sicherheitsteams verloren
  • Das weckt Zweifel daran, ob Sicherheit wirklich der Grund ist, warum OpenAI sich abgeschottet hat
• Ein Sprecher von OpenAI sagte: „Wir haben nie Beteiligungen aktueller oder ehemaliger Mitarbeiter annulliert und würden dies auch nicht tun, selbst wenn sie beim Austritt nicht unterschreiben“
  • Dies deute auf eine Änderung der bislang verstandenen Politik hin

OpenAIs besondere Stellung in Tech- und Politikszene

• OpenAI hat lange eine besondere Stellung in der Tech- und Politikszene eingenommen
  • Veröffentlichungen von DALL-E bis ChatGPT sind zwar beeindruckend, lösen für sich genommen aber kaum religiöse Begeisterung aus
• Was OpenAI besonders macht, ist das hochgesteckte Ziel, künstliche allgemeine Intelligenz (AGI) zu entwickeln und damit der Menschheit zu nutzen
  • Viele Mitarbeiter glauben, dieses Ziel könne mit etwa zehn Jahren Zeit (oder weniger) und einigen Billionen Dollar erreicht werden
• Wie OpenAI selbst seit Langem sagt, ist das spannend, aber potenziell gefährlich

OpenAI als verantwortungsvoller Akteur

• Historisch hat sich OpenAI als verantwortungsvoller Akteur dargestellt, der kommerzielle Anreize überwindet und AGI zum Nutzen aller hervorbringen will
  • Das Unternehmen sagte, es sei bereit, dafür das Entwicklungstempo zu verlangsamen, Einnahmemöglichkeiten zu verpassen oder externe Aufsicht zuzulassen
• OpenAIs einzigartige Unternehmensstruktur — ein gewinnbegrenztes Unternehmen unter letztlicher Kontrolle einer Non-Profit-Organisation — sollte die Rechenschaftspflicht erhöhen
• Kaum etwas signalisierte die Bindung an OpenAIs Mission stärker als die sichtbaren Rollen von Personen wie Sutskever und Leike
  • Sie waren Techniker mit einer langen Geschichte des Engagements für Sicherheit und schienen bereit, OpenAI bei Bedarf zu einem Kurswechsel zu drängen

Veränderung des Interesses an Sicherheitsarbeit bei OpenAI

• Ihr Weggang kündigt keine Abkehr von OpenAIs Ziel an, künstliche allgemeine Intelligenz aufzubauen
  • Dieses Ziel bleibt bestehen
• Er kündigt jedoch mit ziemlicher Sicherheit eine Veränderung des Interesses von OpenAI an Sicherheitsarbeit an
  • Das Unternehmen hat niemanden als Leiter des Superalignment-Teams benannt
• Es wird deutlich, dass OpenAIs Bekenntnis zu externer Aufsicht und Transparenz nicht besonders tief ging
  • Wenn man wirklich möchte, dass externe Aufsicht und die Welt eine Rolle bei dem spielen, was man tut, dann ist es kaum damit vereinbar, ehemalige Mitarbeiter extrem restriktive NDAs unterschreiben zu lassen

Enttäuschung über OpenAI

• Darin liegt der Grund, warum OpenAI für Menschen, denen wirklich daran liegt, dass KI der Menschheit gut tut und ihr nützt, fundamental enttäuschend ist
  • Die Unternehmensführung sagt, sie wolle die Welt verändern, dabei Verantwortung übernehmen und begrüße die Meinung der Welt dazu, wie das fair und klug geschehen kann
• Doch sobald echtes Geld auf dem Spiel steht (und im Wettlauf um die Vorherrschaft bei KI steht enorm viel Geld auf dem Spiel), wird offenbar, dass die Welt wahrscheinlich gar nicht so viel mitreden sollte
  • Ihre Prozesse sorgen dafür, dass ehemalige Mitarbeiter — also diejenigen, die am besten wissen, was bei OpenAI intern vor sich geht — nicht mit der Welt sprechen können
• Auf der Website mögen hohe Ideale stehen, aber die Trennungsvereinbarungen sind voller kalter juristischer Formulierungen
  • Es ist schwer, ein Unternehmen zur Verantwortung zu ziehen, wenn ehemalige Mitarbeiter nur sagen dürfen: „Ich bin zurückgetreten“

Die neue niedliche Stimme von ChatGPT mag charmant sein, aber ich bin deshalb nicht gerade verliebt.

[GN⁺]

Hacker-News-Meinung

Zusammenfassung ausgewählter Hacker-News-Kommentare

• Möglichkeiten, Geheimhaltungsvereinbarungen zu umgehen

  • Um Geheimhaltungsvereinbarungen zu umgehen, könnten die betreffenden Mitarbeitenden zusammenkommen, alles aufschreiben, was sie sagen möchten, es anschließend mit einem LLM (Large Language Model) trainieren und dann veröffentlichen. Damit würde die aktuelle rechtliche Logik genutzt, die die Verantwortung auf die Nutzer des Modells abwälzt.

• OpenAIs Geheimhaltungsvereinbarungen

  • Ehemalige OpenAI-Mitarbeitende mussten Verträge unterzeichnen, die sehr strenge Geheimhaltungs- und Nichtverunglimpfungsklauseln enthalten. Bei Verstößen könnten sie Aktien im Wert von mehreren Millionen Dollar verlieren.

• Der Ernst der Lage

  • Die Lage ist sehr ernst, und manche betrachten sie als kriminelles Verhalten. Es gibt auch die Meinung, OpenAIs Verhalten erinnere an den Enron-Skandal.

• Bedarf an Rechtsberatung

  • Es wird Rechtsberatung im Zusammenhang mit Kaliforniens SB 331 (Silenced No More Act) benötigt. Dieses Gesetz könnte nicht nur auf sexuelle Belästigung, sondern auch auf andere Formen unfairer Vertragsklauseln anwendbar sein.

• Unangemessene Verträge

  • Es ist unfair, Mitarbeitenden lebenslange Nichtverunglimpfungsklauseln aufzuzwingen. Das könnte rechtlich problematisch sein, und zur Klärung müsste jemand Mut haben und Klage einreichen.

• Grenzen der KI

  • Manche vertreten die Ansicht, dass KI nicht jede menschliche Arbeit ersetzen kann. Arbeiten wie etwa ein Haus zu streichen oder einen Boiler zu reparieren, könne KI beispielsweise nicht übernehmen.

• Aktienvergütung in Startups

  • In Startups sind Aktien ein wichtiges Vergütungsinstrument. OpenAI-Mitarbeitende erhalten hohe Gehälter und Aktien und müssen dafür NDAs akzeptieren. Ähnliche Fälle gebe es auch bei Apple.

• Respekt für Jan Leike

  • Jan Leike wird zusätzlicher Respekt entgegengebracht.

• Gültigkeit von Verträgen

  • Damit ein Vertrag wirksam ist, müsste eine neue Aktienvergütung angeboten werden. Es ist unfair, mit einer bereits bestehenden Vergütung einen neuen Vertrag zu erzwingen.

• Der private Charakter von Verträgen

  • Verträge sind eine Angelegenheit zwischen den Vertragsparteien, und wenn es rechtliche Probleme gibt, sollten diese vor Gericht geklärt werden. Nicht jede Frage sollte öffentlich verhandelt werden.