OpenAI streicht das Wort „safely“ aus seiner Mission

 (theconversation.com)
4 Punkte von GN⁺ 2026-02-14 | 1 Kommentare | Auf WhatsApp teilen
  • OpenAI hat kürzlich den Ausdruck „safely“ aus seiner Missionsformulierung entfernt und stattdessen ein neues Ziel festgelegt: sicherzustellen, dass künstliche Intelligenz der gesamten Menschheit zugutekommt
  • Diese Änderung erfolgte zeitgleich mit dem Wechsel von einer Non-Profit-Struktur zu einer stärker gewinnorientierten Struktur; zugleich wurden große Investitionen von Microsoft, SoftBank und anderen eingeworben
  • Die neue Struktur ist in die gemeinnützige Stiftung (OpenAI Foundation) und das gewinnorientierte Public-Benefit-Unternehmen (OpenAI Group) aufgeteilt; erstere hält rund 26 % an letzterer
  • Da jedoch der Verweis auf Sicherheit aus der Mission verschwunden ist und beide Organisationen keine ausdrücklich formulierte Sicherheitsverantwortung haben, werden Bedenken über eine geschwächte Rechenschaftspflicht des Vorstands geäußert
  • Die Veränderung gilt als Testfall dafür, ob AI dem Nutzen der gesamten Gesellschaft oder den Interessen der Aktionäre den Vorrang gibt

Änderung der OpenAI-Mission und Umbau der Struktur

  • OpenAI formulierte bis 2023 als Ziel die „Entwicklung von AI, die der Menschheit sicher zugutekommt“, änderte dies aber im IRS-Bericht 2024 zu „Sicherstellung künstlicher Intelligenz, die der gesamten Menschheit zugutekommt“
    • Sowohl „safely“ als auch die Formulierung „ohne durch die Notwendigkeit der Erzielung finanzieller Rendite eingeschränkt zu sein (unconstrained by a need to generate financial return)“ wurden gestrichen
    • Laut einem Bericht von Platformer wurde auch das „mission alignment team“ aufgelöst
  • OpenAI erwähnt auf seiner Website weiterhin die gleichzeitige Weiterentwicklung von Sicherheit, Fähigkeiten und positivem Einfluss, in der offiziellen Mission fehlt jedoch jede sicherheitsbezogene Formulierung

Vom Non-Profit zum For-Profit

  • OpenAI wurde 2015 als gemeinnütziges Forschungslabor gegründet, veröffentlichte Forschungsergebnisse offen und stellte sie lizenzgebührenfrei bereit
  • 2019 wurde unter Führung von Sam Altman eine gewinnorientierte Tochtergesellschaft gegründet; Microsoft investierte zunächst 1 Milliarde US-Dollar
    • Bis 2024 belief sich die kumulierte Investition von Microsoft auf 13,8 Milliarden US-Dollar
    Anzeige
  • Bei einer zusätzlichen Finanzierung über 6,6 Milliarden US-Dollar Ende 2024 wurde die Bedingung festgelegt, dass die Mittel in Schulden umgewandelt werden, falls keine Umwandlung in ein traditionelles gewinnorientiertes Unternehmen erfolgt

Neue Rechtsstruktur und Interessenlagen

  • Im Oktober 2025 wurde OpenAI nach einer Einigung mit den Generalstaatsanwälten von Kalifornien und Delaware in die Form einer Public Benefit Corporation umstrukturiert
    • Aufspaltung in die OpenAI Foundation (gemeinnützig) und die OpenAI Group (gewinnorientiert)
    • Die Foundation hält etwa ein Viertel an der Group, Microsoft hält 27 %
  • Eine Public Benefit Corporation muss soziale und ökologische Interessen berücksichtigen, doch die Abwägung zwischen Gewinn und Gemeinwohl liegt im Ermessen des Vorstands
  • SoftBank schloss Ende 2025 eine Investition von 41 Milliarden US-Dollar ab und verhandelt anschließend über weitere 30 Milliarden US-Dollar

Sicherheitsbezogene Klauseln und ihre Grenzen

  • Die Umstrukturierungsvereinbarung umfasst die Einrichtung eines Sicherheits- und Sicherheitsausschusses, die Befugnis, Produktveröffentlichungen auszusetzen, sowie Kontrolle über die Zusammensetzung des Vorstands
    • Der Vorstand der OpenAI Group soll bei sicherheitsbezogenen Fragen die Mission vor finanzielle Interessen stellen
    Anzeige
  • Da jedoch Sicherheit in der Mission nicht ausdrücklich genannt wird, ist die rechtliche Grundlage dafür schwach, dass der Vorstand Sicherheit tatsächlich priorisieren muss
  • Da die Vorstandsmitglieder beider Organisationen größtenteils identisch sind, besteht das Problem einer faktisch doppelten, aber nicht wirklich unabhängigen Aufsicht

Alternative Modelle und Regulierungsdebatte

  • Bei der Umwandlung von Health Net in ein gewinnorientiertes Unternehmen im Jahr 1992 gab es einen Präzedenzfall, bei dem 80 % der Vermögenswerte auf eine gemeinnützige Stiftung übertragen werden mussten
  • Der Philadelphia Inquirer wurde 2016 in eine Public Benefit Corporation unter Eigentum des gemeinnützigen Lenfest Institute überführt, um das Ziel des lokalen Journalismus zu erhalten
  • Einige kalifornische Non-Profit-Organisationen argumentieren, sämtliche Vermögenswerte von OpenAI müssten auf eine unabhängige Non-Profit-Organisation übertragen werden
  • Der Text kritisiert, dass der Vorstand von OpenAI die Sicherheitsmission aufgegeben habe und dass die Bundesstaaten dies zugelassen hätten, als Versagen der Governance

Wachsende Investitionen und Marktbewertung

  • OpenAI könnte Anfang 2026 von Amazon, Nvidia, Microsoft und anderen Investitionen von bis zu 60 Milliarden US-Dollar einwerben
  • Die Unternehmensbewertung stieg von 300 Milliarden US-Dollar im März 2025 auf mehr als 500 Milliarden US-Dollar im Oktober 2025
  • Auch ein möglicher IPO (Börsengang) wird erwähnt, was den Druck zur Maximierung der Aktionärsrendite weiter verstärken dürfte
  • Das Vermögen der OpenAI Foundation wird auf rund 130 Milliarden US-Dollar geschätzt, basiert jedoch auf einer Schätzung des Marktwerts eines nicht börsennotierten Unternehmens

Gesellschaftliche Bedeutung

  • Die Änderung der OpenAI-Mission und der strukturelle Umbau werden als Testfall dafür dargestellt, ob AI-Unternehmen dem Gemeinwohl oder der Gewinnerzielung den Vorrang geben
  • Die Streichung sicherheitsbezogener Formulierungen kann als Rückschritt bei gesellschaftlicher Verantwortung und Risikomanagement von AI interpretiert werden
  • Künftig werden die Wirksamkeit des Public-Benefit-Modells und die Rolle staatlicher Aufsicht zu zentralen Streitpunkten

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2026-02-14
Hacker-News-Kommentare

  • Die offiziellen Mission Statements der einzelnen Jahre sind in den IRS-990-Unterlagen bei ProPublica zu finden.
    Ich habe sie gesammelt und eine Gist-Revisionsseite daraus gemacht, damit man die Änderungen nach Jahr auf einen Blick sehen kann.
    Mehr Details habe ich auch in meinem Blogbeitrag zusammengefasst.

    • Das ist zu komisch. Es erinnert an die Szene mit den geänderten Geboten aus Animal Farm — eine Satire der Art, wie aus „Alle Tiere sind gleich“ dann „Alle Tiere sind gleich, aber manche Tiere sind gleicher“ wird.
    • Danke, dass du die historischen Missionsänderungen tatsächlich extrahiert hast. Besonders auffällig ist, dass es 2021 noch „...that benefits humanity“ hieß, 2022 dann „safely“ ergänzt wurde und es zu „...that safely benefits humanity“ wurde. In der neuesten Version ist „safely“ jedoch komplett verschwunden, und der Satz ist insgesamt viel kürzer geworden.
      Zu den entfernten Wörtern gehören responsibly, safe, technology, world und weitere.
    • Es ist wirklich cool, dass du die Formulierungen von 2016 bis 2024 extrahiert und mit Claude Code die Commit-Daten manipuliert hast, sodass es wie ein git-Repo aussieht. Ein gutes Beispiel für automatisierte Archivierung.
    • Ich habe den Eindruck, dass im Gist ziemlich viel Interpunktion fehlt.
    • Wirklich interessant. Ich frage mich, ob es zu Anthropic auch Material gibt, das Missionsänderungen auf diese Weise dokumentiert.

  • Das Update des Preparedness Frameworks vom April 2025 war ein starkes Signal, als der Punkt persuasion/manipulation aus den verfolgten Kategorien entfernt wurde.
    Laut einem Fortune-Artikel bewertet OpenAI vor der Veröffentlichung von Modellen nun nicht mehr die Risiken von Überredung und Manipulation, sondern beschränkt sie stattdessen über die Nutzungsbedingungen.
    Das definiert die Bedeutung von „AI-Sicherheit“ ziemlich konkret — manipulative AI, die Menschen ihren Bezug zur Realität verlieren lässt, kann genauso eine Bedrohung für die Menschheit sein wie das Entwerfen von Massenvernichtungswaffen.

    • „Systeme, die Menschen den Bezug zur Realität verlieren lassen“ — sind das nicht genau Social Media und Werbetechnologie?
      Menschen sind seit Jahrzehnten gegenüber Manipulationstechniken abgestumpft, und jetzt wachsen nur noch deren Größenordnung und Effizienz. Am Ende werden einige Wenige reicher und die Mehrheit wird es schwerer haben.
    • Genau das ist der eigentliche Zweck von AI. Menschliche Zensoren bekommen Gewissensbisse, aber AI führt befohlene Zensur perfekt aus.
      Noch beängstigender ist, dass sich Cambridge-Analytica-artiges Profiling hyperpersonalisieren lässt, sodass jeder Person maßgeschneiderte manipulative Inhalte geliefert werden können.
    • Ich denke, der Verlust des Realitätsbezugs ist letztlich die Verantwortung des Einzelnen. Wenn man immer wieder auf Täuschung hereinfällt und trotzdem nicht bereit ist, selbst dazuzulernen, dann ist das das Ergebnis von Bequemlichkeit.

  • Dass in der Version von 2024 die Formulierung „unconstrained by a need to generate financial return“ entfernt wurde, war die entscheidende Veränderung. Wenn man das aufgibt, was bleibt dann noch?

    • Es bleibt nur Gewinn.
    • Außerdem könnte so eine Veränderung für eine 501(c)(3)-Non-Profit-Organisation rechtlich problematisch sein.

  • Dass das Wort „safely“ gestrichen wurde, wirkt eher wie ein ehrlicherer Schritt. So wie Google „Don’t be evil“ aufgegeben hat, wurde damit nur die Maske der Heuchelei abgelegt.

    • Sehe ich nicht so. Menschen sind auch auf Unternehmen, die offen böse auftreten, wie Palantir oder Broadcom, völlig zurecht wütend.
    • Es gibt Organisationen, die selbst in komplexen Interessenkonflikten sicher arbeiten. Von Talenten auf Weltklasseniveau sollte man mindestens so viel erwarten dürfen.
    • Ich habe 10 Jahre lang AI-Forschung bei Google gemacht, und die Entscheidung, Proto-LLM-Technologie nicht in die Welt zu setzen, wurde tatsächlich von Sundar getroffen. Er war der Ansicht, dass die Welt dafür nicht bereit war.

  • Das ruft dieselbe zynische Déjà-vu-Stimmung hervor wie damals, als Google „Don’t be evil“ aufgegeben hat.

    • Im Grunde wurde es durch „Do the right thing (for the shareholders)“ ersetzt.

  • Die ultimative Frage ist doch diese — werden wir zuerst Roboter-Katzenmädchen genießen oder geht es direkt zu Terminator?

    • Das Wort „Roboter“ stammt etymologisch vom slawischen „rabu(Sklave)“. Solche Witze spiegeln eine Mentalität der Sklaverei wider. Du solltest deine Einstellung ändern oder verschwinden.

  • OpenAIs Mission war von Anfang an eine Witz-Erklärung. Sie sagten, die Mission sei erfüllt, wenn ihre Forschung dazu beitrage, dass andere AGI erreichen, und dann wandten sie sich an den Kongress, weil Open-Source-Modelle ihre Modelle fürs Training genutzt hätten.

  • Ich verstehe nicht, warum Unternehmen solche Missionsformulierungen überhaupt machen. Nur weil man den Satz „Wir werden nicht böse sein“ streicht, wird man dadurch nicht automatisch böser — am Ende zeigt es nur Heuchelei.

  • Die neue Mission wurde letztlich einfach durch „profitably“ ersetzt.
    Früher hat mich mein Chef einen ganzen Tag lang in einen Besprechungsraum gesperrt, damit ich an Missionsformulierungen arbeite, dann wurden sie eingerahmt aufgehängt und nie wieder angeschaut. Am Ende sind das nur Marketing-Dekoartikel.

  • Im Juni 2024 trat der frühere NSA-Direktor Paul Nakasone dem OpenAI-Vorstand bei, und im Oktober 2025 wurde angekündigt, dass die Erstellung von Erwachsenen-Content erlaubt werde.

    • Ein wirklich unheimliches Unternehmen. Es wirkt wie eine Verbindung aus Gier und Überwachung.
    • Relevanter Videolink
    • Diese Firmen haben meine Arbeit aus zehn Jahren ohne Erlaubnis fürs Training verwendet. Wenn sie am Ende sogar meine Nacktfotos nehmen und Pornografie daraus machen, will ich mir die Wut darüber gar nicht vorstellen.