OpenAI verwirft stillschweigend sein Versprechen, wichtige Dokumente öffentlich zu machen

• OpenAI hatte seit seiner Gründung versprochen, Governance-Dokumente offenzulegen, lehnte deren Herausgabe jedoch kürzlich auf Anfrage von WIRED ab
• OpenAI wurde gegründet, damit Gesellschaft und Öffentlichkeit an der Entwicklung leistungsfähiger KI beteiligt sind, verfolgt inzwischen jedoch eine neue Politik, interne Dokumente nicht offenzulegen
• Der Rückzug von OpenAIs Transparenzversprechen erschwert das Verständnis der jüngsten Krise des Unternehmens und eines Unternehmens, das erheblichen Einfluss auf Schwachstellen und die Zukunft der KI hat

OpenAIs Krise und Governance

• Der OpenAI-Vorstand entließ CEO Sam Altman, doch nach dem Widerstand von Mitarbeitenden und Investoren kehrte Altman zurück und die meisten Vorstandsmitglieder wurden ausgetauscht
• Die Vermischung von Altmans persönlichen Investitionen mit seinen dienstlichen Aufgaben könnte ein Teil der Ursache für das Misstrauen des Vorstands gewesen sein
• Die Offenlegung von OpenAIs Governance-Dokumenten könnte zeigen, welche Befugnisse der Vorstand in Bezug auf Altman und seine externen Aktivitäten hat

OpenAIs Unternehmensstruktur und Microsoft

• OpenAIs Gründungssatzung beschreibt, wie ein Teil des Vorstands die Kontrolle übernehmen und Altman absetzen konnte
• Microsoft-CEO Satya Nadella sagte, er sei von Altmans Entlassung öffentlich überrascht gewesen
• OpenAI könnte die Governance-Dokumente geändert haben, um die Vorstandsstruktur zu stabilisieren und Förderer wie Microsoft zu besänftigen

Rückgang der Transparenz bei OpenAI

• OpenAI veröffentlichte früher detaillierte Informationen über KI-Erfindungen, schützt inzwischen jedoch technische Details und Daten zu Tools wie ChatGPT
• Die Transparenz nahm ab, nachdem 2019 neben dem Non-Profit-Bereich eine gewinnorientierte Tochtergesellschaft gegründet wurde, die den Großteil der KI-Entwicklung übernimmt
• Die Non-Profit-Organisation von OpenAI kontrolliert letztlich die Aktivitäten und Technologien von OpenAI

OpenAIs Non-Profit-Organisation und IRS-Meldungen

• US-Non-Profit-Organisationen veröffentlichen jährliche IRS-Meldungen und müssen angeben, ob zusätzliche Dokumente öffentlich zugänglich sind
• OpenAI erklärte bis 2022 in seinen jährlichen IRS-Meldungen, zusätzliche Unterlagen "auf Anfrage" bereitzustellen, tat dies in der Praxis jedoch nicht
• Dass Non-Profit-Organisationen interne Dokumente offenlegen, ist selten und der Zugang dazu schwierig

OpenAIs Finanzlage

• Die von OpenAI veröffentlichten Finanzberichte schließen die Ergebnisse des gewinnorientierten Bereichs aus und wiesen für 2022 Einnahmen von 44.000 US-Dollar sowie Ausgaben von 1,3 Millionen US-Dollar aus
• OpenAI insgesamt erzielte Umsätze in Millionenhöhe, diese wurden jedoch nicht offengelegt
• Der Non-Profit-Bereich von OpenAI erhält kaum Unterstützung aus der Öffentlichkeit und hat daher wenig Anreiz, die Transparenz zu erhöhen

Meinung von GN⁺

• Der Rückzug von OpenAIs Transparenzversprechen erschwert das Verständnis der Arbeitsweise eines Unternehmens, das erheblichen Einfluss auf die Zukunft der KI-Technologie hat
• Diese Veränderung könnte die Beteiligung der Öffentlichkeit an KI-Forschung und -Entwicklung sowie das Vertrauen darin verringern
• OpenAIs Kurswechsel ist ein wichtiger Fall, der Diskussionen über Transparenz und ethisches Handeln in der KI-Branche anstoßen könnte

[GN⁺]

Hacker-News-Kommentare

• Enttäuschend, aber nicht überraschend. Versuchen wir, aus diesem Vorfall etwas zu lernen.

  • Im KI-Bereich ist es beliebt, Altruismus und Offenheit zu propagieren, und OpenAI, Anthropic sowie Musks neues xAI haben zum Wohl der Allgemeinheit ungewöhnliche Governance-Strukturen. Das Problem ist, dass sich die Lage ändert, sobald bei einem dieser Unternehmen absehbar wird, dass es genug Aufmerksamkeit bekommt, um Milliardenprofite zu erzielen.
  • Dieses Problem ist nicht auf KI-Unternehmen beschränkt und auch nichts Neues. Es ist Teil der menschlichen Natur und wird immer existieren.
  • Wir sollten viel mehr Gewicht und Aufmerksamkeit auf wirklich offene KI-Modelle legen (offene Trainingsdaten, offener Training-Source-Code und Hyperparameter, Modell-Source-Code, Gewichte), damit die Vorteile von KI der Allgemeinheit zugutekommen und nicht nur einigen wenigen Unternehmen.

• Da wir wissen, dass OpenAI seit der Einführung von ChatGPT nichts mehr geteilt und zugleich Milliardeninvestitionen erhalten hat, sollte es niemanden überraschen, dass OpenAI geschlossen agiert.

• OpenAI hat jedes einzelne seiner Versprechen gebrochen.

• Wie konnte der Vorstand zulassen, dass das passiert!

  • Wenn man ernsthaft darüber nachdenkt, ist das ein offensichtliches Ergebnis und wirkt doch irgendwie düster.
  • Es stimmt, dass OpenAI viel Geld und Kapital braucht, und deshalb auch Finanzierung und Partnerschaften nötig sind.
  • Aber der einzige Grund, warum sie überhaupt am Anfang existieren konnten, war, dass sie sich als „offenes“, beinahe öffentlich-gutartiges Unternehmen positionierten und auf dieser Basis Spenden erhielten.

• Angesichts all dessen, was wir über potenziell schädliche gesellschaftliche Anwendungen dieser Technologie hören, frage ich mich, ob die Lage so ernst ist, dass es eine Art Untersuchung braucht, um herauszufinden, was hier vor sich geht.

  • Die Lage ist ernst genug, dass wir die Privatisierung solcher Arbeit nicht einfach geschehen lassen können.
  • Die Behauptung „das ist normal“ verdient keine Beachtung. Sie ist nur ein Versuch, Menschen dazu zu bringen, ein solches Verhalten zu normalisieren.
  • Weiß jemand, ob es ein KI-Sicherheitszentrum gibt, das im öffentlichen Interesse handelt, und ob dieses Thema dort überhaupt auf dem Radar ist?

• Ich will Musk nicht verteidigen, aber wenn ich an seiner Stelle wäre, wäre ich wohl etwas verärgert darüber, dass ein Artikel mit „Reiche Tech-Unternehmer versprachen Transparenz, tun das jetzt aber nicht mehr“ beginnt und erst nach acht Absätzen darauf hinweist, dass der einzige erwähnte Mitgründer schon vor Jahren hinausgedrängt wurde, jetzt ein Konkurrent ist und das Ganze als „supergeschlossene Source-KI zur maximalen Gewinnerzielung“ bezeichnet.

  • Die Medien sind süchtig nach Schuldzuweisungen, und jede Nuance zwischen Vorwurf und Schlagzeile wird ans Ende des Artikels verbannt, hinter eine Paywall. Vielleicht werden solche Taktiken in ein paar Jahren auch auf Altman angewandt.
  • Es ist schon so schlimm, dass ich, wenn ich eine Schlagzeile lese, die Heuchelei andeutet, inzwischen fast eher das Gegenteil glaube — und das ist ein ebenso schrecklicher mentaler Kurzschluss wie die Annahme, die Schlagzeile sei automatisch richtig!

• Es hätte von Beginn dieser Organisation an Regeln geben müssen, die genau so etwas verhindern. Der Verlauf der Ereignisse zeigt, dass ihre Governance-Form nicht wirksam ist.

• Es dauert wohl nicht mehr lange, bis sie den Firmennamen in „Microsoft AI“ ändern.

• Man sollte OpenAI nicht als gemeinnützig wirkendes Unternehmen im öffentlichen Interesse betrachten, sondern am besten wie jedes andere private Tech-Unternehmen.