OpenAI und Anthropic reagieren gemeinsam auf Open-Weight-KI, die ihre Umsätze bedroht

• OpenAI und Anthropic, die um Kunden konkurrieren, verfolgen in Washington gemeinsame Interessen, indem sie vor den Risiken leistungsstarker chinesischer Open-Weight-Modelle warnen
• Anthropic hält es nach der Veröffentlichung von Gewichten für schwierig, den Zugriff zurückzuziehen, Sicherheitsmaßnahmen zu aktualisieren und Missbrauch zu verhindern; Befürworter sehen dagegen gerade darin, dass Unternehmen die Nutzung nicht kontrollieren können, eine Stärke der Offenheit
• Kritiker wie David Sacks warnen, Sicherheitsregulierung könne es Wettbewerbern erschweren, Modelle zu veröffentlichen, und zu regulatory capture führen, die große Anbieter geschlossener Modelle schützt
• OpenAI und Vertreter der US-Regierung wollen chinesische Distillation als Verletzung geistigen Eigentums behandeln, doch konkrete Sicherheitsstandards für US-Modelle gibt es ebenfalls noch nicht
• Offene Modelle sind wichtig, damit Unternehmen ihre KI-Lieferanten diversifizieren können und Forschende Modelle anpassen und analysieren können; eine Regulierung von Distillation könnte sogar unabhängig entwickelte Open-Weight-Modelle faktisch einschränken

---

Interessen rund um chinesische offene Modelle

• OpenAI und Anthropic betonen die Risiken leistungsstarker chinesischer Open-Weight-Modelle und stellen sich damit gegen Forschende, Startups und Befürworter offener Modelle
  • Wenn Open-Weight-Modelle stärker überwacht werden, könnten Anbieter geschlossener Modelle profitieren
  • Der Berater der Trump-Regierung David Sacks kritisiert, Sicherheitsregeln könnten zu regulatory capture werden, die große Unternehmen zementiert
• Anthropic-CEO Dario Amodei ist der Ansicht, dass es nach der Veröffentlichung von Gewichten für Entwickler schwierig ist, den Zugriff zurückzuziehen, Sicherheitsmaßnahmen zu aktualisieren und Missbrauch zu blockieren
  • Für Befürworter ist dagegen gerade die Eigenschaft, dass niemand Nutzer und Nutzungsweisen kontrollieren kann, ein Vorteil von Open Weights
• OpenAI, das ein eigenes Open-Source-Modell hat, zählt Open Source zur „Demokratisierung des Zugangs“, erklärt aber zugleich, es müsse innerhalb eines nationalen Frameworks betrieben werden
  • Konkrete Betriebsweisen werden nicht offengelegt
  • Das Unternehmen sieht Bedarf an einem System, das neue Modelle schnell bewertet, Risiken steuert und leistungsfähige KI-Tools Cyber-Verteidigern bereitstellt
  • Es erklärte, der Fortschritt chinesischer Open-Weight-Modelle an sich sei kein Grund, Offenheit abzulehnen

Streit um Distillation und noch fehlende Sicherheitsstandards

• OpenAI warnt vor Distillation, also dem Training von Modellen mithilfe der Modelle anderer Unternehmen
  • Der US-Handelsbeauftragte Jamieson Greer betrachtet chinesische Distillation als Diebstahl geistigen Eigentums
  • Finanzminister Scott Bessent erklärte, auf chinesische Modelle sollten dieselben Standards angewendet werden wie auf US-Modelle, und dies werde in den kommenden Wochen geprüft
  • Sollten sich die Vorwürfe der US-Behörden bestätigen, hieße das, dass chinesische Anbieter mithilfe von US-Modellen günstigere, vergleichbare Systeme gebaut und anschließend subventionierte Versionen auf westliche Märkte gebracht haben, um mit US-Unternehmen zu konkurrieren
• Auch detaillierte Sicherheitsstandards für US-Modelle gibt es noch nicht; die Regierung arbeitet derzeit an deren Festlegung
  • Befürworter offener Modelle befürchten, dass eine Behandlung von Distillation als Diebstahl geistigen Eigentums sogar unabhängig entwickelte Modelle faktisch einschränken könnte

Nutzung in Forschung und Unternehmen sowie Unterschiede bei Regulierungsvorschlägen

• Unternehmen nutzen offene Modelle, um ihre KI-Lieferanten zu diversifizieren; in der aktuellen Aufbauphase von KI sind offene Modelle auch für wissenschaftliche Entdeckungen wichtig
  • Suresh Venkatasubramanian, ehemaliger Technologieberater des Weißen Hauses unter Biden, sieht ein großes Problem für die Forschung, wenn der Zugang zu sämtlichen chinesischen Modellen blockiert wird
  • Open-Weight-Modelle lassen sich freier verändern und analysieren als geschlossene Modelle und sind daher für Forschende besonders nützlich
• OpenAI und Anthropic schlagen bei der bundesweiten KI-Regulierung ähnliche Lösungen vor, unterscheiden sich jedoch auf Ebene der Bundesstaaten
  • OpenAI unterstützt ein Massachusetts-Gesetz zur Frontier-Sicherheit, das weniger streng ist als ein zuvor von Anthropic unterstützter Vorschlag
  • Der von Anthropic unterstützte Vorschlag verlangt alle sechs Monate unabhängige Modelltests auf katastrophale Risiken sowie die Veröffentlichung der Ergebnisse
  • Dieser Vorschlag würde dem Generalstaatsanwalt des Bundesstaats außerdem die Befugnis geben, Unternehmen bei Nichteinhaltung zu verklagen und zivilrechtliche Geldbußen zu verhängen; im von OpenAI unterstützten Vorschlag fehlt diese Bestimmung
• OpenAI-CEO Sam Altman will sich nächste Woche mit Abgeordneten und Vertretern des Weißen Hauses treffen, um über Veröffentlichungen neuer Modelle zu sprechen

[GN⁺]

Hacker-News-Kommentare

• Vielleicht stecke ich so sehr in der Blase, dass ich das große Ganze übersehe, aber sie zerstören das von ihnen aufgebaute Vertrauen vollständig
  Besonders Anthropic tritt mit einer arroganten Kommunikation nach dem Motto „Wir sind klüger als ihr“ auf und schmückt sich mit einer geradezu absurden erhabenen Mission wie dem „Wohlergehen von Modellen“. Das mag mit dem Einfluss seiner Wurzeln in der EA zusammenhängen, aber sobald Konkurrenz auftaucht, rennen sie zum Staat und bitten darum, ihren Vorsprung künstlich zu schützen — darin ist nur offenes Eigeninteresse zu sehen. Politische Regulierung können sie vielleicht bekommen, aber sie haben bereits sowohl Vertrauen als auch ihr einzigartiges Modell verloren und werden langfristig wohl zu einem gewöhnlichen Nachzügler

  • Sie verlassen sich auf eine Strategie wie bei Apple und Tesla, bei der fanatische Anhänger berechtigte Kritik unterdrücken. Aussagen wie „hat seit einem Jahr keinen Code mehr selbst geschrieben“, „ist in zwei Monaten als Pessimist abgehängt“, „versteht nichts von AI“ oder „ist einfach nur ein Hater“ bewirken weit mehr als die gemeinsame Erklärung
    Dass China auf Open-Weight-Modelle setzt, liegt auch daran, dass dies der einzige Weg ist, OpenAI und Anthropic etwas entgegenzusetzen, nachdem man den Markt nicht zuerst besetzen konnte. Auch chinesische Unternehmen sollte man genauso wachsam beobachten wie diese beiden Firmen; am vernünftigsten ist es, keine Seite zu unterstützen und sie gegeneinander kämpfen zu lassen
  • Vielleicht ist das Anzeichen dafür, dass man in einer Blase steckt, einfach nur der Glaube, dass Vertrauen wichtig ist. Unternehmen kaufen das Modell, das für ihren Einsatzzweck bei Leistung, Preis und Verfügbarkeit am besten passt, und 95 % der Entwickler nutzen einfach die Tools, die ihr Arbeitgeber bereitstellt
  • Anthropic zeigte schon vor seiner Spitzenposition eine konsequente Haltung zu Regulierung und Sicherheit. OpenAI dagegen unterstützte Illinois SB 3444 und wirkt tatsächlich eher wie die Seite, die regulatorische Vereinnahmung will
  • Wenn Dario und Sam wirklich aufrichtig glauben, dass AI zugleich ein existenzielles Risiko und eine Chance für die Menschheit ist, frage ich mich, was sie dann anders gemacht hätten als jetzt
  • Weil niemand die langfristige Entwicklung von AI kennt, ist die Lage derzeit chaotisch. Wenn man die Ängste einer technisch wenig versierten Öffentlichkeit nutzen will, kann man die Strategie wählen, Angst, Unsicherheit und Zweifel (FUD) zu verbreiten und die Leute dazu zu bringen, jede Regulierung zu akzeptieren, die ein Gefühl von Sicherheit vermittelt
    Gleichzeitig zeigt dieses Verhalten auch, wie unethisch sie sind

• Es gibt für Big Tech nichts Verhassteres als Konkurrenz. Google, Apple und Microsoft brauchten lange, um ihre Monopole aufzubauen, aber OpenAI und Anthropic wollen das im Zeitraffer erreichen

  • „Wettbewerb ist etwas für Verlierer“ — Peter Thiel
  • Anthropic wollte sowohl vor als auch nach der Marktführerschaft Regulierung und ist darin also konsequent
  • Wahrscheinlich hassen sie noch mehr als Konkurrenz einfach die Nutzer. Deren Geld natürlich ausgenommen

• Eine Strategie, bei der für die US-Wirtschaft garantiert nichts schiefgehen kann: Man ignoriert die größeren Folgen und steckt die ganze Energie in den Schutz bestehender Marktbeherrscher

  • Es hilft auch nicht, dass die US-Regierung behauptet, Kimi 3 habe das geistige Eigentum von Fable gestohlen, obwohl es unmöglich ist, Fable in einem Monat zu destillieren
  • Destillierte Modelle verringern die Gewinnspanne, die für Entwicklung an der Spitze eingesetzt würde, und sind damit schlecht für die US-Wirtschaft. Wenn US-Unternehmen mit destillierten Modellen konkurrieren müssen, wird sich das Tempo des Modellfortschritts stark verlangsamen
  • Diese Strategie war offensichtlich wirksam, um Oracle- und Intel-Manager weiter reich zu machen. Wen kümmert schon, was mit dem „durchschnittlichen Menschen“ passiert
  • Auch die US-Autoindustrie wird denselben Weg gehen und bedeutungslos werden, weil ihr die Fähigkeit oder der Wille fehlt, mit chinesischen Elektroautos zu konkurrieren. Man tut so, als seien Elektroautos schlecht, und fordert nur protektionistische Politik
    Was OpenAI und Anthropic wollen, ist ein Zeitfenster von höchstens einem Jahr bis zum Börsengang, bei Anthropic nur ein paar Monate, damit Venture-Investoren danach enorme Gewinne einstreichen können. Es geht ihnen weder um AI-Sicherheit noch um Fairness, sondern nur darum, Investoren zufriedenzustellen; der Öffentlichkeit verkaufen sie jedoch die Erzählung „Alle Open-Weight-AI-Modelle sind gefährlich“

• Wenn man sich nur den jüngsten Vorfall zwischen OpenAI und Hugging Face ansieht, ist dieses Ende noch ganz okay. Weil ein „sicheres“ Modell die Problemlösung verhinderte und am Ende Open-Weight-Modelle nötig waren, sollen ruhig alle abbrennen, damit wenigstens eine Lehre daraus gezogen wird

  • Dass wir eine Lehre daraus ziehen, ist wahrscheinlich gerade das, was nicht passieren wird
  • Man hätte statt des Modells auch den eigenen Kopf benutzen können
  • Ich will nicht, dass wir auf so dumme Weise im AI-Wettlauf verlieren. Um den Wettbewerb zu gewinnen, muss man OpenAI und Anthropic den Marktkräften aussetzen
    Firmen wie ElevenLabs, Runway, FAL, RunPod, CoreWeave, Lambda, BaseTen und Lovable machen es bereits gut, indem sie ohne absurd hohe Kapitalaufnahme solide Umsätze steigern und echten Wert liefern

• US-Hersteller von Open-Weight-Modellen müssen sich an die Nutzungsbedingungen der führenden Labs halten und fallen deshalb hinter chinesische Alternativen zurück; indem sie chinesische Labs umgehen, destillieren sie am Ende destillierte Modelle erneut. Für westliche Hersteller wäre direkter Zugang zu den Basismodellen besser
  Die USA sollten klarstellen, dass das Sammeln von Trainingsdaten für Modelle unter Fair Use fällt, und zumindest für US-Unternehmen Nutzungsbedingungen verhindern, die Destillation verbieten. Da es nahezu unmöglich ist, Destillation zu verhindern, wenn sie nur aus API-Abfragen besteht, sollte man zu einer neuen Urheberrechtspolitik übergehen, die die Labs zugleich von Haftung befreit und sicherstellt, dass alles, was sie gelernt haben, für nachfolgende Innovationen aller genutzt werden kann [1]
  [1] https://stratechery.com/2026/whos-afraid-of-chinese-models/

• Es wirkt, als würden auch die USA Europa auf den Weg folgen, sich durch Regulierung der eigenen Wettbewerbsfähigkeit zu berauben

  • Europas Regulierung schützt im Großen und Ganzen die Bürger, während US-Regulierung offenbar dem Schutz von Unternehmen dient. Sicher bin ich nicht, aber für die meisten Bürger scheint das nicht wünschenswert zu sein
  • Europa gewinnt, weil es erkennt, dass es besser ist, sich gar nicht erst auf dieses Spiel einzulassen
  • Keiner der Vorteile, die Bürger aus Regulierung ziehen, kommt dabei mit
  • Monopolunternehmen und CEOs scheinen gemeinsam mit einer extrem korrupten Regierung eine technofaschistische Feudalordnung errichten zu wollen. Wenn gleichzeitig die Kriegsmaschine außer Kontrolle weiterläuft und die Demokratie weiter zerstört wird, fällt es schwer, das einen Sieg zu nennen
    Im Moment scheinen allerdings eindeutig sie die Gewinner zu sein

• Das ist ein Verhalten, das sich gegenseitig schadet, und zeigt, wie unhaltbar das Geschäft mit großen Sprachmodellen in seiner derzeitigen Form ist. Es ist, als würde der Prozess, mit dem Red Hat und SuSE in den 1990er- und 2000er-Jahren Windows erschütterten, im Zeitraffer wiederholt
  Große Sprachmodelle sind erstaunlich und nützlich, hätten aber zumindest anfangs kein gewinnorientiertes Geschäft sein dürfen. Sie hätten an Universitäten mit ausreichendem Kapital für ethische Entwicklung beginnen und sich auf viel engere Einsatzbereiche wie die Autokorrektur in Textverarbeitungen oder Autovervollständigung in IDEs beschränken sollen. Doch vor allem OpenAI entschied sich dafür, die Zukunft des Planeten zu ignorieren und den Amazonas für Brennholz abzubrennen
  Wenn man dann noch sieht, dass Milliarden an F&E-Ausgaben für Elektroautos anderswohin umgeleitet, Steuergutschriften für Elektroautos gestrichen und forschungsorientierte Universitäten angegriffen werden, wirkt Krebs’ Aussage plausibel. Zu viele politische Entscheidungen ergeben keinen Sinn, wenn man nicht annimmt, dass die US-Regierung mit einem Rootkit infiziert wurde

• OpenAI ist eine Non-Profit-Organisation und Anthropic eine Public-Benefit-Corporation, und trotzdem stemmen sich beide aktiv gegen offenen Zugang zu AI. Das behindert statt fördert den Fortschritt der Menschheit

  • Zumindest Anthropic scheint weniger zwischen offen und geschlossen zu unterscheiden, sondern eher Modellfähigkeiten ab einem gewissen Niveau regulieren zu wollen. Demis Hassabis vertritt dieselbe Position; manchmal ist mir unklar, wo das Problem sein soll, und es wirkt, als würde gegen einen Strohmann argumentiert
  • Offenheit an sich ist nichts Gutes, und das zu glauben ist naiver Tech-Libertarismus. So wie man nicht jedem Hobby-Hacker einen Knopf für Zero-Day-Angriffe geben würde, sollte man auch keine allgemeine künstliche Intelligenz an jeden verteilen, wenn sie mit fortschrittlichen Modellen beim Bau von Biowaffen und Ähnlichem helfen kann
    Bei der Freigabe von Intelligenz gibt es Grenzen, denen jeder moderate Nicht-Libertäre zustimmen würde

• Wenn ich diese Struktur mit „Why it matters“, „The big picture“, „Zoom in“ und „Zoom out“ sehe, frage ich mich, ob dieser Artikel von einem US-Modell oder einem chinesischen Modell geschrieben wurde

  • Wenn ich mich richtig erinnere, nutzte Axios dieses Format schon vor den großen Sprachmodellen
  • Dieses Format wirkt so albern, dass ich sofort die Konzentration verliere und den Artikel kaum lesen kann. Es wirkt, als schreibe man für eine Führungskräfte-Leserschaft, ohne je wirklich in die Nähe echter Führungskräfte gekommen zu sein
  • Das liegt nicht an großen Sprachmodellen, sondern ist einfach der typische Axios-Stil für extrem beschäftigte, wichtige Analphabeten