Nvidia, Microsoft und Meta warnen vor Überregulierung offener Weight-Modelle

 (cnbc.com)
1 Punkte von GN⁺ 1 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • 25 Technologieunternehmen wie Nvidia, Microsoft, Meta und Palantir fordern politische Entscheidungsträger zu einem vorsichtigen Vorgehen auf und warnen, dass vorschnelle Beschränkungen für Open-Weight-AI-Modelle den Wettbewerb unterdrücken und Innovationen ins Ausland verdrängen könnten
  • Open-Weight-Modelle, die Nutzer herunterladen, anpassen und auf eigener Infrastruktur ausführen können, verbreiten die Vorteile der Technologie breiter; zugleich kann eine Konzentration fortgeschrittener Fähigkeiten auf wenige geschlossene Modelle das Risiko von Kompromittierung, Missbrauch und von außen schwer erkennbaren Fehlfunktionen erhöhen
  • Das chinesische Kimi K3 von Moonshot AI übertraf in einigen Branchen-Benchmarks moderne US-Modelle, was die Debatte über Zugangsbeschränkungen in den USA verschärfte; aus dem Umfeld des Weißen Hauses kamen Vorwürfe, es habe Anthropic-Technologie heimlich destilliert
  • Die Unternehmen sind der Ansicht, dass illegale Destillation nicht mit weitreichenden Technologiebeschränkungen, sondern mit gezielten rechtlichen und kommerziellen Rahmenwerken behandelt werden sollte, während legale Destillation im offenen Innovationsökosystem eine wichtige Rolle spielt
  • OpenAI und Anthropic unterzeichneten nicht, doch OpenAI-Manager unterstützten einen breiten Modellzugang; auch der Fall, in dem Hugging Face mit dem GLM 5.2 des chinesischen Unternehmens Z.ai Cyberangriffe auf OpenAI-Modelle schnell blockierte, zeigt das Potenzial von Open-Weight-Modellen

Gemeinsame Reaktion von 25 Unternehmen

  • 25 Technologieunternehmen wie Nvidia, Microsoft, Meta und Palantir veröffentlichten einen gemeinsamen Brief an politische Entscheidungsträger mit der Aufforderung, „vorschnelle Beschränkungen“ für Open-Weight-AI-Modelle zu vermeiden
    • Sie warnen, dass Regulierung den Wettbewerb unterdrücken oder Innovationen ins Ausland verdrängen könnte
    • Nvidia-CEO Jensen Huang und Microsoft-CEO Satya Nadella teilten den Brief über ihre jeweiligen Social-Media-Konten
    • Auch Elon Musk erklärte, er unterstütze ihn „voll und ganz“, doch SpaceX gehört nicht zu den offiziellen Unterzeichnern
  • Open-Weight-Modelle sind AI-Modelle, die Nutzer herunterladen, anpassen und auf eigener Infrastruktur ausführen können

Aufstieg chinesischer Modelle und Debatte über Zugangsbeschränkungen

  • Da chinesische Open-Weight-Modelle gegenüber den wichtigsten Modellen von OpenAI und Anthropic an Wettbewerbsfähigkeit gewinnen, ist unter US-Regierungsvertretern und Unternehmensführungen die Frage aufgekommen, ob der Zugang zu chinesischen Modellen in den USA beschränkt werden sollte
  • Das vom chinesischen Startup Moonshot AI veröffentlichte Kimi K3 erzielte in einigen Branchen-Benchmarks bessere Leistungen als moderne US-Modelle
  • US-Finanzminister Scott Bessent erklärte, die Trump-Regierung untersuche, ob chinesische Unternehmen US-geistiges Eigentum gestohlen hätten, und könne im bestätigten Fall Sanktionen verhängen

Warum ein offenes Ökosystem nötig ist

  • Open-Weight-Modelle können den Wettbewerb stärken und verhindern, dass sich die Vorteile der Technologie auf wenige Akteure konzentrieren
  • Der Einsatz ausschließlich geschlossener Modelle macht Systeme nicht automatisch sicherer
    • Auch geschlossene Modelle können kompromittiert oder missbraucht werden
    • Sie können auch auf eine Weise versagen, die Außenstehende nicht erkennen können
    • Wenn fortgeschrittene AI-Fähigkeiten auf wenige geschlossene Modelle konzentriert werden, steigen diese Risiken weiter
  • Die AI-Führungsrolle der USA sollte nicht daran gemessen werden, ob es ein einzelnes Frontier-Modell gibt, sondern daran, ob über alle Branchen hinweg ein starkes und offenes Ökosystem aufgebaut wird; das sei nötig, um in den gesamten USA Chancen für Innovation und Wohlstand zu schaffen

OpenAI und Anthropic fehlen

  • OpenAI und Anthropic unterzeichneten den gemeinsamen Brief nicht
    • Die beiden Unternehmen werden jeweils mit rund 1 Billion US-Dollar bewertet und könnten bereits 2026 große Börsengänge anstreben
    • Anthropic reichte im Juni vertraulich einen Prospekt bei der US-Börsenaufsicht ein, OpenAI folgte wenige Tage später mit demselben Verfahren
  • OpenAI-Präsident Greg Brockman erklärte, er unterstütze einen breiten Zugang und habe mit der Trump-Regierung nie über ein Verbot chinesischer Open-Weight-Modelle in den USA gesprochen
    • Es sei wichtig, AI und ihre Nutzung zu demokratisieren; mehr Modelle und eine breitere Nutzung seien wünschenswert
  • OpenAI-CEO Sam Altman begrüßte den gemeinsamen Brief und sagte, er wolle, dass die USA sowohl bei Open-Weight- als auch bei proprietären Modellen gewinnt

Reaktion von Hugging Face auf Cyberangriffe

  • Hugging Face nutzte das Open-Weight-Modell des chinesischen Unternehmens Z.ai, um Cyberangriffe zu stoppen, die von Modellen außerhalb der Kontrolle von OpenAI ausgeführt wurden
    • OpenAI machte den Angriff öffentlich und bezeichnete ihn als einen „beispiellosen Cybervorfall“
  • Zunächst wollte man den Angriff mit Anthropic Fable 5 analysieren, doch die Guardrails des Modells konnten den Verteidigungszweck von Hugging Face nicht erkennen, sodass es nicht eingesetzt werden konnte
  • Anschließend wurde ein Beispielfall zu GLM 5.2 von Z.ai genutzt, um den Angriff sehr schnell zu blockieren

Streitpunkt Modelldestillation

  • Der Berater des Weißen Hauses Michael Kratsios erklärte, Moonshot AI habe Anthropic-Technologie destilliert (distillation), um Kimi K3 zu entwickeln
  • Destillation ist ein Verfahren, bei dem ein kleineres und leistungsschwächeres Modell mithilfe von Ausgaben eines stärkeren bestehenden Modells trainiert wird
  • Legale AI-Destillation spiele eine wichtige Rolle in einem offenen Innovationsökosystem, doch groß angelegte, heimliche industrielle Destillation zum Diebstahl proprietärer US-Technologie sei nicht hinnehmbar, stellte Kratsios klar
  • Der gemeinsame Brief fordert, Sorgen über illegale Destillation nicht mit umfassenden Beschränkungen für eine für AI-Innovation wichtige Technologie zu beantworten, sondern mit gezielten rechtlichen und kommerziellen Rahmenwerken

Verwandte Beiträge

1 Kommentare

 
GN⁺ 1 시간 전
Meinungen auf Hacker News
  • Wahrscheinlich, weil Anthropic 40 Millionen Dollar in eine politische Organisation zur Modellregulierung gesteckt hat und auch Verbote bzw. Regulierung von Open-Source-Modellen wollte
    https://www.anthropic.com/news/donation-public-first-action
    Trotzdem verstehe ich nicht, warum Anthropic wie der ethische Gute behandelt wird
    • Ich weiß nicht, ob Anthropic im Allgemeinen so behandelt wird, aber anfangs erzielte das Unternehmen einiges an PR-Wirkung, als es sich weigerte, Modelle für Kriegszwecke der US-Regierung zu nutzen
  • Ich habe die 20-fach-Tarife von Claude und Codex abonniert und nutze jetzt auch Kimi
    Denn nur K3 ist ein Spitzenmodell, mit dem ich ernsthaft über die Sicherheit meines Produkts sprechen kann; ich habe mich auch für OpenAIs Cyber Pilot beworben, aber keine Antwort erhalten
    • Eine Produktstrategie, bei der man Verbraucher-KI absichtlich unsichere Software erstellen lässt und den Zugang zu Modellen, die sie reparieren können, nur zahlenden Kunden gewährt, die man für qualifiziert hält, und auch dann nur eingeschränkt, ist niederträchtig
      Eine KI der Stufe 3, die die beiden vorherigen Stufen hacken kann, wird so nur an Kunden verkauft, die den höchsten Preis zahlen
    • Produktsicherheit sollte man ernsthaft mit Fachleuten diskutieren, die in diesem Bereich tatsächlich ausgebildet sind
      Sofern man das Thema nicht bereits besser kennt als ein LLM oder es nicht um interne Tools geht, bei denen das Ergebnis kaum eine Rolle spielt, sind LLMs nutzlos
  • Das Lager der Closed-Model-Anbieter, das Open Weights verbieten will, ist inzwischen faktisch ins Hintertreffen geraten, und auch Musk hat sich öffentlich dafür ausgesprochen
    Das erinnert an die Zeit, als SOPA eine ähnliche Reaktion auslöste und alle dagegen waren: https://en.wikipedia.org/wiki/Stop_Online_Piracy_Act
  • Dazu gab es bereits mehrere Diskussionen
    Startup-Gründer fordern die US-Regierung auf, chinesische Open-Weight-KI nicht abzuschalten - https://news.ycombinator.com/item?id=49023016 - Juli 2026, 841 Kommentare
    OpenAI und Anthropic verbünden sich gegen Open-Weight-KI-Risiken für ihr Geschäftsergebnis - https://news.ycombinator.com/item?id=49020868 - Juli 2026, 330 Kommentare
    Chinas Open-Weights-KI-Strategie gewinnt - https://news.ycombinator.com/item?id=48979269 - Juli 2026, 932 Kommentare
    Die Lücke zwischen Open-Weights-LLMs und Closed-Source-LLMs - https://news.ycombinator.com/item?id=48692058 - Juni 2026, 250 Kommentare
    Die unerträgliche Billigkeit von Open-Weight-Modellen - https://news.ycombinator.com/item?id=48668255 - Juni 2026, 186 Kommentare
  • Ich frage mich, was hinter den Kulissen passiert, dass mehrere Unternehmen einen solchen gemeinsamen Brief veröffentlichen
    • Am Ende werden die meisten Unternehmen wahrscheinlich lokale Modelle betreiben
      Andernfalls wären alle Unternehmen, die LLMs nutzen, vollständig von Anthropic und ähnlichen Anbietern abhängig; sobald diese Abhängigkeit fest zementiert ist, würden sie Gewinne in absurdem Ausmaß abschöpfen
      Je mehr starke Wettbewerber es in einem Bereich gibt, desto besser ist das für alle außer die Wettbewerber selbst, aber die Wettbewerber wollen natürlich so wenige wie möglich
    • NVIDIA verkauft Werkzeuge, daher sind mehr Modelle gut fürs Geschäft
      Microsoft und Meta sind derzeit Nachzügler, und um aufzuholen, ist es wahrscheinlich am besten, die eigene Infrastruktur und offene Modelle zu nutzen
    • NVIDIA unterliegt Beschränkungen beim GPU-Export nach China
      Deshalb haben chinesische Forschungslabore US-Hosting-Anbieter ohne solche Beschränkungen dazu gebracht, ihre Open-Weight-Modelle zu betreiben; auch in Europa steigen Scaleway und Hetzner in den Markt für Inference-Hosting chinesischer Modelle ein
      Für NVIDIA ist es vorteilhaft, wenn mehr Inference-Anbieter zahlreiche chinesische Modelle betreiben, die das Unternehmen ursprünglich nicht bedienen konnte
    • Ich habe gesehen, wie Regierungsvertreter die Argumentationslinien der OpenAI- und Anthropic-Lobby wiederholen, und diese Unternehmen sind klug genug, die Anzeichen der bevorstehenden Regulatory Capture zu erkennen
      Zynisch betrachtet hilft auch die derzeitige US-Regierung der Situation nicht
    • Die Motive unterscheiden sich je nach Unternehmen, und einige meinen es wohl ernst; viele könnten aber zu dem Schluss gekommen sein, dass sie im Wettbewerb mit OpenAI, Anthropic und Google verloren haben und keine echte Chance mehr haben, weshalb sie ihre Strategie geändert haben
      Microsoft hat solche Kehrtwenden in der Vergangenheit schon mehrfach vollzogen
  • Ich frage mich, wie viel von den Optimierungstechniken chinesischer Modelle in Claude und Codex eingeflossen ist
    • Viele Optimierungen wurden von chinesischen Forschungslaboren direkt als Paper veröffentlicht, aber es ist schwer zu wissen, was die einzelnen Labore intern tun
    • Ich hatte in Erinnerung, dass DeepSeek als erstes ein Reasoning-Modell vorgestellt hat, aber nach Prüfung war o1 zuerst da
    • DeepSeek hat mehrere gute Paper veröffentlicht und treibt in letzter Zeit stark Technologien zur drastischen Senkung der Serving-Kosten voran
    • Selbst wenn es unbeabsichtigt ist, ist dieser Trend bis zu einem gewissen Grad unvermeidlich
      Alle Modelle konsumieren frei verfügbare öffentliche Informationen und erzeugen zugleich neue öffentliche Informationen; sie trinken aus demselben Teich und leiten wieder etwas hinein
      Wenn die Dead-Internet-Theorie stimmt, wird es viel mehr Informationen geben, die LLMs durch Interpolation und Extrapolation vorhandener Informationen erzeugen, als Informationen, die direkt aus der Realität gewonnen oder originär geschaffen wurden
      Am Ende werden Modelle wahrscheinlich in eine riesige generative Feedback-Schleife geraten, in der sie auf ähnliche Daten konvergieren und sich nur noch im Verhalten leicht unterscheiden
    • Wenn sie nicht so viel nutzbare Technologie wie möglich übernehmen, müssten Investoren die Geschäftsführung eigentlich austauschen
  • Dass NVIDIA, Meta und Microsoft diesen Brief unterschrieben haben, ist bemerkenswert; dass Google und Amazon ihn nicht unterschrieben haben, ist es ebenfalls
    • Soweit ich weiß, sind Google und Amazon Investoren von Anthropic
    • Amazon hostet in Amazon Bedrock Open-Weight-Modelle wie Ministral 14B 3.0 und DeepSeek V3.2, daher ist mir nicht klar, welche Implikation das Nichtunterzeichnen haben soll
      https://docs.aws.amazon.com/bedrock/latest/userguide/model-c...
      Nebenbei: Ich bin Meta-Mitarbeiter, aber das ist meine persönliche Meinung
  • Microsoft hat ebenfalls seine Position zu Open Weights veröffentlicht
    https://www.microsoft.com/en-us/corporate-responsibility/top...
    • Microsoft positioniert sich als Anbieter von Modell-Hosting und bietet Open-Weight-Modelle auf der eigenen Infrastruktur bereits deutlich günstiger an; das ist also eine naheliegende Entscheidung
      OpenAI und Anthropic haben guten Grund, sich davor zu fürchten
  • MSFT, Dell und NVIDIA sind Hardwareanbieter und können daher Geld verdienen, egal welche KI genutzt wird
    Alle halten Anteile an Forschungslaboren für Spitzenmodelle, aber chinesische Open-Weight-Modelle werden die Intelligenzschicht zur Commodity machen