Stand von Open-Source-KI im Juli 2026

 (stateofopensource.ai)
2 Punkte von GN⁺ 4 시간 전 | 2 Kommentare | Auf WhatsApp teilen
  • Open-Weight-Modelle haben bei Coding, Befolgen von Anweisungen und Allgemeinwissen ein mit geschlossenen Modellen vergleichbares Niveau erreicht; zugleich sind die Inferenzkosten über 36 Monate um das 50-Fache gefallen, wodurch sich der Wettbewerbsschwerpunkt vom Modell selbst zum Agent-Harness verlagert hat
  • Mitte 2026 entfällt bei OpenRouter mehr als die Hälfte des Token-Durchsatzes auf Open Weights, und auch die Top-5-Modelle sind allesamt offen; bei Reasoning, Suche über lange Kontexte und Agentenaufgaben bleibt jedoch im Schnitt eine Fähigkeitslücke von 3,3 % gegenüber geschlossenen Modellen
  • 79 % der Entwickler, die KI-Funktionen hinzufügen, nutzen offene Modelle, doch die Produktionsreife liegt mit 51 % unter den 63 % geschlossener Modelle; Standardisierung, Deployment-Tools und operatives Vertrauen bleiben damit die zentralen Engpässe
  • Das Ökosystem um Databricks, Mistral AI, DeepSeek und andere hat erhebliche Umsätze und Investitionen gesichert; Self-Hosting wandelt nutzungsabhängige Tokenkosten in Fixkosten um, doch mit sinkenden Modellpreisen verlagern sich Erlöse in höhere Schichten wie Plattformen und Harnesses
  • Der nächste Wettbewerb hängt davon ab, wer Harness, Memory, Schreibrechte und Governance besitzt; um Offenheit zu bewahren, müssen neutrale Harnesses und portable Berechtigungsstandards aufgebaut und Abhängigkeiten von bestimmten Modellen, Anbietern oder Staaten vermieden werden

KI besitzen statt mieten

  • Offene KI ermöglicht es Nutzern, Modelle und Daten direkt zu besitzen – in Bereichen, die sich über geschlossene APIs nur schwer mieten lassen, etwa Sprachen mit kleinem Markt, lokale Offline-Dienste, eigene Hardware und öffentliche Infrastruktur
    • Ein Māori-Rundfunksender im Norden Neuseelands trainierte ein te-reo-Sprachmodell unter einer Lizenz, bei der die Daten in der Gemeinschaft verbleiben
    • PwC feinabstimmt offene Modelle auf Finanzsprache und betreibt sie auf eigener Hardware für Hunderte Kunden, ohne Gebühren pro Token zu zahlen
    • Forschende in Lausanne entwickeln gemeinsam mit dem Red Cross ein offenes medizinisches Modell nach humanitären Leitlinien und bereiten klinische Studien im eigenen Land und in Tanzania vor
    • Bauern in East Africa führen auf Mobiltelefonen ein Offline-Modell zur Diagnose von Maniok-Krankheiten auf Feldern aus, die keine Cloud-Anbindung haben
    • Ein öffentliches Konsortium in Switzerland trainiert ein nationales Modell auf öffentlichen Supercomputern und veröffentlicht Weights, Daten und Trainingscode vollständig
  • So wie Mozilla entstand, um das Monopol eines einzelnen Unternehmens über das Web-Gateway zu verhindern, braucht auch KI Wettbewerb, Interoperabilität und die Freiheit, Anbieter zu verlassen
  • Das Ziel besteht nicht darin, ein einzelnes Modell auszuwählen, sondern eine Struktur zu schaffen, in der mehrere Modelle über Standards verbunden werden und Anbieter jederzeit gewechselt werden können

Fähigkeiten und Nutzung von Open Weights

  • In der Chatbot Arena ist der Abstand zwischen offenen und geschlossenen Modellen seit Januar 2024 von 8,04 % auf 0,5 % geschrumpft, bevor er im März 2026 wieder auf 3,3 % anwuchs
    • Im August 2024 verringerte er sich auf 0,5 %, und im Februar 2025 zog DeepSeek-R1 kurzzeitig mit den führenden US-Modellen gleich
    • Da geschlossene Reasoning-Modelle vorn lagen, wuchs der durchschnittliche Abstand wieder, doch offene Modelle sind bei Coding, Befolgen von Anweisungen und Allgemeinwissen gleichauf oder nahe dran
    • Die verbleibende Lücke konzentriert sich auf Reasoning, Suche über lange Kontexte und Agentenaufgaben
  • Der Inferenzpreis für Modelle der GPT-4-Klasse pro 1 Million Token ist innerhalb von 36 Monaten von 20 Dollar auf 0,40 Dollar gefallen – ein Rückgang um das 50-Fache
    • Stanford HAI ermittelte, dass die Preise der GPT-3.5-Klasse innerhalb von 18 Monaten um das 280-Fache gefallen sind
    • Epoch AI schätzt einen Rückgang um das 9- bis 900-Fache pro Jahr; eine MIT-Studie vom November 2025 schätzt, dass die hardwarebereinigten Frontier-Preise jährlich um das 5- bis 10-Fache sinken
  • Bei OpenRouter stieg der Token-Anteil von Open Weights von einem vernachlässigbaren Niveau auf etwa ein Drittel Ende 2025 und auf mehr als die Hälfte Mitte 2026
    • Das ist ein Vorsprung beim Token-Durchsatz; bei der Zahl der Anfragen liegen geschlossene US-Anbieter weiterhin vorn
    • Die Nutzung offener Modelle konzentriert sich auf Coding- und Agenten-Workloads
  • Die fünf Modelle mit dem höchsten OpenRouter-Durchsatz im vergangenen Monat sind allesamt Open-Weight-Modelle
    • Die Reihenfolge lautet DeepSeek V4 Flash 18.4T, Xiaomi MiMo-V2.5 14.9T, Tencent Hy3 preview 14.8T, MiniMax M3 14.3T und Owl Alpha 11T mit unveröffentlichter Herkunft
    • Danach folgen Anthropic Claude Opus 4.7 9.02T, DeepSeek V4 Pro 8.55T, Claude Sonnet 4.6 7.33T, Claude Opus 4.8 6.18T und DeepSeek V3.2 4.31T
  • Mitte 2026 beträgt der wöchentliche Token-Durchsatz der neun führenden Modelle rund 18T für Modelle aus China und rund 5.5T für Modelle aus den USA, also mehr als 3 zu 1; Entwickler, die nach Kosten routen, tendieren zur Wahl von Open Weights

Hohe Einführung, niedrige Produktionsquote

  • In der Entwicklerumfrage 2026 von Mozilla und SlashData nutzen von den Entwicklern, die KI-Funktionen hinzufügen, 79 % offene Modelle und 71 % geschlossene Modelle
    • 29 % nutzen ausschließlich offene Modelle, 21 % ausschließlich geschlossene Modelle
    • 50 %, also die Hälfte, nutzen beide Typen zusammen; für die meisten Teams sind sie daher keine vollständigen Substitute
  • Die Einführung offener Modelle ist in Greater China und East Asia mit jeweils 89 % am höchsten, gefolgt von Western Europe mit 70 % und South America mit 66 %
    • Die einzigen Regionen, in denen geschlossene Modelle stärker verbreitet sind als offene, sind Western Europe und South America
  • Bei der Produktionsreife bleibt ein Abstand: 51 % bei Teams mit offenen Modellen gegenüber 63 % bei Teams mit geschlossenen Modellen
    • In kleinen Unternehmen liegen geschlossene Modelle bei 54 % und offene bei 53 %
    • In mittelgroßen Unternehmen sind es 66 % beziehungsweise 55 %, in Unternehmen mit mindestens 1.001 Mitarbeitern 73 % beziehungsweise 57 %
    • Mit wachsender Organisationsgröße steigt die Deployment-Quote geschlossener Modelle von 54 % auf 73 %, während offene Modelle sich kaum von 53 % auf 57 % bewegen; Unternehmensressourcen allein beseitigen den Deployment-Engpass offener Modelle also nicht
  • Die größten Unterschiede zwischen Entwicklern, die offene Modelle aufgegeben haben, und solchen, die sie weiter nutzen, liegen bei unzureichender Modellleistung mit +12 Prozentpunkten, Integration in bestehende Systeme mit +11 Prozentpunkten sowie Wartung und Updates mit +10 Prozentpunkten
    • Fehlende Dokumentation, Deployment/Hosting/Skalierung sowie Modellbewertung und -vergleich liegen jeweils bei +8 Prozentpunkten
    • Fine-Tuning und Anpassung liegen bei +4 Prozentpunkten; bei Infrastrukturkosten sowie Sicherheit, Datenschutz und Compliance gibt es keinen Unterschied, und fehlender professioneller Support liegt bei -2 Prozentpunkten
    • Die Faktoren, die über den Abbruch entscheiden, konzentrieren sich stärker auf Integration, Betrieb und Wartung als auf reine Modellfähigkeiten
  • Eine regionale Analyse von 1.410 aktuellen oder früheren Entwicklern offener Modelle zeigt als wichtigste Hürden insgesamt Infrastruktur- und Computing-Kosten mit 27 %, Sicherheit, Datenschutz und Compliance mit 26 %, Wartung mit 24 %, Deployment/Hosting/Skalierung mit 23 % und fehlenden professionellen Support mit 22 %
    • In South Asia sind Sicherheit und Compliance mit 39 % sowie professioneller Support mit 31 % besonders hoch
    • Nur in North America mit 21 % und Greater China mit 16 % lag der Anteil der Antworten, es gebe keine wesentlichen Probleme, über 15 %
    • Die Stichproben für Oceania mit 39 Personen sowie Eastern Europe und CIS mit 98 Personen sind kleiner als eine verlässliche Basis

Operative Lücke des offenen KI-Stacks

  • Mozillas Stack-Karte vom Juni 2026 bewertet 9 Schichten, 48 Komponenten und 1.361 Projekte anhand von 10 Reifekriterien auf einer Skala von 1 bis 5
  • Die Fähigkeiten selbst sind hoch, doch in nahezu allen Schichten und Komponenten schneiden Standardisierung und Bereitschaft für den Unternehmensbetrieb am niedrigsten ab
  • Der gemeinsame Engpass des offenen Stacks ist nicht die Modellqualität, sondern Standardisierung und Bereitschaft für den Unternehmensbetrieb; Tools für Deployment, Integration, Support und Governance sind noch nicht ausgereift

Geschäftserfolg und Kostenstruktur von Open-Source-KI

  • Open-Weight-KI ist zu einem kommerziellen Markt im Umfang von Hunderten Milliarden US-Dollar gewachsen; die bewährten Erlösmodelle sind fünf: gehostete Inferenz, Enterprise-Plattformen, On-Premises-Lizenzen, Fine-Tuning-Services und Harness-Tools
  • Die wichtigsten Unternehmen expandieren in Richtung Investitionen, Umsatz und Börsengang
    • Databricks hat einen annualisierten Umsatz von über 5,4 Mrd. US-Dollar erreicht und befindet sich in der Phase vor dem Börsengang
    • DeepSeek verzeichnet rund 220 Mio. US-Dollar Annual Recurring Revenue (ARR), 7,4 Mrd. US-Dollar an öffentlich bekannten Investments und eine Bewertung von mehr als 50 Mrd. US-Dollar
    • Mistral AI ist innerhalb von 12 Monaten um das 20-Fache gewachsen und hat rund 400 Mio. US-Dollar ARR erreicht; die öffentlich bekannten Investments liegen bei 3,05 Mrd. US-Dollar, die Bewertung bei etwa 14 Mrd. US-Dollar, zudem laufen Investitionsverhandlungen in der Größenordnung von 20 Mrd. Euro
    • Moonshot AI hat 3,9 Mrd. US-Dollar eingeworben, Reflection AI und Cerebras jeweils rund 2,1 Mrd. US-Dollar, Cohere 1,7 Mrd. US-Dollar und Together AI 1,334 Mrd. US-Dollar
    • Baseten sicherte sich 585 Mio. US-Dollar an öffentlich bekannten Investments, Black Forest Labs 450 Mio. US-Dollar, Hugging Face 400 Mio. US-Dollar, Modular 380 Mio. US-Dollar, Fireworks AI 327 Mio. US-Dollar, Anyscale 281 Mio. US-Dollar, LangChain 260 Mio. US-Dollar und Stability AI 230 Mio. US-Dollar
    • Zhipu AI und MiniMax haben die Gesamtsumme ihrer öffentlich bekannten Investments nicht offengelegt und gingen 2026 über einen Börsengang in Hongkong an die Börse
    • Auch Nvidia, Salesforce, AMD, Google, IBM, ASML, Tencent, CATL und die Schwarz Group unterstützen Unternehmen auf den Ebenen Modelle, Inferenz und Tools
  • Cohere betreibt ein Enterprise- und On-Premises-Geschäft und veröffentlichte im Mai 2026 Command A+ als Open Source; LangChain kommt auf mehr als 126.000 GitHub-Stars und einen Entwickleranteil von 60 %
  • Bei großflächiger Nutzung führt die tokenbasierte Abrechnung geschlossener Modelle zu Budgetproblemen
    • Microsoft strich bis zum 30. Juni 2026 den Großteil der Claude-Code-Lizenzen, nachdem Token-Gebühren das jährliche KI-Budget binnen weniger Monate aufgebraucht hatten, und prüfte ein sicheres, auf Azure gehostetes DeepSeek V4 für schwere Copilot-Workloads
    • Uber verbrauchte sein KI-Coding-Budget für 2026 innerhalb von vier Monaten vollständig und begrenzte anschließend die monatlichen Ausgaben pro Tool und Mitarbeiter auf 1.500 US-Dollar
    • Stripe stellt offene Modelle auf vLLM bereit, verarbeitet damit 50 Mio. API-Aufrufe pro Tag mit einem Drittel der bisherigen GPU-Anzahl und senkt die Inferenzkosten um 73 %
    • Selbst gehostete Open Weights verwandeln vom Anbieter kontrollierte variable Betriebskosten in fixe Kosten, die dem Unternehmen gehören
  • Von Mai bis September 2025 entfielen bei OpenRouter rund 20 % der Nutzung auf offene Modelle, aber nur etwa 4 % des Umsatzes auf der Modellebene
    • Bei vergleichbaren Fähigkeiten lag der Preis pro Aufruf geschlossener Modelle etwa 6-mal höher
    • Die Nagle–Yue-Studie der Linux Foundation schätzt das durch diese Preisdifferenz nicht realisierte jährliche Einsparpotenzial auf etwa 24,8 Mrd. US-Dollar
    • Selbst wenn die Nutzung offener Modelle steigt, sammeln sich die Erlöse bei einer Kommoditisierung der Modellebene in höheren Ebenen wie Plattformen und Harnesses an

Nationale Souveränität und Anbieterwechsel

  • Da mehr als 70 nationale KI-Strategien umgesetzt werden, verlagert sich der politische Fokus von der Frage, ob eine nationale Strategie existiert, hin zu welche Ebene des Stacks ein Land besitzen kann
  • Der Fall, dass Anthropic drei Tage nach dem Start von Claude Fable 5 im Juni 2026 aufgrund einer Exportanordnung einer Regierung den Zugang ausländischer Staatsangehöriger weltweit sperrte, zeigte die Reichweite der Anbieterkontrolle
    • Da selektive Compliance nicht möglich war, wurden am Freitag um 17:21 Uhr alle Modelle der betroffenen Personen abgeschaltet; Nutzer, die von diesem Modell abhängig waren, waren ohne Vorwarnung betroffen
    • Anbieter können gehostete Modelle abschalten, aber Kopien von Weights, die auf der Hardware der Nutzer laufen, nicht aus der Ferne deaktivieren
    • Für Unternehmen sind auf Datenträgern gespeicherte Weights ein Mittel zur Risikovermeidung; für Staaten machen sie den Unterschied zwischen eigenständiger Politik und externer Genehmigung aus
  • Vendor Lock-in im Cloud-Zeitalter zeigt bereits hohe Wechselkosten
    • Die Kosten für den Export von 1 PB aus AWS S3 betragen 90.000 bis 120.000 US-Dollar
    • 80 % der Unternehmen holen Workloads in ihre eigene Umgebung zurück
    • 37signals verließ die Cloud und senkte die jährlichen Kosten von 3,2 Mio. US-Dollar auf unter 1 Mio. US-Dollar
    • Die Cloud-Kosten von GEICO lagen 2,5-mal höher als geplant
    • Auch Systeme, die auf proprietären APIs aufgebaut sind, müssen Preisänderungen hinnehmen und lassen sich nur schwer sauber migrieren; Open Weights geben das Recht, den Anbieter zu verlassen
  • Im März 2026 lagen die kumulierten Downloads auf Hugging Face bei Alibaba Qwen bei 942 Mio. und bei Meta Llama bei 476 Mio.; damit wurde China zur größten Quelle für Open Weights
    • Im Februar 2026 wurde Qwen häufiger heruntergeladen als die nächsten acht Organisationen zusammen
    • Der Token-Anteil chinesischer Open-Weight-Modelle bei OpenRouter stieg von unter 2 % Ende 2024 auf mehr als 45 % des wöchentlichen Traffics im April 2026; unter den zehn meistgenutzten Modellen lag er bei rund 61 %
    • DeepSeek hat mehr als 26.000 Unternehmenskonten und war 2025 bei 58 % der neuen KI-Startups Teil des Stacks, doch mindestens acht Jurisdiktionen beschränken die gehosteten Dienste
    • Unternehmen verfolgen beide Entscheidungen parallel: Sie verbieten gehostete Apps, nutzen die Weights aber per Self-Hosting oder über westliche Endpunkte
  • Die Verbreitung von Open Source aus China ist Teil der AI Plus Initiative des State Council vom August 2025 und der im März 2026 in den nationalen Five-Year Plan aufgenommenen Politik
    • Veröffentlichte Weights reagieren auch auf Exportkontrollen für Halbleiter, indem sie die Inferenzlast auf lokale Hardware von Nutzern weltweit verteilen
    • Im Global South gibt es den Wunsch, sich vom US-Technologiemonopol zu lösen und Anbieter zu diversifizieren; in anderen Regionen sind Kosten der wichtigste Treiber

Agent Harnesses als neue Wettbewerbsebene

  • So wie der Browser als User Agent des offenen Webs im Namen der Nutzer mit Servern verhandelte, übernimmt der Agent Harness oberhalb des Modells Orchestrierung, Tools, Memory, Sandboxes und Berechtigungen
  • Der Harness-Stack besteht aus mehreren Ebenen vom Modell bis zu Nutzern und Governance
    • Kontrollebene: LangGraph, CrewAI, AutoGen und LlamaIndex verwandeln Modelle über wiederholte Schleifen aus Schlussfolgern und Handeln in Agenten
    • Verbindungsebene: MCP übernimmt Tools und Kontext, A2A die Kommunikation zwischen Agenten, Mem0·Letta·Zep das Memory
    • Handlungsebene: E2B·Daytona·Modal stellen Sandboxes und Ausführung bereit; Berechtigungen und Identität bleiben ein noch ungelöstes Schreibfeld
    • Evaluierungs- und Beobachtungsebene: Langfuse und Phoenix verfolgen Ausführungsergebnisse und Verhalten
    • Nutzer- und Zahlungsebene: AG-UI·A2UI übernehmen Interfaces, x402·AP2·UCP Zahlungen und Metering
    • Governance-Ebene: Meta-Harness, Omnigent, OPA und Agent Governance Toolkit integrieren zustandsbasierte Richtlinien, Registries, Herkunft, Budgets und Abbruch über mehrere Harnesses hinweg
  • MCP erreichte im ersten Jahr 97 Mio. monatliche SDK-Downloads und mehr als 10.000 aktive Server, wuchs über 16 Monate um 4.750 % und wurde im Dezember 2025 an die Agentic AI Foundation der Linux Foundation übergeben
    • Der Anteil der Unternehmen mit reifer Agent-Governance liegt nur bei etwa 21 %; die Einführung verläuft damit schneller als die Kontrollsysteme

  • Vertikale Integration von Modell und Harness

    • Bei Terminal-Bench 2.0 erreichte ein Drittanbieter-Harness im Mai 2026 mit denselben Anthropic-Gewichten 79,8 % und lag damit 21,8 Prozentpunkte vor Claude Code mit 58,0 %
    • Acht Wochen später kehrte sich bei Terminal-Bench 2.1 die Rangfolge um, weil die Forschungslabore den Harness internalisierten
    • Die Kombination aus Codex CLI und GPT-5.5 erreichte 83,4 %, die Kombination aus Claude Code und Claude 5 Fable 83,1 %
    • Der beste unabhängige Harness mit demselben Fable 5 kam auf 80,4 %, womit der Abstand an der Spitze auf rund 3 Prozentpunkte schrumpfte
    • Bei allen vergleichbaren Modellen lagen die von den Laboren kontrollierten Harnesses vor unabhängigen Harnesses
    • Wenn Modell und Harness gemeinsam optimiert werden, steigt die Leistung, doch beim Wechsel auf ein anderes Modell sinkt sie; als Nebenprodukt der Optimierung entsteht Abhängigkeit
    • Offene Modelle verfügen über keinen primären Harness, der dem etwas entgegensetzen könnte, und tauchen daher nicht in der offiziell verifizierten Spitzengruppe von Terminal-Bench 2.1 auf
    • In einem neutralen Harness-Vergleich erreichte Claude Opus 4.8 71,9 % bei 2,41 US-Dollar pro Aufgabe, Opus 4.7 68,5 % bei 1,98 US-Dollar und das offene Modell GLM 5.2 67,8 % bei 0,43 US-Dollar
    • Offene Modelle liegen knapp unter Opus 4.7 und rund 4 Prozentpunkte hinter Opus 4.8, kosten aber etwa ein Fünftel
    • Die in labor-eigenen Harnesses entstehenden Nutzungsdaten erzeugen ein Daten-Flywheel für das nächste Modell; wer den Harness im eigenen Stack besitzt, kann dieselben Daten direkt behalten

  • Das ungelöste Schreibrecht

    • Lesen ist umkehrbar, etwa Dokumente abrufen, Datenbanken abfragen oder Kalenderlisten anzeigen, und die Ergebnisse sind vergleichsweise klein, sodass eine Standardfreigabe möglich ist
    • Schreiben ist teuer oder nicht umkehrbar, etwa Nachrichten senden, Budgets ausgeben, Datensätze ändern oder Transaktionen ausführen; deshalb müssen Bestätigung, Freigabeschwellen, Kostenlimits und Abbruchfunktionen hier gebündelt werden
    • Es gibt rund 12 Frameworks, 10 Harnesses und 3 Peer-Protokolle, aber kein portables Berechtigungsmodell für Schreibzugriffe, das MCP-Hosts, A2A-Peers, direkte Tool-Aufrufe und Framework-Grenzen umfasst
    • Die MCP-Spezifikation 2025-11-25 verlagerte die Authentifizierung auf OAuth 2.1, und A2A v1.0 standardisierte signierte Agent Cards, doch beide bleiben bei der Identitätsprüfung stehen
    • Auch wenn die Identität geprüft ist, ist damit nicht entschieden, was ein Agent ausführen darf
    • Das MCP-Bedrohungsmodell von CoSAI stuft Zustimmungs-Ermüdung, bei der Nutzer die meisten Freigabeanfragen achtlos erlauben, als Top-Bedrohung ein
    • Meta-Harnesses wie Databricks’ Open-Source Omnigent verfolgen statt Prompt-Filtern einzelner Agenten den Sitzungszustand und kontrollieren den nächsten Schreibvorgang
    • Wenn nach dem Herunterladen eines ungeprüften Pakets ein Code-Push versucht wird, kann eine menschliche Freigabe verlangt werden
    • Auch Kostenobergrenzen sind möglich, die eine Sitzung pausieren, sobald ein festgelegter Betrag ausgegeben wurde
    • Die Ebene, die Schreibbereiche über mehrere Harnesses hinweg kontrolliert, ist der Entstehungspunkt eines nachhaltigen Berechtigungsmodells

  • Sicherheit und der verbleibende Vorsprung geschlossener Modelle

    • Filterung, Monitoring und Abbruch sind keine Funktionen geheimer Gewichte, sondern der Service- und Harness-Ebene und lassen sich auch auf selbst gehostete offene Modelle anwenden
    • 2025 traten auch in geschlossenen Systemen von Anthropic, Microsoft, ServiceNow und Salesforce Berechtigungsschwachstellen mit CVSS 9.3 bis 9.4 auf
    • Die NTIA prüfte, ob die US-Regierung offene Gewichte beschränken sollte, und empfahl anschließend Monitoring statt Beschränkungen
    • Geschlossene Systeme liegen in vier Bereichen weiterhin vorn
      • Integrierte Harnesses und das dahinterliegende Daten-Flywheel
      • Der Abstand bei der Suche in langen Kontexten mit 1 Mio. Tokens zwischen 89 % Multi-Needle-Retrieval bei Gemini 3 und 41 % bei DeepSeek V4-Pro
      • Sofort nutzbare Compliance mit SOC 2, HIPAA und standardmäßiger Nichtaufbewahrung von Daten
      • Ein Vertragspartner, den Kunden haftbar machen können
    • Compliance und Haftung sind Vertragsfragen, integrierte Harnesses sind Tool-Fragen, und die Treue bei langen Kontexten ist ein Modellproblem, das offene Labore selbst lösen müssen

Fünf Investitionen, um Offenheit zu bewahren

  • Offene Harnesses aufbauen: Es braucht allgemeine oder branchenspezifische Harnesses, die wie Codex und GPT-5.5 gemeinsam mit offenen Gewichten designt werden
    • Der Zeitpunkt für den Aufbau ist jetzt, bevor geschlossene Labore Modell und Harness vollständig zu einem einzigen Mietprodukt bündeln
  • Memory besitzen: Je näher die Preise für Gewichte gegen null gehen, desto mehr werden Modelle austauschbare Komponenten, während Memory mit kumuliertem Kontext zu einem Vermögenswert wird, der durch Zinseszinseffekte wächst
    • Es sollte hinter der eigenen Firewall in einem portablen, append-only Format gespeichert werden; nach Ende des Zugriffs lässt sich der Kontext vieler Jahre nicht wiederherstellen
  • Portable Berechtigungen lösen: Es braucht einen Standard, der über MCP, A2A, direkte Tool-Aufrufe und Framework-Grenzen hinweg zwischen unbeaufsichtigt erlaubten, von Menschen freizugebenden und verbotenen Schreibvorgängen unterscheidet
    • Wenn kein offener Standard entsteht, während sich zustandsbasierte Schreib-Policies von Meta-Harnesses herausbilden, werden geschlossene Plattformen die Regeln festlegen
  • Vom nutzungsbasierten Modell wegkommen: Geschlossene und offene Modelle sollten direkt verglichen, ein zweites Modell hinter offenen Interfaces bereitgehalten und dort, wo die Last vorhersehbar ist, selbst gehostet werden
    • Es wird erwartet, dass die Anfangspreise um 2027 bis 2028 enden, nach Börsengängen der Anbieter und dem Auslaufen von Rabatten; duale Bezugsquellen sollten aufgebaut werden, solange der Wechsel einfach und günstig ist
  • Mehrere Anbieter als Standard setzen: Wenn sich das Ökosystem auf einen einzigen offenen Anbieter konzentriert, ist es schwer, es als gemeinschaftliche Ressource zu betrachten
    • 47 Länder beschränken die Verarbeitung von Daten im Ausland, und mehr als 70 nationale Strategien sind in Kraft
    • Europa investiert in EUROPA, Kanada hat 890 Mio. US-Dollar bereitgestellt, und Indien hat 38.231 GPUs ausgewiesen
    • Wenn öffentliche Mittel die langfristige Entwicklung nicht tragen, kann auch das offene Ökosystem auf eine einzige Quelle zulaufen

Signale, die weiter beobachtet werden sollten

  • Leistungsfähigkeit und Einführung: Zu verfolgen sind die Fähigkeitslücke von 3,3 %, ob beim Coding Gleichstand erreicht wird, die Lücken bei Reasoning und Agenten sowie der Anteil der Agentic-Coding-Tokens bei OpenRouter
    • Wenn der Anteil offener Tokens stagniert und die Reasoning-Lücke größer wird, kehrt sich der aktuelle Trend um
  • Harnesses: Entscheidend sind die Terminal-Bench-Lücke zwischen labor-eigenen Harnesses und unabhängigen Harnesses, die Governance von MCP und A2A unter AAIF sowie eine bislang fehlende portable Spezifikation für Berechtigungen
    • Wenn der Vorsprung der Labor-Harnesses wächst oder geschlossene Plattformen zuerst Berechtigungsstandards festlegen, wird die offene Schicht geschwächt
  • Marktstruktur: Gemeinsam zu beobachten sind ARR, Investitionen und die IPOs von Zhipu und MiniMax bei offenen Laboren, der Wendepunkt der nutzungsbasierten Preise 2027–2028 sowie Investitionen in souveräne nationale Computing-Infrastruktur
    • Wenn staatliche Finanzierung versiegt oder die Wirtschaftlichkeit offener Labore nicht skaliert, wird die Bildung eines nachhaltigen Marktes schwierig
  • Vertrauen und Sicherheit: Zu verfolgen sind Missbrauchsfähigkeiten offener Gewichte, wie leicht sich Sicherheits-Feintuning entfernen lässt, synthetisches CSAM und nicht einvernehmliche intime Bilder (NCII) sowie der Ansatz der NTIA, auf Monitoring statt Beschränkungen zu setzen
    • Schwerwiegende Missbrauchsfälle oder eine politische Wende hin zu Beschränkungen könnten das Umfeld für offene Distribution verändern
  • Wenn Akteure, die in KI-Entscheidungsprozessen für Offenheit, Portabilität und breite Distribution stehen, einen gleichberechtigten Status erlangen, verschiebt sich der Markt von einer Struktur, in der Modelle gemietet werden, hin zu einer, in der sie direkt besessen werden

Verwandte Beiträge

2 Kommentare

 
shakespeares 2 시간 전

Es wechselte wohl wieder zu Loop Engineering.
 
GN⁺ 4 시간 전
Meinungen auf Hacker News

  • Offene Modelle könnten Anthropic und OpenAI zu Fall bringen. Hyperscale-Cloud-Anbieter können Modelle ohne Lizenzkosten betreiben, und Apple kann Modelle verkleinern, um sie direkt auf Geräten auszuführen.
    Frontier-Modelle sind zugleich Wettbewerbsvorteil und Belastung. Die Trainingskosten sind astronomisch, aber wenn die Entwicklung stoppt, geraten die Modelle in Vergessenheit, und das Marketing hängt von dem Glauben ab, dass jedes Modell sich wesentlich unterscheidet. Inzwischen ist fraglich, ob es zwischen Modellen noch große Unterschiede gibt; der Schlüssel, um zufällige, halluzinierende Modelle deterministisch und nützlich zu machen, liegt eher im Ausführungs-Framework.

    • Ein plausibles Ende, aber die Open-Weight-Modelle chinesischer Unternehmen wirken weniger wie eine prinzipielle Entscheidung als wie eine Taktik, um den Nachteil beim Zugang zu westlichen Märkten auszugleichen.
      Wenn sich die Marktbedingungen ändern, könnten sie wie Meta wieder schließen; und wenn die Trainingskosten weiter steigen, ist fraglich, ob eine Open-Weight-Strategie finanziell nachhaltig ist.
    • Auch offene Modelle sind vermutlich nur relativ klein; ihre Trainingskosten könnten dennoch astronomisch sein. Der Anreiz ist groß, mit weniger Rechenleistung mehr Leistung zu erzielen, und Distillation von Frontier-Modellen kann die Effizienz steigern.
      Trotzdem müssten große Organisationen enorme Geld- und Rechenressourcen investieren und dabei auf Erlöse verzichten; es ist schwer vorstellbar, dass diese Großzügigkeit ewig anhält. Entscheidend ist, was zuerst zusammenbricht: das Geschäftsmodell der Frontier-Modelle oder die kostenlosen Investitionen der schnellen Verfolger.
    • Der Return on Investment pro Tokenkosten ist bei allen Modellen zweifelhaft, aber bereits getätigte Ausgaben sind versunkene Kosten.
      Es wirkt wie ein Setup, das scheitert, wenn keine selbstverbessernde Superintelligenz erreicht wird. Gelingt Superintelligenz, werden Frontier-Modelle durch schnelleres exponentielles Wachstum davonziehen; andernfalls werden schnelle Verfolger die enormen Investitionen überholen, und auch die Verteidigungsfähigkeit verschwindet. Das ähnelt der Situation in der Halbleiterbranche, in der GaAs das vom Moore’schen Gesetz getriebene Silizium nicht einholen konnte; außerdem ist Copyright schwer durchzusetzen.
    • Für die nächste Zeit dürften Open-Source-Modelle wegen der Hardwarekosten unpraktisch bleiben. Hobbyentwickler und Power-User werden sie weiter nutzen, aber Frontier-Modell-Unternehmen mit Zugang zu Hardware werden den Markt wahrscheinlich nahezu vollständig dominieren.
    • Ob die Trainingskosten von Frontier-Modellen wirklich astronomisch sind, ist fraglich. GLM 5.2 wurde mit etwa 30 Billionen Tokens trainiert, also rund (10^{25}) FLOPs.
      Selbst wenn man für B300 den hohen Preis von 5 Dollar pro Stunde ansetzt und von 50 % MFU ausgeht, sind das etwa 15 Millionen Dollar. Es gibt Risiken durch fehlgeschlagene Trainingsläufe und Kosten für anschließendes Training, aber verglichen mit den späteren Ausgaben für Inferenz ist das keine völlig absurde Größenordnung.

  • Vor genau vier Monaten lag der OpenRouter-Marktanteil bei 60 % geschlossenen und 40 % offenen Modellen; inzwischen haben offene Modelle mit 63 % die Führung übernommen. Am 19. März lag der Gesamtdurchsatz offener Modelle bei 888 Milliarden Tokens, gestern waren es 4,19 Billionen Tokens – ein Wachstum um etwa das Fünffache in vier Monaten.
    Ich habe außerdem ein Dashboard gebaut, das auf Basis von OpenRouter-Daten täglich aktualisiert wird: https://dirac.run/labs-market-share

    • Nur mit OpenRouter lässt sich der Gesamtmarkt schwer erfassen. Nutzer von OpenAI-, Anthropic- und Google-Modellen verwenden wahrscheinlich direkt die APIs der jeweiligen Unternehmen und tauchen daher in dieser Statistik nicht auf.
      Trotzdem ist das Wachstum der Nutzung offener Modelle auf OpenRouter sehr interessant.
    • Ich hätte gern neben Statistiken nach Modell auch Leistungs- und Kostenklassifizierungen gesehen; so etwas gibt es bereits hier: https://artificialanalysis.ai/
    • Interessante Zahlen, aber ich glaube, dass immer mehr Nutzung in Abo-Produkte wandert und in dieser Metrik nicht auftaucht. Sowohl privat als auch beruflich habe ich genau diesen Wechsel vollzogen.
    • Ich sehe keinen Grund, OpenRouter zu nutzen, wenn man Claude verwendet.
    • Rückblickend dürfte diese Zahl eines Tages als eines der frühen Signale für den Niedergang geschlossener Modelle gelten.
      Falls jemand widerspricht, würde ich gern wissen, welche Verteidigungsgräben diese Unternehmen haben. Wenn ich die enormen Ausgaben von OpenAI und Anthropic sehe, frustriert mich, dass ich keinerlei echte Verteidigungsfähigkeit erkennen kann.

  • Natürlich ist dieser Text im von LLMs erzeugten Stil geschrieben: https://www.pangram.com/history/29a71663-e6b2-4db6-87bd-b943...
    Ich frage mich, warum Führungskräfte ihren Namen unter solche Texte setzen. Vielleicht empfinden sie es als natürliche Fortsetzung der Praxis, Manuskripte von Assistenten oder Pressemitteilungen der PR-Abteilung zu unterzeichnen.
    Es wäre wohl gut für die Community-Kultur, wenn HN Pangram automatisch ausführen würde, zumindest bei textlastigen Beiträgen oder solchen auf der ersten Seite. Ich nutze persönlich ein Browser-Plugin, aber den Kommentaren nach zu urteilen haben einige offenbar nicht bemerkt, dass der Text KI-generiert ist.

    • Wenn die Kosten ein Problem sind, könnte man Pangram auch nur automatisch für Beiträge ausführen, die eine bestimmte Zahl an Upvotes überschritten haben oder auf der ersten Seite stehen.
      Besser wäre, wenn Content-Aggregator-Sites KI-Prüfungen automatisieren, statt dass Leser jeweils sporadisch selbst prüfen. Kürzlich wurde auch bei Manifund eine automatische Pangram-Prüfung implementiert, und soweit ich weiß nutzt LessWrong diese Funktion schon seit einiger Zeit.
    • Das wäre sehr hilfreich für die Site, aber Pangram ist berüchtigt ungenau.

  • Diese Präsentation ist schmerzhaft zu lesen. Es gibt zu viele Diagramme, die kaum mit dem umgebenden Text verbunden sind, und sie wirkt wie eine CTO-Präsentation, die sich ein LLM ausgedacht hat. Weil sie aber wie CTO-Folien aussieht, wird sie offenbar als „HIGH IMPACT“ betrachtet.
    Es wäre viel besser gewesen, wenn der CTO von Mozilla seine Analyse selbst klar ausgeführt hätte.

  • Ich unterstütze die Verbreitung offener Modelle im Großen und Ganzen und würde das gern ernst nehmen, aber es ist schwierig, weil der Text so deutlich nach KI klingt. Offenbar wurden die Leute entlassen, die solche Texte früher geschrieben haben.
    Das ist nicht bloß Spott: Ich glaube, dass ein leicht erkennbarer KI-Stil einen Teil der Leser sofort abspringen lässt, damit die Argumentation des Textes untergräbt und kontraproduktiv wirkt.

    • Bei der Formulierung „Parity reached. The contest is one layer up.“ wird mir übel.
    • Vielleicht bin ich des KI-Stils überdrüssig, aber solche Texte wirken unauthentisch.

  • „Mozilla existiert, weil ein Unternehmen versucht hat, das Eingangstor zum Web zu monopolisieren, und die offene Community aufgestanden ist, um das zu verhindern“ – doch wenn man sich den aktuellen Marktanteil von Firefox ansieht, gehört das Eingangstor zum Web faktisch Google und Apple.
    Es könnte schon ausreichen, wenn einige wenige offene Modelle künftig Abweichungen im restlichen Ökosystem in Schach halten; dieser Beitrag scheint diese Argumentation aber nicht zu verfolgen.

    • Das ist eine allzu selektiv vorteilhafte Erzählung. Ein Unternehmen beherrschte das Eingangstor zum Web, ein anderes nutzte seine Marktstellung aus, um einen kostenlosen Browser durchzusetzen, und Mozilla entstand aus der Asche des ersten Unternehmens neu.
      Später nutzte wiederum ein anderes Unternehmen seine Marktstellung, um einen kostenlosen Browser zu verbreiten und den Marktanteil von Firefox einbrechen zu lassen, zahlt Mozilla aber weiterhin Geld, damit es nicht wie ein Monopol aussieht.
    • Der eigentliche Grund, warum Mozilla weiterbesteht, ist, dass Google Milliarden Dollar dafür zahlt, die eigene Suche als Standard-Suchmaschine beizubehalten.

  • Es ist bemerkenswert, dass Mozilla alles Mögliche tut, um den neuesten Trends hinterherzulaufen, aber keinen wirklich guten Datenschutz-Browser für Entwickler und Power-User baut.

    • Die AI-Chatbot-Funktion von Firefox schlägt als Anbieter offener Modelle nur Mistral vor und bietet keinerlei Option zur lokalen Ausführung. Worte und Taten passen nicht zusammen.
    • Mozilla bekommt jedes Jahr 500 Millionen Dollar dafür, im Grunde so weiterzumachen wie bisher und den Marktanteil von Firefox auf dem Desktop bei unter 5 % und auf Mobilgeräten praktisch bei 0 % zu halten.
    • Trotzdem stellt Mozilla den gesamten Quellcode bereit, damit diese Projekte wachsen können, und es hat sich auch ein eigenes Ökosystem mit Librefox, Iceweasel, Reynard gebildet.
    • Früher dachte ich genauso, aber ich habe das Gefühl, dass Firefox 2026 ziemlich vorangekommen ist.
      Auch Mozillas AI-Strategie kann ich inzwischen nachvollziehen. Statt eigene Modelle zu bauen oder minderwertige AI-Inhalte zu verkaufen, bauen sie eine Open-Source-kompatible Schicht auf; dieser Ansatz ist nicht unrealistisch.
      Ich möchte keine Welt, in der AI vertikal abhängig ist, und wenn Mozilla seine frühere Strategie bei Open-Source-AI tatsächlich wiederholen kann, wäre das ein Gewinn für alle.
    • Firefox selbst ist ein Allzweck-Browser, und um einen breiten Markt zu erreichen, könnte das der bessere Weg sein. Andere Entwickler bauen auf Basis der Firefox-Engine Browser für Power-User.
      In letzter Zeit mag ich Zen sehr, aber selbst nach zwei Monaten Nutzung finde ich die Funktion für angeheftete Tabs immer noch etwas verwirrend: https://zen-browser.app/

  • Die PDF-Version ist leichter zu lesen: https://stateofopensource.ai/state-of-open-source-ai-2026.pd...

  • Es ist schade, dass man überhaupt keine Community rund um wirklich offene Modelle sieht, bei denen sowohl die Quelldaten als auch die Trainingsmethodik veröffentlicht werden, sodass man sie mit ausreichenden Ressourcen tatsächlich reproduzieren kann. Man hat zugelassen, dass die Bedeutung des Begriffs „offen“ erstaunlich stark verwässert wurde.

  • Design und Layout machen das Lesen unnötig schwer, aber der fast 50-fache Rückgang der Inferenzkosten ist wirklich beeindruckend. Die Veröffentlichung von Kimi K3 zeigt, dass offene Modelle bereits nahe an den Stand der Technik herankommen.
    Open-Source-AI entwickelt sich deutlich schneller, als Anthropic und OpenAI erwartet hatten.