1 Punkte von GN⁺ 3 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • OpenAI steigert durch Effizienzverbesserungen bei Modellen, Inferenzsystemen und Agent-Harnesses die Leistung pro Dollar für Unternehmens-KI, was sich in Preis und Verarbeitungsgeschwindigkeit widerspiegelt
  • Ab dem 30. Juli sinken die Preise für Luna um 80 % und für Terra um 20 %; in der API gelten pro 1 Million Token für Luna $0.20 Eingabe und $1.20 Ausgabe, für Terra $2 Eingabe und $12 Ausgabe
  • Luna liefert eine Leistung auf dem Niveau von Spitzenmodellen vor einem Jahr bei rund 6 % der Kosten pro Aufgabe und nahezu 9-facher Geschwindigkeit; im Agents’ Last Exam erzielte es zudem bessere Ergebnisse als Fable 5 bei geschätzten Aufgabenkosten, die etwa 99 % niedriger lagen
  • Der Fast mode von GPT‑5.6 Sol ersetzt das bisherige Priority Processing und bietet bei gleicher Intelligenzstufe gegenüber Standard eine bis zu 2,5-mal höhere Geschwindigkeit zum doppelten Preis
  • Unternehmen können Sol für Planung und das Auflösen von Unsicherheiten einsetzen und Luna für klar definierte Implementierung und Tests, um über schrittweise Evaluierung das Gleichgewicht aus Intelligenz, Geschwindigkeit und Kosten anzupassen

Preissenkung für Luna und Terra sowie höhere Geschwindigkeit für Sol

  • Effizienzsteigerungen bei GPT‑5.6 führen zu niedrigeren Preisen für Luna und Terra sowie zu einer schnelleren API-Verarbeitung für Sol
  • Das schnellste und günstigste Modell, Luna, wird um 80 %, das ausgewogene Modell für Alltagsaufgaben, Terra, um 20 % günstiger
    • Auch in den kostenpflichtigen Abos von Codex und ChatGPT Work wird die Nutzung beider Modelle mit weniger Credits berechnet
    • Die Abopreise und Kontingentbudgets selbst bleiben unverändert
  • Luna kann mithilfe von Tools mehrstufige Workflows abschließen und senkt damit die Betriebskosten für große Auftragsvolumen mit hohen Qualitätsanforderungen
  • Der Preis für Sol bleibt unverändert

Modellauswahl passend zum Arbeitsergebnis

  • Für einen effizienten KI-Einsatz muss das Gleichgewicht zwischen Intelligenz, Geschwindigkeit, Zuverlässigkeit und Kosten an Wichtigkeit, Fehlerkosten, Dringlichkeit und Umfang der Aufgabe angepasst werden
    • Selbst im selben Workflow kann der optimale Punkt je Schritt unterschiedlich sein
  • Luna bietet eine Leistung vergleichbar mit Modellen, die vor einem Jahr zur Spitzengruppe gehörten, bei rund 6 % der Kosten pro Aufgabe und fast 9-facher Geschwindigkeit
  • Im Agents’ Last Exam für die Bewertung professioneller Arbeit erzielte es bessere Ergebnisse als Fable 5 und senkte die geschätzten Kosten pro Aufgabe um etwa 99 %
  • Unternehmen können zunächst die benötigten Ergebnisse und Qualitätsstandards festlegen und dann per Evaluierung unterscheiden, in welchen Bereichen zusätzliche Intelligenz die Resultate tatsächlich verbessert und wo kostengünstigere Verarbeitung dieselbe Qualität liefert
    • In Coding-Workflows kann Sol Unsicherheiten auflösen und die Planung übernehmen
    • Die Implementierung klar definierter Änderungen, das Schreiben und Ausführen von Tests sowie die Auswertung der Ergebnisse kann Luna übernehmen
  • Die GPT‑5.6-Produktfamilie erweitert die Auswahl, um je nach Schritt die nötige Intelligenz einzusetzen und die Kosten am geschaffenen Wert auszurichten

Effizienzverbesserungen vom Modell bis zum Agenten

  • Die Effizienzgewinne entstehen gemeinsam bei dem Modell, dem Inferenzsystem zum Ausführen des Modells und dem Agent-Harness, der Tools und Kontext verbindet
    • Die GPT‑5.6-Modelle bearbeiten Aufgaben auf direkteren Wegen
    • Verbessertes Routing erhöht die Auslastung der Hardware
    • Optimierte Production-Software erzeugt Token effizienter
    • Verbesserte Kontextverwaltung hilft Agenten dabei, bereits erledigte Arbeit nicht zu wiederholen
  • Mit denselben Rechenressourcen lassen sich mehr nützliche Aufgaben abschließen, wodurch Zeit, Token und Kosten pro Ergebnis sinken

Zusätzliche Optimierungen durch Sol

  • In menschengeführten Prozessen hat GPT‑5.6 Sol Production-Kernel autonom neu geschrieben und optimiert
  • Zur Verbesserung der Token-Erzeugung entwarf und führte es Hunderte von Experimenten aus, überwachte das Training und griff bei Problemen ein
  • Die Kernel-Arbeit senkte die End-to-End-Kosten der Modellbereitstellung um 20 %, und durch Experimente wurde die Effizienz der Token-Erzeugung um mehr als 15 % gesteigert
  • Mit steigender Leistung und Autonomie des Modells entsteht eine Feedback-Schleife, die die Suche nach der nächsten Effizienzverbesserung beschleunigt
  • Details zum zugehörigen Engineering-Prozess finden sich unter Einführung in die Effizienzverbesserungen von GPT‑5.6

Computing-Strategie für bessere Skalierbarkeit

  • Um die hohe Nachfrage nach leistungsfähiger Intelligenz zu bedienen, braucht es nicht nur mehr Rechenressourcen, sondern auch produktiveres Computing
  • OpenAI baut ein resilientes Infrastrukturportfolio auf und platziert jede Workload auf dem System, das für ihre Ausführung am besten geeignet ist
    • Durch die Preissenkungen bei Luna und Terra lassen sich große Auftragsvolumen wirtschaftlicher in größerem Maßstab betreiben
    • Fast mode bietet schnelleren API-Zugang für Sol-Aufgaben, bei denen Antwortzeit entscheidend ist
  • Die Wirtschaftlichkeit steigt für den breiten Einsatz bei groß angelegter Dokumentenanalyse, der Klassifizierung von Kundeninteraktionen und wiederkehrenden Implementierungsaufgaben
  • Komplexe Sol-Workloads lassen sich schneller verarbeiten, wenn Geschwindigkeit den Aufpreis rechtfertigt
  • Leistungsfähigere Modelle unterstützen nachgelagerte Verbesserungen durch Technikteams und verkürzen so die Zeit bis zu mehr Leistung und geringeren Kosten

Funktionsweise und Kompatibilität von Fast mode

  • Der Fast mode der API ersetzt Priority Processing und entspricht /fast in Codex
  • Bei GPT‑5.6 Sol bietet er ohne Änderung der Intelligenzstufe gegenüber der Standardverarbeitung eine bis zu 2,5-mal höhere Geschwindigkeit zum doppelten Preis
  • Zur Wahrung der Abwärtskompatibilität funktionieren bestehende API-Anfragen mit dem Tag priority weiterhin

Verfügbarkeit und API-Preise

  • GPT‑5.6 Terra und Luna bleiben in ChatGPT Work, Codex und der OpenAI API verfügbar
    • Nutzer von Free und Go in ChatGPT Work und Codex haben Zugriff auf Terra
    • Nutzer von Plus, Pro, Business und Enterprise können Terra und Luna auswählen
  • Ab dem 30. Juli gelten in der API pro 1 Million Token folgende Preise
    • Terra: Eingabe $2, Ausgabe $12
    • Luna: Eingabe $0.20, Ausgabe $1.20
  • Die Abopreise und Kontingentbudgets von ChatGPT und Codex bleiben bestehen, aber die bei der Nutzung von Terra und Luna verbrauchten Credits sinken
  • Bei AWS werden die Preisänderungen ab dem späten 30. Juli schrittweise ausgerollt
  • Die vollständigen Preise finden sich unter API-Preisinformationen

1 Kommentare

 
GN⁺ 3 시간 전
Hacker-News-Kommentare
  • John Wanamakers Satz „Die Hälfte der Werbeausgaben ist verschwendet, aber ich weiß nicht, welche Hälfte“ passt noch besser auf die Modellauswahl. Man weiß zwar, dass man für die meisten Aufgaben kein starkes Modell braucht, aber schon die Unterscheidung zwischen einfachen und schwierigen Aufgaben ist selbst ein schwer lösbares, vielleicht sogar unentscheidbares Problem

    • Nicht besonders schwierig. Man muss nur erst eine Bibliothek finden, die das Halteproblem halbwegs löst, dann kann es sofort losgehen
    • Wir sind noch nicht an dem Punkt, 1.000 Agenten gleichzeitig laufen zu lassen. Im Moment achtet man noch direkt auf die wichtigen Aufgaben, die Agenten ausführen, daher gibt es keinen besonderen Grund, bewusst ein Modell unterhalb des State of the Art zu wählen. Außerhalb von Coding kann das anders sein
    • Wenn man Agenten und Nutzer hat, kann man Evaluierungen ausführen, um die Grenzen des Modells zu prüfen. Luna ist beim Tool Calling nicht das Beste, aber wenn Problem und Tools klar definiert sind, ist es für deutlich weniger Geld mit Gemini 4 Flash vergleichbar
    • Die Sichtweise in https://news.ycombinator.com/item?id=49113236 passt gut
      HN könnte wie ein BBS auch auf Hardware aus den 1970ern laufen, aber in der Praxis macht man im Wesentlichen dasselbe mit einer CPU mit rund 10 Milliarden statt 10.000 Transistoren, ohne groß darüber nachzudenken
  • „Ab heute senken wir die Kosten des schnellsten und günstigsten Modells GPT‑5.6 Luna um 80 %“ – da fehlen einem die Worte. Ich dachte, wir seien in eine Stagnationsphase eingetreten, in der es über mehrere Monate nur 5–10 % Verbesserungen gibt, aber bei so einer abrupten Veränderung fragt man sich, wo der Preisboden liegt

    • Sobald Modellintelligenz 90–95 % der heutigen Wissensarbeit zuverlässig bewältigt, werden die Gewichte in Silizium gegossen und das Preis-Leistungs-Verhältnis verbessert sich noch einmal um das Zehnfache
      Dynamische GPU-Cluster werden dann für die restlichen 5 % und zur Erweiterung des State of the Art genutzt, und Aufgaben, die heute für die meisten Wissensarbeiter zu schwierig sind, werden neu erschlossen
    • Wie viel des aktuellen Preises tatsächliche Kosten sind und wie viel Markteroberungsstrategie durch Investorensubventionen, weiß man nicht. Falls OpenAI von seiner Finanzkraft überzeugt ist, könnte das ein Versuch sein, Anthropic mit seinem Flaggschiffprodukt unter Druck zu setzen
    • Das sind kaum glaubhafte, aber beeindruckende Zahlen. Selbst wenn die Leistung ein paar Prozent schlechter ist: Wenn etwas mehr als 80 % billiger ist als die Konkurrenz und von einem US-Unternehmen in einer US-Hyperscale-Cloud angeboten wird, dürfte es für die meisten Firmen schwer sein, eine andere Wahl zu rechtfertigen
    • Das heißt, die Kosten sind um 80 % gesunken, nicht dass die Effizienz um 80 % gestiegen ist. Luna könnte von Anfang an teuer gewesen sein, und auch über das Modell selbst weiß man wenig
      Falls es ein echter Effizienzgewinn ist, dürfte es Gegenleistungen geben, etwa aggressivere Quantisierung oder KV-Cache-Komprimierung mit Qualitätsverlusten
    • Schon Verbesserungen von 5–10 % alle paar Monate sind ziemlich erstaunlich. Ich frage mich, welchen Druck Kimi 3 intern auf Anthropic, OpenAI und Google ausübt
      Je schneller und billiger Tokens pro Jahr werden, desto realistischer werden AI-Fabriken, die Expertenteams nachahmen, sowie deutlich höhere Parallelität
  • Es ist erstaunlich, dass Luna, das ohnehin schon günstig und leistungsstark war, jetzt fünfmal billiger ist. Bei der Arbeit nutze ich Sol, zu Hause Luna; der Unterschied ist klar, aber nicht überwältigend. Nachdem die Preise ein Jahr lang gestiegen sind, fühlt es sich an, als würden sie mit Luna, Kimi K3 und GLM 5.2 wieder fallen

    • Das als denselben Trend wie bei Kimi oder GLM zu sehen, ist schwierig. GLM 5.2 war nach Maßstäben chinesischer Modelle ein deutlicher Aufschlag, Kimi K3 legte noch einmal nach und näherte sich dem Preisniveau von OpenAI
      OpenAI und Anthropic haben die Preise ebenfalls monatelang erhöht, und nun hat ein US-Labor die Preise massiv gesenkt – das wirkt eher wie der gegenteilige Trend
    • Unternehmen konkurrieren Tag und Nacht darum, den Markt zu besetzen, also ist es am Ende nur eine Frage der Zeit
    • Ob Kimi wirklich günstig ist, ist fraglich; eher ist es ein ziemlich teures Modell
    • Aufgaben wie Bugfixing, bei denen sich das Ergebnis verifizieren lässt, kann man mit geeigneten Verifikationsverfahren mit praktisch jedem Modell angehen
  • Es heißt, man habe durch Kernel-Arbeit die End-to-End-Kosten der Modellbereitstellung um 20 % gesenkt und in Experimenten die Effizienz der Token-Generierung um mehr als 15 % erhöht. Wenn die Bereitstellungskosten von GPT-5.6 um 20 % gesunken sind, spart das dann mehrere Milliarden Dollar pro Monat?
    Laut SpaceX-IPO-Unterlagen hat Anthropic 1,25 Milliarden Dollar für die Anmietung von Inferenzkapazität in zwei Colossus-Rechenzentren ausgegeben, aber unter Einbezug bestehender Kapazitäten bei AWS usw. ist unklar, wie groß der Anteil am Gesamtvolumen ist. Auch OpenAIs monatliche Inferenzkosten dürften im Milliardenbereich liegen, daher wäre eine Einsparung von 20 % gewaltig

    • Vor etwa zwei Jahren half Gemini 2.5 noch bei eigenen Kernel-Optimierungen, um gerade einmal 1 % Effizienzsteigerung zu erreichen, und jetzt sind wir bei 20 %
    • Man stelle sich vor, man könnte in den Lebenslauf schreiben: „Habe die Inferenzkosten um 20 % gesenkt und dem Unternehmen dadurch jeden Monat Milliarden Dollar gespart
  • Diese Veränderung fühlt sich an wie der Übergang von Einwahl zu Breitband. Ich habe Luna schon bisher aktiv für Deep Research empfohlen, aber es zum gleichen Preis fünfmal so oft ausführen zu können, ist enorm
    Schon jetzt lasse ich 10 Agenten parallel für die Hypothesengenerierung laufen, und 50 sind kaum vorstellbar. Wenn die Kostenlast gering ist, selbst wenn man denselben Prompt und dasselbe Modell dutzendfach laufen lässt, werden die Statistiken viel interessanter und aussagekräftiger

    • Mich würde interessieren, wie „Deep Research“ konkret umgesetzt wird
    • Ich würde gern mehr über die Hypothesengenerierung und den Research-Prozess hören. Für gute Ideen scheint mir mehr Schlussfolgerungsfähigkeit nötig zu sein, deshalb habe ich Sol verwendet, aber ab einem gewissen Punkt könnte Menge wichtiger als Qualität werden
    • Ich frage mich, bei welchen Aufgaben mehr Agenten wirklich einen Effekt haben und bei welchen nicht
  • Der neue Preis von Luna ist unerwartet, und für dieses Preis-Leistungs-Verhältnis scheint es auf dem Markt kein Konkurrenzprodukt zu geben
    Für Production-Apps ist OpenAI jetzt klar der beste Anbieter. Die API ist stabil, funktionsreich, und auch das Preis-Leistungs-Verhältnis über die gesamte Modellpalette hinweg ist stark. Ich habe lange bei Fireworks offene Gewichtsmodelle wie Kimi K2.5 genutzt, aber es gab sporadische Probleme; bei Anthropic und Google war es ähnlich. OpenAI ist schnell und bietet auf fast jedem Intelligenzniveau das bessere Preis-Leistungs-Verhältnis

    • Die OpenAI-API ist sehr stabil; ich erinnere mich kaum noch, wann es die letzte Störung oder Unterbrechung gab
  • Normalerweise schaue ich mir bei OpenRouter das Preis-Leistungs-Diagramm an und aktiviere rechts "Show Pareto". Für private Projekte habe ich bisher noch GLM-5.2 genutzt, aber jetzt ist Luna die naheliegende Wahl

    • Ich frage mich, ob OpenRouter Luna und Terra seit dem Launch nicht ohnehin schon mit 50 % Rabatt angeboten hat. Wie sich dieser Rabatt nach der jetzigen Senkung auswirkt, ist unklar
    • Laut offizieller Dokumentation liegt Luna näher an der früheren Nano-Modellfamilie; ich frage mich, ob die Coding-Leistung wirklich auch so gut ist
  • Die Preissenkung um 80 % bei Luna ist sehr aggressiv. Für die meisten Aufgaben, die keine State-of-the-Art-Intelligenz brauchen, ist es eine überragend gute Wahl, und manchmal kann Luna sogar mit Opus 5 mithalten

    • Luna wurde gebaut, um mit Haiku zu konkurrieren; ich frage mich, bei welchen Aufgaben es auf Opus-Niveau liegt
    • Zwischen Sol xhigh und Luna max gab es einen deutlich spürbaren Unterschied. Sol versteht Prompts besser, während man Luna konkreter und klarer instruieren muss
  • Ich habe viele DeepSeek-v4-flash-Tokens im Voraus bezahlt und würde nach dem Aufbrauchen gern eine Zeit lang Luna-Tokens kaufen. Ich bevorzuge günstige und schnelle Modelle und bin im Ruhestand, daher ist es in Ordnung, wenn ich gelegentlich Zeit verliere, weil ich manuell auf ein stärkeres Modell wechseln muss

  • Dass Luna 80 % billiger geworden ist, ist erstaunlich. Da die Rechenkosten weiter fallen, könnten nächstes Jahr die API-Gebühren starker Modelle niedriger als Abokosten werden

    • Abos haben für Unternehmen großen Wert, weil sie Nutzer dauerhaft binden, daher wird die API kaum billiger als ein Abo werden