1 Punkte von GN⁺ 19 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Die Nachfrage nach Kimi K3 ist deutlich stärker gestiegen als erwartet; in den letzten 48 Stunden näherte sich die GPU-Auslastung der aktuellen Kapazitätsgrenze
  • Um die Nutzungserfahrung bestehender Abonnenten zu schützen, werden neue Abos vorübergehend ausgesetzt und Rechenressourcen vorrangig aktuellen Mitgliedern zugewiesen
  • Bestehende zahlende Abonnenten sind nicht betroffen; Moonshot AI beschleunigt den Ausbau der Infrastrukturkapazität
  • Sobald zusätzliche Kapazität verfügbar ist, sollen neue Abos in Batches wieder aufgenommen werden
  • Außerdem soll die Mitgliedschaft je nach Nutzungszweck in zwei dedizierte Tarife aufgeteilt werden
    • Kimi Membership: für Kimi Web, App und Work
    • Kimi Code Membership: für Coding-Workflows
  • Die Maßnahme soll Rechenressourcen entsprechend der Nachfrage je Service genauer verteilen und eine stabile Nutzungserfahrung gewährleisten

1 Kommentare

 
Hacker-News-Meinungen
  • Die Formulierung, dass man neue Abos vorübergehend aussetzt und Rechenressourcen bestehenden Mitgliedern priorisiert zuteilt, um deren Nutzungserlebnis zu schützen, nachdem die Nachfrage in den letzten 48 Stunden an die Grenzen der aktuellen Kapazität herangerückt ist, liest sich wirklich gut.
    Ein Unternehmen, das Zufriedenheit bestehender Kunden vor schnelles Wachstum stellt.

    • Als GitHub früher genau dasselbe gemacht hat, waren viele Leute sauer, aber damals wie heute war es die richtige Entscheidung.
    • Ich mochte es schon immer nicht, dass auf jeder Website der „Login“-Button kleiner ist als „Sign Up“.
    • Hätte Hetzner dann statt Preiserhöhungen zur Steuerung von Angebot und Nachfrage auch Neuanmeldungen stoppen sollen?
    • Man muss sich nicht zu sehr hineinsteigern. Da Venture-Capital-Firmen enorme Summen in AI pumpen, könnte es auch sein, dass OpenAI oder Anthropic Geld in eine Token-Verbrauchsmaschine stecken, um Datensätze zu destillieren.
  • Gestern hatte ich mein Claude-Kontingent aufgebraucht und habe zum Testen von Kimi den 20-Dollar-Tarif bezahlt. Ich habe in Kimi Code K3 ausgewählt und gebeten, im Repository alle Eingabeeinstellungen zu Hardware, Ein-/Ausgabe, Thread-Steuerung und Netzwerk zu finden und einen Bericht zu schreiben. Nach 12 Minuten Nachdenken antwortete es, dass mein Tageskontingent komplett aufgebraucht sei.
    Am nächsten Tag erledigte Fable dieselbe Aufgabe in 3 Minuten; wer K3 nutzen will, sollte also besser nicht den 20-Dollar-Tarif kaufen.

    • Codex denkt auch nach Erreichen des Limits weiter und beantwortet die Anfrage.
    • Ich nutze nur vollständig selbst gehostete Modelle, daher ist die Umgebung vielleicht anders, aber ich frage mich, ob es in echten Workflows üblich ist, 12 Minuten lang ohne jegliches Feedback zu warten. Ich beobachte laufend, welchen Weg das Modell nimmt, und breche ab oder korrigiere die Richtung, wenn es in eine Sackgasse läuft.
    • Mir ist exakt dasselbe passiert. Ich habe den monatlichen 20-Dollar-Tarif von Kimi.com jährlich bezahlt und über die API in OpenCode eine einfache Anfrage an Kimi K2.7 geschickt; dabei wurde mein 5-Stunden-Kontingent komplett aufgebraucht, während Cursor dieselbe Anfrage in wenigen Minuten erledigte.
      In der Weboberfläche waren außerdem schon 23 % der wöchentlichen Nutzung verbraucht. Bei Cursor für 20 Dollar im Monat habe ich selbst bei deutlich mehr Arbeit noch nie auch nur eine Warnung bekommen. Zuerst dachte ich, es sei ein OpenCode-Problem, aber wenn es in Kimi Code genauso war, scheint es das wohl nicht zu sein.
    • Vor ein paar Tagen hat auch bei Claude eine vergleichsweise einfache Aufgabe mein gesamtes 5-Stunden-Kontingent verbraucht, ohne eine Antwort zu liefern; es fühlte sich wie komplette Zeitverschwendung an.
    • Mich würde die Größe der Zielanwendung interessieren. Es macht einen Unterschied, ob es eine Node.js-Todo-App ist, die Textdateien wie eine Datenbank nutzt, oder 1 Million Zeilen COBOL-Spaghetti-Code aus dem Jahr 1971.
  • Besonders interessant an Kimi ist, dass es dreimal so viele RNN- bzw. lineare Attention-Schichten wie vollständige Attention-Schichten hat. Ich habe es noch nicht ausprobiert, aber für Arbeiten mit langem Kontext wirkt die Architektur sehr sinnvoll.
    Der Grund für die vielen Parameter scheint derselbe zu sein wie bei rechenoptimierten xLSTM-Modellen mit vielen Parametern. Angesichts des Erfolgs dieses Modells ist es schade, dass in Europa kein riesiges Modell der xLSTM-Familie entwickelt wurde. Das Team wirkt pragmatisch und wählt, was in internen Evaluierungen gut funktioniert, daher wurden auch normale Attention-Schichten beibehalten; auch die Implementierung muss nicht garantiert ideal sein. Aber Kimi zeigt, was möglich gewesen wäre, wenn man geeigneten Forschern Supercomputer für das Training großer LLMs bereitgestellt hätte. Am Ende ist das meiste davon RNN, also Hochreiters Gebiet.

    • War nicht eines der ursprünglichen Ziele der Transformer-Architektur, nicht parallelisierbare RNNs zu eliminieren? Ich bin kein Experte und habe nur vor ein paar Jahren ein paar Papers gelesen.
    • Vor etwa anderthalb Jahren habe ich Hochreiter gesagt, er solle nicht bei Experimenten mit ein paar Milliarden Parametern stehen bleiben, sondern xLSTM auf LLM-Größe skalieren. Er schien aber zu glauben, dass es zu spät sei, um Investitionen und Aufmerksamkeit zu bekommen. Schade, dass Europas Ambitionen so begrenzt sind.
    • Ich fragte mich, ob es ein RNN ist, ein State-Space-Modell wie Qwen oder Mamba oder eher etwas in Richtung RWKV; nach dem Nachsehen ähnelt es dem von Qwen verwendeten Linear DeltaNet.
  • Ich nutze Kimi seit etwa sechs Monaten für Coding-Aufgaben und bin zufrieden, sodass ich nicht zu anderen Modellen zurückgekehrt bin. Nur gelegentlich teste ich dieselbe Aufgabe mit Claude, um zu prüfen, ob mir etwas entgeht.
    Ich nutze OpenRouter, und da mein LLM-Einsatzbereich schmal ist, ist der Kostenunterschied in beide Richtungen vernachlässigbar.

    • Mich würde interessieren, welchen Tarif du nutzt. Nach meiner Erfahrung waren sowohl der 20-Dollar-Monatstarif von Kimi als auch der 30-Dollar-Monatstarif von Qwen bei weitem nicht ausreichend als Hauptwerkzeug, aber wegen K3 möchte ich den 49- oder 99-Dollar-Monatstarif ausprobieren.
  • Erfrischend ist, dass sie neue Abos stoppen, statt wie Google still die Limits zu senken und zu hoffen, dass Nutzer nicht merken, dass der Wert ihres Abos geringer geworden ist.
    Gemini Apps weist ausdrücklich darauf hin, dass Limits ohne Vorankündigung geändert werden können, um bei Kapazitätsengpässen oder Aktivitätsspitzen die Qualität zu erhalten: https://support.google.com/gemini/answer/16275805

  • In Multi-Agent-Game-Coding-Benchmarks sind chinesische Modelle meist schwach beim Single-Shot-Reasoning, gleichen das aber durch Tool-Nutzung und iterative Verbesserung aus. Kimi K3 lag beim Single-Shot-Coding nur auf Platz 19, beim agentischen Coding mit Ausführungsumgebung, Tools und mehreren Aufrufen aber auf Platz 3; nach durchschnittlichen Einreichungen lagen nur Sol und Fable davor.
    Für Software Engineers ist agentisches Coding am relevantesten, aber Geschwindigkeit zählt ebenfalls, und bei Kimi wird das aktuell zu einem echten Usability-Problem. Externe Inference-Anbieter wie Fireworks haben diese Lücke bei früheren Modellen schon einmal verkleinert. Der Trend, dass Open-Weights-Frontier-Modelle zum Standard werden, ist interessant; allein durch den Besitz eines Frontier-Modells zu konkurrieren, wird immer schwieriger werden.
    Daten: https://gertlabs.com/rankings?mode=agentic_coding

  • Die Qualität dieses Modells ist besser als erwartet, besonders bei Code-Reviews und PR-Reviews. Wegen der übermäßigen Nachfrage und der großen Modellgröße ist es derzeit aber zu langsam; selbst relativ einfache Code-Reviews dauern sehr lange.

    • Kimi K3 steht jetzt in der Preisliste von opencode-go, was wohl bedeutet, dass man es nutzen kann, aber ich habe es noch nicht geprüft. In Zen ist es nicht vorhanden.
    • Der OpenRouter-Weg ist einen Versuch wert: https://openrouter.ai/moonshotai/kimi-k3
  • Ich frage mich, ob der aktuelle Kimi-Hype ein Nettoanstieg nach dem Jevons-Paradox ist, bei dem reichliches Angebot mehr Verbrauch erzeugt, oder ob Nutzer einfach zu einem günstigeren Modell wechseln.
    Außerdem frage ich mich, ob es eine gute Quelle gibt, um den gesamten Token-Verbrauch über mehrere Labs und OpenRouter hinweg zu sehen.

    • Wenn es um den Wechsel zu einem günstigeren Modell ginge, wären sie zu DeepSeek v4 Flash gegangen. Das neueste Kimi ist teurer als die meisten anderen chinesischen Modelle, daher wirkt es eher wie ein Trendfolgeeffekt nach dem Motto „Das neue Modell ist wirklich gut, probiert es aus“. Entscheidend ist, wie gut es einer gründlichen Prüfung standhält; die US-Labs dürften ziemlich nervös sein.
  • Ich frage mich, ob Anthropic und OpenAI auf absehbare Zeit allein deshalb wettbewerbsfähig bleiben, weil sie die einzigen Anbieter sind, die eine Nachfrage dieser Größenordnung bewältigen können. Wenn bei ohnehin hohen Kosten Ausfälle Mitarbeiterzeit verschwenden, werden Unternehmenskunden das nicht mögen.

    • Im Arbeitsumfeld sieht man denselben Trend. Die Software selbst ist günstig, aber wegen Hosting-Expertise und Verantwortung für Uptime konzentrieren sich reale Deployments weiterhin auf einige wenige Anbieter. Gleichzeitig entstehen viele Vibe-Coding-Produktivitätstools, die auf persönlichen Laptops laufen.
    • Auch Anthropic hat noch vor wenigen Monaten wegen Nachfrageproblemen Nutzer mit einer Unterscheidung zwischen Nutzung zu Stoßzeiten und außerhalb der Stoßzeiten genervt, und es gab häufig Ausfälle. Seit dem Vertrag mit xAI ist es im Großen und Ganzen stabil, und Moonshot arbeitet derzeit ebenfalls an Verträgen für Rechenressourcen.
    • Ein erheblicher Teil der Rechenressourcen von OpenAI und Anthropic gehört tatsächlich Hyperscalern. Sie können wohl auf den per Langfristvertrag gesicherten Ressourcenzugang eine Marge aufschlagen, aber da Hyperscaler niedrigere Preise anbieten können, dürfte das nicht ewig halten.
    • Da Kimi ein Open-Weights-Modell ist, werden neben Moonshot schnell weitere Hosting-Anbieter auftauchen; dieses Problem wird die Einführung von Open Weights also kaum stark behindern.
    • Ich nutze Synthetic und habe verstanden, dass sie planen, Kimi3 zu hosten. Offene Modelle können Inference verteilen.
  • Es sieht so aus, als hätten sie Abos gestoppt, weil sie glaubten, eine Mindest-Servicequalität für Kunden nicht garantieren zu können.

    • Genau genommen haben sie nur neue Abos vorübergehend ausgesetzt und bestehenden Mitgliedern Rechenressourcen priorisiert zugewiesen.