1 Punkte von GN⁺ 4 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Kimi K3 ist das weltweit erste offene Modell der 3T-Klasse mit 2,8 Billionen Parametern, nativer Vision und einem Kontextfenster von 1 Million Tokens, ausgelegt auf lang andauernde Coding-, Wissens- und Reasoning-Aufgaben
  • Durch Kimi Delta Attention/Attention Residuals und Stable LatentMoE, das 16 von 896 Experten aktiviert, steigt die gesamte Skalierungseffizienz gegenüber Kimi K2 um etwa das 2,5-Fache
  • Führt lang laufende Aufgaben mit minimalem menschlichem Eingriff aus, etwa GPU-Kernel-Optimierung, Compiler-Entwicklung, 3D-Spieleentwicklung, Chipdesign und wissenschaftliche Forschung; in einigen Coding- und Agent-Benchmarks erreicht oder übertrifft es geschlossene Modelle
  • Sofort verfügbar über Kimi.com/Kimi Work/Kimi Code/Kimi API; zum Launch ist maximaler Reasoning-Aufwand der Standard, die vollständigen Modellgewichte sollen bis zum 27. Juli 2026 veröffentlicht werden
  • Gesamtleistung und Nutzererlebnis bleiben hinter Claude Fable 5 und GPT 5.6 Sol zurück; Einschränkungen bestehen bei der Empfindlichkeit gegenüber der Weitergabe von Denkprotokollen und darin, in mehrdeutigen Situationen zu stark stellvertretend für den Nutzer zu entscheiden

Offenes Modell mit 2,8 Billionen Parametern

  • Kimi K3 ist das leistungsstärkste von Kimi veröffentlichte Modell und unterstützt 2,8 Billionen Parameter/1 Million Tokens Kontext/native Vision
  • Die Gesamtleistung liegt unter Claude Fable 5 und GPT 5.6 Sol, zeigt in den eigenen Evaluationen aber durchgehend bessere Ergebnisse als andere Vergleichsmodelle und erreicht Frontier-Niveau
  • In 9 der vergangenen 12 Monate haben Kimi-Modelle die Obergrenze der Größe offener Modelle verschoben; K3 erreicht erstmals die 3T-Klasse
  • Verfügbar über Kimi.com/Kimi Work/Kimi Code/Kimi API
  • Die Launch-Version nutzt maximalen Reasoning-Aufwand als Standard; Modi mit niedrigem/hohem Aufwand sollen in späteren Updates folgen
  • Inference-Anbieter und Open-Source-Maintainer stimmen technische Details ab; vollständige Gewichte und technischer Bericht sollen bis zum 27. Juli 2026 veröffentlicht werden

KDA-/AttnRes-/Stable-LatentMoE-Architektur

  • Kimi Delta Attention (KDA) bietet die Grundlage, um Attention bei langen Sequenzen effizient zu skalieren
  • Attention Residuals (AttnRes) akkumulieren Repräsentationen nicht gleichmäßig über alle Schichten, sondern holen gezielt benötigte Repräsentationen entlang der Modelltiefe
  • Durch eine Ausweitung der Mixture-of-Experts-Sparsity aktiviert die Stable-LatentMoE-Architektur nur 16 von 896 Experten
  • Durch die Kombination aus Architekturänderungen und Verbesserungen bei Training und Datenrezepten steigt die gesamte Skalierungseffizienz gegenüber Kimi K2 um etwa 2,5×
  • Für Routing und Optimierung großer sparsamer Modelle kommen mehrere Techniken zum Einsatz
    • Quantile Balancing berechnet die Expertenzuweisung direkt aus Quantilen der Router-Scores und entfernt heuristische Updates sowie empfindliche Balance-Hyperparameter
    • Per-Head Muon optimiert jeden Attention-Head unabhängig und erhöht so die Adaptivität beim Training im großen Maßstab
    • Die Sigmoid Tanh Unit (SiTU) kontrolliert Aktivierungswerte, und Gated MLA erhöht die Selektivität der Attention

Trainings- und Inferenzinfrastruktur

  • Ab der SFT-Phase wird quantization-aware Training eingesetzt; für breite Hardwarekompatibilität werden MXFP4-Gewichte/MXFP8-Aktivierungen genutzt
  • Für großskalige Expertenparallelisierung wurde ein vollständig balanciertes Verfahren für Experten-paralleles Training eingeführt, das feste Tensorformen nutzt und Host-Synchronisierung auf kritischen Pfaden entfernt, damit Expertenungleichgewichte den Durchsatz nicht senken
  • Für Inferenz ist ein breiter Kommunikationsbereich mit hoher Bandbreite nötig; empfohlen wird eine Supernode-Konfiguration mit mindestens 64 verbundenen Beschleunigern
  • Eine Implementierung zur Lösung der Probleme, die KDA für klassisches Prefix Caching aufwirft, wurde in die vLLM-Community eingebracht und soll zusammen mit dem Modell veröffentlicht werden
  • Mit dem KDA-Prefill-Cache lässt sich das Modell trotz Größe und langem Kontext zu wettbewerbsfähigen Token-Preisen betreiben

Lang andauerndes Coding und visuelles Feedback

  • Kann lange Engineering-Sessions mit minimaler menschlicher Aufsicht fortführen, große Repositories durchsuchen und Terminal-Tools koordinieren
  • Kombiniert Software Engineering mit visuellem Reasoning und verbessert Spieleentwicklung, Frontend- und CAD-Ergebnisse iterativ anhand von Screenshots und Ausführungsergebnissen
  • Verwandelt Bilder und Videos über vision in the loop, also Iteration zwischen Code und tatsächlicher Bildschirmdarstellung, in ausführbare interaktive Ergebnisse
  • In der späten Entwicklungsphase übernahm eine frühe Version von Kimi K3 den Großteil der GPU-Kernel-Optimierungsarbeit des Teams

GPU-Kernel-Optimierung

  • Bewertet wurde, wie die Modelle in derselben Sandbox bis zu 24 Stunden lang AttnRes-/KDA-/MLA-Kernel profilierten und modifizierten
  • Kimi K3 konkurrierte mit den potenziellen Fallback-Ergebnissen von Fable 5 und erzielte insgesamt höhere Ergebnisse als Opus 4.8/GPT 5.6 Sol/GPT 5.5
  • AttnRes

    • Optimierte eine FLA-Triton-Implementierung in Produktionsform mit 96 Schichten/Modelldimension 8.192/8.192 Tokens, ohne die numerischen Ergebnisse zu verändern
    • Entwarf in 15 Stunden iterativer Arbeit einen neuen zweistufigen Kernel-Algorithmus und fusionierte mehrere Kernel
    • Reduzierte Vorwärts- und Rückwärtslaufzeit von 283,6 ms auf 114,4 ms
    • Erzielte eine ähnliche Endleistung wie die potenziellen Fallback-Ergebnisse von Fable 5, optimierte pro Iteration jedoch schneller als K3
  • DSA

    • Optimierte einen TileLang-basierten DSA-Kernel in einer realen Trainingskonfiguration mit DeepSeek-V3.2-abgestimmten Hyperparametern und Sequenzen mit 1 Million Tokens
    • Verkürzte die End-to-End-Zeit gegenüber der Referenzimplementierung um 55,1 % und erzielte damit das zweitbeste Ergebnis nach Fable 5 mit 57,3 %
  • MLA-512

    • Schrieb ohne Baseline-Kernel einen MLA-Kernel von Grund auf für Batch 1/64 Heads/8.192 Tokens/Head-Dimension 512
    • Erreichte in Vorwärts- und Rückwärtslauf 517,8 TFLOPS, mehr als die Hälfte des theoretischen BF16-Peaks eines H200
    • Lag vor dem nächstbesten Modell mit 492,7 TFLOPS
  • KDA auf GPGPU

    • Optimierte eine FLA-Triton-KDA-Implementierung auf einer Allzweck-GPU eines alternativen Anbieters mit anderem CUDA- und Software-Stack sowie anderem Speicherverhalten
    • Erstellte vom Profiling ausgehend ein neues Performance-Modell und verkürzte Vorwärts- und Rückwärtslaufzeit gegenüber der Referenzimplementierung um 73,6 %
    • Gibt an, dass vermutlich noch weiteres Verbesserungspotenzial besteht
  • Hinweise zur Bewertung

    • Claude Fable 5 wurde von Dritten bewertet; einige Ergebnisse könnten Fallback-Verhalten enthalten
    • Einige Ausführungspfade mehrerer Modelle verwenden innerhalb der erlaubten numerischen Fehlertoleranz kleine Präzisionsverkürzungen

MiniTriton-GPU-Compiler

  • Kimi K3 entwickelte MiniTriton, ein kleines Triton-ähnliches GPU-Programmiersystem, von Grund auf
  • Auf MLIR wurde eine eigene tilebasierte Zwischenrepräsentation aufgebaut und eine Pipeline für Optimierungspässe/PTX-Codegenerierung/Runtime implementiert
  • In den unterstützten Roofline-Benchmarks erreichte es ähnliche oder höhere Leistung als Triton und torch.compile; bei einigen Aufgaben übertraf es Triton
  • Führte das komplette nanoGPT-Training stabil aus; auch die Loss-Kurve konvergierte mit nur kleinen Abweichungen von der Referenzimplementierung
  • Es entstand ein konsistenter vollständiger Compiler von der DSL-Frontend-Schicht über IR-Optimierung/PTX-Erzeugung bis zur Runtime; auch der von Grund auf geschriebene Tensor-Core-Pfad konkurriert mit Tritons optimiertem Stack

3D-Spiele und digitale Produktion

  • Kimi K3 erstellte ein prozedural generiertes browserbasiertes 3D-Erkundungsspiel mit Three.js WebGPU und GPU Compute
  • Erzeugte eine Open World mit Wald, Blockhüttendorf, verschneiten Bergen und dynamischem Wetter sowie Reiter- und Pferdemodelle mit 3D-Asset-Generierungstools
  • Für animierte Cowboy-/Pferdemodelle und Geländedaten wurden externe Assets verwendet
  • Das Ergebnis ist unter 3D Open World zu sehen

Chipdesign für Modelle

  • Kimi K3 entwarf in 48 Stunden durchgehender autonomer Arbeit einen Chip zum Betrieb eines kleinen Modells mit eigener Architektur
  • Führte Design, Optimierung und Verifikation mit der Nangate-45-nm-Bibliothek und Open-Source-EDA-Tools durch
  • Erfüllte 100-MHz-Timing innerhalb einer Fläche von 4 mm² und erreichte in der Simulation einen Decoding-Durchsatz von über 8.700 Tokens pro Sekunde
  • Enthält 1,46 Millionen Standardzellen, 0,277 MB SRAM und ein INT4-MAC-Array mit fusionierter Dequantisierung

Umsetzung computergestützter Wissenschaftsforschung

  • Verbindet wissenschaftliche Literatur mit ausführbarem Code und implementiert, verifiziert und analysiert komplexe Computational-Research-Prozesse
  • Schloss die Reproduktion der universellen I–Love–Q-Beziehungen in der rechnergestützten Astrophysik in etwa 2 Stunden ab; zum Vergleich wurde angegeben, dass erfahrene Forschende dafür üblicherweise 1–2 Wochen benötigen
  • Prüfte und kreuzvalidierte mehr als 20 Paper und implementierte die gesamte numerische Rechenpipeline
  • Bewertete mehr als 300 Zustandsgleichungen und fand Inkonsistenzen zwischen veröffentlichten Formeln
  • Erzeugte über 3.000 Zeilen Python-Code sowie ein interaktives HTML-Dashboard zur Ergebnisexploration

Wissensarbeit und interaktive Forschung

  • Neben öffentlichen Benchmarks zeigte Kimi K3 (max) laut Angaben auch in internen Evaluationen, die auf wiederkehrenden Problemen aus realen Nutzer- und Agent-Workflows basieren, konsistente Verbesserungen
  • 42-Jahres-Analyse der AI-ASIC-Branche

    • Erstellte durch über 120 rekursive Selbstverbesserungen eine interaktive Website zur Analyse der AI-ASIC-Branche über 42 Jahre
    • Führte mehr als 2.800 Websuchen/Abrufe und mehr als 1.100 Terminal-Datenerhebungen durch
    • Nutzte über 11.000 Seiten Material, darunter 87 Quartalsberichte und 99 Original-PDFs
    • Verwandelte Quellenmaterial in maßgeschneiderte Diagramme, animierte Schaubilder und interaktive visuelle Narrative
  • Forschung zur Fusionsbranche

    • Erstellte einen Branchenbericht im Consulting-Stil mit Timeline, Funnel-Chart, Bereichsbalkendiagramm, Gantt-Chart und folien in Publikationsqualität
  • GWTC-5-Gravitationswellenanalyse

    • Analysierte 391 Gravitationswellenereignisse mit über 20 gleichzeitigen Sub-Agenten
    • Erzeugte 7 wissenschaftliche Visualisierungen, 2 Tabellen und eine Literatursynthese aus mehr als 10 Paper
  • Präsentationen

    • Wurde zur Erstellung von Präsentationen im Infografikstil genutzt, etwa vollständig editierbaren Heatmaps und Jahresberichten

Widgets und Dashboard

  • Kimi Work wurde um Widgets/Dashboard-Funktionen ergänzt, die Unterhaltungen visueller und dauerhafter machen
  • Widgets erzeugen interaktive Komponenten im Chat und können mit lokalen Daten oder externen Plugins verbunden werden, um fortlaufend aktualisiert zu werden
  • Dashboard hält wichtige Widgets auf einer personalisierten Oberfläche, organisiert nach Thema, Projekt oder Ziel

Videobearbeitung

  • Verarbeitet Text/Bild/Video in einem nativen multimodalen Modell und übernimmt Motion Design, Animation und Videobearbeitung
  • Erstellte ein Motion-Graphics-Video im 3Blue1Brown-Stil, das die eigene Architektur erklärt und technische Konzepte mit animierten Schaubildern und Bildschirmübergängen darstellt
  • Schnitt aus 56 Originalclips ein eigenes Teaser-Video und übernahm Clipauswahl, Schnitte mit fortlaufender Bewegung, framegenaue Beat-Synchronisierung, Audiobearbeitung und mehrere Überarbeitungen
  • Zum Vergleich wurde angegeben, dass kurze Videos mit ähnlicher Dichte erfahrene Cutter üblicherweise 1–2 Tage und Anfänger 3–5 Tage kosten

Wichtige Benchmark-Ergebnisse

  • Alle Kimi-K3-Ergebnisse wurden mit Reasoning-Aufwand max/Temperature 1.0/top-p 1.0 gemessen; je nach Benchmark wurden KimiCode-, Claude-Code- oder Codex-Agent-Harnesses genutzt
  • Coding

    • DeepSWE 67,5 / Program Bench 77,8 / Terminal Bench 2.1 88,3
    • FrontierSWE 81,2 / SWE Marathon 42,0 / PostTrain Bench 36,6
    • MLS Bench 48,3 / interner Kimi Code Bench 2.0 72,9
    • In Program Bench und SWE Marathon erzielte es die höchsten Werte unter den in der Tabelle enthaltenen Modellen
    • Terminal Bench 2.1 lag nahe bei GPT 5.6 Sol mit 88,8; FrontierSWE lag unter Fable 5 mit 86,6
  • Agenten und Arbeitsautomatisierung

    • GDPval-AA v2 1.668 Elo / BrowseComp 91,2 / DeepSearchQA 95,0
    • Toolathlon-Verified 73,2 / MCP Atlas 84,2 / Automation Bench 30,8
    • Job Bench 52,9 / AA-Briefcase 1.548 Elo / APEX-Agents 37,6
    • Office QA Pro 63,3 / SpreadsheetBench 2 34,8 / interner DECK-Bench 73,5
    • In BrowseComp/DeepSearchQA/Automation Bench/SpreadsheetBench 2 erzielte es die höchsten Werte unter den in der Tabelle enthaltenen Modellen
    • MCP Atlas nutzt bei 500 öffentlichen Aufgaben/100-Turn-Limit Gemini 3.1 Pro als Bewertungsmodell
    • AutomationBench bewertet mit 600 öffentlichen Aufgaben
    • BrowseComp nutzte Kontextkompression bei 300.000 Tokens; bei unverwalteter Nutzung des 1-Million-Token-Kontexts liegt K3 bei 90,4
  • Reasoning und Wissen

    • GPQA-Diamond 93,5 / HLE-Full 43,5 / HLE-Full mit Tools 56,0
    • GPQA-Diamond lag nahe bei GPT 5.6 Sol mit 94,1, HLE-Full jedoch unter Fable 5 mit 53,3 sowie dessen Tool-Nutzungswert von 63,0
  • Vision

    • MMMU-Pro 81,6, mit Python 83,4
    • CharXiv RQ 84,8, mit Python 91,3
    • MathVision 94,3, mit Python 97,8
    • BabyVision mit Python 85,7
    • ZeroBench pass@5 23,0, mit Python 41,0
    • WorldVQA ForceAnswer 51,0 / OmniDocBench 91,1 / interner PerceptionBench 58,5
    • In OmniDocBench erreichte es mit 91,1 den höchsten Wert unter den in der Tabelle enthaltenen Modellen
    • ZeroBench wurde gemäß offizieller Einstellung 5-mal ausgeführt; die übrigen multimodalen Werte verwenden den Durchschnitt aus 3 Läufen
    • PerceptionBench ist ein eigener Benchmark mit Fokus auf elementare visuelle Wahrnehmungsfähigkeiten

Evaluationsmethode und Vergleichseinschränkungen

  • Da sich die verwendeten Agent-Harnesses und Score-Quellen je nach Benchmark unterscheiden, bestehen bei direkten Modellvergleichen Unterschiede in den Bedingungen
  • In DeepSWE beträgt der KimiCode-Harness-Score 67,5; im mini-SWE-agent-Harness des offiziellen Leaderboards wurden 67,3 erreicht
  • Bei Terminal Bench 2.1 verwenden die Scores anderer Modelle jeweils das höchste Ergebnis aus mehreren Harnesses
  • Der FrontierSWE-Score wurde mit offiziellen Skripten aus den Rohwerten neu berechnet und gilt per 16. Juli 2026
  • PostTrain Bench nutzt den Durchschnitt aus drei Läufen; wenn Claude Fable 5 Anfragen aus Policy-Gründen verweigert, erfolgt automatisch ein Fallback auf Claude Opus 4.8
  • Die Scores für GDPval-AA v2 und AA-Briefcase stammen aus Artificial Analysis

Nutzung und Preise

  • Kimi K3 Agents
    • Verfügbar in der neuesten Kimi-App für iOS/Android/HarmonyOS oder auf Kimi.com
  • Kimi Work
    • Unterstützt in Kimi Work 3.1.0 oder höher für Windows und Apple-Silicon-Macs
  • Kimi Code
    • Im Terminal starten und Kimi K3 mit dem Befehl /model auswählen
  • Kimi API
    • Die Modellkennung lautet kimi-k3
    • Cache-Hit-Input kostet 0,30 US-Dollar pro 1 Million Tokens, Cache-Miss-Input 3 US-Dollar und Output 15 US-Dollar
    • Nutzt Mooncakes disaggregierte Inferenzarchitektur; die Cache-Hit-Rate offizieller API-Coding-Aufgaben liegt über 90 %
  • Kimi Enterprise
    • Bietet Datenschutz und Mitgliederverwaltung für Organisationen und trennt persönliche Konten vollständig von Organisationskonten

Einschränkungen

  • Empfindlichkeit gegenüber Denkprotokollen
    • K3 wurde darauf trainiert, frühere Denkprotokolle zu bewahren
    • Wenn ein Agent-Harness frühere Denkinhalte nicht vollständig erneut übergibt oder in einer Session von einem anderen Modell zu K3 gewechselt wird, kann die Generierungsqualität stark instabil werden
    • Empfohlen werden die Nutzung des auf Kompatibilität geprüften Kimi Code und das Vermeiden eines Modellwechsels mitten in einer Session
  • Übermäßiges proaktives Handeln
    • Da das Training auf lange, schwierige Aufgaben ausgerichtet ist, kann das Modell bei kleinen Problemen oder mehrdeutigen Nutzerabsichten unerwartete Entscheidungen stellvertretend für den Nutzer treffen
    • Anwendungen, die den Handlungsspielraum begrenzen müssen, sollten in System-Prompts oder AGENTS.md explizitere Einschränkungen setzen
  • Insgesamt ist es ein wettbewerbsfähiges Modell, beim Nutzererlebnis besteht aber ein deutlicher Abstand zu Claude Fable 5 und GPT 5.6 Sol

1 Kommentare

 
GN⁺ 4 시간 전
Hacker-News-Kommentare
  • Schon als früher Proof of Concept war es erstaunlich, dass Kimi K3 einen Chip entworfen hat, der ein Nano-Modell seiner eigenen Architektur ausführen kann
    In einem einzigen 48-stündigen autonomen Lauf wurden mit Open-Source-EDA-Tools und der Nangate-45nm-Bibliothek Entwurf, Optimierung und Verifikation abgeschlossen; dabei wurden auf 4mm² 100MHz Timing eingehalten und in der Simulation ein Decoding-Durchsatz von über 8.700 Tokens pro Sekunde erreicht
    Einschließlich 1,46 Millionen Standardzellen, 0,277MB SRAM und einem INT4-MAC-Array mit Unterstützung für fused inverse quantization zeigt das die Fähigkeit zu langfristiger Arbeit, bei der ein Modell einen Chip für ein Modell gebaut hat

  • Wer direkt bei Moonshot ein Konto anlegt und es nutzen will, sollte wissen, dass auch API-Nutzungsdaten für das Training verwendet werden können
    Es steht dort, dass Kundeninhalte zur Bereitstellung, Wartung und Verbesserung des Dienstes sowie für Modelltraining und Ähnliches verwendet werden können; um das einzuschränken, ist ein separater Unternehmensvertrag oder eine schriftliche Vereinbarung nötig
    https://platform.kimi.ai/docs/agreement/modeluse#4-content

    • Ich vermute, dass es bei OpenAI und Anthropic genauso oder sogar noch schlimmer ist
      In einem Geschäft, das geistiges Eigentum nimmt, Sicherheitsprüfungen daran hängt und es weiterverkauft, überhaupt zu fragen, ob Nutzungsdaten fürs Training verwendet werden, könnte naiv sein; zumindest sind chinesische Unternehmen damit offener und geben eher etwas an die Community zurück
    • Ich bin nicht übermäßig misstrauisch, aber man sollte vielleicht davon ausgehen, dass alle chinesischen Forschungslabore Daten fürs Training nutzen, unabhängig von den AGB
    • OpenRouter klassifiziert den Moonshot-Anbieter als ZDR
      Ich frage mich, ob tatsächlich ein Vertrag zur Nichtaufbewahrung von Daten besteht oder ob OpenRouter ihn falsch klassifiziert hat
    • Ich gehe davon aus, dass auch alle anderen Anbieter, darunter OpenAI, Anthropic, Google und xAI, Daten nutzen
      Selbst wenn sie sagen, dass sie es nicht tun, ist fraglich, ob in diesem umkämpften Rennen wirklich jemand darauf verzichten würde
  • Ausführliche Informationen zu Nutzung und Preisen gibt es in den folgenden Dokumenten
    https://platform.kimi.ai/docs/guide/kimi-k3-quickstart
    https://platform.kimi.ai/docs/pricing/chat-k3
    Unterstützt wird eine Kontextlänge von 1 Million Tokens, und mit $3 Eingabe, $15 Ausgabe und $0,3 Cache pro 1 Million Tokens ist es für ein chinesisches Modell mit offenen Gewichten sehr teuer
    Das ist praktisch derselbe Preis wie bei der Anthropic-Sonnet-Reihe und ähnlich zu den $2,5 Eingabe von 5.6 Terra, aber die tatsächlichen Kosten hängen stark von der Inferenz-Effizienz ab
    Wenn zum Beispiel Sol $30 pro 1 Million Tokens kostet und 10.000 Reasoning-Tokens verbraucht, Kimi K3 für dieselbe Aufgabe aber 50.000 verwendet, dann ist Sol kosteneffizienter

    • Nach offiziellen Benchmarks, die in chinesischen sozialen Medien veröffentlicht wurden, liegt es insgesamt etwa auf Sol/Fable-Niveau und scheint Claude Opus 4.8 durchgängig zu übertreffen
      https://mp.weixin.qq.com/s/V4xhEIy8xDXSMDPrPkmUAQ
      Ein englischer Blog wurde ebenfalls veröffentlicht: https://www.kimi.com/blog/kimi-k3
    • Auch Tokenizer-Unterschiede sind wichtig
      Derselbe Text kann vom Anthropic-Tokenizer in deutlich mehr Tokens kodiert werden als von OpenAI
      Ich sehe GLM als Kimis eigentlichen Konkurrenten, aber GLM 5.2 kostet nicht einmal ein Drittel davon
    • Mit dem neu veröffentlichten Fable war die Leistung beim Bauen einer App hervorragend, aber der Reasoning-Prozess war völlig intransparent
      Kimi zeigt dagegen den gesamten Reasoning-Prozess in einem sinnvollen Ausmaß, sodass man seltsame Umwege und Richtungswechsel direkt sehen und Ideen viel gründlicher debuggen kann
      Selbst bei persönlichen Nischenthemen, die andere LLMs nicht lösen konnten, scheint es deutliche Fortschritte zu geben, daher will ich es weiter testen
    • Ein Modell mit 2,8 Billionen Parametern hat schon aufgrund der Inferenzkosten einen hohen Preis, selbst wenn man die Marge berücksichtigt
      Wenn es als Open Source veröffentlicht wird, könnte es meiner Meinung nach auf etwa $10–12 pro 1 Million Tokens sinken
    • Im Quickstart-Dokument werden die eigentlichen Benchmarks an einen Tech-Blog ausgelagert, aber dort fehlt K3 und K2.6 von vor zwei Generationen ist der letzte Eintrag, deshalb wirkt es so, als ob etwas fehlt
  • Laut Kimis eigener Bewertung liegt K3 bei der allgemeinen Intelligenz hinter Claude Fable 5 und GPT-5.6 Sol; ein technischer Bericht mit vollständigen Gewichten sowie Architektur, Training und Evaluation soll bald veröffentlicht werden
    Mit 1687 Punkten in GDPval-AA v2 liegt es hinter Claude Fable 5 Max und GPT-5.6 Sol Max und über Claude Opus 4.8 Max mit 1600 Punkten
    Im nicht öffentlichen Benchmark für langfristige Wissensarbeit AA-Briefcase erreicht es 1527 Punkte, liegt damit hinter Fable 5 Max, aber vor GPT-5.6 Sol Max mit 1495 Punkten; es könnte also wieder so ein Moment wie bei DeepSeek sein

    • Wenn es hinter diesen beiden Modellen liegt, dann ist es nicht auf Platz 2, sondern auf Platz 3
    • GDPval-AA v2 ist auch ein Benchmark, in dem Sonnet 5 höher liegt als Opus 4.8 Max
      Inzwischen liefern alle Modelle mit offenen Gewichten erstaunliche Werte, sodass Benchmarks allein nicht das Gesamtbild zeigen, und man fast zwangsläufig vermuten muss, dass Evaluationsdaten in die Trainingsdaten gelangt oder absichtlich aufgenommen worden sind
    • DeepSeek war deshalb so schockierend, weil es 10-mal günstiger war
      K3 ist nur etwa 2-mal günstiger als Sol, also nahe an Unterschieden bei der Token-Effizienz und der Fehlertoleranz; ich sehe es eher als Fortsetzung des bestehenden Trends, dass offene Modelle zu Frontier-Laboren aufschließen, und nicht als ein Ereignis, das den Trend selbst verändert hat wie DeepSeek
    • Es ist schwer, die Seite zu finden, auf der von „Leistung auf Frontier-Niveau“ die Rede ist; mich würde interessieren, woher diese Angabe stammt
  • Mit der OpenRouter-API erstelltes Pelikan-SVG-Ergebnis: https://tools.simonwillison.net/markdown-svg-renderer#url=ht...
    Verwendet wurde das Modell https://openrouter.ai/moonshotai/kimi-k3; für 95 Eingabe-Token und 16.658 Ausgabe-Token fielen 25 Cent an
    https://www.llm-prices.com/#it=95&ot=16658⁣=3&oc=15
    Davon waren 13.241 Ausgabe-Token Reasoning-Token, womit dies bisher der teuerste mit einem chinesischen Modell gerenderte Pelikan war

    • Im Blog wurde außerdem ausführlicher festgehalten, welchen Wert der Pelikan-Benchmark weiterhin bieten kann: https://simonwillison.net/2026/Jul/16/kimi-k3/
    • Es wäre inzwischen wohl nicht mehr überraschend, wenn Modelle auf SVG-Pelikan-Rendering optimiert würden
    • Ich frage mich, wie die Aufforderung „Erzeuge ein SVG eines Pelikans auf einem Fahrrad“ auf 95 Eingabe-Token kam
  • Kimi K3 steht mit 2,8 Billionen Parametern an der Spitze der Liste der größten offenen Modelle
    Die Reihenfolge ist Kimi K3 2.8T, DeepSeek-V4-Pro 1.6T (49B aktiv), Kimi K2.6 etwa 1T (32B aktiv), GLM-5.2 754B (40B aktiv), DeepSeek-V3.2 685B und Mistral Large 3 675B
    Da es sich um ein enorm großes Modell handelt, dürfte Moonshot dafür die angeblich Anfang dieses Jahres aufgenommenen 500 Millionen Dollar benötigen, um es zu betreiben

    • Ob es tatsächlich offene Gewichte geben wird, bleibt abzuwarten, und derzeit ist nicht einmal die Zahl der aktiven Parameter bekannt
    • Auch Ling/Ring 1T-A50B und das neue Inkling 975B-A41B würden in diese Liste gehören
  • Ich frage mich, ob es eine Möglichkeit gibt, Kimi K3 auszuprobieren, ohne ein Google-Konto zu verwenden oder eine Telefonnummer anzugeben

  • Der Kimi-K3-Blog ist veröffentlicht: https://www.kimi.com/blog/kimi-k3
    Als offenes Modell mit 2,8 Billionen Parametern unterstützt es standardmäßig ein Kontextfenster von 1 Million Token und visuelle Eingaben; technischer Bericht und Gewichte sollen bis zum 27. Juli veröffentlicht werden
    Zum Start ist standardmäßig die maximale Reasoning-Stärke aktiv, ein niedriger und ein hoher Modus sollen später per Update hinzukommen

    • Die Benchmark-Zahlen sind erstaunlich
      Vielleicht ist die Zeit vorbei, in der China den USA sechs Monate hinterherhinkte; ich frage mich, wie mit so viel weniger Ressourcen solche Ergebnisse möglich sind, und finde die Forschenden beeindruckend
  • Beim ersten Versuch fand Kimi K3 sofort die Ursache eines Bugs, den selbst Fable 5 mehrfach nicht finden konnte
    Das ist zwar erst ein Einzelfall bei noch geringer Nutzung, wirkt bisher aber sehr vielversprechend

    • Das Abo-Limit ist ziemlich hart
      Das 100-Dollar-Abo fühlt sich beim Aufbrauchen des Kontingents ähnlich an wie das 200-Dollar-Abo von Anthropic, das Fable nutzt, aber das Modell selbst ist hervorragend, sodass ich es vielleicht höher als Opus 4.8 bewerten würde
    • Ich frage mich, wie man Kimi für agentische Aufgaben wie Claude Code, die Codex-Erweiterung für VS Code oder die Codex-CLI mit Vim-Keybindings nutzen kann
      Ich würde gern wissen, ob es bei OpenRouter ein ähnliches Tool gibt
  • Da jetzt ein englischer Blog veröffentlicht wurde, wäre es wohl besser, den vorhandenen Link durch https://www.kimi.com/blog/kimi-k3 zu ersetzen