Warum offene Modelle ein unerwartetes Gefühl von Freiheit vermitteln

• Ich nutze seit etwa zwei Jahren Claude und ChatGPT, aber als ich opencode mit einem eigenen Inference-Endpoint verbunden habe, fühlte es sich befreiender an als erwartet
• Da die Daten nur zwischen dem Notebook und dem eigenen Endpoint ausgetauscht werden, wuchs das Gefühl von Kontrolle und Besitz
• Statt mein persönliches Claude- oder ChatGPT-Abo upzugraden, entschied ich mich, das von Modal als Managed Endpoint veröffentlichte Kimi K3 für ein Side Project zu nutzen
• In rund 5 Minuten richtete ich opencode so ein, dass es meinen Modal-Endpoint verwendet, und brachte es zum Laufen
• Es fühlte sich so schlicht an wie das Öffnen von vim statt eines großen, auffälligen Editors und vermittelte die Freiheit, nicht mehr an Verbindungen zu anderen Anbietern gebunden zu sein

---

Warum ich mich für einen eigenen Endpoint entschieden habe

• Es gab kein passendes Claude- oder ChatGPT-Abo für mein persönliches Konto, daher suchte ich für mein Side Project nach einer Alternative, statt meinen Tarif upzugraden
• Modal, wo ich arbeite, hat Kimi K3 als Managed Endpoint veröffentlicht, und da dem Modell eine solide Leistung nachgesagt wird, wollte ich es selbst ausprobieren
  • An der Entwicklung dieser Funktion war ich nicht beteiligt und hatte sie deshalb vorher nicht genutzt

Wie die Verbindung mit opencode das Nutzungserlebnis verändert hat

• In etwa 5 Minuten verband ich opencode mit meinem Modal-Endpoint und startete es
• Die Struktur, bei der Daten zwischen meinem Notebook und meinem eigenen Endpoint hin- und hergehen, verstärkte das Gefühl von Kontrolle und Besitz
• Der leere, einfache Startbildschirm von opencode erinnerte an das Erlebnis, nach langer Zeit mit großen Editoren wieder vim zu öffnen
• Diese Freiheit, als wären die bisherigen Bindungen an andere Anbieter gelöst, war eine unerwartete Veränderung

[GN⁺]

Hacker-News-Kommentare

• Claude Code ist deshalb beliebt, weil es schon mit vagen Anfragen wie „Baue mir ein millionenschweres SaaS“ auf einmal Tausende Zeilen Code samt verschiedenster oberflächlicher Ausnahmebehandlungen und Features erzeugen kann.
  Kleine und offene Modelle sind bei solchen Aufgaben schwächer, aber echte Entwicklung läuft nicht so ab, dass man die ganze App in einem Rutsch anfordert und dann fertig ist. Wenn man wie in der klassischen Entwicklung kleine, konkrete Funktionen iterativ verbessert, ist GLM genauso gut wie Claude oder sogar besser; und wenn man den Kontext wie beim Rubber-Duck-Debugging klar vorgibt, liefern die meisten sehr saubere Ergebnisse.

  • Persönlich war DeepSeek v4 Flash für mich genauso nützlich wie Opus. Statt einer einmaligen technischen Demo reicht technisches Verständnis aus, um mit präziser Terminologie die gewünschten Änderungen konkret anzufordern, und selbst bis meine Ausgaben bei OpenRouter 1 Dollar erreichten, dauerte es lange.
  • Frontier-Modelle wie Opus 5 sind außerdem hervorragend darin, Elemente aus mehreren Disziplinen zu kombinieren und aus vagen, spekulativen Anfragen manchmal sogar neue Forschungsergebnisse auf publikationsreifem Niveau zu erzeugen.
    Schon bekannte Methoden lassen sich im Vergleich zur Handarbeit in etwa einem Hundertstel der Zeit umsetzen, wodurch sich Ideen schnell erkunden lassen, und manchmal schreiben sie von Grund auf Implementierungen mit fast keinen Drittanbieter-Abhängigkeiten außer NumPy oder SciPy, was Klarheit und Performance verbessert.
  • Solche Tools senken die Eintrittshürde für Nicht-Softwareingenieure erheblich. Als Data Scientist im Umweltbereich habe ich nur begrenzte Frontend-Erfahrung, habe aber in ein paar Wochen mit Claude eine Android-App fertiggestellt, die meiner Partnerin bei der Verwaltung der Sprachtherapie hilft und aktuell getestet wird.
    In der Planungsphase habe ich über mehrere Tage hinweg die zu nutzenden Services und Funktionen detailliert festgelegt, aber beim Umsetzen von X fehlten dann trotzdem Funktionen, die in der Anfrage nicht ausdrücklich genannt waren, etwa Bearbeiten und Löschen. Einen Proof of Concept für die Kernfunktion hatte ich zwar schon gebaut, aber es fehlte eine leicht nutzbare Oberfläche; dank Claude konnte ich trotz knapper Zeit schnell eine maßgeschneiderte App erstellen. Allein hätte ich selbst für ein weniger ausgereiftes Ergebnis wohl über ein Jahr gebraucht.
  • Auf die absurde Anfrage „Baue mir einen Ersatz für Microsoft Word“ erklärte ChatGPT die über Jahrzehnte angesammelten Sonderfälle, Bugfixes, seltenen Features und Arbeitsabläufe und fragte zurück, ob das wirklich gewünscht sei. Claude hingegen begann tatsächlich sofort mit der Arbeit, was überraschend war.
  • Wenn offene Modelle ebenfalls ganze Apps auf einmal bauen können, werden wohl alle die bisherige „Art der Softwareentwicklung“ sehr schnell vergessen.

• Die Leistung von DeepSeek V4 Flash ist deutlich besser als erwartet. Ich nutze hauptsächlich Claude Code auf Basis von Claude 5 Opus und Codex auf Basis von GPT-5.6 Sol, aber auch bei DS V4 Flash habe ich nicht das Gefühl, dass es stark abfällt, und zusammen mit oh-my-pi oder einfachem pi ist es ziemlich hervorragend.
  Frontier-Modelle sind bei Tool-Calls deutlich stärker und daher für Assistant-Workflows im Vorteil, aber nachdem ich die Laufzeitumgebung optimiert habe, indem ich Tools an die Art angepasst habe, wie das Modell „rät“, funktioniert DS V4 Flash ebenfalls gut genug. Kleine Modelle haben bei Time-to-first-Token und Tokens pro Sekunde klare Vorteile und sind bei vielen Aufgaben konkurrenzfähig; es fühlt sich ähnlich an wie Sonnet Ende letzten Jahres und ist ziemlich stark.

  • Am Wochenende habe ich selbst ein System wie OpenClaw gebaut und nutze DeepSeek v4 Flash und Qwen als Matrix-basierten Assistenten; die Kosten liegen bei etwa 2 Dollar im Monat. Ich kann die zugänglichen Tools vollständig kontrollieren, wodurch es nützlicher ist als ChatGPT.
    Es kann Krankenakten abfotografieren und dem Kalender hinzufügen, PDFs taggen, per OCR verarbeiten und archivieren sowie Internetsuchen und Abfragen von Google-Maps-Daten durchführen. Außerdem kann es mit Home Assistant und einem Open-Source-Alexa-ähnlichen System verbunden werden, sodass man per Sprache mit dem Agenten sprechen kann.

• Im Grunde ist das geschickte Werbung, aber es ist zufällig genau die Konfiguration, auf die ich neugierig war, also ist der Inhalt an sich okay. Trotzdem bräuchte es Kostenmetriken, damit man abschätzen kann, wie viel Aufpreis man zahlen muss, um Unterhaltungen nicht direkt an die NSA zu schicken.
  Es ist bekannt, dass Claude und OpenAI stark subventioniert werden, daher frage ich mich, ob die Nutzung von Kimi K3 über einen privaten Endpoint teurer oder günstiger wäre.

  • Falls jemand wissen will, wie viele „kostenlose“ Coding-Agenten man fürs Geld nutzen kann, gibt es dazu eine Untersuchung von Fable: https://claude.ai/public/artifacts/2c9a5001-0b7e-4944-beb1-9...
  • Bei OpenRouter werden auf jeder Modellseite Symbole angezeigt, die die Preise je Anbieter und angeben, ob Daten nicht gespeichert werden. Man kann auch kontoweite Schutzregeln festlegen, um Routing zu Nicht-ZDR-Anbietern zu blockieren.

• Dieser Beitrag ist Werbung für das eigene Produkt. Selbst wenn der Autor schon lange aktiv ist und ehrlich geschrieben hat, ist ein Beitrag nach dem Motto „Ich habe mein Produkt ausprobiert, und es war sehr gut“ nichts anderes als Eigenwerbung.

  • Der Beitrag wurde bereits gemeldet, daher macht es wohl keinen großen Unterschied mehr, aber es gab überhaupt keine Werbeabsicht. Es war weder von jemandem angefragt noch im Voraus geplant; ich hatte nur endlich wieder etwas Zeit, zu Hause etwas zu bauen, brauchte sowohl ein LLM zur Unterstützung der Entwicklung als auch eines für die Nutzung im Produkt selbst und habe deshalb den mir im Kopf gebliebenen Modal-Endpoint ausprobiert.
    Ich wollte mein Claude-Abo nicht hochstufen, und wenn ich es nicht interessant gefunden hätte, hätte ich auch nichts geschrieben. Der eigentliche Grund für den Beitrag war nicht „Modal ist cool“, sondern das Gefühl, das im Haupttext beschrieben wurde. Ich hatte sogar Sorge, dass es wie Werbung wirken könnte, und überlegte, den Link zu löschen; dass die Firma, bei der ich arbeite, etwas Cooles gemacht hat, war nur ein Nebenvorteil.
  • Auf HN werden ständig Blogposts hochgeladen, die Anthropic bewerben; nach welchem Maßstab diese keine Werbung sind, dieser Beitrag aber schon, ist schwer nachzuvollziehen.
  • Wenn ein Produkt wirklich gut ist, gibt es keinen Grund, warum der Entwickler es nicht selbst bewerben dürfte.
  • Wenn man den Beitrag behalten will, wäre es angemessen, dem Titel Show HN voranzustellen.
  • Viele Beiträge auf HN sind Eigenwerbung, und ob sie interessant sind oder nicht, wird im Prozess gefiltert, in dem sie auf die Startseite kommen. Interessante Eigenwerbung bleibt trotzdem interessant.

• GLM 5.2 fühlt sich besser an als Opus, und K3 ist so gut wie Fable. Ich hoffe, dass K3 auf die Größenordnung von Qwen 3.6 27b oder Poolside S 2.1 destilliert wird, damit ein schneller lokaler Ersatz für Composer 2.5 erscheint.

• Wenn man von großen Frontier-Modellen zu einem agilen Modell wie Composer wechselt, fühlt es sich manchmal ähnlich an, wie statt eines auffälligen, schweren Editors einfach vim zu öffnen.
  Mit schnellen Modellen ist der Kreislauf aus Denken und Frage-Antwort flüssiger, ähnlich wie der schnelle Wechsel zwischen Dateien in vim.

• Mir gefällt die fast leere Oberfläche von OpenCode. Sie ist sauber, leichtgewichtig und passiv und vermittelt dadurch ein anderes Geschwindigkeitsgefühl als die schicken, aber langsamen Tools des heutigen Internets.

  • Pi Agent wirkt noch leichter und ist einen Test wert.

• Dieser Beitrag wirkt wie Werbung für Modal. Wenn die Hardware nur gemietet ist, ist auch fraglich, ob man das wirklich die eigene Infrastruktur nennen kann.

• Unabhängig davon, ob es aus China kommt oder nicht, sollte man sich Sorgen darüber machen, dass man ein gehostetes Modell nutzt und nicht weiß, wohin die Geschäftsgeheimnisse geschickt werden.
  Ich habe auch lokale Modelle ausprobiert, aber auf einem Basis-MPB M5 mit 16 GB sind sie langsam, und ein Laptop-Upgrade ist vorerst nicht geplant.