Framework Desktop ist ein Biest

 (world.hey.com)
14 Punkte von GN⁺ 2025-08-11 | 6 Kommentare | Auf WhatsApp teilen
  • Framework Desktop ist sehr leise und bietet hohe Leistung
  • Ausgestattet mit AMD Ryzen AI Max 395+ liefert er trotz seiner kleinen Größe Leistung auf Desktop-Niveau oder darüber
  • In verschiedenen Benchmarks zeigt er im Vergleich zu Beelink und Mac Studio eine überragende Multicore-Leistung
  • Dank Speicherausbau und lokaler Ausführung von LLM-Modellen eignet er sich für vielfältige Einsatzzwecke
  • Auch die integrierte Grafik ist stark, und die Gaming-Leistung ist sehr gut

Erster Eindruck vom Framework Desktop

  • Der Autor (DHH) nutzt den Framework Desktop seit einigen Monaten und beschreibt ihn als sehr leise mit einem unterhaltsamen Design
  • Mit 4,5 Litern ist er sehr kompakt, fühlt sich aber deutlich schneller an als herkömmliche Desktops
  • An der Front lassen sich 21 farbige Kacheln anbringen, was ihm im Gegensatz zu RGB-lastigen Konkurrenten ein eigenständiges Erscheinungsbild verleiht
  • Auch Anpassungen etwa per 3D-Druck sind möglich, wodurch sich Individualität frei ausdrücken lässt

Verwendeter Prozessor und Design-Merkmale

  • Der AMD Ryzen AI Max 395+ ist ursprünglich ein Chip für Notebooks, wird von Framework hier aber in einem ultrakompakten Desktop eingesetzt
  • Der Chip kam bereits im ASUS ROG Flow Z13 und im HP ZBook Ultra zum Einsatz; die Wahl dient dazu, die Raumeffizienz zu maximieren
  • Auf dem Mini-PC-Markt gibt es bereits viele Produkte, doch der Framework Desktop bietet fast als Einziger eine vollständig lautlose Umgebung
  • Im Vergleich zu anderen Mini-PCs wie denen von Beelink ist er beim Geräuschpegel klar überlegen

Benchmarks und Leistungsvergleich

  • Im Multicore-Benchmark ist der Framework Desktop doppelt so schnell wie der Beelink SER8 und mehr als ein Drittel schneller als der SER9
  • Gegenüber dem Mac Studio (M4 Max, M4 Pro) zeigt er 40 % bis 50 % bessere Leistung
  • Der Test basiert auf MySQL/Redis/ElasticSearch in Docker sowie der Ausführung von Ruby-Code; auch der Vorteil der nativen Docker-Ausführung unter Linux trägt zum Leistungsunterschied bei (etwa 25 %)
  • Da Docker für Entwickler-Workflows unverzichtbar ist, fällt die Wettbewerbsfähigkeit des Framework Desktop in realen Nutzungsszenarien noch stärker auf

CPU und Single-Core-Leistung

  • Der AMD 395+ verfügt über 16 Zen5-Kerne (5,1 GHz); im Geekbench-6-Multicore-Score liegt er auf dem Niveau des M4 Max oder darüber
  • Bei der Single-Core-Leistung ist die M4-Reihe etwa 20 % stärker (z. B. im Speedometer-Benchmark)
  • Bei alltäglicher Nutzung wie Web-Browsing ist dieser Single-Core-Unterschied kaum spürbar

Preis-Leistung und Speichererweiterung

  • Mit 64 GB RAM und 2 TB NVMe kostet der Framework Desktop 1.876 US-Dollar, ein Mac Studio mit derselben Ausstattung 3.299 US-Dollar
  • Selbst bei einer Erweiterung auf 128 GB wird der Preisunterschied noch größer, und bei Docker-basierten Entwicklungsaufgaben bleibt der Framework Desktop weiterhin schneller
  • Unter Linux mit dem Fenstermanager Hyprland ist die Speichernutzung effizient, weshalb für die meisten Anwendungsfälle 64 GB ausreichen

Lokaler Betrieb von LLM-Modellen und Speichernutzung

  • 128 GB Arbeitsspeicher eignen sich gut für den lokalen Betrieb von LLM-Modellen; dank der Unified-Memory-Struktur des AMD 395+ kann die GPU fast den gesamten Speicher nutzen
  • Auch große Modelle wie OpenAIs 120b gpt-oss lassen sich betreiben, mit einer Leistung von etwa 40 Tokens pro Sekunde (siehe YouTube-Link)
  • Mit 64 GB stößt jedoch die Genauigkeit beim Betrieb von gpt-oss-20b an Grenzen. Aktuelle LLM-Modelle auf SaaS-Basis liefern bessere Ergebnisse

Alternative Produkte und weitere Informationen

  • Der Beelink SER9 bietet für den halben Preis zwei Drittel der Multicore-Leistung, bei der Single-Core-Leistung gibt es kaum Unterschiede
  • Für die meisten Entwickler dürfte auch der SER9 völlig ausreichen. Wer in bestimmten Situationen mehr Leistung will, für den ist der Framework Desktop besonders attraktiv

Gaming-Leistung und Dual-Boot

  • Die integrierte Grafik (iGPU) des Framework Desktop liefert Gaming-Leistung auf dem Niveau einer RTX 4060
  • Auch aktuelle Spiele laufen bei 1440p und hohen Einstellungen flüssig (siehe YouTube)
  • Dank doppelter NVMe-Slots eignet er sich auch ideal für Linux/Windows-Dual-Boot

Fazit

  • Der Framework Desktop und der AMD 395+ sind eine sehr starke Wahl für Linux-basierte Entwickler
  • Er vereint Lautlosigkeit, kleine Abmessungen, starke Multicore-Leistung, ein ungewöhnliches Design und Preis-Leistungs-Stärke
  • Es ist die beste Zeit für Open-Source-Software und entwicklerfreundliche Hardware

Verwandte Beiträge

6 Kommentare

 
onusarang 2025-08-12

AMD Ryzen AI Max+ 395
Ich habe ein ASUS ROG Flow Z13 gekauft und benutze es derzeit; wie erwartet, aber dennoch überraschend, ist die Wärmeentwicklung ziemlich heftig.
 
fanotify 2025-08-11

Ein Produkt, das man in Korea wahrscheinlich nicht kaufen kann ..?
 
tujuc 2025-08-11

https://frame.work/desktop?tab=overview

Scheint zwar möglich zu sein ... kommt offenbar im 4. Quartal auf den Markt?
 
fanotify 2025-08-11

Bei mir wird angezeigt: We haven’t opened ordering in your region yet, but we’re looking forward to getting there! We can notify you when ordering opens
 
mango 2025-08-11

Wow, ich habe mich für SFF interessiert, und jetzt gibt es einen Desktop, den ich als Fertigsystem kaufen möchte … Verlockend.
 
GN⁺ 2025-08-11
Hacker-News-Kommentare
  • Das Framework Desktop kostet mit 64 GB RAM und 2 TB NVMe 1.876 US-Dollar, während man für ein Mac Studio mit ähnlicher Ausstattung fast das Doppelte zahlen muss; das Framework Desktop wirkt preislich daher sehr attraktiv, wobei ich nicht denke, dass es automatisch ein guter Deal ist, nur weil es günstiger als Apple ist; ich hatte eigentlich den Eindruck, dass Apple seine Preise zuletzt wettbewerbsfähiger gestaltet, aber Framework ist trotz Nischenmarkt deutlich günstiger als Apple
    • Es ist eher mit dem Mac Mini als mit dem Mac Studio vergleichbar, weil die Leistung ähnlich ist; dieser Vergleich ist daher passender. In Kanada liegen beide bei 64 GB RAM und 500 GB Speicher fast gleichauf: Framework Max+ 64 GB: 2.861,16 CAD, Apple Mini M4 Pro 64 GB: 2.899,00 CAD. Apple verlangt zwar besonders hohe Preise für Speicher, aber selbst bei einem Vergleich mit 2 TB liegt der Aufpreis beim Mac Mini nur bei etwa 25 %. Bei einem Desktop kann man einfach eine externe NVMe-SSD verwenden
    • Bei Apple steigt der Preisaufschlag stark an, je weiter man sich vom Basismodell entfernt; bessere Deals als das M4-Basismodell zu finden, ist wirklich schwer
    • Das liegt rein an Apples absurder SSD-Preispolitik; mit einer externen SSD kann man viel Geld sparen
    • Apples Basismodelle sind konkurrenzfähig, aber bei RAM- und SSD-Upgrades gehören die Aufpreise zur Spitze der Branche; für das Upgrade von 16 GB auf 32 GB RAM werden 600 CAD verlangt, von 512 GB auf 2 TB SSD 900 CAD
    • Vor dem Erscheinen des AMD Ryzen AI Max+ 395 gab es für solche KI-bezogenen Aufgaben auf Desktop- und Laptop-Seite praktisch nur Apple als Option; nur dort gab es GPUs mit 64 bis 128 GB nutzbarem Speicher
  • Der AMD 395+ hat wie Apple eine Unified-Memory-Architektur, sodass die GPU fast den gesamten Speicher nutzen kann; deshalb wurde eine „Laptop“-CPU verwendet. Sie ist etwas langsamer als dedizierter Speicher, macht es aber möglich, große Modelle mit relativ hoher Token-Geschwindigkeit auszuführen
    • Der Unified Memory ist verlötet ... schnell, aber trotzdem schade. Ich hatte mich gefragt, ob ein internes PSU verwendet wird, und war überrascht zu sehen, dass tatsächlich ein internes PSU verbaut ist
    • Da es eine AMD-GPU ist, gibt es kein CUDA; je nach eingesetzten Tools kann das ein K.-o.-Kriterium sein
  • Ich überlege das Framework Desktop für Entwicklung, lokale LLMs und als Homeserver einzusetzen; speziell für LLMs hat es Vorteile, aber im Moment wirkt es in einigen Punkten noch etwas unausgereift, daher will ich dieses Jahr erst einmal weiter abwarten
    • Wenn man Mini-PCs wie Minisforum oder Beelink in Betracht zieht, ist unklar, wie gut die UEFI-Firmware-Updates sind; ob absichtlich oder nicht, es gibt auch Sorgen wegen Backdoors. Es gab tatsächlich schon einen Fall, in dem eine mit China verbundene Gruppe ein UEFI-Rootkit für ASUS-/Gigabyte-Mainboards gebaut hat, siehe relevanter Link; ich frage mich, ob man bestimmte Hersteller nicht direkt zu Sicherheitsmaßnahmen verpflichten sollte
    • Als Homeserver ist es vielleicht nicht passend, wenn man nicht enorme Rechenleistung braucht; ich habe bei eBay gebrauchte Lenovo-Mini-PCs (wie den m75q) für insgesamt 500 US-Dollar gekauft, und die reichen für die meisten Aufgaben völlig aus
    • Ich frage mich auch, wie leise Minisforum-Geräte sind
  • Der Vergleich mit dem M4 Max wirkt seltsam; ich verstehe nicht ganz, ob das heißen soll, dass aktuelle AMD-Chips Leistung auf demselben Niveau liefern, und was das für On-Device-LLMs konkret bedeutet
    • AMDs Strix-Serie nutzt eine Apple-M-Serie ähnliche Architektur und hat enorme Speicherbandbreite sowie viel Cache; dadurch ergeben sich am Ende sehr große Leistungsunterschiede
    • Auch der Vergleich auf der omarchy-Website war überraschend: Apple-M-Chips sind bei Data-Science-Aufgaben ohne GPU-Nutzung wirklich stark; das könnte am Unterschied zwischen Integer- und Floating-Point-Leistung liegen. Ein einfacher numpy-Benchmark: Linux (280 ms, 1,53 Tflops), mein M2 MacBook Air (180 ms, 2,4 Tflops). Für LLMs sind Floating-Point-Operationen wichtiger
    • DHH hat die beiden Chips verglichen, weil beide aktuelle Flaggschiff-Chips sind, und die Benchmarks zeigen, dass ihre Leistungsprofile unterschiedlich sind. Besonders bei Benchmarks, die DHH mag, ist immer im Vorteil, was natives Linux und Docker gut unterstützt. Für lokale LLMs ist die hohe Speicherbandbreite des M4 Max deutlich stärker. Weitere Benchmarks gibt es im Arstechnica-Review
    • Nicht bei der Leistung pro Watt, aber bei der reinen Leistung (perf) ist der Unterschied nicht groß
    • Wenn man bedenkt, dass TSMC das zentrale Element hinter all diesen Chips ist, dann ist die M-Serie gar nicht so besonders; deshalb sind die taiwanischen TSMC-Fertigungsanlagen für die USA ein Thema der nationalen Sicherheit
  • Auf Basis von RDNA 3.5 gibt es keine Matrix Cores; diese Funktion kommt nur in RDNA 4 vor, und RDNA 4 kommt erst 2025 auf Desktop-Systeme. Nvidia hat seit der 4000er-Serie von 2022 Tensor Cores, und Apple unterstützt simdgroup_matrix seit 2020; solche Hardware wird inzwischen allgemein üblich, auch wenn noch unklar ist, was das außerhalb von ML-Workloads verändern wird
    • Da die NPU auf denselben Speicher zugreift und teils sogar ein flexibleres FPGA-Fabric enthalten ist, fühlt es sich auch ohne Matrix Cores ausreichend an; letztlich scheint es eine ähnliche Rolle zu erfüllen
  • Mich würde ein direkter Vergleich zwischen dem Framework Desktop und dem Mini-PC "GMKtec AI Mini Ryzen AI Max+ 395 128GB" interessieren; die Hardware scheint ähnlich zu sein, und wenn man auf die Besonderheiten von Framework verzichtet, wirkt der Preis vielleicht besser; hat das jemand direkt verglichen?
    • Gleiche CPU, aber vermutlich unterschiedliche TDP-Einstellungen; es gibt Vergleichsmaterial mit dem HP G1a, das hilfreich sein könnte. Empfohlen wird dieser Phoronix-Test; das Framework gilt als im Vorteil bei der Dauerleistung, weil es mehr Strom zuführen kann
    • GMKtec ist letztlich nur eine chinesische Marke, daher sind Garantie, Support und Reparierbarkeit wohl deutlich schwächer; Framework einfach als Produkt abzutun, das nur „schick aussieht“, wäre das andere Extrem
    • Tatsächlich kosten beide Geräte gleich viel; sowohl die Konfiguration mit 395-Prozessor als auch mit 128 GB RAM liegt bei 1.999 US-Dollar
    • Im Produktnamen steht zweimal „AI“; ich hoffe wirklich, dass dieser Trend bald verschwindet
  • Ich mag Framework und besitze auch eines der Laptops, aber beim Desktop habe ich das Gefühl, dass vor allem Marketing-Aspekte hervorgehoben werden und die echte Differenzierung fehlt; der Preis wirkt ebenfalls hoch angesetzt
    • Ich finde etwas nicht teuer, wenn es keine ausreichend ähnlichen Alternativen gibt, die deutlich günstiger sind
    • Im Kern wurde auf Basis einer mobilen/ Mini-PC-Plattform ein Produkt gebaut, das einem Standard-Desktop so nahe wie möglich kommt; ich finde nicht, dass das dem Framework-Geist groß widerspricht
    • Vielleicht wurde die Framework-Kundschaft falsch eingeschätzt; ich dachte, die Hauptzielgruppe seien Early Adopters oder FOSS-orientierte Umweltbewegte, aber inzwischen habe ich gelernt, dass es auch einen stark standardisierten Markt für Schulen und Unternehmen mit Großeinkäufen gibt. Die schwachen Spezifikationen des fw12 waren offenbar auf solche Käufergruppen zugeschnitten, etwa Schüler; vielleicht ist auch der Desktop nicht nur für Einzelkunden gedacht, sondern für Szenarien mit vielen Installationen
  • Ich habe meine Bestellung des Framework Desktop storniert und stattdessen ein HP Z2 Mini G1a bestellt; das Ziel war, ein Mac Studio zu ersetzen, und ich bin Apples Sturheit und sinkende Qualität leid. HP ist deutlich kleiner und bietet ECC-RAM sowie 10G-Ethernet als Vorteile, ist aber auch erheblich teurer
    • Dass Apple nicht mehr dasselbe Vertrauen genießt wie früher, kann ich nachvollziehen, aber ich bin nicht sicher, dass die andere Seite wirklich besser aussieht; ich bin gespannt, wie es weitergeht. Inzwischen kann man das MLX-Projekt direkt auf CUDA ausführen
    • Wegen des ECC-RAMs schaue ich mir HP jetzt noch einmal an; auch das Gehäuse wirkt ordentlich
    • Mich würde interessieren, ob Linux auf dem Gerät läuft und wie die Kompatibilität aussieht
  • Ich habe mir das Framework Desktop vor ein paar Wochen angesehen, weil ich vor allem bessere Gaming-Leistung wollte als mit der integrierten GPU meines Laptops; ich spiele eher ältere als aktuelle Titel. Mein Fazit war, dass das Gerät wirklich ziemlich gut ist, aber preislich nicht besonders attraktiv; wenn man selbst baut, bekommt man für weniger Geld mehr Leistung. Im Artikel hieß es, ein 9950X habe schlechter abgeschnitten als der Max 395, aber angesichts des Unterschieds zwischen einem 55-W-Laptop-Chip und einem 170-W-Desktop-Chip sollte man das wohl anders einordnen. Es gibt auch Linux-Kompatibilitätsprobleme, etwa fehlende Treiber für MediaTek-WiFi/Bluetooth-Chips auf manchen ASUS-Boards, und die Auswahl aller Komponenten kostet ebenfalls Zeit. Ich konnte Niravs Rat „kauf einfach das Framework Desktop, dann ist es unkompliziert“ gut nachvollziehen. Am Ende habe ich mir die Gaming-Leistung über eine USB4-/Thunderbolt-eGPU geholt; mein Laptop war ohnehin schon schnell genug, sodass ich keinen zusätzlichen PC brauchte. Für LLM-Arbeiten habe ich mich nicht weiter damit beschäftigt
  • Ich frage mich, wie gut AMD-GPUs mit generativen KI-Workflows kompatibel sind; mein Eindruck ist, dass sich alles um CUDA dreht
    • Es gibt das SCALE-Projekt, das CUDA-Code auf AMD-GPUs lauffähig machen soll; es wird als Drop-in-Ersatz für Nvidia CUDA entwickelt und ist für private und Bildungszwecke kostenlos. Details gibt es in der offiziellen SCALE-Dokumentation. Wichtige Funktionen wie cuDNN und die CUDA Graph API sind zwar noch in Arbeit, aber die Unterstützung wird stetig ausgebaut; siehe auch den aktuellen Status. Vorgestellt vom SCALE-Entwickler selbst
    • Umgebungen auf Basis von Ollama und Stable Diffusion laufen auf AMD-Karten problemlos; für Inferenz statt Training wird die Kompatibilität spürbar besser
    • Die Kombination aus llama.cpp und Vulkan-Unterstützung in Mesa funktioniert auf AMD-GPUs wirklich gut; ich habe verschiedenste Workloads ohne Probleme ausgeführt
    • In realen generativen KI-Workflows auf LLM-Basis zeigt der AMD-Max+395-Chip mit Unified Memory Leistung und Geschwindigkeit auf dem Niveau von Mac Studio oder MacBook Pro (zum Vergleich: Apples High-End-Chips kommen auf 546 GB/s, AMD auf rund 256 GB/s Bandbreite); für Inferenz funktionieren beide gut genug, aber für alles andere wirkt das CUDA-Ökosystem vertrauenswürdiger
    • Ich sehe das ähnlich: Für Training braucht man praktisch zwingend eine CUDA-GPU, während AMD und Apple-M-Chips bei Inferenz immer besser werden