Arm stellt AGI CPU vor – Siliziumbasis für das Zeitalter der agentischen AI Cloud

• Arm hat die AGI CPU auf Basis der Neoverse-Plattform vorgestellt und liefert damit direkt produktionsreifes Silizium für autonome AI-Infrastruktur
• Diese CPU ist für parallele AI-Workloads in Umgebungen mit hoher Rack-Dichte optimiert und hält auch unter Dauerlast hohe Single-Thread-Leistung und Speicherbandbreite aufrecht
• Wichtige Partner wie Meta, OpenAI und SK Telecom haben bereits mit kommerziellen Rollouts begonnen und setzen sie in verschiedenster AI-Infrastruktur ein, etwa für Accelerator-Management und Agent-Orchestrierung
• Arm hat den 1OU Dual Node Reference Server vorgestellt und treibt den Ausbau des Ökosystems mit OCP-Standardformfaktoren und Open-Source-Tools voran
• Diese Einführung bedeutet, dass Arm ernsthaft in den Markt für Rechenzentrums-Silizium eintritt und sich als zentrale Grundlage einer AI-nativen Rechenzentrumsarchitektur positioniert

---

Arm stellt AGI CPU vor: Siliziumbasis für das Zeitalter der agentischen AI Cloud

• Die Arm AGI CPU ist ein neues Siliziumprodukt auf Basis der Arm-Neoverse-Plattform, entwickelt als produktionsreife CPU zum Betrieb der AI-Infrastruktur der nächsten Generation
• Zum ersten Mal in seiner 35-jährigen Geschichte bietet Arm direkt ein eigenes Siliziumprodukt an und stellt Kunden damit optional über IP und Compute Subsystem (CSS) hinaus Lösungen auf Plattformebene sowie von Arm entwickelte Prozessoren bereit
• Dies ist eine Reaktion auf die rasante Entwicklung der AI-Infrastruktur und die steigende Nachfrage nach einer Arm-Plattform, die sich in großem Maßstab ausrollen lässt

Der Aufstieg agentischer AI-Infrastruktur

• AI-Systeme treten weltweit in ein Zeitalter ein, in dem sie kontinuierlich und autonom betrieben werden
  • Früher begrenzte die Geschwindigkeit menschlicher Interaktion die Verarbeitungsgeschwindigkeit von Systemen, doch bei agentischer AI interagieren Software-Agenten in Echtzeit mit mehreren Modellen und treffen Entscheidungen
• Dadurch wird die CPU zum zentralen Orchestrierungselement moderner Infrastruktur
  • Die CPU verwaltet Acceleratoren, Speicher, Storage, Workload-Scheduling, Datenbewegung und mehr und koordiniert dabei viele Agenten gleichzeitig
• Arm Neoverse dient bereits als Grundlage wichtiger Hyperscaler- und AI-Plattformen wie AWS Graviton, Google Axion, Microsoft Azure Cobalt und NVIDIA Vera
• Die Arm AGI CPU wurde entwickelt, um den Anforderungen dieser globalen Expansion der AI-Infrastruktur gerecht zu werden

Arm AGI CPU: Entwickelt für agentische Effizienz auf Rack-Ebene

• Die Arm AGI CPU wurde dafür ausgelegt, auch unter Dauerlast in groß angelegten parallelen Umgebungen eine hohe Single-Task-Leistung aufrechtzuerhalten
  • Alle Elemente, darunter Taktfrequenz, Speicher und I/O-Architektur, sind so optimiert, dass sie parallele AI-Workloads in hochdichten Rack-Deployments unterstützen
• Arms Referenzserver-Konfiguration ist ein 1OU-, 2-Node-Design mit 272 Kernen pro Blade (2 Chips inklusive dediziertem Speicher und I/O)
  • In einem luftgekühlten 36-kW-Rack können 30 Blades untergebracht werden (insgesamt 8.160 Kerne)
  • Ein gemeinsam mit Supermicro entwickeltes flüssigkeitsgekühltes 200-kW-Design kann 336 Arm AGI CPUs aufnehmen (insgesamt mehr als 45.000 Kerne)
• Diese Konfiguration liefert mehr als die doppelte Leistung pro Rack im Vergleich zu aktuellen x86-Systemen*
  • Die Speicherbandbreite ist hoch, sodass die Thread-Effizienz auch unter Dauerlast erhalten bleibt
  • Die Single-Thread-Leistung auf Basis der Neoverse-V3-Kerne wurde verbessert, wodurch der Durchsatz pro Thread steigt

Frühe Verbreitung im AI-Ökosystem

• Die Arm AGI CPU erreicht gemeinsam mit wichtigen Partnern die Phase des kommerziellen Deployments
  • Zu den Einsatzfeldern zählen Accelerator-Management, Agent-Orchestrierung, Service- und Applikationsverdichtung, Networking sowie der Ausbau von Data-Plane-Compute
• Meta beteiligt sich als führender Partner und arbeitet an der Optimierung einer Infrastruktur im Gigawatt-Maßstab für die Meta-App-Familie sowie an der Integration mit MTIA-Acceleratoren
• Zu den frühen Partnern gehören Cerebras, Cloudflare, F5, OpenAI, Positron, Rebellions, SAP und SK Telecom
  • Kommerzielle Systeme können über ASRockRack, Lenovo und Supermicro bestellt werden
• Arm hat den Arm AGI CPU 1OU Dual Node Reference Server vorgestellt, der im Standardformfaktor OCP DC-MHS des Open Compute Project (OCP) bereitgestellt wird
  • Das Serverdesign, die Firmware, Spezifikationen zur Systemarchitektur, das Debug-Framework sowie Diagnose- und Validierungstools sollen als Open Source beigesteuert werden
  • Weitere Details sollen auf dem OCP EMEA Summit veröffentlicht werden

Ein neues Kapitel für die Arm-Infrastruktur

• Die Einführung der Arm AGI CPU markiert eine neue Phase in Arms Rechenzentrumsstrategie
  • Unterstützt werden verschiedenste Kundengruppen, von Hyperscale-Clouds bis zu AI-Startups
• Die Arm AGI CPU ist das erste Modell von Arms Rechenzentrums-Siliziumproduktreihe und kann ab sofort bestellt werden
  • Nachfolgeprodukte werden mit dem Ziel entwickelt, Leistung, Skalierbarkeit und Effizienz auf Spitzenniveau zu erreichen
• Parallel zur Arm-Neoverse-CSS-Roadmap stellt Arm sicher, dass alle Arm-Rechenzentrumskunden eine gemeinsame Plattformarchitektur und Software-Kompatibilität beibehalten können
• Mehr als 50 führende Unternehmen unterstützen den Ausbau von Arm-Silizium und treten in eine Phase ein, in der sie AI-native Rechenzentrumsarchitekturen definieren und direkt aufbauen

Zusammenfassung der Partneraussagen

• Cerebras

  • Beim Aufbau hyperskaliger, auf Inferenz ausgerichteter AI-Infrastruktur spielen Skalierbarkeit und Effizienz der Arm AGI CPU eine Schlüsselrolle

• Cloudflare

  • Für eine effiziente Skalierung über das globale Netzwerk hinweg setzt Cloudflare auf die Arm AGI CPU als leistungsstarke und stromsparende Compute-Infrastruktur

• Meta

  • Arm und Meta entwickeln gemeinsam an einer Lösung zur Steigerung der Leistungsdichte im Rechenzentrum und zur Unterstützung einer mehrgenerationigen Roadmap für AI-Systeme

• OpenAI

  • Die Arm AGI CPU soll zur Stärkung der Orchestrierungsschicht für groß angelegte AI-Workloads sowie zur Verbesserung von Systemeffizienz und Bandbreite beitragen

• Positron

  • Durch die Kombination aus Inferenzbeschleunigungstechnologie und Energieeffizienz der Arm AGI CPU werden Verbesserungen bei Leistungs- und Kosteneffizienz im Rechenzentrum erwartet

• Rebellions

  • Mit einer hochdichten Serverkonfiguration aus Arm AGI CPU und NPU soll eine für großskalige Inferenz-Workloads optimierte Plattform bereitgestellt werden

• SAP

  • SAP betont die Reife Arm-basierter Enterprise-Workloads und baut die Arm AGI CPU als Grundlage für AI-Business-Lösungen der nächsten Generation aus

• SK Telecom

  • SK Telecom baut eine groß angelegte Infrastruktur für AI-Inferenz-Rechenzentren auf, die Rebellions-AI-Acceleratoren und die Arm AGI CPU integriert, mit dem Ziel, die Wettbewerbsfähigkeit im Bereich AIDC zu stärken

Hinweise und Haftungsausschluss

• Dieses Dokument enthält zukunftsgerichtete Aussagen zu Arms Produkt-Roadmap, Leistung und Deployments durch Partner
  • Die tatsächlichen Ergebnisse können je nach Systemkonfiguration, Workload und weiteren Faktoren abweichen
• Die Leistungszahlen sind interne Schätzungen von Arm und basieren auf einem Vergleich auf Rack-Ebene zwischen einem Server auf Basis der Arm AGI CPU und einem gleichwertigen x86-Server*
• Alle Produkt- und Firmennamen sind Marken oder eingetragene Marken ihrer jeweiligen Eigentümer

[GN⁺]

Hacker-News-Kommentare

• Dieser CPU-Name ist fast schon Wertpapierbetrug
  Wenn man heute von „AGI“ spricht, denken die meisten an Artificial General Intelligence, aber Arm nennt es „Agentic AI Infrastructure“
  Normale Anleger werden den Unterschied nicht kennen und ARM-Aktien kaufen, und Arm weiß das. In der Branche nennt man so etwas eine „Lüge“

  • AGI ist inzwischen einfach zu einem Marketingbegriff verkommen. Bald gibt es wohl noch Deodorant mit AGI-Duft
  • Beim 5G-Marketing war es früher genauso. Noch bevor echtes 5G ausgerollt war, wurde es schon als 5G bezeichnet, um Verbraucher zu verwirren
    Wie auch im PBS-Artikel behandelt, vermischt Marketing Begriffe immer auf diese Weise
  • Wenn Reiche so dumm sind, kann man auch nichts dazu sagen, wenn sie Geld verlieren
    Wer investiert, ohne überhaupt etwas zu prüfen, kann durch kein Gesetz geschützt werden
  • Ich finde so ein übertriebenes Naming eher gut
    Solch absurder Marketingsprech könnte die Branche im Gegenteil dazu bringen, das Wort „AGI“ aufzugeben und zur Realität zurückzukehren
  • Diese Art von Marketing nervt wirklich
    Bestehende Begriffe zu nehmen und mit einer neuen Bedeutung zu verpacken, ist ein alter Trick
    IBMs „Personal Computer“, Microsofts „Windows“ und Intels „Core“ waren alle so
    (Zur Info: Ich bin Kleinanleger bei ARM)

• Das ist schlicht Arm, das Neoverse-CPUs selbst herstellt und verkauft
  Kein AI-CPU. Kein Unterschied zu Graviton, Epyc oder Xeon
  Das war schon vor einigen Jahren im Rechtsstreit Qualcomm vs. Arm zu sehen
  Arm plante nicht nur Lizenzen zu vergeben, sondern direkt CPUs zu verkaufen; der damalige CEO bestritt das zwar, aber am Ende stellte es sich als wahr heraus
  Ich habe dazu auch einen Beitrag geschrieben

  • Das erinnert mich daran, wie Intel früher damit warb, dass Pentium das Web-Browsing beschleunigt
  • Ich dachte anfangs auch dasselbe. Nach dem Lesen des Blogposts ist klar, dass ARM direkt mit seinen Kunden konkurrieren will
    Deshalb hat man dem Ganzen wohl einen Namen gegeben, um auf dem AI-Hype mitzuschwimmen
    Hardware-Anbieter werden diese Pose aber durchschauen. Am Ende verkauft es sich nicht, wenn der Preis nicht wettbewerbsfähig ist
  • Noch schlimmer ist, dass es SoCs mit echten AI-Beschleunigern (NPU) gibt, und das hier nicht einmal so etwas ist

• Interessant ist, dass Arm zum ersten Mal in seiner 35-jährigen Geschichte eigene Siliziumprodukte herausbringt

  • Ingenieure, die jahrzehntelang zusehen mussten, wie andere Firmen ARM-Kerne seltsam eingesetzt haben, bekommen nun wohl endlich die Chance, ihr Können zu zeigen
  • Dass ARM selbst Chips baut, ist so, als würde TSMC eigene CPUs verkaufen
    ARM konkurriert jetzt direkt mit seinen Kunden
  • Offenbar ist die Versuchung des Wettbewerbs um AI-Silizium einfach zu groß geworden
    Offenbar ist man an dem Punkt angekommen, an dem der direkte Verkauf von Chips profitabler ist als Lizenzeinnahmen
  • Aber VLSI, das den ARM1 gebaut hat, war letztlich auch Arms Silizium. Ganz neu ist das also nicht
  • Dafür müsste man neue Design-Verification-Ingenieure einstellen, und das ist teuer

• AGI steht für Agentic AI Infrastructure
  Falls jemand an etwas anderes gedacht hat, nur als Hinweis

  • Das wirkt wie eine poetische Zusammenfassung der heutigen Realität der AI-Branche. Ein schönes, aber bitteres Bild
  • Lustiger wäre es gewesen, den Namen AAII zu wählen und dann damit zu werben, dass es „doppelt so stark wie AI“ sei
  • Ich bin mir nicht einmal sicher, wo bei AGI die Betonung auf den einzelnen Buchstaben liegen soll
    Wenn man bedenkt, wie sauber ARM früher die A-, R- und M-Profile getrennt hat, ist das enttäuschend
  • Das ist einfach ... irgendetwas. Aber nicht im positiven Sinn
  • Es fühlt sich an, als würde man beim Sprung über den Hai auch noch die Hose verlieren. Ob beabsichtigt oder nicht, eindrucksvoll ist es

• AGI (Agentic AI Infrastructure) soll zusammen mit CSS (Compute Subsystems) ins Line-up aufgenommen werden
  Ich frage mich, wer sich solche Namen ausdenkt

  • Vermutlich dieselbe Sorte Leute, die „Generative AI“ wie „General AI“ klingen lassen wollten
    Betrug scheint die Grundhaltung von Marketern zu sein
  • Also tun sich jetzt Artificial General Intelligence und Cascading Style Sheets zusammen?

• Das ist so, als würde man sein Kind World President Smith nennen

  • Aber überraschenderweise könnte es funktionieren
    Laut diesem APA-Paper beeinflussen Namen das Verhalten
    Mein Immobilienmakler heißt mit Nachnamen übrigens auch „House“

• Heutzutage ist alles AGI
  Gestern war es Agentic, vorgestern AI
  Bald liegt wohl AGI Agentic AI Crypto-Toilettenpapier im Supermarkt. Daneben dann Dosen Thunfisch mit UML Rational Rose

• Arm sagt jetzt, dass es eigene CPUs direkt verkaufen wird

• Ich habe keine Ahnung, was „Built for rack-scale agentic efficiency“ bedeuten soll

  • Wenn man durch die Marketingfloskeln hindurchschaut, ist es ein großes Multicore-System mit 136 Kernen bei 300 W Leistungsaufnahme, das auf Effizienz getrimmt ist
    Laut Arm werden künftige Agentic-Workloads sowohl CPU als auch GPU belasten, daher sei CPU-Effizienz wichtig
  • Wir leben inzwischen einfach in einem Zeitalter, in dem nur noch plausibel klingende Wörter aneinandergereiht werden
  • Am Ende ist es das Konzept einer agentischen Rechendichte: „Token-Verbrauch × Anzahl der Agenten × Rack-Fläche“
  • Das erinnert an das Meme „mongodb is web scale“
  • Das klingt wie die Frage: „Wie viele Engel können auf einer Nadelspitze tanzen?“
    Siehe Wikipedia-Link