Apple stellt M3, M3 Pro und M3 Max vor

 (apple.com)
1 Punkte von GN⁺ 2023-11-01 | 1 Kommentare | Auf WhatsApp teilen
  • Apple hat gleichzeitig die neuen Chips M3, M3 Pro und M3 Max für den Mac vorgestellt. Alle drei nutzen als erste Chips für Personal Computer das 3-Nanometer-Verfahren, um Geschwindigkeit und Energieeffizienz zu steigern
  • Die neue GPU-Architektur weist mit Dynamic Caching jeder Aufgabe in Echtzeit nur den tatsächlich benötigten lokalen Speicher zu und unterstützt auf dem Mac erstmals hardwarebeschleunigtes Raytracing und Mesh Shading
  • Als Leistungszuwachs gegenüber dem M1 nennt Apple bis zu 2,5x schnelleres Rendering, 30 % bei den Performance-Kernen, 50 % bei den Effizienz-Kernen und 60 % bei der Neural Engine; die Media Engine erhält zusätzlich AV1-Decoding
  • Der maximal unterstützte Unified Memory reicht je nach Chip bis zu 24 GB beim M3, 36 GB beim M3 Pro und 128 GB beim M3 Max und deckt damit vom normalen Mac bis zu leistungsintensiven Pro-Workloads verschiedene Einsatzbereiche ab
  • Die verbesserte Energieeffizienz trägt zur Effizienz des neuen MacBook Pro und iMac bei; das neue MacBook Pro erreicht laut Apple-Tests mit bis zu 22 Stunden die längste Batterielaufzeit in der Geschichte des Mac

M3-Familie auf Basis des 3-Nanometer-Verfahrens

  • Apple hat mit M3, M3 Pro und M3 Max drei Chips angekündigt und damit die nächste Generation von Apple silicon für den Mac vorgestellt
  • Die drei Chips werden als erste Chips für Personal Computer im 3-Nanometer-Fertigungsverfahren hergestellt, wodurch mehr Transistoren auf kleinerem Raum untergebracht werden und so Geschwindigkeit und Effizienz steigen
  • Die neuen Chips kommen im neuen MacBook Pro und iMac zum Einsatz
  • Die wichtigsten Änderungen betreffen GPU, CPU, Speicher und Media Engine insgesamt
    • GPU-Architektur der nächsten Generation
    • schnellere CPU-Performance-Kerne und Effizienz-Kerne
    • schnellere Neural Engine
    • Unterstützung für mehr Unified Memory
    • neue Media Engine einschließlich AV1-Decoding

GPU der nächsten Generation und Dynamic Caching

  • Die GPU der M3-Familie wird als großer Wandel in der Grafikarchitektur von Apple silicon beschrieben
  • Dynamic Caching weist den Einsatz des lokalen Speichers anders als bei bisherigen GPUs in Echtzeit per Hardware zu
    • Es wird nur genau die Speichermenge genutzt, die jede Aufgabe benötigt
    • Die Funktion arbeitet transparent für Entwickler
    • Sie erhöht die durchschnittliche GPU-Auslastung und verbessert so die Leistung professioneller Apps und Spiele
  • Zum ersten Mal wird auf dem Mac hardwarebeschleunigtes Raytracing unterstützt
    • Raytracing modelliert die Interaktion von Licht in einer Szene und ermöglicht physikalisch präzisere Bilder
    • Spieleentwickler können genauere Schatten und Reflexionen umsetzen
  • Die neue GPU unterstützt auf dem Mac erstmals auch hardwarebeschleunigtes Mesh Shading
    • Das steigert die Geometrieverarbeitung und Effizienz
    • Dadurch sind komplexere Szenen in Spielen und grafikintensiven Apps möglich
  • Bei der GPU-Leistung wird ein deutlicher Sprung gegenüber der M1-Familie hervorgehoben
    • Die Rendering-Geschwindigkeit ist gegenüber der M1-Familie bis zu 2,5x höher
    • Die M3-GPU liefert die gleiche Leistung wie der M1 bei fast halbem Stromverbrauch
    • Die Spitzenleistung ist gegenüber dem M1 um bis zu 65 % höher

CPU, Unified Memory sowie AI- und Video-Engine

  • Bei den CPUs der nächsten Generation in M3, M3 Pro und M3 Max wurde sowohl die Architektur der Performance-Kerne als auch der Effizienz-Kerne verbessert
    • Die Performance-Kerne sind gegenüber der M1-Familie um bis zu 30 % schneller
    • Die Effizienz-Kerne sind gegenüber dem M1 um bis zu 50 % schneller
    • Die gleiche Multithread-Leistung kann mit etwa der Hälfte des Stromverbrauchs des M1 erreicht werden
    • Bei Spitzenlast ist eine um bis zu 35 % höhere Leistung möglich
  • Als Beispiele für den CPU-Leistungszuwachs nennt Apple das Kompilieren und Testen von Millionen Codezeilen in Xcode sowie die Nutzung von Hunderten Audiospuren, Plug-ins und virtuellen Instrumenten in Logic Pro
  • Jeder Chip nutzt die für Apple silicon typische Unified-Memory-Architektur
    • Über einen gemeinsamen Speicherpool greifen verschiedene Technologien auf dem Chip auf dieselben Daten zu
    • Das verringert die Notwendigkeit, Daten zwischen mehreren Speicherpools zu kopieren
    • Geboten werden hohe Bandbreite, geringe Latenz und Energieeffizienz
  • Die Unterstützung für Unified Memory wird auf bis zu 128 GB erweitert
    • Apple nennt als Beispiel AI-Entwickler, die mit größeren Transformer-Modellen im Umfang von mehreren Milliarden Parametern arbeiten
  • Die verbesserte Neural Engine ist gegenüber der M1-Familie um bis zu 60 % schneller
    • Sie verarbeitet AI/ML-Workflows schneller und hält Daten auf dem Gerät, um die Privatsphäre zu schützen
    • AI-Bildbearbeitungswerkzeuge wie Entrauschen und Super Resolution von Topaz werden schneller
    • Auch Szenenerkennung in Adobe Premiere und Smart Conform in Final Cut Pro profitieren von Leistungssteigerungen
  • Die Media Engine aller drei Chips bietet Hardwarebeschleunigung für H.264, HEVC, ProRes und ProRes RAW
    • Erstmals wird AV1-Decoding unterstützt, was die Energieeffizienz beim Abspielen von Streaming-Diensten verbessert und die Akkulaufzeit verlängern kann

Konfiguration der Chips und Ziel-Workloads

  • M3 ist der Chip für Mainstream-Systeme
    • Die Zahl der Transistoren liegt bei 25 Milliarden und damit 5 Milliarden über dem M2
    • Die 10-Core-GPU ist bei der Grafikleistung gegenüber dem M1 um bis zu 65 % schneller
    • Die 8-Core-CPU besteht aus 4 Performance-Kernen und 4 Effizienz-Kernen
    • Die CPU-Leistung ist gegenüber dem M1 um bis zu 35 % höher
    • Unterstützt werden bis zu 24 GB Unified Memory
    • Apple nennt grafisch anspruchsvolle Spiele wie Myst als Beispiel für realistische Beleuchtung, Schatten und Reflexionen
  • M3 Pro richtet sich an Nutzer mit höherem Leistungsbedarf
    • Die Zahl der Transistoren beträgt 37 Milliarden
    • Die 18-Core-GPU ist gegenüber dem M1 Pro um bis zu 40 % schneller
    • Unterstützt werden bis zu 36 GB Unified Memory
    • Die 12-Core-CPU besteht aus 6 Performance-Kernen und 6 Effizienz-Kernen
    • Die Singlethread-Leistung ist gegenüber dem M1 Pro um bis zu 30 % höher
    • Apple nennt als Beispiel das Zusammensetzen und Bearbeiten großer Panorama-Fotos in Adobe Photoshop
  • M3 Max ist der Chip für die anspruchsvollsten Pro-Workloads
    • Die Zahl der Transistoren beträgt 92 Milliarden
    • Die 40-Core-GPU ist gegenüber dem M1 Max um bis zu 50 % schneller
    • Unterstützt werden bis zu 128 GB Unified Memory
    • Die 16-Core-CPU besteht aus 12 Performance-Kernen und 4 Effizienz-Kernen
    • Die CPU-Leistung ist gegenüber dem M1 Max um bis zu 80 % höher
    • Mit zwei ProRes-Engines ist der Chip für schnelle und flexible Postproduktion hochauflösender Videos in DaVinci Resolve, Adobe Premiere Pro und Final Cut Pro ausgelegt

Energieeffizienz, Batterie und Umweltplan

  • Die Energieeffizienz von M3, M3 Pro und M3 Max trägt dazu bei, dass das neue MacBook Pro und der iMac Apples Standards für Energieeffizienz erfüllen
  • Das neue MacBook Pro erreicht mit bis zu 22 Stunden die längste Batterielaufzeit in der Geschichte des Mac
    • Apples Tests wurden im September und Oktober 2023 mit Vorseriengeräten des 16-Zoll-MacBook-Pro durchgeführt
    • Das Testsystem war mit Apple M3 Pro, 12-Core-CPU, 18-Core-GPU, 36 GB RAM und 512 GB SSD ausgestattet
    • Beim kabellosen Webtest wurde die Display-Helligkeit auf 8 Klicks von unten eingestellt und 25 populäre Websites drahtlos aufgerufen
    • Beim Filmtest in der Apple-TV-App wurden unter denselben Helligkeitsbedingungen HD-1080p-Inhalte wiedergegeben
    • Die Batterielaufzeit variiert je nach Nutzung und Konfiguration
  • Apple erklärt, im weltweiten Unternehmensbetrieb bereits Klimaneutralität erreicht zu haben
  • Bis 2030 plant das Unternehmen, über das gesamte Geschäft hinweg einschließlich der gesamten Lieferkette und des gesamten Produktlebenszyklus Netto-Null-Klimawirkung zu erreichen
  • Laut diesem Plan sollen alle Chips in jedem Mac von der Entwicklung bis zur Fertigung klimaneutral werden

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2023-11-01
Meinungen auf Hacker News

  • Wenn man sieht, wie die SKU-Konfigurationen immer komplexer werden, fallen ein paar Dinge auf. Die Speicherbandbreite wurde reduziert: Beim M2 Pro waren es 200 GB/s, beim M3 Pro sind es nur noch 150 GB/s, und auch der M3 Max erreicht 400 GB/s nur beim höher selektierten Chip.
    Das M3-14-Zoll-Modell in der Basisausstattung hat nicht nur einen Thunderbolt-Port weniger, sondern unterstützt auch nicht offiziell Thunderbolt 4 wie M1/M2. Beim M3 Pro ist außerdem die 8-TB-SSD-Option weggefallen, wahrscheinlich weil die Nachfrage nach dieser Konfiguration gering war. Interessant ist auch, dass der M3 Pro mehr Effizienzkerne als der Max hat (6 gegenüber 4); solche Dinge aus den höheren Konfigurationen herauszunehmen, hätte Intel meiner Meinung nach eher nicht gemacht.

    • Ich frage mich, ob Apple solche Nutzungsstatistiken auf ausgelieferten Geräten verfolgt. Das iPad fragt immer, ob es Statistiken an Apple senden darf, und ich lehne immer ab. Aber wenn genügend Leute zustimmen, könnte Apple wohl ziemlich gut erkennen, wie häufig Performance-Kerne genutzt werden oder wie oft die maximale Speicherbandbreite ausgeschöpft wird.
      Als ich bei Intel war, gab es immer interessante Abwägungen zwischen Siliziumfläche, Wärmeentwicklung und Margenressourcen. Damals hatte Intel aber keine Möglichkeit, Statistiken zu sammeln, daher war vieles eher auf dem Niveau von „wir glauben trotzdem, dass wir es so machen sollten“, mit nicht besonders vielen Daten.
    • Zusätzlich zur reduzierten Speicherbandbreite verliert der M3 Pro zwei Performance-Kerne und bekommt nur zwei Effizienzkerne dazu.
      Der M2 Pro hatte 8 Performance-Kerne + 4 Effizienzkerne, der M3 Pro hat 6 Performance-Kerne + 6 Effizienzkerne. Das ist kein besonders guter Tausch, und ich bin mir nicht sicher, ob man den M3 Pro wirklich als Upgrade betrachten kann.
    • Ich vermute, das liegt daran, dass die M-Serie-SoCs in der Basisausstattung nur ein externes Display unterstützen. Soweit ich weiß, verlangt die Thunderbolt-4-Spezifikation, dass ein einzelner Port zwei externe Displays unterstützen kann.
      In jeder anderen Hinsicht würde ich erwarten, dass dieser Port genauso funktioniert wie ein Thunderbolt-4-Port.
    • Ich weiß nicht, was Intel angeblich nicht machen würde. Intel hat in den meisten Produktlinien mehr Effizienzkerne als Performance-Kerne, besonders bei den höherwertigen Produkten. Beim Raptor Lake S haben zum Beispiel alle i9-Modelle 16 Effizienzkerne und 8 Performance-Kerne, i7 steht bei 8:8, und nur die unteren i5-Modelle (unter 13500) haben mehr Performance-Kerne. i3 hat keine Effizienzkerne.
      Bei Mobile H/HX ist es ähnlich: Es gibt nur wenige SKUs mit mehr Performance- als Effizienzkernen, und bei P/U gar keine. Eine der überraschenden Beobachtungen, als Intel mit asymmetrischem SMT anfing, war für mich eher, dass Mobile und Apple im Großen und Ganzen bei 1:1 lagen oder zu Performance-Kernen tendierten, während Intel offenbar stark auf Effizienzkerne setzte.
    • Dass die SKUs komplizierter werden, liegt vermutlich daran, dass auch Apple gerade lernt, warum Intel/AMD so viele SKUs haben. Wenn man komplexe Chips in großen Mengen fertigt, kommen viele Chips heraus, die nicht perfekt sind. Um Verluste zu reduzieren, muss man über Selektion und Segmentierung mehrere SKUs schaffen, statt sie als ein einziges SKU zu verkaufen und den Rest zu verwerfen.

  • Der Vergleich mit Intel-Macs war etwas verwirrend. Ich nutze immer noch ein 16-Zoll-MacBook mit Intel, aber was ich wirklich sehen wollte, war, wie der M3 im Vergleich zum M2 abschneidet, nicht im Vergleich zu Intel oder M1. Dass der M3 in Apples eigenen Benchmarks den Intel Core i7-9750H fast durchgehend schlägt, ist nicht überraschend.
    Wirklich interessant ist der Vergleich mit der unmittelbar vorherigen Generation, und darauf bekommen wir vermutlich nächste Woche eine Antwort. Mein Arbeitslaptop ist ein 14-Zoll-MacBook Pro, und obwohl ich als Teil meines Entwicklungsablaufs viele Container auf Kubernetes laufen lasse, ist die Akkulaufzeit beeindruckend. Apples Vergleich zwischen Intel und M1 zielte wohl darauf ab, bestehende MacBook-Nutzer zum Upgrade auf die neueste CPU-Generation zu bewegen.

    • Die Zahl der Leute, die von einem M2-Mac upgraden, dürfte nahezu bei null liegen; es gibt wohl deutlich mehr Menschen, die noch bei einem Intel-Mac geblieben sind.
    • Seit Jahren ist Apples größter Konkurrent Apple von vor fünf Jahren. Eine der größten Bedrohungen ist, dass die Leute ihre völlig brauchbaren Laptops und Smartphones von vor ein paar Jahren einfach weiterverwenden und die Verkäufe stagnieren.
      Für ein Unternehmen, das seine Produkte als langlebige Premiumgeräte bewirbt, ist das ein schwieriges Problem.
    • Ein Vergleich mit dem M2 ist zum jetzigen Zeitpunkt nicht besonders nützlich. Über die gesamte Präsentation hinweg lagen die Verbesserungen in einigen Bereichen ungefähr bei 15–20 %.
      Auch wenn Apple eigene Chips baut, kann das Unternehmen nicht jedes Jahr revolutionäre Leistungssprünge liefern. Daher wird sich zwischen zwei Generationen wahrscheinlich noch lange ein solcher Rahmen halten. Apple geht davon aus, dass Menschen ihre Macs mehrere Jahre nutzen; um ein Upgrade zu rechtfertigen, ist der Vergleich mit älteren Generationen sinnvoll.
    • Wenn man keine ARM-Images verwendet, werden Docker-Images zum Booten in einer virtuellen Maschine ausgeführt. Trotzdem ist es wirklich erstaunlich, dass der Laptop bei so vielen laufenden Containern kühl bleibt und der Akku noch voll ist.
    • Noch überraschender fand ich, dass es keinen einzigen KI-spezifischen Benchmark gab. Ich verstehe, dass die beliebtesten Open-Source-Modelle offensichtlich von konkurrierenden Seiten stammen, aber man hätte wohl zumindest eine Re-Training-Aufgabe definieren können, die zum Workflow von Machine-Learning-Programmierern passt.

  • Ich bin ziemlich enttäuscht über den Mangel an ordentlicher Ein-/Ausgabe bei den Laptops. Sie reden lange darüber, wie stark sich die GPU verbessert hat, aber ein 1.600-Dollar-Laptop kann nur ein externes Display ansteuern, und ein 2.000-Dollar-Modell nur zwei – das ist schade.
    Außerdem wird der Desktop dadurch abgeschwächt, dass M2 nur in All-in-One-Geräten angeboten wird. Wenn man also jetzt in den Laden geht und einen anderen Desktop kaufen will, zahlt man effektiv einen hohen Aufpreis für veraltete Technik. Ich hatte auf FaceID und bessere Display-Unterstützung gehofft, aber es gab keinen wirklich überzeugenden Grund, irgendetwas upzugraden. Wenn man ohnehin Windows bevorzugt hat, wird man weiterhin Windows bevorzugen, und wenn man bereits einen M-Prozessor hat, gibt es kaum Grund für ein Upgrade. Wer über einen Studio oder mini nachdenkt, sollte besser warten, bis die Prozessoren aktualisiert werden.

    • Genau. Mehr als zwei Bildschirme an einem Mac zu betreiben, ist nicht unkompliziert. Angesichts der Preise, die Apple für „Pro“-Geräte verlangt, sollte es einfach sein, zwei oder mehr Bildschirme zum Arbeiten anzuschließen.
    • Die Aussage „M2 nur in All-in-One-Geräten“ ist verwirrend. Der iMac hat M2 übersprungen, und das neue Modell, das nächsten Monat ausgeliefert wird, kommt mit einem normalen M3-Chip und ersetzt das M1-Modell.
    • Selbst mit nur einem externen Display-Treiber lassen sich bei Auflösungen unter 4K mehrere Displays ansteuern. Mit einem DisplayLink-Adapter kann man auch an einem Mac mit nur einem externen Display-Treiber zwei 4K-Monitore per Daisy-Chain anschließen. Intern scheint dabei derselbe Display-Ausgang für zwei Bildschirme wiederverwendet zu werden.
      USB-C kann einen 6K-Monitor oder zwei 4K-Monitore ansteuern, und der HDMI-Port ab M2 Pro kann ein 8K-Display ansteuern.

  • Interessant an M2 Pro und M3 Pro ist, dass sie sich von einer Konfiguration entfernen, die größtenteils aus Performance-Kernen bestand. Der M1 Pro hatte 6+2 oder 8+2 Performance-+Effizienz-Kerne, der M2 Pro 6+4 oder 8+4, und der neue M3 Pro hat 5+6 oder 6+6.
    Apple hat mit jeder Generation den Anteil der Performance-Kerne reduziert. Beim M1 Pro lag er bei 75–80 %, beim M2 Pro bei 60–67 %, beim M3 Pro bei 45–50 %. Das zeigt sich auch in Geekbench-Ergebnissen: Der 10-Kern-M2 Pro (6+4) erreicht 12.100 Punkte, der 10-Kern-M1 Pro (8+2) 12.202 Punkte. Der 12-Kern-M2 Pro (8+4) kommt auf 14.221 Punkte, also 16,5 % mehr bei 20 % mehr Kernen.
    Das wirkt in gewisser Weise wie ein seltsames Ergebnis. Selbst wenn man zwei M2-Performance-Kerne hinzufügt, ergibt sich gegenüber dem 10-Kern-M2 Pro nur eine vergleichsweise kleine Steigerung; fügt man dem M1 Pro zwei Effizienz-Kerne hinzu, bringt das gegenüber dem 8+2-M1 Pro ebenfalls dieselbe Steigerung von 16,5 %. Vermutlich kann während des Benchmarks eine thermische Begrenzung greifen. Wenn zusätzliche Performance-Kerne unter 100 % Last nicht wirklich wie Performance-Kerne arbeiten können, fällt ihr Effekt geringer aus; umgekehrt können Effizienz-Kerne bei hoher thermischer Last eine ähnliche Leistung wie Performance-Kerne liefern und im Benchmark nahezu gleichwertig erscheinen.
    Ich frage mich auch, ob reale Nutzungsszenarien sich deutlich von Benchmarks unterscheiden. Core-Pinning kann zum Beispiel bei warmen Caches nützlich sein, und in der Praxis könnte das Betriebssystem einen Prozess an Performance-Kern 1 und einen anderen an Performance-Kern 2 binden, während bei beiden Nutzungsspitzen auftreten. Dann ist die gesamte thermische Last nicht hoch, sodass die Performance-Kerne ihre Spitzenleistung halten können, und beide profitieren von Performance-Kernen und warmen Caches.
    Vielleicht ist es eher eine geschäftliche Entscheidung als eine Frage der Chip-Leistung selbst. Ein großer Verkaufsargument des M1/M2 Max war die Grafikleistung, und möglicherweise auch der zusätzliche RAM. Bei Pro oder Max konnte man dieselbe CPU bekommen, aber jetzt hat der M3 Pro eine 5+6- oder 6+6-CPU, während der M3 Max 10+4 hat. Dass er 67–100 % mehr Performance-Kerne hat, wird selbst für Leute, die sich nicht besonders für Grafik interessieren, zu einem Verkaufsargument für den M3 Max.

    • Ich glaube, der letzte Absatz trifft zu. Der Max ist ein Produkt, das zugunsten höchstmöglicher Leistung Kompromisse bei der Akkulaufzeit eingeht, und Apple sieht offenbar, dass eine viel breitere Zielgruppe den Pro-Chip kauft.
      Gefühlt ist es bei Leuten aus dem Tech-Bereich fast immer ein Pro-Chip, wenn sie ihr Apple-Silicon-Gerät erwähnen. Nur ein kleiner Teil dieser Nutzergruppe wird regelmäßig alle Kerne unter Volllast verwenden, aber viele werden sicherlich die hervorragende Akkulaufzeit genießen.
    • Apple scheint hier von Intel zu lernen.
      Apple hat seine Effizienz-Kerne in den letzten Generationen deutlich schneller gemacht. Obwohl sie sehr klein sind, erreichen sie fast 50 % der Leistung und verbrauchen ungefähr zehnmal weniger Strom. Hoch lebe der abnehmende Grenzertrag.
      Wenn eine Aufgabe nur auf 1–4 Kerne skaliert, müssen diese Kerne schnell sein; wenn sie aber generell darüber hinaus skaliert, skaliert sie wahrscheinlich auch auf sehr viele Kerne. Aus dieser Perspektive reichen 6–8 Performance-Kerne aus, um ein paar leichtgewichtige Thread-Workloads gleichzeitig auszuführen, und normalerweise läuft nicht viel mehr darüber hinaus.
      Danach kann man in die Fläche eines Performance-Kerns plus Cache 4–6 Effizienz-Kerne plus Cache packen und verbraucht nur die Hälfte der Leistung, bekommt aber bei stark skalierenden Workloads deutlich mehr Performance. AMD geht mit Zen-4c- und 5c-Chiplets in dieselbe Richtung, sodass es ein Performance-Chiplet und mehrere Effizienz-Chiplets geben wird. Die Flächen- und Energiegewinne sind zu groß, um sie zu ignorieren.
    • Da die GPU einen sehr großen Anteil der thermischen Leistung ausmacht, für die diese SoCs ausgelegt sind, sollte es bei reiner CPU-Last eigentlich nicht zu thermischer Begrenzung kommen.
    • Es ist viel einfacher, aus der Skalierung der GPU-Kerne Vorteile zu ziehen als aus CPU-Kernen.

  • Ich frage mich, warum es die 36-GB-Option gibt. Die anderen Speicherkonfigurationen (16 GB, 64 GB) sind weiterhin saubere Zweierpotenzen. Rein von der Kapazität her sieht es so aus, als würden sie ECC-fähigen Speicher verwenden und die zusätzliche Breite für ECC-Unterstützung für Daten nutzen, aber ich weiß nicht, warum das nur bei einer Kapazität der Fall sein sollte. Liegt es an der Teileverfügbarkeit?
    Nach etwas Nachforschen scheint es wohl nicht, wie ich aus einer älteren Perspektive erwartet hätte, ein oder mehrere 72 Bit breite Busse mit 2^32 Wörtern zu sein, sondern vermutlich sechs 32 Bit breite Busse mit jeweils 6 GiB. Solcher Speicher mit 1,5 * 2^N Tiefe ist zusammen mit IC-Stacking ziemlich üblich geworden: Dabei werden 12 ICs mit Zweierpotenz-Größe in einem einzelnen Package gestapelt. Das unterscheidet sich von der „bequemeren“ Methode, dieselben ICs acht- oder sechzehnfach zu stapeln, um eine Zweierpotenz zu erhalten.

    • In letzter Zeit werden häufiger Konfigurationen in Vielfachen von 6/12 verwendet, vermutlich im Zusammenhang mit den bei LPDDR5X möglichen Chip-Kapazitäten.
      M2 und M3 gehen bis 24 GB, M3 Pro gibt es mit 18 GB und 36 GB, und M3 Max in Konfigurationen mit 36 GB, 48 GB, 64 GB, 96 GB und 128 GB.
    • Es sieht so aus, als hätte Apple die Speicherbandbreite beim M3 Pro von 200 GB/s beim M1/M2 Pro auf 150 GB/s gesenkt. Um die vollen 400 GB/s Bandbreite zu bekommen, die bei den M1/M2-Max-Chips möglich waren, muss man zum obersten M3 Max-Chip greifen.
    • Das hat nichts mit ECC zu tun. Es wird LPDDR5X-Speicher verwendet, und wenn man Android-Smartphones verfolgt hat, sind solche Zahlen nicht überraschend.
    • Ehrlich gesagt gefällt mir das besser. Wenn man bei der vorherigen Generation die 16 GB Speicher häufig ausgeschöpft hat und ein Upgrade fällig ist, braucht man nicht unbedingt doppelt so viel Speicher; 24 GB wären wahrscheinlich gut.
    • Beim MacBook Pro gibt es auch eine 18-GB-M3-Pro-Konfiguration. Das ist ziemlich ungewöhnlich.

  • Diese Modelle wirken weniger nützlich für LLM-Inferenz, die stark durch die Speicherbandbreite begrenzt wird. Auf der MacBook-Pro-Seite steht beim M3 100 GB/s, 150 GB/s, 300 GB/s, während es beim M2 200 GB/s und 400 GB/s waren.
    Auch beim M3 sind mit höheren GPU-Konfigurationen 400 GB/s möglich, aber interessant ist, dass es insgesamt nach unten gegangen ist.

    • In der Präsentation wurde dynamisches GPU-Caching erwähnt; das wirkt wie eine Funktion, die Transformer-Modelle mögen dürften.

  • Ich verstehe nicht, warum Apple nicht die gesamte Produktpalette erneuert, sobald ein neuer Chip erscheint. Besonders diesmal wirkt es bei MacBook Pro und iMac praktisch so, als würde nur der Chip ausgetauscht.
    Unabhängig davon frage ich mich, ob jemand weiß, wie Unified Memory in Bezug auf Machine-Learning-Performance im Vergleich zu VRAM abschneidet. Wenn man bedenkt, dass eine 80GB H100 etwa 30.000 Dollar kostet, ist ein voll ausgestattetes MacBook Pro mit 128GB Unified Memory für 5.000 Dollar interessant. Wenn die meisten Prosumer realistisch gesehen bei einem vernünftigen Budget auf 24GB-Nvidia-Karten festgelegt sind, frage ich mich, ob das für große Modelle auch nur ansatzweise vergleichbar oder attraktiv ist.

    • Es scheint eine Kombination mehrerer Faktoren zu sein. Erstens erfordert ein Upgrade der Produktpalette echte Engineering-Arbeit und kann mindestens ein Jahr dauern.
      Zweitens gibt es die Fertigungskapazität. In der ersten Jahreshälfte wurden wahrscheinlich 3nm-iPhone-Prozessoren gefertigt und parallel an MBP-Prozessoren gearbeitet; die Produktion mehrerer Chips gleichzeitig hochzufahren dürfte schwierig sein.
      Drittens gibt es auch die Nachfrageseite. Wenn meine Eltern dieses Jahr einen neuen Laptop und ein neues Handy kaufen, ist es wahrscheinlicher, dass sie das im Abstand von sechs Monaten tun. Ebenso hilft es Apple, mit guten Nachrichten in den Medien zu bleiben, wenn sie in diesem Quartal die Produkte a,b,c ankündigen und im nächsten Quartal d,e,f.
      Beim Machine Learning hoffe ich, dass schnell Ergebnisse kommen, sobald man die tatsächlichen Geräte in die Hand bekommt.
    • Ich vermute, dass sie ältere Chips in anderen SKUs nach und nach über die Zeit auslaufen lassen, um vorhandene Bestände abzubauen. Wenn die M3-Produktion zum Beispiel gering ist, beginnen sie mit den teuren MacBook-Pro-Modellen. Diese Produkte verkaufen sich langsamer, und währenddessen wird in der Air-Linie der verbleibende M2-Bestand abgebaut, bis die M3-Produktion weiter hochgefahren ist und dann ein „Refresh“ kommt.
      Ich kenne Apples MacBook-Verkaufszahlen nicht und weiß auch nicht, ob das Air sich besser verkauft als das Pro, aber wenn sie das so konsequent machen, verdienen sie damit sicher Geld.
    • Es dürfte auch darum gehen, bestehende M1/M2-Produktionskapazitäten auszuschöpfen, aber im Moment scheint es wohl nicht genug M3-Bestand zu geben.
      Ich habe vergessen, wie viele Fabs mit 3nm-Kapazität TSMC hat, aber es werden nicht viele sein. Es heißt zwar, Apple habe sich die gesamte Produktionskapazität von TSMC gesichert[0], aber selbst das dürfte nicht reichen.
      [0]: Apple spart dank einzigartigem Deal mit TSMC „Milliarden“ bei Chips | https://news.ycombinator.com/item?id=37040722
    • MacBook Air, Mac Studio und Mac Pro wurden erst vor etwa 6 Monaten aktualisiert. Würde man sie jetzt schon wieder aktualisieren, würden sich frühere Käufer komplett vor den Kopf gestoßen fühlen.
    • M2 Ultra hat eine Unified-Memory-Bandbreite von bis zu 800GB/s. Die 4090 kommt dagegen auf 1.008GB/s, und Dual-Channel-DDR4-6400 auf der PC-Seite liefert 102GB/s Bandbreite.

  • In der Präsentation wurde recht unvermittelt betont, dass „mit Unterstützung für bis zu 128GB Arbeitsspeicher Workflows möglich werden, die bisher auf einem Laptop unmöglich waren, etwa für AI-Entwickler, die mit größeren Transformer-Modellen mit Milliarden von Parametern arbeiten“. Wie tatsächliche AI-Entwicklung damit aussieht, wurde aber nicht gezeigt.
    Ich weiß, dass Apple mehr Arbeit in die Apple-Silicon-Unterstützung von PyTorch gesteckt hat, frage mich aber, ob sie inzwischen gut genug ist.

    • Ich glaube, noch nicht. Ich würde mich freuen, wenn ich falschliege, aber selbst günstige mobile Nvidia-Karten schlagen einen normalen M2-Chip bei kleinen Trainingsaufgaben.
      Der M3 Max könnte ein Konkurrent werden, aber Metal ist meiner Meinung nach noch weit von CUDA entfernt. Der M3 Max im Laptop scheint mit einer Nvidia 3070 konkurrieren zu können. Allerdings ist Nvidia auf dem Desktop ein Monster mit hoher Wärmeentwicklung und hohem Stromverbrauch, während Apple-M-Chips sehr effizient sind; das ist also kein fairer Vergleich. Man muss sehen, wie Desktop-M3-Chips ausfallen.
    • Soweit ich weiß, wird PyTorch nativ unterstützt. Nach meiner Erfahrung lief es sogar besser als ROCm.
    • Nutzen die angesagten Leute heutzutage GGML?

  • Ziemlich beeindruckend ist, dass dieses Event mit dem iPhone 15 Pro gefilmt wurde[1]. Natürlich kamen dabei professionelle Beleuchtung und diverse Ausrüstung zum Einsatz, anders als in der Umgebung normaler Nutzer.
    Da Log-Aufnahmen jetzt möglich sind, könnte die nächste iPhone-Präsentation vielleicht mit genau dem iPhone gedreht werden, das dort vorgestellt wird.
    [1] Quelle: https://www.youtube.com/live/ctkW3V0Mh-k?t=30m02s