Nvidia 4090 und M1/M2/M3 im Vergleich mit Whisper und MLX

 (owehrens.com)
14 Punkte von xguru 2023-12-14 | 1 Kommentare | Auf WhatsApp teilen
  • Benchmark der Leistung von MLX, dem von Apple vorgestellten Machine-Learning-Framework
  • Transkription von 10 Minuten Audio mit Whisper
    • M1 Pro (Modell 2021) + MLX + 32 GB RAM: 216 Sekunden
    • i7 + 4090 + 64 GB RAM: 186 Sekunden
      • Die 2000-€-GPU ist im Vergleich zum M1 30 Sekunden (16 %) schneller
    • M2 Ultra (76 GPU): 95 Sekunden
    • M3 Max (40 GPU): 100 Sekunden
  • Mit dem für Nvidia optimierten insanely-fast-whisper ist der Vorgang auf der 4090 in nur 8 Sekunden abgeschlossen
    • Wenn dieses Modell auf dem M1 läuft, dauert es mit 359 Sekunden noch länger

Verwandte Beiträge