Whisper Jax: die schnellste Implementierung der Whisper-API
(github.com/sanchit-gandhi)- Optimierte und schnelle Implementierung des Whisper-Spracherkennungsmodells von OpenAI
- Läuft mit JAX auf TPU v4-8. Im Vergleich zur Ausführung mit PyTorch auf einer A100-GPU bis zu 70-mal schneller
- Läuft auf CPU/GPU/TPU und kann standalone oder als Inference-Endpunkt betrieben werden
Noch keine Kommentare.