- Open-Source-API für alle Frameworks
- Das Modell wird zusammen mit Metadaten in eine einzelne Zip-Datei gepackt und anschließend wird diese Datei geladen
- Der Inferenz-Code kann unabhängig vom Framework funktionieren. Wenn die Carton-API aufgerufen wird, ruft Carton intern das Framework auf
- In Rust implementiert und mit Bindings für die jeweiligen Sprachen
- Unterstützung für x86_64 Linux und macOS, aarch64 Linux und macOS sowie WebAssembly
- Anders als ONNX, das Modelle konvertiert, konvertiert Carton nicht, sondern kapselt sie nur
Noch keine Kommentare.