GoMLX – ML in Go ohne Python

• Ein Paket, mit dem sich Machine-Learning-(ML-)Modelle in der Sprache Go implementieren lassen; es ist so konzipiert, dass ML-Aufgaben ohne Abhängigkeit von Python durchgeführt werden können
• Bietet eine Alternative zu Python-zentrierten ML-Frameworks wie TensorFlow (TF), JAX und PyTorch und nutzt dieselbe Hardware-Effizienz auf Go-Basis
• Nutzt Low-Level-Compiler- und Runtime-Technologien wie XLA und PJRT, um optimierte Performance zu liefern

Hauptmerkmale

• ML-Modelle ohne Python erstellen
  • Erstellung, Training und Inferenz von ML-Modellen ausschließlich in Go, ohne Python-Code
  • Unterstützt die Erzeugung von Rechengraphen auf ähnliche Weise wie bestehende ML-Frameworks sowie automatische Differenzierung und Modelltraining
• Nutzung von XLA und PJRT
  • Verwendet den OpenXLA-Stack für hardwareoptimierte Berechnungen und nutzt dieselben grundlegenden Bausteine wie TensorFlow und JAX
  • Enthält fortgeschrittene Funktionen wie automatische Differenzierung, Verwaltung von Tensor-Daten und Workload-Aufteilung
• Beispiel für die Implementierung eines CNN-Modells
  • Implementierung eines CNN-(Convolutional Neural Network-)Modells in Go unter Verwendung des CIFAR-10-Datensatzes
  • Das mit GoMLX ohne Python implementierte Modell erreicht eine ähnliche Leistung wie ein mit TensorFlow+Keras trainiertes Modell
• Praxisbeispiel: Gemma2-Modell
  • Führt produktionsreife LLM-Inferenz mit den von HuggingFace bereitgestellten Gewichten des Gemma2-LLM (Large Language Model) aus
  • Auch fortgeschrittene Modelle wie Gemma2 können ohne Python ausgeführt werden

Zusammenfassung

• GoMLX unterstützt die Implementierung, das Training und die Inferenz von ML-Modellen auf Basis der Sprache Go und beseitigt die Abhängigkeit von Python
• Durch die Nutzung von XLA und PJRT bietet es hardwareoptimierte Berechnungen und fortgeschrittene ML-Funktionen
• Auch komplexe Aufgaben wie CIFAR-10-CNN-Modelle und Gemma2-LLM-Inferenz sind ohne Python möglich
• GoMLX befindet sich noch in einer frühen Phase, eröffnet aber die Möglichkeit für Python-freie ML-Implementierungen und lässt für die Zukunft weitere Entwicklungen erwarten