Llama 2 Everywhere (L2E) – Standalone, binär portables, bootfähiges Llama 2

• Ziel ist es, Kompatibilität mit einer großen Bandbreite an Geräten sicherzustellen – von ausgemusterten Chromebooks bis hin zu High-Density-Unikernels
• Man ist überzeugt, dass sich durch den Aufbau und Einsatz einer kleinen, spezialisierten LLM-Armee aus L2Es, die über ein Netzwerk verbunden, verteilt und selbstkoordiniert sind, der Zugang zu zukünftiger KI demokratisieren lässt und damit ein einzelnes großes LLM übertroffen werden kann
• L2E OS: Bootet mit einem kleinen Llama-2-Modell und kann sofort Inferenz ausführen
• Unikernel Build: Führt Tausende von Llama-2-Modellen auf Servern aus und ermöglicht Inferenz
• Als einzelne ausführbare Datei auf jedem x86_64-Gerät lauffähig (mithilfe des Cosmopolitan-Toolchains)