Metas Llama ist seit 2023 um das Zehnfache gewachsen – Update zum Stand der Llama-Adoption

Zusammenfassung der wichtigsten Punkte

• Die Llama-Modelle haben bislang rund 350 Millionen Downloads verzeichnet und damit im Vergleich zum Vorjahreszeitraum um mehr als das Zehnfache zugelegt. Allein im vergangenen Monat wurden sie mehr als 20 Millionen Mal heruntergeladen, womit sich Llama als eine der wichtigsten Open-Source-Modellfamilien etabliert hat
• Das Token-Volumen von Llama bei den wichtigsten Cloud-Service-Provider-Partnern hat sich von Mai bis Juli 2024, also in nur drei Monaten seit dem Release von Llama 3.1, mehr als verdoppelt
• Bei einigen großen Cloud-Service-Providern hat sich die monatliche Nutzung von Llama (gemessen am Token-Volumen) von Januar bis Juli 2024 verzehnfacht

Wachstum des Ökosystems nach dem Release von Llama 3.1

• Mit dem Release von Llama 3.1 wurde die Kontextlänge auf 128K erweitert, die Unterstützung für 8 Sprachen eingeführt und mit Llama 3.1 405B das erste Frontier-Open-Source-AI-Modell vorgestellt
• Der Erfolg von Llama als Open-Source-Modell fördert Innovationen in Unternehmen jeder Größenordnung. Von Startups bis zu Großkonzernen bauen Unternehmen mit Llama Lösungen On-Premises oder über Cloud-Services auf
• Durch die öffentliche Bereitstellung der Llama-Modelle ist ein lebendiges und vielfältiges AI-Ökosystem entstanden, und Entwickler verfügen heute über mehr Auswahl und mehr Möglichkeiten als je zuvor
• Llama hat sich innerhalb von 18 Monaten von einem einzelnen Foundation Model zu einem vollständigen Referenzsystem für Entwickler entwickelt. Llama 3.1 enthält Security- und Safety-Tools, die Entwicklern dabei helfen, einfach maßgeschneiderte Agenten zu erstellen

Metas Vision und Zusage zu Open Source

• Mit dem Release von Llama 3.1 veröffentlichte Mark Zuckerberg einen offenen Brief über die Vorteile von Open Source AI und bekräftigte damit weiter seine Vision und sein Commitment für einen offenen Ansatz
• Open Source ist tief in Metas DNA verankert, und Llama verkörpert und stärkt das Versprechen, Forschungsergebnisse verantwortungsvoll zu teilen
• Open Source fördert ein wettbewerbsfähigeres Ökosystem, das für Verbraucher, Unternehmen (einschließlich Meta) und letztlich für die Welt von Vorteil ist

Aufstieg zu einem führenden Open-Source-Modell

• Das Llama-Ökosystem wächst rasant. Die Llama-Modelle haben auf Hugging Face bislang rund 350 Millionen Downloads verzeichnet, was einem Wachstum von mehr als dem Zehnfachen gegenüber vor etwa einem Jahr entspricht
• Allein im vergangenen Monat wurden sie auf Hugging Face mehr als 20 Millionen Mal heruntergeladen. Das ist nur ein Teil der Erfolgsgeschichte von Llama, denn Downloads erfolgen auch über die Services von Partnern
• Die Nutzung von gehostetem Llama (Token-Volumen) bei den wichtigsten Cloud-Service-Partnern hat sich von Mai bis Juli 2024 nach dem Release von Llama 3.1 mehr als verdoppelt

Ausbau der Partnerschaften und sprunghaft steigende Nachfrage

• Mit Llama 3.1 hat sich die Zahl der Partner im Early-Access-Programm verfünffacht, und es sollen weitere Anstrengungen unternommen werden, um der stark gestiegenen Nachfrage der Partner gerecht zu werden
• Viele Unternehmen wie Wipro, Cerebras und Lambda hoffen darauf, künftig LEAP- und Llama-Integrationspartner zu werden

Vielfältige Einsatzbeispiele für Llama

• Accenture: nutzt Llama 3.1 zum Aufbau eines maßgeschneiderten LLM für ESG-Reporting und erwartet im Vergleich zu bisherigen Verfahren eine Produktivitätssteigerung von 70 % sowie eine Qualitätsverbesserung von 20–30 %
• AT&T: verbessert das Customer Management durch Fine-Tuning von Llama-Modellen. Durch den Einsatz von GenAI haben sich die Suchantworten im Zusammenhang mit dem AT&T-Kundenmanagement um rund 33 % verbessert, bei gleichzeitiger Kostensenkung und kürzeren Antwortzeiten
• DoorDash: setzt Llama ein, um die täglichen Arbeitsabläufe von Software Engineers zu vereinfachen und zu beschleunigen
• Goldman Sachs: ermöglicht es Engineers über die GS AI Platform, Llama-Modelle sicher und verantwortungsvoll für verschiedene Use Cases zu nutzen
• Niantic: integriert Llama, um die virtuelle Welt des AR-Spiels Peridot umzusetzen. Echtzeit-Reaktionen sorgen für dynamische und einzigartige Interaktionen
• Nomura: nutzt Llama auf AWS, um das Innovationstempo zu erhöhen und zentrale Vorteile wie Transparenz, Bias-Vermeidung und starke Performance zu erzielen
• Shopify: experimentiert weiterhin mit erstklassigen Open-Source-Modellen wie Llama auf Basis von LLaVA. Derzeit werden täglich 40 bis 60 Millionen LLaVA-Inferenzläufe ausgeführt, um Produktmetadaten und Verbesserungsarbeiten zu unterstützen
• Zoom: betreibt seinen AI Companion mit eigenen Modellen sowie geschlossenen und Open-Source-LLMs einschließlich Llama. Nutzern werden Meeting-Zusammenfassungen, Smart Recording, Follow-up-Maßnahmen und mehr bereitgestellt

Ein aktiviertes offenes System

• Llama übernimmt eine führende Rolle in Bezug auf Offenheit, Anpassbarkeit und Kosteneffizienz
• Man bleibt dem Aufbau auf Open Source verpflichtet, damit die Vorteile von AI allen Menschen zugutekommen können
• LLMs können dabei helfen, schwierige Fragen zu beantworten, die Produktivität zu steigern und Kreativität anzuregen. Mit der Erweiterung des Llama-Ökosystems wachsen auch die Fähigkeiten und die Zugänglichkeit von Meta AI

Meinung von GN⁺

• Das schnelle Wachstum und die starke Verbreitung von Llama zeigen, dass die Nachfrage nach Open-Source-AI-Modellen zunimmt. Unternehmen suchen kosteneffiziente und zugleich qualitativ hochwertige AI-Modelle, und Llama erfüllt diese Anforderungen
• Beim Einsatz von Open-Source-Modellen müssen jedoch Themen wie Bias, Ethik und Security berücksichtigt werden. Unternehmen sollten dafür Governance-Strukturen schaffen und Richtlinien für die Modellnutzung festlegen
• In dem hart umkämpften Markt für AI-Modelle zeigt Llamas offener Ansatz, dass es in puncto Qualität gegenüber kommerziellen Modellen nicht zurückliegt
• Die schnelle Adoption und hohe Popularität von Llama bestätigen erneut den Wert und Einfluss von Open Source in der AI- und Entwickler-Community. Das könnte die künftige Richtung der AI-Entwicklung maßgeblich beeinflussen
• Es ist zu erwarten, dass sich Open-Source-Modelle wie Llama und API-basierte Modelle künftig komplementär weiterentwickeln werden. Für Unternehmen wird es wichtig sein, das passende Modell für ihre Bedürfnisse auszuwählen und die Fähigkeiten aufzubauen, es effektiv einzusetzen