Cohere Command R+ – ein skalierbares LLM, das für Unternehmen entwickelt wurde

• Ein skalierbares Large Language Model (LLM), optimiert für reale groß angelegte Unternehmensaufgaben und Anwendungsfälle
• Command R+ gehört zur R-Serie von LLMs, die ein Gleichgewicht zwischen hoher Effizienz und starker Genauigkeit hält
• Unterstützt Unternehmen dabei, AI über den Proof of Concept hinaus in die Produktion zu bringen

Hauptmerkmale von Command R+

• Verfügt über ein Kontextfenster von 128k Token und bietet erstklassige Funktionen wie:
  • fortschrittliche Retrieval-Augmented Generation (RAG) mit Zitaten zur Reduzierung von Halluzinationen
  • mehrsprachige Unterstützung für 10 wichtige Sprachen zur Unterstützung globaler Geschäftsabläufe
  • Tool Use zur Automatisierung komplexer Geschäftsprozesse
• Baut auf den wichtigsten Stärken von Command R auf und verbessert die Gesamtleistung weiter
• Übertrifft vergleichbare Modelle in der Kategorie skalierbarer Marktmodelle und ist bei geschäftskritischen Kernfunktionen auch deutlich teureren Modellen ebenbürtig
• Bietet dasselbe hohe Maß an Verpflichtung zu Datenschutz und Sicherheit

Zusammenarbeit mit Microsoft Azure

• Ankündigung einer neuen Zusammenarbeit mit Microsoft Azure für die weltweite Unternehmens-Community
• Fokus darauf, Cohere neueste Modelle zu Azure AI zu bringen und so die Einführung von AI in Unternehmen zu beschleunigen
• Bereitstellung umfassender AI-Tools, mit denen Unternehmen mehr erreichen können, während sie höchste Standards bei Sicherheit und Compliance einhalten
• Förderung einer Zukunft, in der Technologie menschliche Fähigkeiten und Innovation verstärkt

Modellverfügbarkeit

• Entwickler und Unternehmen können ab heute über Azure auf Cohere neueste Modelle zugreifen
• Bald auch verfügbar auf Oracle Cloud Infrastructure (OCI) und weiteren Cloud-Plattformen
• Ebenfalls sofort über Coheres gehostete API verfügbar

Eine RAG-Lösung auf Spitzenniveau

• RAG bildet die Grundlage dafür, dass Unternehmen LLMs einführen und mit ihren eigenen proprietären Daten anpassen können
• Command R+ ist für fortschrittliches RAG optimiert, um Enterprise-Readiness, hohe Zuverlässigkeit und überprüfbare Lösungen zu liefern
• Das neue Modell bietet Inline-Zitate, die die Antwortgenauigkeit verbessern und Halluzinationen abschwächen
• Diese Funktion hilft Unternehmen dabei, mit AI zu skalieren und schnell die relevantesten Informationen zu finden, um Geschäftsfunktionen in verschiedensten Bereichen zu unterstützen

Automatisierung komplexer Business-Workflows durch Tool Use

• Ein zentrales Versprechen von Large Language Models ist nicht nur das Erfassen und Generieren von Text, sondern auch die Fähigkeit, als zentraler Reasoning-Engine zu arbeiten
• Schwierige Aufgaben, die Intelligenz für Entscheidungen und den Einsatz von Tools zur Lösung erfordern, können automatisiert werden
• Command R+ bietet Tool-Use-Funktionen, die über API und LangChain zugänglich sind, und automatisiert damit komplexe Business-Workflows nahtlos
• Das neue Command R+ unterstützt nun außerdem Multi-Step Tool Use, sodass das Modell mehrere Tools über mehrere Schritte hinweg kombinieren kann, um schwierige Aufgaben zu lösen

Mehrsprachige Unterstützung für globale Geschäftsabläufe

• Command R+ wurde so entwickelt, dass es möglichst vielen Menschen, Organisationen und Märkten dient
• Aus Gesprächen mit Unternehmen ergab sich eine enorme Nachfrage nach mehrsprachigen Fähigkeiten, die Organisationen helfen, über Regionen und Kulturen hinweg reibungsloser zu arbeiten
• Command R+ wurde für starke Leistung in 10 wichtigen Sprachen des globalen Geschäfts entwickelt (Englisch, Französisch, Spanisch, Italienisch, Deutsch, Portugiesisch, Japanisch, Koreanisch, Arabisch und Chinesisch)
• Mit dieser mehrsprachigen Fähigkeit können Nutzer unabhängig von ihrer Muttersprache präzise Antworten aus umfangreichen Datenquellen erzeugen

Preise und Verfügbarkeit

• Cohere arbeitet mit allen großen Cloud-Anbietern zusammen und ermöglicht zudem On-Premises-Bereitstellungen für regulierte Branchen und datenschutzsensible Anwendungsfälle, um die Modelle universell verfügbar zu machen
• Das neueste Command-R+-Modell ist nun in Coheres Demo-Umgebung verfügbar und bietet eine direkte Möglichkeit, das Modell über eine einfache Chat-Oberfläche zu testen

Verpflichtung zu Datenschutz und Sicherheit

• Mit der Command-R-Modellfamilie arbeitet Cohere daran, Kundendaten, Privatsphäre und Sicherheit zu schützen, damit Kunden AI mit Vertrauen einsetzen können
• Produkte wurden von Anfang an mit Datenschutz im Kern entwickelt, und mit einer Urheberrechtsgarantie bei Verletzungsansprüchen wird zusätzlicher Schutz für Kunden geboten
• Auf Kundendaten wird nicht zugegriffen, es sei denn, der Kunde wünscht dies ausdrücklich
• Bereitstellung privater LLM-Deployments und einer Opt-out-Option für Datenteilung

Meinung von GN⁺

• Command R+ ist ein neuestes, für RAG optimiertes Modell für den Unternehmenseinsatz, dessen Kern darin besteht, hohe Genauigkeit und Effizienz zu liefern, damit Unternehmen die Proof-of-Concept-Phase hinter sich lassen und in die Produktion gehen können. Besonders hervorzuheben sind die für reale Unternehmensarbeit optimierten Funktionen wie RAG mit proprietären Unternehmensdaten und die Unterstützung von 10 Sprachen.
• Es dürfte auf dem Markt für Large Language Models für Unternehmen wettbewerbsfähig sein, doch die Leistungsverbesserungen konkurrierender Modelle wie OpenAIs GPT-Serie oder Anthropics Claude verlaufen schnell, sodass ein harter Wettbewerb zu erwarten ist. Entscheidend werden vor allem die Entwicklung von Differenzierungsmerkmalen speziell für Cohere und die Validierung der Leistung in spezialisierten Einsatzbereichen sein.
• Bei der Einführung von Large Language Models in Unternehmen müssen neben Genauigkeit und Effizienz auch verschiedene Faktoren wie Datenschutz, Sicherheit und Modellbias umfassend berücksichtigt werden. Insbesondere kann es regulatorische Fragen im Zusammenhang mit dem Umgang mit Daten geben, auf die man vorbereitet sein muss. Dass Cohere seine Bemühungen zum Schutz der Datenprivatsphäre betont, ist positiv, doch auch Kundenseite sollte großes Augenmerk auf die Nutzung eigener Daten und den Aufbau eines Modellsicherheitskonzepts legen.

[GN⁺]

Hacker-News-Kommentare

• Ein neues Plugin unterstützt dieses Modell im LLM-CLI-Tool.

  • Das von Simon Willison entwickelte LLM-CLI-Tool ist ein Kommandozeilenprogramm für den Zugriff auf Large Language Models.
  • Das Tool unterstützt sowohl Remote-APIs als auch lokal ausführbare Modelle, kann Prompts über die Kommandozeile ausführen und Bildsuchmaschinen aufbauen.
  • Eine der interessanten Funktionen der Cohere-API-Modelle ist, dass sie Websuchen ausführen und die Ergebnisse zur Beantwortung von Prompts nutzen können.
  • Das Plugin wird als separater Befehl hinzugefügt, sodass Nutzer dem LLM-CLI-Tool Fragen stellen können.

• Der Unterschied zwischen den Modellen Command R und Command R+ ist der Preis.

  • Das Modell Command R kostet $0.50 pro Eingabe-Token und $1.50 pro Ausgabe-Token, während das Modell Command R+ $3.00 pro Eingabe-Token und $15.00 pro Ausgabe-Token kostet.

• Das Modell Command-R wurde für Unternehmen entwickelt, hat aber eine CC-BY-NC-Lizenz.

  • Diese Lizenz ist flexibler als die von DBRX, das die Nutzung zur Verbesserung anderer Large Language Models verbietet.

• Es wird darauf hingewiesen, dass die Wahl der Header-Schriftart auf der Website schlecht ist, sodass der Text aussieht, als hätte er weiße Flecken.

• Ein Kommentar fragt, ob man mit diesem Tool Dokumente wie die Nutzervereinbarung des App Store einbetten und dazu Fragen stellen kann.

• Es wird erwähnt, dass man einen Begriff braucht, um zwischen der Nutzung von LLMs innerhalb eines Unternehmens zur Gewinnung von Antworten und dem Einsatz kundenorientierter LLMs zu unterscheiden.