Replicate schließt sich Cloudflare an

• Die Plattform zur Ausführung von AI-Modellen Replicate schließt sich Cloudflare an und wird weiterhin als unabhängige Marke betrieben
• Die bestehenden API- und Model-Services bleiben unverändert, sodass bereits entwickelte Anwendungen wie bisher weiterlaufen
• Replicate bietet grundlegende Werkzeuge und eine Abstraktionsschicht für die AI-Entwicklung und soll in die Developer Platform von Cloudflare integriert werden
• Mithilfe der Infrastruktur von Cloudflare wie Workers, Durable Objects, R2, WebRTC ist geplant, Funktionen für Model-Orchestrierung sowie Echtzeit- und Edge-Ausführung auszubauen
• Durch die Zusammenarbeit beider Unternehmen soll eine grundlegende Plattform für die Entwicklung von AI-Anwendungen entstehen

---

Überblick über den Zusammenschluss von Replicate mit Cloudflare

• Replicate schließt sich Cloudflare an, wird aber weiterhin als unabhängige Marke betrieben
  • Der Service soll schneller werden, mehr Ressourcen erhalten und in die Developer Platform von Cloudflare integriert werden
• Keine Änderungen an der API, bestehende Modelle und Anwendungen funktionieren weiter wie bisher
  • Es gibt keine Auswirkungen auf verwendete Modelle oder bereits aufgebaute Services

Technische Grundlage von Replicate

• Replicate entwickelt grundlegende Bausteine (primitives) für AI
  • Dadurch können Entwickler AI nutzen, ohne die komplexe interne Struktur verstehen zu müssen
• Cog ist ein Open-Source-Tool, das ein Standardformat für Modelle definiert
• Die Replicate-Plattform bietet eine Umgebung, in der Modelle geteilt und per API ausgeführt werden können
  • Standardisiert werden die Definition, Veröffentlichung und Ausführung von Modellen sowie Ein- und Ausgabe von Daten

Vision als cloudbasiertes Betriebssystem für AI

• Diese Abstraktionsschicht ähnelt den Low-Level-Komponenten eines Betriebssystems
  • Sie läuft in der Cloud und benötigt GPUs sowie Cluster-Skalierbarkeit
  • Beschrieben wird dies mit dem Konzept „Das Netzwerk ist der Computer“
• Cloudflare wird als das Unternehmen genannt, das diese Netzwerkinfrastruktur am besten bereitstellt

Verbindung mit der Cloudflare-Infrastruktur

• Cloudflare hat bereits andere Komponenten eines Betriebssystems aufgebaut
  • Workers: Ausführung von Agenten und Verbindungscode
  • Durable Objects: Zustandsverwaltung
  • R2: Dateispeicherung
  • WebRTC: Medien-Streaming
• Auf dieser Grundlage plant Replicate die Entwicklung höherwertiger Funktionen wie Model-Orchestrierung, Aufbau von Agenten sowie Echtzeit- und Edge-Ausführung von Modellen

Ziel und Bedeutung der Zusammenarbeit

• Cloudflare gilt als Beispiel für ein Unternehmen, das mit entwicklerfreundlichen Produkten zu einem großen Konzern gewachsen ist
• Replicate nutzte Cloudflare bereits von Anfang an zum Aufbau von Prototypen
• Gemeinsam wollen beide Unternehmen zur grundlegenden Plattform für die Entwicklung von AI-Anwendungen werden
• Weitere Details finden sich in der Ankündigung im offiziellen Cloudflare-Blog

[GN⁺]

Hacker-News-Kommentare

• Glückwünsche an Ben und das Team.
  Diese Übernahme wirkt wie Cloudflares bemerkenswerteste Akquisition.
  Bisher wurden meist kleinere Sicherheitsfirmen wie Area 1 Security übernommen.

  • Diese Übernahme fühlt sich so an, als würde Cloudflare sich über den bisherigen Netzwerkfokus hinaus in Richtung des traditionellen Hosting-Modells erweitern. Natürlich haben Services wie Workers oder R2 diese Grenze schon verwischt.
  • Das dürfte stimmen. Eine Liste von Cloudflares Übernahmen findet sich im offiziellen Blog: BastionZero, Kivera, Baselime, PartyKit, Area 1, Vectrix, Zaraz, Linc, S2 Systems, Neumob, Eager, CryptoSeal, StopTheHacker.
  • Es ist aber auch möglich, dass dies keine typische Übernahme war, bei der Investoren oder das Team große Gewinne erzielt haben. Es wurde kein Preis genannt, und der Markt für Infrastruktur zur Modellausführung ist bereits hart umkämpft.

• Aus Sicht der AI-Integration bin ich gespannt, ob Cloudflare die Modelle von Replicate günstiger bei höherer Leistung anbieten kann.
  Replicate hat viele Optionen für autoskalierende Deployments, aber die Kosten dafür, etwas im Warmzustand zu halten, waren für Einzelentwickler hoch.
  Dank Cloudflares Infrastruktur dürfte es wahrscheinlicher werden, dass Modelle bereits gestartet vorgehalten werden.
  In letzter Zeit interessieren mich besonders Speech-to-Speech-Modelle wie sensefvg/InteractiveOmni-8B, Qwen 2.5 Omni, OpenAI Realtime und Gemini Live.
  Ich erwarte, dass wichtige AI-Produkte künftig standardmäßig Sprach-Ein- und -Ausgabe bieten werden.
  Replicate war wirklich großartig und hat Modelle teils schon einen Tag nach einer Anfrage bereitgestellt. Hoffentlich wurde lucataco entsprechend dafür belohnt.

• Als Replicate-Kunde freue ich mich über diese Nachricht.
  Cloudflare hat in diesem Bereich eine strategische Investitionsmotivation und verfügt über ein starkes Marketing- und Vertriebsteam, das Replicate helfen kann, eine nachhaltige Größenordnung zu erreichen.

• Ich habe mich gefragt, wann Cloudflare ernsthaft in den AI-Bereich einsteigt, und diese Entscheidung wirkt plausibel.
  Hoffentlich hat das Entwicklungsteam durch diesen Deal Geld oder Aktien bekommen.

  • Tatsächlich betrieb Cloudflare bereits Workers AI. Allerdings gab es dort viele ältere Modelle, weshalb es keine große Wirkung entfaltet hat.
    Die Übernahme von Replicate scheint für beide Seiten eine gute Entscheidung zu sein. Um aber mit fal.ai zu konkurrieren, braucht es preisliche Wettbewerbsfähigkeit.
  • Wenn man dachte, das sei Cloudflares erster Versuch, hat man einiges übersehen.
  • Es gibt auch Kritik im Sinne von „nicht selbst innovieren, sondern Wettbewerber kaufen“. Dahinter steht die Sichtweise, dass Probleme bei internen Strukturen oder der Führung eher mit Übernahmen überdeckt als gelöst werden.

• Technisch passen die beiden Unternehmen sehr gut zusammen.
  Ich habe früher bei AWS mit dem Replicate-Team gearbeitet, und es war wirklich ein hervorragendes Team.

• Zuerst war ich kurz verwirrt, warum Cloudflare das On-Premises-Tooling-Startup Replicated gekauft haben sollte.

  • Das wurde dann mit dem Witz aufgelöst: „Die Cloud ist am Ende auch nur das On-Premises von jemand anderem.“

• Ich frage mich, ob bei Cloudflares Kultur und Historie die Stärken von Replicate bei Dokumentation, API und Design erhalten bleiben.

  • Ich glaube nicht, dass es große Veränderungen geben wird. Das wurde auch im Replicate-Blog ausdrücklich so gesagt, und für Cloudflare ist das ebenfalls vorteilhaft.
    Cloudflare hat vor Kurzem Omni für AI-Inferenz angekündigt und dabei laut eigenen Angaben die Inferenzkosten pro Einheit gesenkt, indem die GPU-Effizienz verbessert wurde.
    Jetzt liegt der Fokus auf dem Ausbau des Modellkatalogs, und Replicate ist dafür ein perfektes Puzzlestück.
    Replicate verfügt über Infrastruktur für große Modelle und Fine-Tuning-Tools und passt daher gut zu Cloudflares Worker AI.
    Da Replicate als eigenständige Marke erhalten bleiben soll, beruhigt mich das.

• Ich frage mich, ob Cloudflare das Cog-Projekt von Replicate (github.com/replicate/cog) weiter unterstützen wird. Es war nützlich für lokale Modelldeployments.

  • Als ich es selbst ausprobiert habe, hatte es fast keine der erwarteten Vorteile, und am Ende blieben eher Probleme mit der Reproduzierbarkeit.

• Wirkt wie eine sehr kluge Übernahme. Ich erwarte eine enge Integration zwischen Cloudflare Workers und der Replicate API.

• Ich mag beide Unternehmen.
  Replicate hat es leicht gemacht, verschiedene AIs für Prototyping zusammenzubringen, und ich glaube, dass Cloudflare dieses Potenzial noch besser ausschöpfen kann.