1 Punkte von GN⁺ 4 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Da Unternehmen sich von einzelnen Modell-Pilotprojekten zu Multi-Modell-Produktionssystemen bewegen, wächst der Bedarf an einer Routing- und Gateway-Schicht
  • OpenRouter ist die Schicht zwischen Agenten und Modellanbietern und übernimmt Routing, Zuverlässigkeit, Kostenoptimierung und Compliance
  • In den letzten 6 Monaten stieg der wöchentliche Durchsatz von 5 Billionen Tokens auf 25 Billionen Tokens; beim aktuellen Wachstumstempo wird für dieses Jahr ein Durchsatz von über 1.000 Billionen Tokens erwartet
  • Derzeit unterstützt das Unternehmen mehr als 8 Millionen Entwickler, die für über 400 Modelle entwickeln, und trägt so den Übergang von AI zu produktiven Apps und Agenten
  • Das Kapital wird für den Ausbau der Infrastruktur, die Stärkung von Enterprise-Funktionen und Investitionen in intelligentes Routing verwendet, um die Basisschicht des Multi-Modell-AI-Zeitalters aufzubauen

113 Millionen US-Dollar Series B

Wachstumskennzahlen und Nutzungsumfang

  • Der wöchentliche Durchsatz von OpenRouter stieg in den letzten 6 Monaten von 5 Billionen Tokens auf 25 Billionen Tokens
  • Beim aktuellen Tempo wird für dieses Jahr ein Durchsatz von über 1.000 Billionen Tokens erwartet
  • OpenRouter unterstützt mehr als 8 Millionen Entwickler, die für über 400 Modelle entwickeln
  • Da AI sich von der Experimentierphase hin zu produktiven Apps und Agenten bewegt, steigt die Nachfrage nach Infrastruktur, die über Anbieter, Modalitäten und Anwendungsfälle hinweg zuverlässig funktioniert

Übergang zu Multi-Modell-Production

  • Da Organisationen von einzelnen Modell-Pilotprojekten zu Multi-Modell-Produktionssystemen übergehen, wird eine Routing- und Gateway-Schicht benötigt, die diese Komplexität bewältigt
  • OpenRouter ist die Schicht zwischen Agenten und Modellanbietern und übernimmt Routing, Zuverlässigkeit, Kostenoptimierung und Compliance
  • Die Zusammensetzung dieser Investorenrunde ist stark von Infrastruktur- und Plattformunternehmen geprägt und zeigt, dass sich diese Schicht als wichtiger Bestandteil des AI-Stacks etabliert

Wichtige Funktionen

  • Multimodales Inferenzieren

  • Enterprise-Kontrollen

  • Intelligentes Routing

    • Es bietet Anbieter-seitiges Failover, Optimierung von Kosten und Latenz sowie qualitätsbewusstes Routing, das über einfaches Load Balancing hinausgeht

Nächste Pläne

  • Die Mittel werden für den Ausbau der Infrastruktur, die Stärkung von Enterprise-Funktionen und weitere Investitionen in intelligentes Routing verwendet
  • OpenRouter plant, den Ausbau der Infrastrukturschicht für das Multi-Modell-AI-Zeitalter fortzusetzen, die dabei hilft, für jede Anfrage das passende Modell und den passenden Anbieter zu finden

1 Kommentare

 
GN⁺ 4 시간 전
Hacker-News-Kommentare
  • Es hat ziemlich lange gedauert, bis ich OpenRouter angenommen habe. Anfangs verstand ich nicht, warum man noch einen weiteren Proxy vor ein LLM setzen sollte, aber in der Praxis bringt das ziemlich viel Mehrwert

    1. Es verursacht am wenigsten Reibung, wenn man alle Modelle unterstützen und ausprobieren will
    2. Es bietet ein Zahlungslimit. Wenn man es an einen öffentlichen Dienst anschließt, ist ein hartes Limit sehr nützlich, um zu verhindern, dass jemand es missbraucht und über Nacht 1 Million Dollar verbrät
    3. Das Ranking hat zwar Mängel, ist aber ein interessantes Signal dafür, welche Modelle beliebt sind. Es gibt allerdings die Einschränkung, dass die Mehrheit der OpenAI-/Anthropic-Nutzer nicht über OpenRouter geht und es schwer ist zu unterscheiden, ob viele Nutzer gewechselt sind oder nur ein einzelner großer Kunde
      In einer Situation, in der API-Kosten bei mehreren Unternehmen auf ein relevantes Niveau anwachsen, wirken Services wie OpenRouter wertvoll, weil sie Ausgaben messbar machen und das Experimentieren mit sowie den Wechsel zwischen Anbietern erleichtern
    • Ein weiterer Pluspunkt ist, dass der stündliche Cache-Status für alle Modell-/Anbieter-Kombinationen offengelegt wird. Darauf aufbauend habe ich die Anbieter-Rangliste untersucht und festgestellt, dass ein erheblicher Teil des Open-Source-basierten Drittanbieter-Hostings einfach ganz unten landet https://dirac.run/posts/cache-hit-rates-agents
    • Zumindest für mich ist die größte Reibungsreduktion im Unternehmensumfeld die konsolidierte Abrechnung, weil sie zusätzliche Bürokratie vermeidet. API-Transformation/Abstraktion schafft meist mehr Probleme, als sie löst
      Ich würde es bevorzugen, die Abrechnung zu konsolidieren, aber die Anbieter-APIs direkt nutzbar zu lassen oder sie über eine Art „rohen HTTP“-Proxy zugänglich zu machen. Konsolidierte API-Gateways gibt es viele, aber ich habe noch kein Produkt gesehen, das vor native Anbieter-APIs nur Abrechnung/Authentifizierung setzt
    • Wusstet ihr, dass Guthaben auf einem OpenAI-Konto nach einem Jahr verfällt? Als ich das selbst erlebt habe, verschwand es wie Promo-Guthaben, ohne Erstattung oder Warnung, und das war extrem frustrierend
      OpenRouter ist gut, weil es eine Barriere zwischen Anbietern und Nutzern schafft, obwohl sich die Anbieter eigentlich wie ein Utility-Service verhalten sollten. Wenn man OpenAI einfach machen lässt, fühlt es sich an, als würden sie sich wie ein Telekommunikationsanbieter verhalten
    • Gute Punkte. Einfaches Experimentieren hilft bei der Entwicklung, aber wenn der Umfang wächst, würde ich aus Preisgründen vorsichtig empfehlen, auf die direkte API umzusteigen
      OpenRouter ist auch ein guter Ort, um kostenlosen LLM-Zugang zu finden, aber mit Vorbehalt. Man sollte davon ausgehen, dass Ein- und Ausgaben in irgendeiner Trainingsdatenbank landen. Wenn man es sich leisten kann, sollte man bezahlte Modelle mit Datenschutz nutzen, aber kostenlose Modelle waren großartig zum Lernen und Experimentieren. Besonders für junge Lernende ohne Kreditkarte oder Geldmittel ist das gut, um API-Programmierung und LLMs zu lernen
    • Derzeit macht OpenRouter bei DeepSeek V4 das Caching kaputt, obwohl Caching bei V4 ein zentrales Preis-Feature ist
      https://news.ycombinator.com/item?id=48319827
  • Ich bin Mitgründer und COO von OpenRouter. Es gibt viele Fragen dazu, warum wir Kapital aufgenommen haben
    Zunächst einmal ist OpenRouter weiterhin ein gründergeführtes und von den Gründern kontrolliertes Unternehmen, und wir wollen ein gutes Produkt für Builder auf der ganzen Welt schaffen und langfristig bestehen. Im Kern sind wir Bastler, die einfach gern Dinge bauen, und wenn wir mit AI etwas entwickeln, versuchen wir das zu bauen, was wir selbst nutzen möchten
    Was die Finanzierung angeht, glaube ich, dass starke Unternehmen eine solide Bilanz haben sollten. Wir verwalten Ausgaben in großem Umfang und haben im gesamten Ökosystem erhebliche Ausgabenverpflichtungen. Genug Cash zu sichern, um alles zu überstehen, was als Nächstes passiert, ist verantwortungsvolle Risikoreduktion und macht das Unternehmen sehr widerstandsfähig
    Außerdem ist es ein Signal an große Kunden und Anbieterpartner, dass wir langfristig weiter Dienst leisten und Rechnungen bezahlen können. Wir brauchen kein Venture-Kapital, um weiter zu skalieren, und das Geschäft ist tatsächlich gesund, aber wenn man die 100 Millionen Dollar wirklich braucht, ist es zu spät, erst dann Kapital aufnehmen zu wollen
    Auch für aktuelle und zukünftige Mitarbeiter ist es eine gute Bestätigung, dass der Wert, den wir gemeinsam schaffen, real ist. Wir nehmen auch die Pflicht ernst, Rendite für Investoren zu erwirtschaften, und haben das Privileg, wählen zu können, mit wem wir arbeiten. Das wird in der Startup-Branche insgesamt nicht oft genug thematisiert, ist meiner Meinung nach aber wichtig

    • Wofür will OpenRouter die 100 Millionen Dollar verwenden? Du hast gesagt, das mache „das Unternehmen sehr widerstandsfähig“ und sei „eine gute Bestätigung für die Mitarbeiter“, aber es scheint, als gäbe es interessantere Dinge, die man mit 100 Millionen Dollar tun könnte
    • Ich mag das Produkt. Konsolidierte Abrechnung/Authentifizierung löst einen großen Schmerzpunkt, danke dafür
      Mehr als die Finanzierung interessiert mich die langfristige Strategie. Wo seht ihr OpenRouter in 3 bis 5 Jahren, und auf welche Produktwette freut ihr euch derzeit am meisten? Denkt ihr nach dieser Finanzierungsrunde auch an eine Expansion in angrenzende Bereiche?
    • Kann man rohen Zugriff auf Anbieter-APIs behalten und trotzdem die konsolidierte Abrechnung erhalten? Eine konsolidierte API ist großartig, wenn sie gut funktioniert, aber bei ungewöhnlichen Anwendungsfällen oder neuen API-Features sorgt sie oft für Reibung
    • Für mich ist die größte fehlende Funktion die Kennzeichnung von Anbietern ohne Datenspeicherung und die Möglichkeit zu beurteilen, ob ein Modell zu meinen selbst definierten Regeln passt. Aktuell gibt es keine Möglichkeit, Anbieter auszublenden, die nicht zu ZDR-Regeln passen
    • Ich habe OpenRouter kurz ausprobiert. Ich habe das Produkt vor etwa einem Jahr getestet, konnte aber über OpenRouter bei Googles Gemini-Modellen keine strukturierten Ausgaben erhalten
  • Aus Sicht von jemandem, der OpenRouter viel nutzt: Vor ein paar Tagen habe ich zwar unbeabsichtigt auch noch einen benachbarten Werbepost geschrieben https://news.ycombinator.com/item?id=48317294, aber um neue Modelle zu testen, ohne sich mit den unterschiedlichen APIs der einzelnen Anbieter herumzuschlagen – ein Problem, das sich in letzter Zeit immer wiederholt –, ist es definitiv der beste Weg
    Allerdings verstehe ich Leute nicht so ganz, die ein komplettes Agent-Backbone mit teuren Modellen wie Claude Opus über OpenRouter laufen lassen. Bei diesem Kostenniveau fallen die 5 % Gebühren deutlich ins Gewicht, daher ist es besser, die API des ursprünglichen Anbieters zu nutzen. Trotzdem wird es offensichtlich genutzt, und das ist reiner Umsatz

    • So etwas scheint mir besser als Open-Source-Bibliothek umsetzbar, für die die Anbieter Support-Patches bereitstellen. Ich verstehe nicht, warum dafür ein Unternehmen als Proxy fungieren muss und warum ich nicht einfach eine relativ simple dünne Schicht auf meiner eigenen Maschine laufen lassen sollte
      Selbst aus Sicht eines dummen Systemprogrammierers, der innerhalb der KI-Branche arbeitet, verstehe ich, dass es viel scheinbar unnötige Software gibt, die ein bisschen Bequemlichkeit gegen Geld verkauft. Ist OpenRouter einfach auch so etwas? Ich frage mich, ob sie die Modelle selbst hosten oder nur die Abrechnung mehrerer Anbieter zentralisieren
    • Im Moment gibt es viel dumme Token-Ausgaben. Es gibt sogar einen Trend, Token möglichst großzügig zu verbrauchen. Wegen dieser Stimmung der Angst, abgehängt zu werden, werden die wirtschaftlichen Kosten von Token nicht sorgfältig bewertet. Aber die Leute fangen an, das zu erkennen, und diese Ausgaben sind nicht nachhaltig, also wird es wieder zurückgehen
    • Die Verfügbarkeit könnte besser sein. Es wird ja an eines von Anthropic, Amazon Bedrock, AWS’ Claude Platform, Google Vertex Europe oder Google Vertex weitergeleitet
    • Für gebündelte Abrechnung und Nutzungslimits 5 % mehr zu zahlen, ist okay. Es ist einfach leichter
    • Bequemlichkeit hat ihren Aufpreis
  • Bedeutet das „Open“ in OpenRouter dasselbe wie das „Open“ in OpenAI? Ich konnte weder ein Repository noch gehosteten Code finden. Ich dachte, es sei ein Open-Source- und selbst hostbares Tool mit einem Cloud-Produkt obendrauf, aber es scheint nur Letzteres zu geben

    • Ich dachte auch, es sei Open Source, aber als ich nachgesehen habe, war es das nicht. Der Grund für „Open“ soll sein, dass zu offenen Modellen von Drittanbietern geroutet wird. Ist das wieder so eine billige VC-Zwischenschicht
    • Das Open in OpenRouter ist dasselbe Open wie bei OpenSea. Es ist derselbe Gründer. Wie man das bewertet, muss jeder selbst entscheiden
    • Ehrlich gesagt könnte heute praktisch jeder mit Claude Code in ein paar Nachtschichten so etwas wie OpenRouter bauen
      Es ist einfach ein Proxy
    • Open bedeutet hier eine einheitliche API-Schicht, mit der man unten die Modelle austauschen kann
  • Solange es im LLM-Bereich viele Experimente gibt und das „aktuell angesagte Modell“ zwischen mehreren Frontier-Labs ständig wechselt, dürfte OpenRouter weiter sehr beliebt bleiben
    Sobald sich die Lage zu stabilisieren beginnt, werden sich wahrscheinlich sowohl Frontier-Modelle als auch Open-Source-Modelle konsolidieren. Dann wird der Nutzen von OpenRouter abnehmen. Wenn man 20 Modelle aus 10 Labs ausprobieren will, sind 5 % Overhead absolut lohnend. Wenn man aber nur 5 Modelle von 2 Anbietern braucht und durch Feinabstimmung der API-Optionen jedes Anbieters Kosten sparen kann, wird das schwerer zu rechtfertigen sein

  • Eines der Dinge, die OpenRouter einfacher macht, ist API-Schlüsselverwaltung. Es wäre schön, wenn andere Anbieter Dinge wie neue Schlüssel ausstellen sowie Ablaufdaten/Limits pro Schlüssel ebenfalls anbieten oder einfacher machen würden
    Dafür gibt es viele Einsatzfälle, etwa wenn man KI-/Assistenzfunktionen nach außen teilt. So kann man diese Funktion zwar freigeben, aber den Schaden begrenzen, falls ein Schlüssel geteilt oder für andere Zwecke verwendet wird, und man muss weniger anfällige Umgehungslösungen wie Schutzgeländer nutzen

  • Braucht man wirklich VC-Geld, um einen Proxy vor andere APIs zu setzen? Wofür genau wird es ausgegeben? Marketing? Sie sind doch schon bekannt – was soll da noch vermarktet werden
    Infrastruktur? Braucht man für das Proxien von Requests wirklich mehr Infrastruktur? Man zahlt einfach Cloudflare
    Mehr Engineers einstellen? Aber seid nicht gerade ihr die besten Verkäufer des Schlangenöls, dass Engineers gar nicht mehr gebraucht werden
    Wofür werden also diese 100 Millionen Dollar ausgegeben

    • Man nimmt das Geld, weil man es bekommen kann. Es wirkt als Social Proof und überzeugt Kunden davon, dass man etwas mit tieferem Wert aufbaut. Tatsächlich wird es wahrscheinlich dafür genutzt, Kanäle auszubauen, um Kunden und die von ihnen anvertrauten Daten künftig als Produkt zu verwenden
    • Diese Antwort eines OpenRouter-Mitgründers scheint dazu relevant zu sein: https://news.ycombinator.com/item?id=48340940
  • Eine gute Funktion von OpenRouter, die ich hier noch nicht gesehen habe, ist das Meta-Modell von OpenRouter. Es leitet Prompts automatisch an ein Modell mit passender Leistung weiter
    Dadurch muss man nicht alles an Opus schicken und spart viel Geld, und wenn man etwas Komplexeres fragt, wird es automatisch an Opus geleitet, sodass man auch schlechte Ergebnisse vermeidet

  • „In den letzten sechs Monaten ist der wöchentliche Durchsatz von OpenRouter von 5 Billionen Token auf 25 Billionen Token gestiegen“
    Wow, das sind mehr als 41 Millionen Token pro Sekunde. Für ein kleines Team von insgesamt etwa 48–50 Leuten ist das gewaltig

    • Wenn man annimmt, dass das die Upstream-Tokenkosten sind, und zusätzlich den Multiplikator der verarbeiteten Token pro Anfrage berücksichtigt, könnten es höchstens ein paar tausend Requests pro Sekunde sein. Beeindruckend ist es schon, aber für ein 50-köpfiges Startup-Team, das pro Monat Millionen von Dollar ausgibt, scheint das ungefähr passend
      Würde es genauso beeindruckend wirken, wenn ein E-Mail-Anbieter ein paar tausend Nachrichten pro Sekunde bekäme und diese zur Spam-Erkennung sogar noch upstream weiterleitete? Die Token-Zahl könnte dann sogar höher sein, aber ich vermute, auf HN wäre die Reaktion trotzdem eher verhalten gewesen, egal ob das stimmt oder nicht
      Einerseits zeigt das, wie weit die Branche heute beim Maßstab gekommen ist, andererseits aber auch, wie stark Datenmenge und Verarbeitung selbst bei nominell simplen Anfragen explodiert sind. Trotzdem ist das Team offensichtlich sehr stark, und die Leistung verdient Anerkennung
    • Um ein Gefühl dafür zu bekommen: Wenn man ein Token mit 4 Byte ansetzt, sind das ungefähr 164 MB/s Traffic. So klingt es etwas weniger überwältigend
  • Es wäre interessant, die Finanz-Spreadsheet zu diesem Deal zu sehen. Üblicherweise erwarten Series-B-Investoren fast das Zehnfache an Rendite. Kann OpenRouter eine Bewertung von 1,1 Milliarden Dollar rechtfertigen? Für eine Rolle als „Manager“/Zwischenhändler wirkt das schon sehr hoch. Klar, es ist KI, aber ich bin alt genug, mich noch an Zeiten zu erinnern, in denen jede Dotcom-Firma eine Milliardenbewertung bekam

    • Wenn sie den Großteil der weltweiten Token einfach routen, dann vielleicht schon. Was, wenn irgendwann die Anbieter die 5 % zahlen und OpenRouter mehr vom Infrastruktur-/Routing-Anteil mitnimmt? Es gibt viele Wege, ein 10-Milliarden-Dollar-Unternehmen zu werden
    • Wie immer wird langfristig Nutzerdaten das Produkt sein