- OpenAI hat mehr Nutzung als alle anderen Modellanbieter, einschließlich Google und Anthropic
- Diese Unternehmen sammeln große Datenmengen, darunter Nutzer-Prompts sowie explizites und implizites Feedback, um das Training künftiger Modelle zu unterstützen
- Die wichtigsten Vorteile dieser Unternehmen sind die Skalierbarkeit ihrer Infrastruktur und die Qualität ihrer Services
- Die Kosten für die Nutzung von OpenAI zum Fine-Tuning von GPT-3.5 sind 3- bis 8-mal niedriger als die Miete einer Amazon-p4d.24xlarge-Instanz
- In den Kosten von OpenAI enthalten sind das Training und die Speicherung der Modellgewichte, der Aufbau und Betrieb der Fine-Tuning-Infrastruktur sowie das nötige Fachwissen, um Tausende GPUs zu verwalten
- Die Aussage ist, dass es für die meisten Organisationen wegen des nötigen Zeit-, Personal- und Finanzaufwands nicht sinnvoll ist, eigene Open-Source-LLM-Deployments zu betreiben
- Open-Source-Modelle müssen die Kosten, die Komplexität und den Zeitaufwand für ihre Anpassung und ihren Betrieb weiter deutlich senken
- Selbst wenn die Preise am Ende steigen, werden große LLM-Anbieter wie OpenAI den Markt wohl dominieren, weil sie dank extremer Skaleneffekte Modelle bereitstellen können
5 Kommentare
Ich dachte beim Lesen nur des Titels, dass es viel zu einfach wäre, OpenAI im Wettbewerb zu schlagen, aber als ich den Originaltext gelesen habe, war gemeint, dass die Kosten zu niedrig sind, um OpenAI im Wettbewerb zu schlagen .. hahaha
Titel und Inhalt sagen doch genau das Gegenteil aus … wie kann man das nur so verstehen?
Die KI hat die Übersetzung seltsam gemacht, daher habe ich sie manuell leicht überarbeitet.
Ursprünglich lautete der Titel: „Was OpenAI schlagen kann, ist zu billig.“
hahaha