7 Punkte von GN⁺ 2024-10-01 | 3 Kommentare | Auf WhatsApp teilen
  • „Sie können nur überleben, wenn der Markt irrational bleibt“

Irgendetwas läuft falsch

  • Der Aufbau großer Sprachmodelle ist sehr teuer
    • OpenAI gibt pro Jahr 7 Milliarden US-Dollar für Forschung, neue AI-Dienste und die Einstellung von Mitarbeitern aus
    • Es wird erwartet, dass Anthropic dieses Jahr ebenfalls 2,7 Milliarden US-Dollar ausgeben wird
    • Auch Facebook investiert Milliarden US-Dollar
  • Es wird nicht billiger werden
    • Mit der Weiterentwicklung der Modelle wird die Forschung schwieriger, und auch die benötigte Rechenleistung steigt
    • Um neue Modelle zu entwickeln, sind mehr und schwierigere mathematische Berechnungen nötig
  • Trotz der Kosten bauen die Menschen weiter neue Modelle
    • Sie glauben, dass LLMs das nächste goldene Zeitalter der Technologie sind, und werden daher weiter investieren
    • Es liegt in der menschlichen Natur, alles schneller, höher und leistungsfähiger machen zu wollen
  • Wenn die Branche weiterhin neue Modelle entwickelt, sinkt der Wert bestehender Modelle schnell
    • Wenn ein Wettbewerber ein besseres neues Modell veröffentlicht, kann man mit nur ein paar Zeilen Code wechseln
    • Um kontinuierlich attraktive LLMs zu verkaufen, muss man an der Spitze bleiben
  • Selbst wenn die Branche keine neuen Modelle mehr entwickelt oder die Technologie ein Plateau erreicht, sinkt der Wert alter Modelle schnell
    • Es gibt einige Open-Source-Modelle wie Llama und Mistral, die im schlimmsten Fall nur ein oder zwei Schritte hinter den besten proprietären Modellen liegen
    • Wenn proprietäre Modelle keine Fortschritte mehr machen, werden Open-Source-Modelle diese Lücke schnell schließen
  • Daher haben OpenAI, Anthropic oder andere AI-Anbieter im Grunde zwei Optionen
    • Die erste ist, enorme Summen zu investieren, um dem Markt voraus zu bleiben. Das wirkt jedoch sehr riskant:
      • Die Kosten für den Bau solcher Modelle dürften weiter steigen, die klügsten Mitarbeiter könnten das Unternehmen verlassen, und man möchte das Geschäft womöglich nicht darauf verwetten, immer als erstes den nächsten Durchbruch zu erzielen
      • Technische Expertise ist nur selten ein dauerhafter Burggraben
    • Die zweite ist ... unklar
      • Sich bei der ersten Option einfach noch mehr anzustrengen?

Prognose zur aktuellen Lage

  • Vor 18 Monaten gab es die Vorhersage, dass LLM-Anbieter die Cloud-Anbieter der nächsten Generation werden würden
    • Oberflächlich betrachtet wirkt das ähnlich, weil der Aufbau enorme Geldsummen erfordert, aber es gibt wichtige Unterschiede
    • Cloud-Anbieter lassen sich nicht über Nacht aufbauen
    • Kleine Teams können jedoch innerhalb weniger Monate das Kerngeschäft von OpenAI bedrohen
  • Worin besteht der Burggraben von LLM-Anbietern?
    • Marke, Trägheit, bessere Anwendungen oder der Einsatz enormer Summen, um Modelle besser als die Konkurrenz zu halten
    • AI-Unternehmen sind jedoch ein Extrembeispiel für einen Markt, der Softwareentwicklungskosten fälschlich als Vorabinvestition einstuft
    • Für kleine Unternehmen ist es schwierig, wie Großkonzerne dauerhaft Milliardenbeträge zu investieren

Die Bedeutung des Timings

  • In diesem Markt könnte Timing der wichtigste Faktor sein
  • Irgendwann wird der Hype verschwinden, und die Menschen werden keine Finanzierungsrunden dieser Art mehr einsammeln können
  • Und der Gewinner wird nicht derjenige sein, der am schnellsten gelaufen ist oder zuerst die Ziellinie erreicht hat, sondern derjenige, der in Führung lag, als der Markt entschied, dass das Rennen vorbei ist

Meinung von GN⁺

  • Es stellt sich die Frage, ob das Geschäftsmodell von AI-Unternehmen überhaupt nachhaltig ist
    • Die Entwicklung von Modellen ist extrem kostspielig, und diese Kosten werden voraussichtlich weiter steigen
    • Das Tempo des technischen Fortschritts ist so hoch, dass ältere Modelle schnell nutzlos werden
    • Um daher Modelle auf Spitzenniveau zu halten, sind kontinuierlich enorme Investitionen nötig
  • Auch Open-Source-AI-Modelle entwickeln sich schnell weiter, sodass der Abstand zu kommerziellen Modellen kleiner werden dürfte
    • Stable Diffusion, Llama und Mistral sind typische Beispiele
    • Wenn Unternehmen aufhören, neue Modelle zu entwickeln, wird Open Source bald aufschließen
  • Bei der Entwicklung von AI-Technologie haben große IT-Konzerne gewisse Vorteile
    • Google, Microsoft und Meta können dank ihrer enormen Finanzkraft kontinuierlich investieren
    • Sie können ihre hohe Markenbekanntheit und ihre bestehende Kundenbasis nutzen
  • Dagegen dürfte es für nachrückende Startups schwer sein, allein mit technischer Stärke zu überleben
    • Selbst wenn sie anfangs große Investitionen erhalten, bleibt die Sicherung kontinuierlicher Finanzierung der entscheidende Punkt
    • Wenn die Blase platzt, wird es schwierig, weiteres Kapital einzuwerben
  • Das Timing des Marktes ist entscheidend, und wahrscheinlich wird das Unternehmen gewinnen, das an der Spitze steht, wenn die Euphorie nachlässt

3 Kommentare

 
aasfdkdk 2024-10-02

Dass OpenAI bewusst ein Verlustgeschäft betreibt, um den Markt zu monopolisieren, ist ein großer Faktor. OpenAI kann sich ohnehin jedes Mal, wenn das Geld knapp wird, neue Investoren holen und erhält dabei aus aller Welt Anfragen, aber alle anderen Unternehmen gehen dabei zugrunde.

 
kandk 2024-10-02

Ist das nicht ein gigantisches Chicken Game?
Am Ende gehen doch alle unter, und nur ein einziges gigantisches Modell überlebt und monopolisiert den Markt..

 
GN⁺ 2024-10-01
Hacker-News-Kommentare
  • Meinung eines Leiters eines AI-Forschungsteams

    • Damit AI wirtschaftlichen Wert schaffen kann, muss sie mit der realen Welt verbunden sein
    • Derzeit mangelt es an Ideen, wie sich Modelle wie GPT-4 maximal nutzen lassen
    • AI hat Schwierigkeiten, menschliche Absichten zu verstehen
    • Wenn Open-Source-Modelle das Niveau von GPT-4 erreichen, gibt es keinen besonderen Grund mehr, OpenAI oder Anthropic zu nutzen
  • Die S-Kurve technologischer Innovation

    • Derzeit befinden wir uns in der Mitte einer steilen S-Kurve technologischer Innovation
    • Nicht nur die Technologie, sondern auch Mitarbeiterbindung, Geschäftsbeziehungen, Marketing und weitere Faktoren sind der Schlüssel zum Erfolg
    • Hervorragende Umsetzung ist in allen Bereichen erforderlich
  • Der Bedeutungswandel von AI

    • Wenn eine als AI gestartete Technologie allgemein verbreitet wird, wird sie nicht mehr als AI bezeichnet
    • Beispiele: logische Programmierung, OCR, Spracherkennung usw.
  • Methoden zur Monetarisierung von AI

    • Für Verbraucher: Suche und Werbung nach dem Vorbild von Google
    • Für Unternehmen: Bereitstellung von APIs nach dem Vorbild von AWS
    • Unternehmen, die die OpenAI API nutzen, entwickeln sich weiterhin und haben keinen Grund zu wechseln
  • Eine Situation ähnlich der Frühphase des Ridesharings

    • In der Anfangszeit wurde viel Kapital in eine kleine Zahl von Unternehmen investiert
    • Das Unternehmen mit dem meisten Kapital wird voraussichtlich gewinnen
    • Auch im AI-Markt werden kapitalstarke Unternehmen im Vorteil sein
  • Differenzierungsmerkmale von Modellen

    • Modelle unterscheiden sich nicht nur in der Leistung, sondern auch in Sicherheit, UX, Multimodalität, Zuverlässigkeit und Einbettbarkeit
  • Phase der Marktverwirrung

    • Verschiedene Services erhalten Finanzierung und sorgen für Unruhe im Markt
    • Für Verbraucher bringt das mehr Vorteile
  • Problem der Modelloptimierung

    • Sprachmodelle können schon mit wenigen Trainingsdurchläufen Leistung zeigen
    • Statt massive Computing-Ressourcen einzusetzen, ist es wichtig, effiziente Trainingsmethoden zu finden
  • Austauschbarkeit von Produkten

    • AI-Modelle als allgemeine Werkzeuge lassen sich leicht austauschen
    • Je intelligenter ein Modell ist, desto höher ist seine Austauschbarkeit