23 Punkte von xguru 2024-12-30 | 2 Kommentare | Auf WhatsApp teilen
  • Zusammengefasste Kurzfassung und zusätzliche Erläuterungen des Reports von 2025 (90 Folien)
  • „In meinem Leben gab es genau zwei revolutionäre Tech-Demos: GUI und ChatGPT – Bill Gates“
  • OpenAI wird mit einer geschätzten Bewertung von 157 Mrd. USD bewertet (Microsoft brauchte 20 Jahre)
    • ChatGPT hat mit beispielloser Geschwindigkeit das Bewusstsein des Mainstreams erreicht
    • Das Interesse ist groß, aber die Einsatzmöglichkeiten sind begrenzt, und viele empfinden es noch nicht als nützlich
    • Am Markt wird bereits darüber gesprochen, ob der Nutzen im Verhältnis zu den Investitionen ausbleibt
  • Im Hype Cycle braucht es Zeit, bis das „Plateau of Productivity“ erreicht wird
  • Der nächste Plattformwechsel ist „Generative AI“
    • Mainframe → PCs / SQL → Web / Open Source → Smartphones / Cloud → Generative AI
  • Aber noch ist alles offen, und niemand kennt die Antwort
    • How far will this scale?
    • How is this useful?
    • How do we deploy this?

How far will this scale? Wie weit lässt sich das skalieren?

  • Werden LLMs immer größer (Scaling)? Werden LLMs „alles“ machen?
  • Scaling ist schwierig
    • Diese Modelle zu vergrößern bringt viele Herausforderungen mit sich und wird Zeit brauchen
      • GPUs und Strom, Trainingsdaten, Betrieb und Engineering, und die Frage, ob die Ergebnisse tatsächlich besser werden
    • Stand heute bleibt nichts anderes übrig, als weiter zu investieren (ansonsten könnte man die wichtigste Technologie der nächsten 10 bis 15 Jahre verpassen)
    • „Wir haben keinen Burggraben – Google“
    • „Die Modelle, die wir derzeit trainieren, kosten fast 1 Mrd. USD, und 2025/2026 werden es eher 5 oder 10 Mrd. USD sein – CEO von Anthropic“
    • „Die Rechenleistung, die zum Training von Llama 4 nötig ist, ist mehr als zehnmal so hoch, und künftige Modelle werden weiter darüber hinaus wachsen – Mark Zuckerberg“
  • Wenn der Burggraben „Kapital“ ist, dann kann Nvidia die Nachfrage derzeit nicht decken
  • Die Capex der Big Four (Meta, Alphabet, AWS, MSFT) lagen 2023 bei 90 Mrd. USD, 2024 bei 220 Mrd. USD. 2025 werden sie weiter steigen
  • Alles verändert sich schnell, während sich der technische Fortschritt direkt unter unseren Füßen vollzieht
    • Damit sich AI weiterentwickeln kann, ist ein Gleichgewicht zwischen Ergebnissen (bessere Resultate), Richtung und Ressourceneffizienz (Trainingskosten, Inferenzkosten, CO2-Fußabdruck) entscheidend
  • „Das Consumer-Internet-Modell ‚gratis starten, viral wachsen und später über Monetarisierung nachdenken‘ passt nicht zur heutigen Kostenstruktur großer Sprachmodelle (LLMs).“
    • Traditionell hatte Software hohe anfängliche Entwicklungskosten, aber fast keine Kosten für Kopie oder Distribution, also nahezu keine „Grenzkosten“
    • LLMs benötigen beim Training und bei der Inferenz enorme Rechenressourcen (Strom, Server usw.), und mit steigender Nutzerzahl steigen auch die Kosten erheblich
    • Eine Strategie, große Nutzerzahlen über ein kostenloses Angebot zu gewinnen, ist nicht nachhaltig, wenn kein Monetarisierungsmodell etabliert ist
    • Das heißt: Von Anfang an braucht es eine klare Strategie zur Kostendeckung
  • „Jeder in der Tech-Industrie verschenkt das Geschäftsmodell von jemand anderem.“
    • Wenn Geschäftsmodelle oder Kerntechnologien von Wettbewerbern oder anderen Organisationen als Open Source oder in anderer freier Form verfügbar werden, verliert die exklusive Wettbewerbsposition einzelner Unternehmen an Stärke
    • Indem Meta wichtige technologische Assets wie AI-Modelle als Open Source veröffentlicht, werden diese Technologien zu gemeinsamer Infrastruktur, die jeder nutzen kann
    • Apple fördert über Edge-Computing-Technologien die direkte Ausführung von AI-Modellen auf Endgeräten. Statt AI auf zentralen Servern laufen zu lassen, werden Modelle eher wie einfache API-Aufrufe behandelt, was den Kommerzialisierungswert der Technologie senkt
  • Der Modellboom 2023–2024: Wähle zwei von drei – gut, schnell, günstig

How is this useful? Wie nützlich ist das?

  • 2013: Machine Learning begann, Menschen/Hunde/Stühle zu unterscheiden. „Clever – und jetzt?“
  • 2023: Ist generatives ML wie ChatGPT nützlich? „Clever – und jetzt?“
  • Die Fehlererkennung ist noch eingeschränkt. Für einen wirksamen Umgang mit Fehlern braucht es einen ausgewogenen Ansatz auf allen Ebenen
    • Eine zusammengesetzte Aufgabe aus wissenschaftlichen Problemen (Modellverbesserung), Definition von Use Cases und Produktdesign (Verbesserung der UX)
  • „Wie sind LLMs im Jahr 2024 nützlich?“
    • LLMs sind im Kern probabilistische Systeme zur Vorhersage des nächsten Wortes
    • Der aktuelle Stand: nützlich für Zusammenfassung und Synthese von Informationen, aber noch schwach bei komplexem Schlussfolgern
    • LLMs haben das Potenzial, neue Arten von Arbeit zu automatisieren, aber um das vollständig zu verstehen und zu definieren, braucht es mehr Exploration
  • VisiCalc war das erste elektronische Tabellenkalkulationsprogramm der Welt und verkürzte Rechenarbeit von 20 Stunden auf 15 Minuten
    • Ein Anwalt könnte das sehr innovativ und intelligent finden, aber trotzdem das Gefühl haben, dass es für die eigene Arbeit nicht relevant ist
    • Solche Anwendungsfälle nehmen jedoch zu
      • Beim Programmieren, Marketing, Kundenservice und anderen Aufgaben mit klar erkennbarem Bedarf entsteht sofortiger Mehrwert
  • „Man muss bei der Kundenerfahrung anfangen und sich von dort zur Technologie zurückarbeiten. – Steve Jobs“

How do we deploy this? Wie bringen wir das in den Einsatz?

  • Der typische Ablauf bei der Einführung neuer Technologien
      1. Absorb (integrieren): Neue Technologie wird zu einer Funktion und bestehenden Geschäfts- oder Produktfunktionen hinzugefügt
      1. Innovate (innovieren): Auf Basis der neuen Technologie werden innovative Ideen oder Produkte entwickelt. Startups nutzen dies oft zur Entbündelung
      1. Redefine markets (Märkte neu definieren): Neue Technologien können die Grenzen bestehender Märkte auflösen und völlig neue Märkte schaffen. Das ist schwer vorherzusagen, und erfolgreiche Beispiele sind selten
  • Standardfragen, die Unternehmen bei der Einführung neuer Technologien stellen
    • „Buy versus build?“ (kaufen oder selbst entwickeln?)
    • „Single vendor or multi-vendor?“ (ein einzelner Anbieter oder mehrere Anbieter?)
    • „Which use cases first? Whose budget?“ (welche Use Cases zuerst? Aus wessen Budget?)
    • „Opex or capex? What’s the EPS impact?“ (Betriebskosten oder Investitionsausgaben? Welche Auswirkungen hat das auf den Gewinn je Aktie (EPS)?)
  • Die Zukunft kann lange dauern
    • Cloud ist ein altes und fast schon langweiliges Wort, macht aber noch immer nur 30 % aller Workflows aus
    • 2024 hat ein Viertel der CIOs etwas auf LLM-Basis eingeführt, aber die Hälfte plant auch im nächsten Jahr nichts in diese Richtung
  • Neue Plattformen bedeuten aber auch neue Werkzeuge
    • SaaS-Anbieter dehnen Automatisierung massiv aus und entbündeln Workflows aus SAP, Excel und E-Mail
  • „Es gibt zwei Wege, Geld zu verdienen: bündeln oder entbündeln. – Jim Barksdale“
  • Was wäre, wenn LLMs alles erledigen könnten? Wenn sich Modelle weit genug entwickeln, könnten wir dann viel weniger Software brauchen?
    • Wenn LLMs bei bestimmten Aufgaben nicht deutlich besser werden als heute, wird neue Software weiterentwickelt werden müssen
    • Wenn LLMs weiter skalieren und sich weiter verbessern, könnten große Teile der Softwareentwicklung überflüssig werden
      • Das Potenzial einer Entwicklung hin zu einer „General Purpose AI“, die alles erledigt
  • Sind LLMs Infrastruktur? API? Plattform? Eine neue User Experience? Steuern wir LLMs mit logischen Systemen oder logische Systeme mit LLMs?
    • LLMs können als einfache API genutzt werden, oder sie etablieren sich als vollständige Plattform, während alles andere zur API wird
    • Mit dem technischen Fortschritt und der Skalierbarkeit wird sich die Rolle von LLMs weiterentwickeln
  • Zerstören LLMs unser Modell zur Entdeckung von Use Cases? Wenn alles dieselbe UX hat, wie erfinden Unternehmer dann neue Anwendungsfälle und neue Formen des Selbstausdrucks?
    • In der traditionellen Softwareentwicklung stellen sich Startups und Unternehmen konkrete Use Cases vor und erfinden sie
    • Wenn LLMs so weit kommen, dass sie alle Use Cases abdecken und automatisieren, könnte der Bedarf an traditioneller Softwareentwicklung sinken
    • Wenn LLMs zum Zentrum der UX werden, müssen Nutzer womöglich selbst neue Use Cases imaginieren und erfinden
      • Ein Paradigmenwechsel in Softwareentwicklung und UX-Design
  • „AI“ neigt dazu, zu „Automatisierung“ zu werden.: As technology matures, it disappears (Wenn Technologie reift, verschwindet sie.)
    • AI! → Smart → Auto → Just software
  • Drei Modelle für LLM-Produkte?
    • Neue Funktionen in bestehende Anwendungen einbauen: „Formuliere meine E-Mail um, fasse die Reviews zusammen“
    • Neue Werkzeuge: „Analysiere und fasse 500 Finanzberichte zusammen“
    • General Purpose AI: „Kauf mir ein Haus“
  • Vielleicht gibt es auf jede AI-Frage nur eine von zwei Antworten.
    • „Es wird sich wie jeder andere Plattformwechsel entwickeln.“
    • „Niemand weiß es“

Meanwhile...

  • Von der Vision zur Umsetzung: Was ist bereits groß, was wird gerade gebaut und was kommt als Nächstes?
    • In den frühen 2000ern war E-Commerce die große Innovationsidee: „Menschen werden Dinge online kaufen“
    • In den 2010ern standen Ideen wie SaaS (Software as a Service), Automatisierung, Kollaborationstools und Workflow-Management im Fokus
    • Mit Blick auf 2030 etabliert sich Generative AI als neue Vision
  • Meta arbeitet immer noch am Metaverse (VR & AR). Bislang wurden mindestens 60 Mrd. USD investiert, davon 17,4 Mrd. USD allein in den letzten 12 Monaten
  • E-Commerce ist im Wesentlichen unverändert geblieben (mit Ausnahme der COVID-Zeit). Es ist die langweiligste Kurve im gesamten Tech-Chart
  • Amazon entbündeln: Das GMV (Gross Merchandise Volume) von Shopify hat 270 Mrd. USD überschritten. Das entspricht 35 % des Amazon-GMV
  • Amazons Werbeumsatz steigt weiter. Der Cashflow ist höher als im Retail-Geschäft bzw. bei AWS
  • Software eats media: neue Kanäle, neue Modelle, neue Bundles
    • Softwarezentrierte Medienplattformen wie YouTube und TikTok erzielen Umsätze auf dem Niveau traditioneller Medien und steigen zu Schwergewichten des Medienmarkts auf
    • Große traditionelle Medienunternehmen wie Disney erwirtschaften weiterhin starke Umsätze, stehen aber dem hohen Wachstumstempo von Softwareplattformen gegenüber
    • Neue Medienformen wie Streaming (Netflix) fordern das traditionelle, von Kabel und Rundfunk geprägte Modell heraus
    • Traditionelle Medien versuchen, ihre Wettbewerbsfähigkeit über Content-Bibliotheken und exklusive Inhalte zu halten, während Softwareplattformen werbefinanzierte und abonnementsbasierte Modelle kombinieren, um ihre Umsätze zu maximieren
  • Software eats cars? Nach jahrzehntelangen Versprechen und Investitionen in zweistelliger Milliardenhöhe könnte autonomes Fahren nun tatsächlich zu funktionieren beginnen
    • Die Zahl der Robotaxi-Fahrten wächst stetig. Die Autoindustrie wandelt sich zu einem softwarezentrierten Servicegeschäft
  • Werden Autos zu Software? BEVs nähern sich 10 % der Gesamtverkäufe, aber wer gewinnt? Läuft dieser Prozess wie bei Android ab?
    • Battery Electric Vehicles machten 2023 rund 10 % des gesamten Autoabsatzes aus und werden zur Mainstream-Technologie
    • Unternehmen wie Tesla verwandeln BEVs von bloßen Fahrzeugen in softwarezentrierte Produkte. Das deutet darauf hin, dass sich rund um BEVs ein softwarezentriertes Ökosystem ähnlich wie bei Smartphones bilden könnte