2024: Stand der generativen KI in Unternehmen – Menlo Ventures

Vom Pilotprojekt in die Produktion: Beschleunigte AI-Einführung

• 2024 war das Jahr, in dem generative KI zu einer Kernstrategie von Unternehmen wurde
• Ausgaben für KI: von 2,3 Mrd. $ im Jahr 2023 auf 13,8 Mrd. $ im Jahr 2024, mehr als versechsfacht
• 72 % der Unternehmen erwarten, dass die Einführung generativer KI-Tools weiter zunimmt
• Viele Organisationen haben ihre Umsetzungsstrategie noch immer nicht klar definiert, treten aber bereits in die Frühphase eines groß angelegten Wandels ein

Ausgaben für generative KI: Entschlossene Investitionen der Unternehmen

• 60 %: aus Innovationsbudgets finanziert
• 40 %: durch Umwidmung bestehender Budgets, wobei KI in die langfristige Strategie integriert wird
• 4,6 Mrd. $ wurden in generative KI-Anwendungen investiert, ein Anstieg um das Achtfache gegenüber dem Vorjahr
  • Unternehmen identifizieren im Durchschnitt 10 potenzielle Anwendungsfälle, wodurch sich das Einführungstempo erhöht

Wichtige Anwendungsfälle und ROI

1. Code-Copiloten (51 % Einführung)
   • Tools wie GitHub Copilot, Codeium und Cursor steigern die Produktivität in der Entwicklung
2. Support-Chatbots (31 % Einführung)
   • Bieten 24/7-Support: Aisera, Decagon, Sierra u. a.
3. Enterprise Search und Datentransformation (28 % bzw. 27 % Einführung)
   • Nutzen Datensilos über eine integrierte Suche: Glean, Sana u. a.
4. Besprechungszusammenfassungen (24 % Einführung)
   • Fireflies.ai, Otter.ai und Fathom verbessern die Effizienz von Meetings

Aufstieg von AI-basierten Agenten und Automatisierung

• Gegenwart: Bevorzugt werden Ansätze, die menschliche Arbeit ergänzen
• Zukunft: Erwartet wird ein Übergang zu vollständig automatisierten Agenten, die komplexe Prozesse eigenständig steuern
  • Beispiele: Clay, Forge

Hürden bei der Einführung und Gründe für das Scheitern

• Gründe für das Scheitern:
  1. Implementierungskosten (26 %)
  2. Datenschutzprobleme (21 %)
  3. ROI bleibt hinter den Erwartungen zurück (18 %)
  4. Technische Probleme (15 %, einschließlich der Erzeugung von „Halluzinationen“)
• ROI und Anpassbarkeit sollten priorisiert werden, zugleich müssen aber auch technische Integration und Support berücksichtigt werden

Stand der Einführung generativer KI nach Branche

1. Gesundheitswesen (Ausgaben: 500 Mio. $)
   • Automatisierte medizinische Dokumentation und Patientenmanagement: Abridge, Notable
2. Rechtswesen (Ausgaben: 350 Mio. $)
   • Automatisierung von Vertragsprüfung und Prozessvorbereitung: Harvey, Everlaw
3. Finanzdienstleistungen (Ausgaben: 100 Mio. $)
   • Verbesserungen bei Buchhaltung und Compliance: Numeric, Rogo
4. Medien und Unterhaltung (Ausgaben: 100 Mio. $)
   • Höhere Effizienz bei der Content-Erstellung: Runway, Descript

AI-Technologie-Stack und Designmuster

• Wichtige Trends:
  1. RAG (Retrieval-Augmented Generation): 51 % Einführung
  2. Fine-Tuning: weiterhin selten, nur 9 % Einführung
  3. Agentische Architekturen: Einführung beginnt bei 12 %
• Datenspeicherung:
  • Die AI-native Vector DB Pinecone hält 18 % Marktanteil

Ausblick: Zentrale Prognosen zur Zukunft von AI

• 2024 war das Jahr des Übergangs vom Hype zur realistischen Umsetzung. Auf Basis zentraler Daten und Investitionstrends ergeben sich für die Zukunft die folgenden drei Hauptprognosen:
• AI-Agenten treiben die nächste große Veränderung voran
  • Agentische Automatisierung wird die AI-Transformation über Content-Erstellung und Wissenssuche hinaus anführen, indem sie komplexe, mehrstufige Aufgaben übernimmt
    • Beispiele: Plattformen wie Clay und Forge greifen einen 400-Mrd.-$-Softwaremarkt und die 10-Billionen-$-Servicewirtschaft der USA an
  • Dieser Wandel erfordert neue Infrastruktur:
    • Agenten-Authentifizierung, Plattformen zur Tool-Integration, AI-Browser-Frameworks und dedizierte Runtimes für AI-generierten Code
• „David besiegt Goliath“: Der Niedergang etablierter Unternehmen
  • ChatGPT hat in diesem Jahr Chegg und Stack Overflow hart getroffen:
    • Chegg: 85 % des Marktwerts vernichtet
    • Stack Overflow: Web-Traffic halbiert
  • Weitere Bereiche, in denen Herausforderungen erwartet werden:
    • IT-Outsourcing-Unternehmen (Cognizant) und etablierte Automatisierungsunternehmen (UiPath)
    • Auch große Softwareunternehmen wie Salesforce und Autodesk könnten von AI-nativen Startups herausgefordert werden
• Der Mangel an AI-Fachkräften verschärft sich
  • Die Verbreitung und zunehmende Komplexität von AI-Systemen führt zu einem ernsten Fachkräftemangel
    • Besonders knapp sind nicht nur Data Scientists, sondern auch Fachleute, die AI-Technologie mit Domänenexpertise verbinden können
    • Der Wettbewerb verschärft sich:
      • Gehälter für Enterprise-Architekten mit AI-Kompetenz steigen verbreitet um das 2- bis 3-Fache
    • Trotz Investitionen in Trainingsprogramme und AI-Zentren übersteigt die Nachfrage nach Talenten das Angebot
    • Es wird ein intensiver Wettbewerb um Talente erwartet, die die nächste AI-Innovationswelle anführen können