Das entscheidende fehlende Bindeglied in AI-Produkten [Übersetzung]

Das entscheidende fehlende Bindeglied (Loop) in AI-Produkten

1. Die echte Wettbewerbsfähigkeit von AI-Produkten ist die „implizite Feedback-Schleife“

   • Die meisten AI-Startups versprechen: „Wir werden Kundendaten nutzen, um das Modell feinzujustieren“, liefern aber auf die Frage, wie sie diese Daten tatsächlich gewinnen wollen, nur vage Antworten wie Feedback-Formulare oder Umfragen.
   • Big-Tech-Unternehmen sammeln schon seit Langem implizit Daten aus dem natürlichen Verhalten der Nutzer, etwa bei Facebook oder TikTok durch das Hochladen von Fotos oder Scrollen, und haben so ihre Plattformen wachsen lassen.

2. Warum implizite Feedback-Schleifen wichtig sind

   • Anders als bei Diensten, bei denen falsche Empfehlungen stillschweigend hingenommen werden können (Netflix), sind bei Services, in denen Fehler sofort sichtbar werden und Vertrauen zerstören können (AI-Assistenten), deutlich ausgefeiltere Feedback-Schleifen unverzichtbar.
   • Jede Interaktion muss mit kontinuierlichem Lernen des Systems verbunden sein.

3. Das Beispiel Cursor: eine natürliche Lernstruktur

   • Entwickler müssen wie gewohnt nur programmieren, und Cursor lernt dabei automatisch.
   • Wenn von der AI vorgeschlagener Code übernommen wird, werden gute Muster verstärkt; wird er abgelehnt, werden ineffiziente Vorgehensweisen aussortiert.
   • Ohne separate Feedback-Anfragen wird der Kontext pro Repository berücksichtigt, wodurch das System nach und nach intelligenter wird.

4. Grenzen und Zukunft von AI-Produkten

   • Viele AI-Produkte verlassen sich noch immer auf oberflächliche Metriken oder manuelles Feedback, während wertvolle Signale in den Logs nicht richtig genutzt werden.
   • Künftig werden Systeme, die Nutzungsdaten automatisch analysieren und Verbesserungen daraus ableiten – also automatisierte Feedback-Schleifen –, zur zentralen Infrastruktur von AI-Produkten werden.

5. Veränderungen bei führenden Unternehmen wie Notion und Perplexity

   • Notion: Entwickelt seine AI-Funktionen weiter, indem es subtile Interaktionen der Nutzer analysiert.
   • Perplexity: Verbessert seine Suchergebnisse, indem es Daten zu Antworten analysiert, die bei der tatsächlichen Problemlösung geholfen haben.
   • Feedback-Schleifen sind keine bloße Funktion, sondern die grundlegende Kerninfrastruktur eines Dienstes.

6. Fazit

   • Wer wie OpenAI oder Anthropic Basismodelle selbst entwickeln will, braucht enorme Ressourcen.
   • Künftig werden Unternehmen den Markt anführen, die Interaktionen mit Nutzern automatisch für das Lernen nutzen.
   • Unternehmen, die „unsichtbare, kontinuierlich lernende Systeme“ aufbauen, werden die Hauptakteure des nächsten AI-Zeitalters sein.