4 Prinzipien, um ein wirklich nützliches AI-Produkt zu bauen
(commits.world)Wie der CEO von Granola wirklich nützliche AI-Produkte baut
- Granola ist ein Startup, bei dem AI Audio aus Video- und Präsenzmeetings in Echtzeit transkribiert und automatisch zusammenfassende Notizen erstellt, wobei auch Hintergrund, Teilnehmende und der Kontext von Entscheidungen berücksichtigt werden.
Vier Prinzipien für den Aufbau von AI-Applikationen
- Probleme, die bald verschwinden, nicht anfassen
- Bei LLMs wachsen Leistung und Kontextfenster alle paar Monate sprunghaft.
- Granola hat die von frühen Nutzerinnen und Nutzern gewünschte Funktion zur „Verarbeitung langer Meetings“ bewusst zurückgestellt und sich stattdessen auf die „Qualität der Zusammenfassungen“ konzentriert. Als sich die Modelle verbesserten, lösten sich die Längenbeschränkungen von selbst auf, und übrig blieb nur die Differenzierung über Qualität.
- Hohe Grenzkosten als Chance nutzen
- Die Kosten für Aufrufe aktueller Modelle steigen proportional zur Zahl der Nutzer. Große Unternehmen können für eine große Nutzerbasis nicht die hochwertigsten Modelle einsetzen.
- Startups können anfangs für eine kleine Zahl von Kundinnen und Kunden problemlos die teuersten Modelle und mehrstufige Aufrufe einsetzen und so ein Erlebnis auf „Ferrari-Niveau“ bieten. Mit der Zeit fallen die Stückkosten der Modelle stark, und damit sinken auch die Kosten für die Skalierung.
- Kontext ist König
- LLMs sollten nicht als „Regelmaschine“, sondern als „kluger, aber uninformierter neuer Praktikant“ betrachtet werden.
- Um die gewünschte Ausgabe zu erhalten, müssen Kontextinformationen wie Meeting-Ziel, Teilnehmende und Projekthintergrund systematisch gesammelt und eingespeist werden. Egal wie stark die Modelle werden: Entscheidend für den Wettbewerbsvorteil bleibt, welchen Kontext man wie einbringt.
- Eng und tief vorgehen
- Um mit allgemeinen Chatbots konkurrieren zu können, muss man in einer ganz konkreten Aufgabe herausragend sein.
- Die Differenzierung entsteht weniger durch den AI-Algorithmus als durch das „Wrapping“ (Benachrichtigungsfluss, automatische Erkennung von Meeting-Teilnehmenden, Echo-Unterdrückung und andere sorgfältig gestaltete UX-Details).
- Je enger der Umfang, desto schneller lassen sich Fehlermuster finden und abmildern, wodurch das „Uncanny Valley“ kleiner wird.
Fazit
- Die Geschwindigkeit der Technologie hat sich verdoppelt, aber das grundlegende Prinzip der Produktentwicklung – „Baue, was die Menschen wirklich wollen“ – bleibt unverändert.
- Wirklich nützliche AI-Produkte entstehen, wenn man sich auf Probleme konzentriert, die nicht verschwinden, auf tief durchdachte Nutzererlebnisse und auf die Gestaltung von Kontext.
Noch keine Kommentare.