Der falsche Ansatz bei der Entwicklung von AI-Produkten
- Die meisten AI-Produkte werden als Hülle um andere Modelle herum gebaut, zum Beispiel indem die ChatGPT API aufgerufen wird.
- Dieser Ansatz ist einfach umzusetzen und kann beeindruckende Funktionen liefern, hat aber den Nachteil, dass er nicht differenziert, teuer und langsam ist.
- Wenn das einzigartige Wertversprechen eines AI-Produkts wichtig ist, bedeutet die Abhängigkeit von leicht kopierbarer Technologie, dass man sich in einer riskanten Position befindet.
Die Probleme hoher Kosten und geringer Geschwindigkeit bei LLMs
- Große Sprachmodelle (Large Language Models, LLMs) bieten Vielseitigkeit, verursachen aber wegen ihrer Größe und Komplexität sehr hohe Betriebskosten.
- GitHub Copilot kostet im Durchschnitt zum Beispiel 20 US-Dollar pro Nutzer, berechnet aber nur 10 US-Dollar und macht damit Verlust.
- Wegen ihrer langsamen Geschwindigkeit können LLMs bei Anwendungen, die Echtzeitreaktionen erfordern, erhebliche Probleme verursachen.
Die Grenzen von LLMs und das Problem der Anpassung
- LLMs unterstützen Fine-Tuning, haben aber Grenzen, wenn es darum geht, Lösungen für spezifische Probleme bereitzustellen.
- Bei der Entwicklung von Builder.ios Visual Copilot wurde versucht, mit LLMs Figma-Designs in Code umzuwandeln, was jedoch zu langsamen, teuren und qualitativ schlechten Ergebnissen führte.
Die Lösung: eine eigene Toolchain aufbauen
- Builder.io löste das Problem, indem eine eigene Toolchain aufgebaut wurde.
- Dabei wurden feinabgestimmte LLMs, ein benutzerdefinierter Compiler und individuell trainierte Modelle kombiniert.
- Dieser Ansatz ermöglicht es, schnellere, zuverlässigere, kostengünstigere und stärker differenzierte Produkte zu bauen.
Häufige Missverständnisse über die Entwicklung von AI-Produkten
- Viele Menschen glauben fälschlicherweise, dass bei AI-Produkten die gesamte Kerntechnologie von einem einzigen Supermodell verarbeitet wird.
- Am Beispiel autonomer Fahrzeuge wird oft angenommen, dass eine riesige AI alle Eingaben verarbeitet und Entscheidungen trifft, tatsächlich handelt es sich aber um eine Kombination aus mehreren spezialisierten Modellen und normalem Code.
Wie man tatsächlich mit dem Aufbau von AI beginnt
- Es ist sinnvoll, den in Visual Copilot verwendeten Ansatz für AI-Lösungen zu untersuchen.
- Erkunden Sie den Problemraum mit üblichen Programmierpraktiken und bestimmen Sie, in welchen Bereichen spezialisierte Modelle erforderlich sind.
- Wenn Standard-Coding ein bestimmtes Problem nicht gut löst, erzeugen Sie mit gut etablierten AI-Modellen Daten und trainieren Sie Ihr eigenes Modell.
Meinung von GN⁺
- Das Wichtigste ist, bei der Entwicklung von AI-Produkten die Vorgehensweise anderer zu vermeiden und durch eine eigene Toolchain differenzierten Mehrwert zu schaffen.
- Der Artikel ist interessant und ansprechend, weil er einen innovativen Einsatz von AI-Technologie zeigt und aufzeigt, wie Entwickler mit AI originelle Produkte schaffen können.
Noch keine Kommentare.