Ultraleichte Vektor-DB für Node.js
(github.com/golbin)In letzter Zeit werden mit LLMs viele Prototypen oder Toy-Projekte gebaut.
Meist nutzt man dabei standardmäßig Vector Search, aber beim Prototyping testet man gewöhnlich nur einige Hundert Texte per Vector Search, und auch bei echten Produkten geht es meistens darum, innerhalb von Dokumenten etwas zu finden und darauf basierend zu antworten. Für so einen Umfang ist es oft übertrieben oder auch einfach umständlich, extra eine Vektor-DB einzusetzen. Außerdem ist es beim Prototyping wichtig, Dinge visuell zu zeigen, deshalb nutze ich meist Next.js, aber passende Pakete für Node.js sind erst recht Mangelware. Genau in so einem Moment habe ich DHHs TypeScript-Issue gesehen und mich gefragt: Ist es wirklich so umständlich, ein Paket in TypeScript zu bauen? Aus einer spontanen Eingebung heraus habe ich dann eins gebaut...
Ach ... ich wollte eigentlich gar nicht wissen, warum sowohl bei Svelte als auch anderswo alle versuchen, aus TypeScript auszusteigen, aber jetzt weiß ich es.
TypeScript selbst ist nicht schlecht, aber gerade beim Erstellen eines npm-Pakets fühlt sich der Schmerz durch Tests und Tooling doch ziemlich groß an. Wenn schon ein kleines Tool so viel Aufwand macht, dann möchte ich mir gar nicht ausmalen, wie es bei großen Projekten ist ...
Wie auch immer: Nachdem es fertig war, hat sich gezeigt, dass es fürs Prototyping brauchbarer ist als gedacht, deshalb teile ich es hier.
Danke.
4 Kommentare
Schwesterprodukt: eine extrem einfache Chunking-Bibliothek für Node.js -> https://de.news.hada.io/topic?id=10801
Das ist eine separate Frage zu dem Open Source, das Sie erstellt haben, aber ist der aktuelle Trend, dass alle TS aufgeben? Das interessiert mich sehr.
Ich glaube nicht, dass der Trend dahin geht, TS aufzugeben. Es gibt nur viel Unzufriedenheit. Deshalb scheint man auf Runtime- und Framework-Ebene verstärkt daran zu arbeiten, wie sich TS einfacher nutzen lässt.
Aha~ danke.