Maek, ein Local-first AI Memory Workspace vom Lucene Search Core Contributor Team

Hallo, wir sind cognica, ein Team, das Search- und AI-Memory-Infrastruktur entwickelt.

Kurz zu unserem Team: Die von cognica vorgeschlagene probabilistische Hybrid-Suche auf Basis von BB25 (Bayesian BM25) wurde kürzlich offiziell in den Apache-Lucene-10.5.0-Core aufgenommen (BayesianScoreQuery, LogOddsFusionQuery).

Wir arbeiten daran, diese Search- und Memory-Infrastrukturtechnologien in ein Produkt zu überführen, das reale Nutzer tatsächlich spüren können. Als erstes Ergebnis möchten wir unsere AI-App Maek für macOS vorstellen und um Feedback bitten.

Download und Website: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

1. Das Problem, das wir lösen wollen: „Reicht es, einfach nur das Kontextfenster zu vergrößern?“

Wer AI-Chat nutzt, kennt das Problem: Projekt-Hintergründe, frühere Entscheidungen oder häufig referenzierte Dokumente müssen in jeder Unterhaltung immer wieder neu erklärt werden.

Um das zu lösen, hat der einfache Ansatz, „den gesamten Text früherer Gespräche in den Prompt zu schieben“, klare Grenzen.

• Verschwendung von Context Window und steigende Kosten

• Mehr Hate/Noise, weil irrelevante alte Inhalte mit hineingemischt werden

• Wichtiger früherer Kontext geht gerade dann verloren, wenn er gebraucht wird

Maek konzentriert sich bei jeder eingehenden Frage darauf: „Wie lassen sich die für die aktuelle Frage nötigen Erinnerungen wieder in optimaler Form rekonstruieren?“

2. Kernarchitektur: Getrennte Daten und Evidence-basiertes Retrieval

Maek speichert Gespräche und Dokumente in einem lokalen Speicher und rekonstruiert bei jeder neuen Frage den Kontext, indem die folgenden Signale kombiniert werden.

• Messages : Normale Chatverläufe und zugleich Ziel für Keyword- und Vektor-Suche.

• Document Chunks : Dateien werden nicht als einmalig verwendbare Prompt-Wegwerfware gelesen und dann verworfen, sondern lokal in kleine Chunks zerlegt gespeichert und bei Bedarf wieder durchsucht und als Grundlage für Antworten zitiert.

• Graph : Aus Gesprächen werden Personen, Organisationen, Ereignisse, Entscheidungen und Zusagen extrahiert und in Form von Beziehungen (Connections) organisiert. So lässt sich verknüpfter Kontext auch dann finden, wenn der Nutzer sich nicht an exakte Keywords erinnert.

• Conversation State : Eine komprimierte Statusübersicht der aktuellen Situation, offener Threads und Personenprofile. (Falls es jedoch mit der neuesten Nachricht des Nutzers kollidiert, hat die Nutzernachricht Vorrang; es dient also als „Memory Hint“.)

• Evidence-basierte hybride Kombination: BM25, Vector Similarity, Graph und Recency haben unterschiedliche Skalen; wenn man ihre Scores einfach addiert, dominiert leicht ein Signal übermäßig. Auf Grundlage unserer Erfahrung aus dem BB25-Beitrag zum Lucene-Core betrachten wir diese Signale als „Evidence“, die für die jeweilige Frage benötigt wird, und kombinieren sie präzise.

3. Hauptmerkmale: Inspectability und Local-First

• Visualisierung der Antwortgrundlage: Maek behauptet nicht nur, dass die AI „sich erinnert und geantwortet hat“, sondern Nutzer können direkt prüfen, welche Messages, welche Document Chunks, welche Graph Hits und welche State-Informationen beim Erstellen der Antwort in den Kontext aufgenommen wurden (Reconstruction-Informationen). Denn nur wenn sich debuggen lässt, „warum etwas erinnert wurde“ oder „warum etwas nicht gefunden wurde“, kann man AI vertrauen und sie korrigieren.

• Unterschied zu ChatGPT Memory: Während ChatGPT Memory eine servicegebundene personalisierte Memory-Funktion ist, ist Maek ein unabhängiges Tool, das die Assets des Nutzers — Gespräche, Dokumente, Graph und State — in einem lokalen Workspace speichert und in jedem Turn den Kontext neu rekonstruiert.

• Transparenz des Datenflusses: Bei Nutzung lokaler Modelle bleibt selbst die Inferenz vollständig offline. Werden jedoch Cloud-Modelle wie OpenAI oder Claude angebunden, werden die aktuelle Eingabe und der abgerufene lokale Kontext an die jeweilige API gesendet. Diesen Datenfluss haben wir in UI und Dokumentation klar getrennt dargestellt, damit man das Tool beruhigt nutzen kann.

Derzeit ist dies noch eine frühe Version, und wir testen vor allem in Apple-Silicon-Mac-Umgebungen. Feedback aus den folgenden Perspektiven wäre für uns sehr hilfreich.

• Verständlichkeit des Konzepts: Wird Maek nicht als bloße Chat-UI, sondern als Ansatz eines „AI Memory Workspace“ verständlich?

• Plausibilität des Ansatzes: Ist die dynamische Rekonstruktion des Kontexts in jedem Turn technisch nachvollziehbar?

• Abgrenzung zu ChatGPT Memory: Kommt der Unterschied zu den Memory-Funktionen bestehender Dienste klar rüber?

• Transparenz: Sind die Erklärungen zu Datenfluss und Sicherheit bei Nutzung von lokalen und Cloud-Modellen klar genug?

• UX/erster Eindruck: Ist die Installation und First-Run-Erfahrung als macOS-App natürlich und stimmig?

Link: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

Wir freuen uns auf präzises Feedback. Vielen Dank.