Reor – KI-Notiz-App zum lokalen Ausführen von Modellen

• KI-basierte Desktop-Notiz-App. Verknüpft verwandte Ideen automatisch, beantwortet Fragen zu Notizen und bietet semantische Suche
• Alle Daten werden lokal gespeichert, und Notizen können mit einem Markdown-Editor ähnlich wie Obsidian bearbeitet werden
• Die Grundannahme des Projekts ist, dass KI-Tools zum Denken grundsätzlich Modelle lokal ausführen sollten
• Reor basiert auf Llama.cpp und Transformers.js und ermöglicht die lokale Ausführung von LLMs und Embedding-Modellen
• Unterstützt auch die Verbindung zu einer OpenAI-kompatiblen API (z. B. Oobabooga)

Wie funktioniert die „self-organizing“-Struktur?

• Alle geschriebenen Notizen werden in Chunks aufgeteilt und in einer internen Vektordatenbank eingebettet
• Verwandte Notizen werden über Vektorähnlichkeit automatisch miteinander verknüpft
• Das LLM-basierte Q&A führt RAG auf dem Notizkorpus aus
• Alles ist semantisch durchsuchbar

Erste Schritte

• Download über reorproject.org oder Releases möglich; unterstützt Mac, Linux und Windows
• Installation wie bei einer normalen App

Lokale Modelle ausführen

• Reor interagiert direkt mit der Llama.cpp-Bibliothek, daher ist kein Download von Ollama erforderlich
• Derzeit werden Modelle nicht automatisch heruntergeladen, daher müssen Nutzer sie manuell herunterladen
• Beliebte Modelle können von HuggingFace heruntergeladen werden; empfohlen wird der Einstieg mit einem 7B-4-bit-Modell
• In den Reor-Einstellungen kann das Modell unter „Neues lokales Modell hinzufügen“ verbunden werden
• Es kann auch eine Verbindung zu OpenAI-kompatiblen APIs wie Oobabooga, Ollama oder OpenAI hergestellt werden

Notizen aus anderen Apps importieren

• Reor arbeitet mit einem einzelnen Verzeichnis im Dateisystem
• Beim ersten Start muss ein Verzeichnis ausgewählt werden; um Notizen/Dateien aus anderen Apps zu importieren, muss dieses Verzeichnis manuell mit Markdown-Dateien befüllt werden
• Integrationen mit anderen Apps sollen in Kürze folgen

Meinung von GN⁺

• Reor ist eine lokal laufende KI-Notiz-App und ein innovatives Werkzeug, das dabei helfen kann, das Denken der Nutzer zu erweitern und zu organisieren
• Die Funktionen zum automatischen Verknüpfen von Notizen und zum Beantworten von Fragen dürften für Informationsmanagement und Lernen sehr hilfreich sein
• Durch Beiträge aus der Open-Source-Community hat das Projekt Potenzial zur kontinuierlichen Weiterentwicklung und könnte für Entwickler und Forschende besonders interessant sein

[GN⁺]

Hacker-News-Kommentare

• Gute Erinnerung an den Nutzen von Obsidian-Notizen, die als einzelne Markdown-Dateien gespeichert werden:
  • Statt Notizen in einer Datenbank zu speichern und Markdown nur als Exportformat zu verwenden, ermöglicht die direkte Arbeit mit Dateien, dass mehrere Apps sinnvoll mit denselben Dateien arbeiten können.
• Ausdruck von Wertschätzung dafür, dass KI so privat wie möglich und lokal ausgeführt werden sollte:
  • Dank für diese Sichtweise und die kontinuierlichen Bemühungen.
• Teilen persönlicher Erfahrungen mit Wissensmanagement-Tools:
  • Mit dem Hermes-Modell liefert die Funktion „verwandte Notizen“ oft bedeutungslose Verknüpfungen und ist daher wenig wertvoll.
  • Der Q&A-Modus ist nützlich, um Notizen abzufragen und Übersichten zu liefern, hilft aber bei konkreten Fragen nicht oder gibt falsche Antworten.
• Starke Unterstützung für die Entwicklung von Wissensmanagement-Tools, die Datenschutz und Interoperabilität in den Mittelpunkt stellen:
  • Nutzer sollten ihre Notizen bei Bedarf leicht exportieren und zu neuen Diensten migrieren können.
  • Bevorzugt wird eine vollständig lokale Lösung mit Funktionen wie bei Obsidian, bei der Nutzer eigene Modelle einbringen oder Plugins kombinieren können.
• Informationshinweis zu Smart Connections v2 für Obsidian:
  • Unterstützt lokale Embeddings und zeigt verwandte Notizen auf Basis semantischer Ähnlichkeit.
  • In mehrsprachigen Repositories ist es noch nicht perfekt, wird aber verbessert und könnte bald auch mehrsprachige Modelle unterstützen.
• Vorschläge für Reor:
  • Mehrere unabhängige „Tresore“ erstellen.
  • Links zu verwandten Notizen hinzufügen, um KI-Verbindungen als Graph darzustellen.
  • Die UI auf ein Chatfenster minimieren.
  • Andere Formate lesen, vor allem PDF.
  • Integration mit Browserverlauf/Lesezeichen (mit einem Skript zum manuellen Import als Markdown).
• Skeptische Sicht auf die Zukunft von Wissensmanagement mit KI:
  • Wenn man sich zu stark auf KI verlässt und sie alle Organisationsaufgaben erledigen lässt, könnte die eigene Denkfähigkeit nachlassen.
  • Es gibt noch keine Daten, weil die Verbreitung solcher Tools noch ganz am Anfang steht, aber Lernen, Denken und „Wissensmanagement“ passiver zu machen, verbessert die Ergebnisse nicht.
• Ausdruck von Sympathie für Obsidian und graphbasierte Verknüpfungen:
  • Wahrnehmung einer Ähnlichkeit zwischen der Struktur von Obsidian-Notizen und dem Konzept eines „zweiten Gehirns“ für persönliches Wissensmanagement.
  • Die Implementierung einer Notizsuche für intelligente Referenzen erscheint als natürlicher nächster Schritt.
• Interesse am Projekt und Gefallen an seinem Fokus:
  • Frage, ob Cozodb oder andere Datenbanken untersucht wurden, die Vektoren mit Graphen/Tripeln kombinieren.
  • Vermutlich ist ein neuro-symbolischer Ansatz der beste Weg.
• Teilen persönlicher Erfahrungen mit einem ähnlichen Projekt für Obsidian:
  • Begeisterung darüber, etwas zu sehen, das bereits weiter entwickelt ist.
  • Es läuft ein großes Schreibprojekt mit Obsidian, und das Endziel ist, mit dem Geschriebenen in Dialog zu treten, Ideen zu verfeinern und neue Wege der Inhaltserschließung auszuprobieren.
  • Es ist unklar, ob lokale LLMs schon stark genug sind, um sinnvolle/zuverlässige Ergebnisse zu liefern, aber es gibt große Vorfreude auf die Zukunft dieser Technologie.
• Teilen von Erfahrungen bei der Suche nach einer besseren Methode zum Notizenmachen:
  • Ein neues Tool wird gerade heruntergeladen und getestet und wirkt sehr vielversprechend.
  • Wichtig ist die Möglichkeit, Notizen aus völlig unterschiedlichen Kontexten getrennt zu halten.
  • Es sollte verhindert werden, dass LLMs mit ähnlich klingenden, aber kontextuell anderen Inhalten eingebracht werden.
  • Es wurde angenommen, dass „neues Verzeichnis“ dies leistet, aber offenbar ist das nicht der Fall.
  • Es werden Informationen benötigt, ob geplant ist, einen Datenbank-Umschalter zu implementieren, und wie sich der aktuelle Speicherort ändern lässt.
  • Erfreut festgestellt, dass dies bereits in einem PR enthalten ist.