[Open Source] Multi-LLM-Client für iOS und macOS – LLM Bridge

Zuvor hatte ich separate, auf Ollama spezialisierte LLM-Clients für iOS und macOS erstellt und als Open Source veröffentlicht. Jetzt habe ich sie auf Basis von Swift/SwiftUI neu entwickelt, den Code für iOS und macOS zusammengeführt und eine unterstützende API hinzugefügt.

• Unterstützt Ollama und LMStudio als lokale LLMs.
  • Wenn man auf dem Computer, auf dem Ollama installiert ist, den Port nach außen öffnet, kann man auch aus der Ferne kostenlose LLMs nutzen.
  • LMStudio ist ein lokales LLM-Verwaltungsprogramm mit eigener UI, in dem man Modelle von HuggingFace suchen und installieren kann, um verschiedene Modelle auszuprobieren.
  • In LLM Bridge lassen sich IP und Port konfigurieren, und mit den installierten Modellen können Anfragen beantwortet werden.
• Unterstützung für OpenAI
  • Man kann einen API key erhalten, ihn in die App eintragen und über API-Aufrufe ChatGtp nutzen.
  • Die Nutzung über die API kann günstiger sein, als jeden Monat eine feste Gebühr zu zahlen.
• Unterstützung für Claude
  • Verwendung eines API Key
• Für Modelle mit Bildunterstützung können Bilder übertragen werden
• Unterstützung für PDF- und TXT-Dateien
  • Textextraktion mit PDFKit und anschließende Übertragung
  • Unterstützung für Textdateien
• Open Source
  • Swift/SwiftUI
• Quellcode-Link
  • https://github.com/bipark/swift_llm_bridge