FullMoon - Open-Source-App für lokale LLMs auf Mac/iOS

• Ermöglicht lokale LLMs, die für Apple Silicon optimiert sind, sowie private Gespräche
  • Vier Modelle, darunter Llama-3.2-1B/3B-Instruct-4bit und DeepSeek-R1-Distill-Qwen-1.5B-4/8bit
• Personalisierung von Theme/Schriftart/System-Prompt möglich
• Unterstützt die Integration mit Shortcut(Kurzbefehle)
• Kostenlos/Open Source und im Mac App Store sowie im iOS App Store zum Download verfügbar
• Swift MLX + Metal 3

[jyha81]

Bisher ist es nur eine App, aber ich war kurzzeitig etwas angefixt.

[dicebattle]

Dass man es auch unter iOS ausführen kann, wirkt ganz ordentlich.
Auf dem Mac ist dann einfach lmstudio...

[laeyoung]

Sogar Apple Vision wird unterstützt; wenn jetzt noch Audio Input dazukommt, wäre das ziemlich gut.

[yangeok]

Der Unterschied zu ollama ist also, ah … es ist eine App, haha.