Jan - Plattformübergreifendes Framework für einen Open-Source-ChatGPT-Ersatz

• 100 % lokal, läuft auf jeder Hardware: von NVidia-GPUs und Apple Silicon bis hin zu Multi-GPU-Clustern
• Das ultimative Ziel ist es, es jedem zu ermöglichen, AI einfach zu integrieren
  • Jan Framework, Jan Desktop Client + Server, Nitro
• Nitro: hocheffiziente Inference-Engine (3 MB), geschrieben in C++
  • Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion

[riskatcher]

Ich bin neugierig, wie gut die Leistung auf Koreanisch ist.