Secret Llama - Im Browser laufende Llama-3-Chatbot-Implementierung mit WebGPU

• Ein vollständig im Browser laufender, datenschutzfreundlicher LLM-Chatbot
• Unterstützt Open-Source-Modelle wie Llama 3 und Mistral
• Gesprächsdaten verlassen niemals den Computer und gewährleisten damit vollständige Privatsphäre
• Läuft im Browser, daher sind weder Server noch Installation erforderlich, und funktioniert auch offline
• Bietet eine ähnlich einfach zu bedienende Oberfläche wie ChatGPT, jedoch für Open-Source-LLMs
• Derzeit unterstützte Modelle
  • TinyLlama-1.1B-Chat-v0.4-q4f32_1-1k 600MB
  • Llama-3-8B-Instruct-q4f16_1 4.3GB
  • Phi1.5-q4f16_1-1k 1.2GB
  • Mistral-7B-Instruct-v0.2-q4f16_1 4GB

[bizring]

Ist ein Gespräch auf Koreanisch möglich?