Koala: Konversationsmodell für die akademische Forschung (LLaMA-basierter Chatbot)

• Koala-13B-Modell, das ähnlich wie Alpaca mit Dialog- und Instruction-Daten auf LLaMA trainiert wurde
• Erzeugt für verschiedene Anfragen Ergebnisse, die gegenüber Alpaca bevorzugt werden, und kann in mindestens der Hälfte der Fälle dieselben Antworten wie ChatGPT erzeugen
• Supervised Fine-Tuning mit im Web gesammelten Open-Source-Konversationsdaten
  • 60K Dialoge aus ShareGPT
  • 87K Frage-Antwort-Beispiele aus HC3
  • Open Instruction Generalist (OIG)
  • Das von Stanford Alpaca veröffentlichte 52K-Dataset
  • Anthropic HH (160K)
  • OpenAI WebGPT (20K)
  • OpenAI Summarization (93K)

[verilogeek]

Wirklich ein einziges model zoo..

[xguru]

LLaMA, Alpaca, Koala … KI-Modelle sind ja wie ein Zoo.