ChatGPT-Plugins in LLaMA verwenden

• PoC zur Nutzung des von OpenAI veröffentlichten chatgpt-retrieval-plugin mit LLaMA
• Die Anbindung ist erfolgreich, aber nur eingeschränkt nutzbar:
  • Das LLaMA-Modell selbst benötigt im Vergleich zu ChatGPT mehr Fine-Tuning (wie etwa Alpaca)
  • Der Teil, der das API-Schema liest und daraus API-Aufrufe erzeugt, funktioniert nicht gut. Es scheint auch Fine-Tuning für OpenAPI-Schemata nötig zu sein
• Für die Zukunft wird ein Foundation Model Plugin Protocol vorgeschlagen (wie SMTP, LSP)
  • Model-agnostic: Unterstützung für alle Foundation Models wie GPTx, LLaMA und Bard
  • Modal-agnostic: Unterstützung für verschiedene Ein-/Ausgaben einschließlich Text