TurboPilot - selbst hostbarer Copilot-Klon
(github.com/ravenscroftj)- Ausführung des Salesforce-Codegen-Modells mit 6B Parametern mithilfe von
llama.cppauf 4 GiB RAM - Bereitstellung vorab konvertierter Modelle (2B/6B), die auf C/C++/Go/Java/JavaScript/Python vortrainiert sind, oder eigene Konvertierung möglich
- Start des TurboPilot-Servers als Binärdatei oder mit Docker
- Es kann festgelegt werden, wie viele CPUs eines Multicore-Systems verwendet werden sollen
- Nutzung des FauxPilot-Plugins für VSCode
Noch keine Kommentare.