WhatsApp-Llama – LLM mit den eigenen WhatsApp-Unterhaltungen feinabstimmen
(github.com/Ads-cmu)- Llama 7B mit den eigenen WhatsApp-Unterhaltungen feinabstimmen, damit es wie man selbst spricht
- Feinabstimmung mit QLoRA und int4-Quantisierung auf einer einzelnen GPU (P100 + 16 GB) möglich
- Laut Experimenten zur Bewertung von 2 Antworten (LLM oder die eigene Person) auf 3 Fragen wurden etwa 10 % der Freunde hereingelegt (2 von 20 Personen)
Noch keine Kommentare.