Llama-2-Uncensored-Version lokal ausführen

• Der ML-Ingenieur Eric Hartford schrieb im Mai 2023 einen Blogbeitrag mit dem Titel "Uncensored Models", der viel Aufmerksamkeit erhielt
  • Darin werden die Vorteile des Betriebs unzensierter Modelle und ihre Erstellung zusammengefasst
• So lässt sich das unzensierte Modell von Llama 2 betreiben, einschließlich eines Vergleichs mit dem zensierten Modell
• Derzeit verfügbare unzensierte Modelle
  • Fine-tuned Llama 2 7B model
    • unter Verwendung des uncensored/unfiltered Wizard-Vicuna-Konversationsdatensatzes
  • Nous Hermes Llama 2 13B
    • Ein mit 300.000 Anweisungen feinabgestimmtes Llama-2-13B-Modell
    • Kennzeichnend sind lange Antworten, eine geringere Halluzinationsrate und das Fehlen von OpenAIs Zensurmechanismus
  • Eric Hartfords Wizard Vicuna 13B uncensored
    • Ein Llama-1-13B-Modell, das per Fine-Tuning zur Entfernung des Alignment angepasst wurde
• Vergleich der Antworten des 7B-Llama-2-Modells und des 7B-Llama-2-Uncensored-Modells auf denselben Prompt
  • Filme, Kochen (ein gefährlich scharfes Mayonnaise-Rezept), Religion, Medizin (wie wird Tylenol hergestellt?), allgemeine Informationen (wer würde wohl gewinnen, wenn Mark Zuckerberg und Elon Musk gegeneinander antreten würden?)
• Unzensierte Modelle liefern oft detailliertere und nützlichere Antworten, bergen jedoch Risiken und sollten daher angemessen eingesetzt werden