- Ein Umbrella-Projekt, das offene Vertrauens- und Sicherheitstools sowie Evaluierungen bereitstellt, um Entwickler dabei zu unterstützen, generative KI-Modelle verantwortungsvoll bereitzustellen
- Im ersten Schritt werden zwei Tools veröffentlicht
- CyberSec Eval: Ein Benchmark zur Bewertung der Cybersicherheit von LLMs
- Llama Guard: Ein Safety Classifier für die Ein- und Ausgabefilterung, optimiert für eine einfache Bereitstellung
- In Zusammenarbeit mit AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI und weiteren sollen diese Tools der Open-Source-Community zur Verfügung gestellt werden
Warum Purple?
- Meta ist überzeugt, dass man zur wirksamen Minderung der Herausforderungen durch generative KI sowohl Angriffs- (Red Team) als auch Verteidigungshaltungen (Blue Team) einnehmen muss
- Ein Purple Team, das aus der Kombination von Red Team und Blue Team besteht, ist ein kollaborativer Ansatz zur Bewertung und Minderung potenzieller Risiken
- Das Purple Llama-Projekt soll unter einer freizügigen Lizenz bereitgestellt werden, die Forschung und kommerzielle Nutzung ermöglicht
- Dies ist ein wichtiger Schritt, um die Zusammenarbeit in der Community zu fördern und die Entwicklung sowie Nutzung von Vertrauens- und Sicherheitstools für die Entwicklung generativer KI zu standardisieren
1 Kommentare
Ich habe mir angesehen, was AI Alliance - https://thealliance.ai eigentlich ist, und es ist wohl ein von IBM und Meta geführtes Bündnis.
Daran beteiligen sich mehr als 50 Unternehmen und Organisationen, aber ausgerechnet OpenAI, Google, NVidia und Microsoft fehlen alle, sodass man sich schon fragt, was das eigentlich soll .. haha