Offenlegung eines Secret-Lecks auf der Spaces-Plattform von Hugging Face

Reaktion von Hugging Face auf den Sicherheitsvorfall

Überblick über den Vorfall

• Auf der Spaces-Plattform von Hugging Face wurde ein unautorisierter Zugriff festgestellt.
• Es besteht die Möglichkeit, dass auf geheime Informationen einiger Spaces unbefugt zugegriffen wurde.

Ergriffene Maßnahmen

• Als erste Maßnahme wurden die betroffenen HF-Tokens widerrufen.
• Betroffene Nutzer wurden per E-Mail benachrichtigt.
• Es wird empfohlen, alle Schlüssel und Tokens zu erneuern und HF-Tokens auf granulare Zugriffstokens umzustellen.

Maßnahmen zur Härtung der Sicherheit

• In Zusammenarbeit mit externen Cybersecurity-Experten wird der Vorfall untersucht und die Sicherheitsrichtlinien werden überprüft.
• Zur Stärkung der Sicherheit der Spaces-Infrastruktur wurden mehrere wichtige Verbesserungen eingeführt:
  • Organisationstokens wurden vollständig entfernt, um Nachverfolgbarkeit und Audit-Funktionen zu verbessern.
  • Für geheime Informationen in Spaces wurde ein Key Management Service (KMS) implementiert.
  • Die Systemfähigkeiten zur Identifizierung und proaktiven Ungültigmachung kompromittierter Tokens wurden ausgebaut.
  • Die allgemeine Sicherheit wurde verbessert.
  • Sobald granulare Zugriffstokens funktional vollständig sind, ist geplant, „klassische“ Lese- und Schreib-Tokens vollständig abzuschaffen.

Rechtliche Schritte

• Der Vorfall wurde den Strafverfolgungsbehörden und den Datenschutzaufsichtsbehörden gemeldet.

Hinweise für Nutzer

• Es wird aufrichtig um Entschuldigung für die durch diesen Vorfall entstandenen Unannehmlichkeiten gebeten, und es wird zugesichert, dies als Gelegenheit zur Stärkung der Sicherheit der gesamten Infrastruktur zu nutzen.
• Bei weiteren Fragen wird empfohlen, sich an [e-mail] zu wenden.

Meinung von GN⁺

• Notwendigkeit stärkerer Sicherheit: Dieser Vorfall erinnert erneut an die Bedeutung einer stärkeren Sicherheit auf Software-Plattformen. Besonders wichtig sind Zugriffskontrollen und Monitoring für sensible Informationen.
• Granulare Zugriffstokens: Granulare Zugriffstokens sind ein guter Weg, die Sicherheit zu erhöhen. Damit lässt sich das Prinzip der geringsten Privilegien anwenden, sodass unnötige Berechtigungen eingeschränkt werden können.
• Zusammenarbeit mit externen Experten: Die Zusammenarbeit mit externen Cybersecurity-Experten hilft erheblich bei der Problemlösung. So lassen sich komplexe Probleme angehen, die intern allein schwer zu bewältigen sind.
• Rechtliche Reaktion: Die Meldung an Strafverfolgungsbehörden und Datenschutzaufsichtsbehörden ist wichtig, um Transparenz zu wahren und das Vertrauen der Nutzer wiederherzustellen.
• Kommunikation mit Nutzern: Nutzer schnell und klar über die Lage zu informieren, ist essenziell, um Vertrauen zu erhalten. Das stärkt die Vertrauensbeziehung zu den Nutzern.

[GN⁺]

Hacker-News-Kommentare

• Jossef Harush Kadouri entdeckte in Folien, die auf einer Sicherheitskonferenz vorgestellt wurden, dass der Autor eines Modells an Orten wie Huggingface beim Verwenden des Modells beliebigen Code auf dem Computer des Nutzers ausführen kann.
• Als jemand, der nicht im AI-Bereich tätig ist, dachte ich, Modelldateien seien einfach Zahlenmatrizen und Metadaten, habe aber verstanden, dass sie tatsächlich aus Python-Skripten bestehen, wodurch sich eine Standardisierung leicht durchgesetzt hat.
• Die Formulierung „sie haben einen Verdacht“ ist für diese Art von Kommunikation nicht angemessen.
• Huggingface hat viel Arbeit investiert, um seine Sicherheitsinfrastruktur zu verbessern, und das sollte zu mehr zeitaufwendigen Aktivitäten wie Sicherheitsaudits und Penetrationstests führen.
• Vor ein paar Wochen wurde ein OpenAI-Schlüssel offengelegt, der nur in einem Huggingface Space aktiv war. Vor ein paar Tagen bekam ich eine E-Mail, dass der Space kompromittiert worden war.
• Ein Anthropic-Schlüssel wurde offengelegt, wodurch Kosten in Höhe von 10.000 Dollar entstanden. Ich frage mich, ob Huggingface das erstatten wird.
• Wegen des Titels dachte ich, es gehe um einen Artikel über den Weltraum, tatsächlich ging es aber um Huggingface Spaces.
• Es gibt keine Erwähnung dazu, wie unangemessen entstandene Kosten behandelt werden. Wenn jemand auf geheime Informationen zugreifen kann, wären dann nicht auch API-Aufrufe und dadurch entstehende Kosten möglich?
• Ich frage mich, was ein „Space“ ist.
• Ich kann nicht verstehen, warum Huggingface „Secrets“ speichert. Es scheint besser zu sein, öffentliche Schlüssel zu speichern und Nutzer Anfragen mit geheimen Schlüsseln signieren zu lassen.
• Wenn man bedenkt, wie schwierig es ist, einfache Aufgaben korrekt auszuführen, überrascht dieses Problem nicht.