Google stellt das experimentelle Cybersecurity-AI-Modell Sec-Gemini v1 vor

• Der Fokus liegt darauf, die Fähigkeiten von Cybersecurity-Experten zu verstärken und damit die Position der Verteidiger zu stärken
• Angreifer müssen nur eine einzige Schwachstelle finden, während Verteidiger auf alle Bedrohungen vorbereitet sein müssen; adressiert werden soll diese Asymmetrie zugunsten der Angreifer
• KI-basierte Cybersecurity-Workflows könnten das Gleichgewicht wieder zugunsten der Verteidiger herstellen

Hauptfunktionen und Leistung

• Kombiniert die fortgeschrittenen Reasoning-Fähigkeiten der Gemini-Modelle mit aktuellem Sicherheitswissen und Tools
• Zeigt starke Leistung bei zentralen Cybersecurity-Aufgaben
  • Root-Cause-Analyse von Vorfällen
  • Threat Analysis
  • Bewertung der Auswirkungen von Schwachstellen
• Integriert mit Google Threat Intelligence (GTI), OSV-Daten und weiteren zentralen Sicherheitsinformationen

Benchmark-Ergebnisse

• Im CTI-MCQ Threat-Intelligence-Benchmark mindestens 11 % bessere Leistung als andere Modelle
• Auch im CTI-RCM-Benchmark (Root Cause Mapping) wurde eine um mehr als 10,5 % höhere Genauigkeit erzielt
  • Analysiert und klassifiziert die Grundursachen von Schwachstellen präzise auf Basis des CWE-Klassifikationssystems

Beispiel für Threat Analysis: Salt Typhoon

• Sec-Gemini v1 erkennt Salt Typhoon als Threat Actor und liefert eine detaillierte Beschreibung
  • Möglich wird dies durch die Integration von Mandiant Threat Intelligence
• Bei Fragen zu Salt Typhoon liefert es konkrete Informationen zu den von diesem Threat Actor genutzten Schwachstellen
  • Fügt Analyseergebnissen auf Basis von OSV-Daten und Mandiant Intelligence zusätzlichen Kontext hinzu
  • Dadurch können Analysten Zusammenhänge zwischen Bedrohungen und Schwachstellen sowie das Risikoniveau schneller erfassen

Nutzung und Bereitstellung

• Für Forschungszwecke kostenlos für ausgewählte Organisationen, Institutionen, Sicherheitsexperten und NGOs verfügbar
• Google will gemeinsam mit der Security-Community die Grenzen KI-gestützter Sicherheitsfähigkeiten erweitern

[GN⁺]

Hacker-News-Kommentare

• Das Gemini-Modell fühlt sich etwas anders an als Claude, ChatGPT und Mistral

  • Es wirkt, als würde man mit einem Modell sprechen, das auf Engineering-Aufgaben fokussiert ist
  • Es hat eine Ernsthaftigkeit, die weder Humor noch Coolness anstrebt
  • Das könnte auch daran liegen, dass ich mit Gemini nur über AI Studio interagiere
  • Der Grund, warum ich gemini.google.com nicht nutze, ist einfach: Es gibt keine einfache Exportfunktion
  • Die Google-Drive-Speicherfunktion von AI Studio ist sehr nützlich
  • Ich wünschte, gemini.google.com würde eine Funktion „Als Markdown speichern“ anbieten

• Auf eine Frage zur Schwachstelle in der Erklärung zu Salt Typhoon liefert Sec-Gemini v1 nicht nur Details zur Schwachstelle, sondern auch Kontext zum Bedrohungsakteur

  • Es erklärt die Schwachstelle mithilfe von OSV-Daten und Mandiant-Daten
  • Ich bin bei LLMs immer noch skeptisch, aber die Entwicklung von OSV ist positiv

• Es ist überraschend, dass Google die Antworten der KI nicht sorgfältig prüft

  • Auf eine Frage zu CVE-2024-3400 wird erwähnt, dass Hitachi-Geräte verwundbar seien, tatsächlich sind sie es aber nicht
  • In Hitachis Schwachstellenliste ist diese CVE nicht enthalten
  • Es gibt auch keine Erwähnung, dass die „Portal“-Funktion verwundbar sei

• Es gibt die Frage, ob es sich um ein Modell handelt, das Sicherheitsarbeit ausführt, oder um ein System, das Daten abruft und Tools verwendet

  • Nach der Beschreibung der Datenintegration ist Letzteres wahrscheinlicher
  • Der Unterschied zwischen einem auf Sicherheit zugeschnittenen Modell und einer vorgefertigten Sicherheits-LLM-App ist wichtig

• Das Aufkommen spezialisierter Modelle ist interessant

  • Es ähnelt ausgebildeten Menschen

• Bei LLMs und Analysearbeit habe ich immer Bedenken

  • Wenn man das Risiko und die Auswirkungen einer Schwachstelle bewertet oder komplexe Malware analysiert, muss man die Datenpunkte gründlich prüfen
  • LLMs können sehr helfen, aber man muss ihr Schlussfolgern überprüfen
  • Menschen müssen ebenso die Grundlage für ihre Schlussfolgerungen darlegen

• Schnelle Sicherheitsarbeit mit KI-Systemen ist notwendig, aber nicht ausreichend

  • Angreifer werden ebenfalls KI-Systeme nutzen, daher müssen Verteidiger mithalten
  • Wir müssen sicherere Systeme bauen

• Es könnte gut sein, um die Arbeit von Cybersicherheitsexperten zu unterstützen

  • Ich sorge mich jedoch, dass es als Werkzeug genutzt werden könnte, um Verantwortung abzuschieben

• Sich in der Sicherheit auf etwas zu verlassen, das nur probabilistisch korrekt ist, könnte eine schlechte Idee sein

• Es könnte mit der wiz-Übernahme zusammenhängen