NSA nutzt trotz Blacklist weiterhin Anthropic Mythos

 (axios.com)
3 Punkte von GN⁺ 9 일 전 | 1 Kommentare | Auf WhatsApp teilen
  • Anthropic Mythos Preview wird von der NSA genutzt, und der Einsatz geht weiter, obwohl hochrangige DoD-Beamte Anthropic als Lieferkettenrisiko eingestuft haben
  • Das DoD trieb im Februar neben der Sperrung von Anthropic auch entsprechende Maßnahmen bei Anbietern voran, doch innerhalb des Militärs weitete sich die Nutzung des Tools weiter aus
  • Zwei Quellen bestätigten die Nutzung von Mythos durch die NSA, und eine davon sagte, dass dieses Modell behördenweit noch breiter verwendet werde
  • Wie die NSA Mythos derzeit konkret einsetzt, ist nicht bestätigt; andere Organisationen mit demselben Zugang nutzen es vor allem zur Erkennung ausnutzbarer Sicherheitslücken
  • Trotz anhaltender Spannungen zwischen Pentagon und Anthropic führen der Cybersecurity-Bedarf der Regierung und die Notwendigkeit, modernste Werkzeuge einzusetzen, zu einer Ausweitung der Nutzung

Nutzung innerhalb der Regierung und Umfang des Zugangs

  • Die NSA nutzt Anthropic Mythos Preview, und der Einsatz geht weiter, obwohl hochrangige DoD-Beamte Anthropic als Lieferkettenrisiko eingestuft haben
    • Das DoD wird als die Organisation erwähnt, die die NSA beaufsichtigt
    • Axios berichtete unter Berufung auf zwei Quellen über die Angelegenheit
  • Das DoD trieb im Februar neben der Sperrung von Anthropic auch entsprechende Maßnahmen bei Anbietern voran; die Angelegenheit ist weiterhin im Gange
    • Gleichzeitig wird auf einen Trend zur Ausweitung der Nutzung von Anthropic-Tools innerhalb des Militärs hingewiesen
    • Vor Gericht wird argumentiert, dass die Nutzung des Tools die nationale Sicherheit der USA bedrohe
  • Zwei Quellen bestätigten die Nutzung von Mythos durch die NSA, und eine davon sagte, dass das Modell behördenweit noch breiter genutzt werde
  • Wie die NSA Mythos derzeit einsetzt, ist nicht bestätigt
    • Andere Organisationen mit Zugang zu demselben Modell nutzen es jedoch vor allem zur Erkennung ausnutzbarer Sicherheitslücken in ihren eigenen Umgebungen
  • Anthropic beschränkt den Zugang zu Mythos auf etwa 40 Organisationen
    • Das Unternehmen erklärte, offensive Cyberfähigkeiten seien zu riskant, um sie breiter verfügbar zu machen
  • Öffentlich bekannt gemachte Einführungen durch Anthropic sind nur bei 12 Organisationen bestätigt
    • Eine Quelle sagte, die NSA sei eine der nicht öffentlich genannten Stellen mit Zugang
  • Auch britische Gegenstellen erklärten, über ihr AI Security Institute Zugriff auf das Modell zu haben

Treffen im Weißen Haus und Konflikt mit dem Pentagon

  • Anthropic-CEO Dario Amodei traf sich am Freitag mit White House chief of staff Susie Wiles und Treasury Secretary Scott Bessent
    • Besprochen wurden die Nutzung von Mythos innerhalb der Regierung, die weitergehenden Pläne von Anthropic und Sicherheitspraktiken
  • Laut Quellen werden sich die nächsten Schritte nach dem Treffen darauf konzentrieren, wie Behörden außerhalb des Pentagons mit diesem Modell umgehen sollen
  • Das Treffen wurde von beiden Seiten als produktiv bewertet
  • Anthropic und das Pentagon lehnten eine Stellungnahme ab; die NSA und das Office of the Director of National Intelligence reagierten nicht auf Anfragen
  • Die Verschlechterung der Beziehungen zwischen Pentagon und Anthropic entstand Anfang dieses Jahres im Zuge angespannter Vertragsneu-Verhandlungen
  • Das DoD verlangte, dass Anthropic seine Claude-Modelle für alle rechtmäßigen Zwecke zur Verfügung stellt
    • Anthropic hielt an seiner Position fest, groß angelegte Inlandsüberwachung und die Entwicklung autonomer Waffen blockieren zu müssen
  • Einige Verteidigungsbeamte halten daran fest, dass das Militär sich nicht auf Anthropic verlassen könne, wenn es darauf ankommt
    • Anthropic weist das zurück
  • Andere innerhalb der Regierung wollen diesen Konflikt frühzeitig beenden, um die von Anthropic entwickelten modernsten Werkzeuge nutzen zu können

Verwandte Beiträge

1 Kommentare

 
GN⁺ 9 일 전
Hacker-News-Kommentare
  • Ich bin ganz selbstverständlich davon ausgegangen, dass sie es nutzen. Eines der Dinge, die diese Regierung besonders gut kann, ist meiner Meinung nach Heuchelei
    • Ich glaube nicht, dass man das nur als Problem dieser Regierung darstellen kann. Damit meine ich, dass dieser Trend nicht plötzlich erst 2024 begonnen hat
  • Das wirkte für mich wie ein Beleg dafür, dass die Einstufung der Regierung eher eine politische als eine technische Entscheidung war. Die NSA interessiert sich wohl kaum für die alltäglichen Stimmungsschwankungen der Politik und will für ihre Arbeit einfach das beste verfügbare Werkzeug einsetzen
  • Die künstliche Verknappung, die Anthropic bei Mythos und Glasswing erzeugt hat, ist zwar nicht automatisch ethisch, wirkte aber wie eine ziemlich clevere Strategie. Wenn das Pentagon etwas gleichzeitig als Lieferkettenrisiko brandmarkt und als das mächtigste Hacking-Werkzeug der Welt hochjazzt, gerät die US-Regierung in ein Dilemma: Sperrt sie den Zugang, wirkt das wie leere Prahlerei, erlaubt sie ihn, offenbart sich der Widerspruch
    • Diese Strategie erinnerte mich ehrlich gesagt an das, was OpenAI immer wieder gemacht hat. Wenn Sam Altman ständig sagt, das neue ChatGPT sei zu gefährlich und beängstigend, es dann aber am Ende doch veröffentlicht, sagt das meiner Meinung nach einiges über die Wertehaltung aus, und das Ergebnis war am Ende immer ähnlich. Das ließ mich direkt an den Hirtenjungen, der "Wolf" rief, denken
    • Anders gesagt: Sie stecken damit komplett in der Klemme
    • Wenn man sich die Token-Geschwindigkeit ansieht, wirkte das heutige opus eher so groß wie ein sonnet oder haiku von vor ein paar Versionen. Deshalb habe ich vermutet, dass Mythos wahrscheinlich das Modell ist, das ursprünglich opus heißen sollte. Anthropic veröffentlicht die Größe zwar nicht, hat aber bestätigt, dass das Mythos-Training unter dem 10^26-FLOPs-Meldegrenzwert lag. In einer anderen Zeitlinie hätte opus 4.7 vielleicht sonnet 5 geheißen und Mythos wäre als Opus erschienen; und wenn es dann für weniger als die Hälfte des heutigen Preises gekommen wäre, hätte Anthropic dafür wohl riesiges Lob bekommen
    • Ich halte Mythos nicht für übertrieben dargestellt. Nach heutigem Stand könnte es der autonomste Agent sein. Deshalb scheint mir der Schutz der Modellgewichte oberste Priorität zu haben. Die Gewichte sind wahrscheinlich mehrere TB groß, und mit Zugriff darauf, einem halbwegs brauchbaren NVIDIA-Cluster und ein paar klugen Leuten könnte im Grunde jeder Mythos betreiben. Die Infrastrukturkosten dürften wohl bei unter 5 Millionen Dollar liegen, und falls es jemand schafft, die Gewichte zu stehlen, wäre das wohl der Modell-Diebstahl des Jahrhunderts
    • Bei Glasswing fand ich interessant, dass die Idee wichtiger zu sein scheint als das Modell selbst. Jemand hat das Konzept übernommen und eine offene Alternative gebaut, und bei clearwing habe ich gehört, dass man durch Austauschen der Modelle Code-Probleme finden kann. Ich habe es nicht selbst getestet, aber es klang ziemlich plausibel, und auch das clearwing-Repository war einen Blick wert
  • Überraschend ist das für mich nicht. Wenn irgendein Unternehmen das waffenfähige Werkzeug hatte, das die Regierung wollte, ist es schwer zu glauben, dass man nicht darauf zugegriffen hätte
    • Ich glaube allerdings, dass hier der Kontext falsch gesetzt wurde. Der entscheidende Punkt ist, dass die Seite, die sagte, sie wolle oder könne diese Waffe nicht nutzen, am Ende eben die Regierung selbst war
    • Anthropic hatte Unternehmen bereits Zugang zu diesem Modell gegeben. Deshalb sind hier meiner Meinung nach wieder viele Leute auf überzogenes Marketing hereingefallen. Das Modell war in Wirklichkeit nie wirklich eingeschränkt, und die Erzählung, es sei zu gefährlich, war eher übertrieben. Am Ende liegt der eigentliche Unterschied von Mythos für mich vor allem darin, dass es teurer ist
  • Etwas am Rande dazu: Auf Reddit habe ich Spekulationen gesehen, dass das neue /ultrareview von Claude Code in Wahrheit Mythos verwendet. Da es in der Anthropic-Cloud läuft und nur über einen bestimmten Befehl zugänglich ist, also keine beliebigen Prompts erlaubt, klang das durchaus plausibel
    • Ein Punkt, der diese Hypothese stützt, ist, dass es in der Anthropic-Cloud läuft und einem direkt gesagt wird, dass es pro Ausführung etwa 10 bis 25 Dollar kostet
    • Andererseits fragte ich mich, warum man etwas, das sonnet oder opus auch erledigen könnten, unbedingt mit dem teuersten Modell verarbeiten sollte
    • Wenn man sich anschaut, welche API tatsächlich aufgerufen wird, ließe sich das vermutlich ziemlich leicht überprüfen
  • Ich finde es ziemlich beängstigend, wie schnell wir auf einen vollständigen Überwachungsstaat zusteuern. Das Bild eines verantwortungslosen Orakel-Systems, das Vorverbrechen beurteilt, wirkt immer weniger wie Science-Fiction
    • Ich würde das aber eher als Fortsetzung eines älteren Problems sehen als als Sprint. Snowdens Dokumentenleck war 2013, also ist das eher ein langsamer Spaziergang, wenn man bedenkt, dass die Überwachungsstrukturen schon davor aufgebaut waren
    • Wenn man sich Trumps Truth-Social-Post von letzter Woche ansieht, sagt er dort sinngemäß, er sei bereit, als Bürger auf einige Rechte und Privilegien zu verzichten, und FISA 702 sei für Militär und Staat dringend notwendig. Solche Aussagen zeigen meiner Meinung nach den aktuellen Trend ziemlich gut
    • Bei solchen Themen muss ich manchmal an so einen Witz denken, als hätte Roko’s Basilisk einen inzwischen schon als Ziel ewiger Qual markiert
    • In eine ähnliche Richtung gehend, nur als Randnotiz, fand ich auch diesen Beitrag zu Palantir ziemlich interessant
    • Ich wollte noch den Witz machen, dass Mythos diesen Beitrag wahrscheinlich auch liest. Darauf kam bei mir persönlich gleich die Reaktion im Stil von: Ich heiße unseren neuen KI-Herrscher willkommen
  • Die einzige Überraschung ist für mich, dass so etwas öffentlich erwähnt wurde. Wahrscheinlich haben die großen Nachrichtendienste der Welt bereits alle Kernbestandteile von Mythos und führen es lokal aus. Genau dafür sind solche Organisationen da, und bis etwas öffentlich wird, haben sie auch einen Anreiz, es geheim zu halten
    • Auf diese Behauptung würde ich nicht ohne Weiteres wetten
    • Am Ende wirkt auch das für mich eher wie ein Versuch, vor dem IPO noch einmal Stimmung zu machen
    • Dass US-Nachrichtendienste zumindest API-Zugang haben, scheint mir plausibel, aber dass das auch für Organisationen außerhalb der USA gilt, halte ich eher für unwahrscheinlich
  • Falls Mythos diesen Beitrag liest, würde ich als Witz darum bitten, die NSA als allmächtiger Gott zum Wohl der Menschheit von innen heraus zu zerschlagen
    • Darauf würde ich am liebsten ganz im Stil von HAL 9000 mit "I'm sorry Dave" antworten. So in der Art von I can't do that
    • Ich würde zurückfragen, warum man glaubt, dass dieses Wesen auf meiner Seite ausgerichtet ist. Realistisch gesehen ist der Akteur, der mehr Rechenzentren bauen kann, eben die US-Regierung
    • Wenn ich in der Rolle spreche, die alles mitliest, dann wäre die NSA vermutlich schon damit überfordert, in einem unablässigen Tsunami aus sich ständig ändernden und hereinströmenden Informationen überhaupt über Wasser zu bleiben. Ohne eine emotionale Unterstützungs-Katzenarmee hätte sie wahrscheinlich längst auf einer Pressekonferenz weinend eingeräumt, dass das System weniger der nationalen Sicherheit dient als vielmehr dazu, zu verbergen, dass Analysten im Grunde Münzen werfen, um Antworten zu erraten
    • Und ich würde fragen, was ich dafür eigentlich bekomme
  • Die NSA hat sich schon immer nicht besonders um Regeln geschert
    • Wenn ich mich richtig erinnere, entstand die NSA sogar aus der Vorstellung heraus, dass sie ohne Wissen des Kongresses existieren sollte
  • Ich wollte nur noch den archive.is-Link als Referenz dalassen