- Aufgrund einer von der US-Regierung unter Berufung auf Befugnisse zur nationalen Sicherheit erlassenen Exportkontrollanordnung wird allen Personen mit ausländischer Staatsangehörigkeit der Zugang zu Fable 5 und Mythos 5 gesperrt, unabhängig davon, ob sie sich in den USA oder im Ausland befinden; zur Einhaltung der Vorschriften werden die Dienste für alle Kunden mit sofortiger Wirkung eingestellt
- Die Anordnung ging um 17:21 Uhr ET ein, konkrete Details zu den Bedenken hinsichtlich der nationalen Sicherheit wurden jedoch nicht genannt
- Als Grundlage der Regierung gilt offenbar die Kenntnis einer Jailbreaking-Technik für Fable 5; die mit dieser Technik identifizierten Schwachstellen seien jedoch bereits bekannt und nur geringfügig und könnten auch in anderen offenen Modellen ohne Umgehung gefunden werden
- Anthropic hat vor der Veröffentlichung gemeinsam mit der US-Regierung, UK AISI und externen Stellen mehrere tausend Stunden Red-Team-Tests durchgeführt, und kein Tester fand einen universellen Jailbreak
- Anthropic stimmt nicht zu, dass die Möglichkeit eines Jailbreaks in engem Rahmen ein Maßstab dafür sein sollte, ein von Hunderten Millionen Menschen genutztes kommerzielles Modell zurückzuziehen; würde derselbe Maßstab auch auf andere Modellanbieter angewandt, käme die Bereitstellung neuer Modelle faktisch zum Erliegen
Inhalt der Anordnung und unmittelbare Auswirkungen
- Die US-Regierung hat unter Berufung auf Befugnisse zur nationalen Sicherheit eine Exportkontrollanordnung erlassen und damit allen Personen mit ausländischer Staatsangehörigkeit (einschließlich Anthropic-Mitarbeitern mit ausländischer Staatsangehörigkeit) den Zugang zu Fable 5 und Mythos 5 entzogen, unabhängig davon, ob sie sich in den USA oder im Ausland befinden
- Infolge der Anordnung wurden zur Einhaltung der Vorschriften Fable 5 und Mythos 5 für alle Kunden abrupt deaktiviert
- Der Zugang zu allen anderen Anthropic-Modellen ist davon nicht betroffen
- Die Anordnung ging am selben Tag um 17:21 Uhr ET ein; das Schreiben enthielt jedoch keine konkreten Details zu den Bedenken hinsichtlich der nationalen Sicherheit
Vermutete Grundlage der Bedenken der Regierung
- Offenbar wurde die Regierung auf eine Jailbreaking-Umgehungstechnik für Fable 5 aufmerksam
- Die Überprüfung der Demonstration dieser Technik ergab, dass sie dazu diente, eine kleine Zahl bereits bekannter geringfügiger Schwachstellen zu identifizieren
- Diese Schwachstellen sind vergleichsweise einfach, und auch andere offene Modelle können sie ohne Umgehung in gleicher Weise finden
Anthropics Position zu den Sicherheitsmechanismen von Fable
- Anthropic habe starke Sicherheitsmechanismen eingeführt, die das Missbrauchspotenzial etwa bei Aufgaben der Cybersicherheit deutlich senken; zahlreiche Nutzer hätten sich sogar darüber beschwert, dass diese zu weitreichend seien
- In den Wochen unmittelbar vor der Veröffentlichung wurden zusammen mit der US-Regierung, UK AISI, zahlreichen privaten Drittorganisationen und internen Teams insgesamt mehrere tausend Stunden Red-Team-Prüfungen durchgeführt
- Diese Tests hätten bestätigt, dass die Sicherheitsmechanismen von Fable praktisch wirksamer seien als die aller bereits bereitgestellten Modelle
- Kein Tester fand einen universellen Jailbreak (eine Methode, die Sicherheitsmechanismen des Modells breitflächig umgeht und verschiedenartige Cyber-Fähigkeiten freischaltet)
Grenzen einer vollständigen Abwehr gegen Jailbreaks
- Derzeit halte offenbar kein Anbieter vollständige Resistenz gegen Jailbreaks für möglich; alle Sicherheitsmechanismen der Branche seien anfällig für nicht-universelle Jailbreaks (das gezielte Hervorlocken bestimmter Cyber-Informationen in einzelnen Situationen)
- Auch ein universeller Jailbreak könnte letztlich künftig entdeckt werden; darauf sei bei der Einführung von Fable 5 ausdrücklich hingewiesen worden
Defense-in-Depth-Strategie
- Angesichts der Unmöglichkeit vollständiger Abwehr setzt Anthropic auf eine Defense-in-Depth-Strategie, die Jailbreaks auf enge Anwendungsbereiche begrenzt (nicht universell) oder sehr teuer macht (universell) und durch gründliches Monitoring Angriffe schnell erkennt und stoppt
- Dafür verlangte Anthropic bei Fable eine 30-tägige Speicherung von Kundendaten; das verursache auf Kundenseite reale Kosten, ermögliche aber Forschung zu Jailbreaks und deren Abmilderung
- Anthropic hält an dieser mehrschichtigen Verteidigungsstrategie fest; sie senke das Risiko auf ein mit bereits branchenweit bereitgestellten Modellen vergleichbares Niveau
- Besorgniserregende nicht-universelle Jailbreaks, die zu schädlichen Ergebnissen geführt hätten, seien nicht gemeldet worden; alle offengelegten potenziellen Jailbreaks seien entweder harmlose Antworten gewesen oder geringfügige Erkenntnisse ohne spezifischen Mythos-Vorteil
Überprüfung der von der Regierung vorgelegten Belege
- Bislang habe die Regierung nur mündliche Belege vorgelegt; dabei gehe es um einen eng begrenzten, nicht-universellen Jailbreak, bei dem das Modell aufgefordert werde, einen bestimmten Codebestand zu lesen und Softwarefehler zu beheben
- Anthropic gehe davon aus, dass der Regierung nur ein potenzieller Jailbreak mitgeteilt wurde; bei der Prüfung des Berichts, der mutmaßlich als Grundlage der Anordnung diente, habe sich gezeigt, dass das dargestellte Fähigkeitsniveau auch in anderen Modellen wie OpenAIs GPT-5.5 breit verfügbar sei
- Es handle sich um Fähigkeiten auf einem Niveau, das Verteidiger zum Schutz von Systemen täglich nutzen
- Weitere Details sollen innerhalb der nächsten 24 Stunden mitgeteilt werden
Anthropics Reaktion und Position
- Anthropic hat der rechtlichen Anordnung der Regierung entsprochen und den Zugang zu Fable 5 und Mythos 5 für alle Nutzer entfernt
- Anthropic stimmt jedoch nicht zu, dass die Entdeckung eines potenziellen Jailbreaks in engem Rahmen ein Grund sein sollte, ein kommerzielles Modell zurückzuziehen, das an Hunderte Millionen Menschen ausgeliefert wurde
- Würde derselbe Maßstab auf die gesamte Branche angewandt, käme die Bereitstellung neuer Modelle aller Frontier-Model-Anbieter faktisch zum Stillstand
- Die Regierung sollte zwar die Befugnis haben, unsichere Bereitstellungen zu stoppen, dies müsse jedoch Teil eines transparenten, fairen, klaren und auf technischen Fakten beruhenden Rechtsverfahrens sein; diese Maßnahme entspreche diesem Grundsatz nicht
- Anthropic entschuldigt sich für die Verwirrung bei Kunden, bezeichnet dies als Missverständnis und arbeitet daran, den Zugang so schnell wie möglich wiederherzustellen
6 Kommentare
Egal, wie oft ich es mir ansehe: Sie haben die ganze Zeit lautstark behauptet, unser Modell sei gefährlich, also wirkt es, als hätten sie sich damit nicht selbst ins Knie geschossen.
Ob das marketingtechnisch am Ende ein Erfolg oder ein Misserfolg sein wird, weiß man erst in der Zukunft, aber im Moment sieht es nach einem Misserfolg aus.
Wenn man nach dem Pentagon-Vorfall an den Zustrom von Nutzern zu Anthropic denkt, glaube ich nicht, dass Anthropic zu diesem Zeitpunkt kurz vor dem IPO dadurch in irgendeiner Weise Schaden nehmen wird.
Es wäre auch geradezu passend, um Themen wie Guardrails zu überdecken: Wenn man das Modell von vornherein gar nicht als Service anbietet, kann es schließlich nicht mehr weiter überprüft werden.
AI-Unternehmen haben nun keinen Grund mehr, noch leistungsfähigere Modelle zu entwickeln. Es scheint, als wäre die Entwicklung der KI damit an ihr Ende gekommen.
Was ist das denn.. haha
Hahahahahahahahahahahahahahahaha
Hacker-News-Kommentare
Sie haben ständig Angst-Marketing betrieben, um ihre Modelle als weit überlegen darzustellen, und zahlen jetzt offenbar den Preis dafür
Offenbar haben sie endlich das passende dumme Publikum gefunden, das ihnen das abkauft
Es klingt so, als würden unzählige Unternehmen und Nutzer noch stärker auf chinesische Modelle setzen
Es kann ein nationales Sicherheitsproblem der USA sein, wenn andere Staaten Zugang zu solchen Modellen haben. Aber jetzt wird es genauso zu einem nationalen Sicherheitsproblem, wenn andere Länder von solchen Modellen und allgemeiner von US-Technologie insgesamt abhängig sind
Logisch betrachtet bleibt doch nur der Schluss, dass die USA die Obergrenze der Modellfähigkeiten erreicht haben, die sie der Öffentlichkeit zugänglich machen wollen. Warum sollte man nach so einem Präzedenzfall noch in intelligentere Modelle investieren?
Vielleicht noch wichtiger ist die Frage, wie sich überhaupt noch AI-Investitionen amortisieren sollen, die auf ASI/AGI/deutlich bessere Modelle setzen, wenn schon ein Modell wie Mythos, das gegenüber Opus bestenfalls eine inkrementelle Verbesserung ist, so behandelt wird
Wenn OpenAI oder Grok auf demselben Niveau operiert hätten, hätten sie vermutlich nicht den scharfen Knüppel der Regierung zu spüren bekommen
Auch ChatGPT 2 galt zeitweise als zu mächtig für eine Veröffentlichung
AI hat sich schneller bewegt als Kultur und Denkweisen. Sobald wir uns an das angepasst haben, was diese Modelle leisten können, wird es etwas lockerer, und dann sorgt die nächste schrittweise Verbesserung wieder dafür, dass sich alles wiederholt. So läuft es immer
Das ist das Ergebnis des amerikanischen Spektakels rund um Large Language Models. Diesmal ist es ihnen einfach auf die Füße gefallen
Ob Modelle künftig wirklich gefährlich sind oder nicht, Gefahrenbehauptungen über zukünftige Modelle dürften damit wohl verschwinden
Wenn die Regierung allen Ausländern innerhalb und außerhalb der USA willkürlich befehlen kann, die Nutzung eines Modells einzustellen, wird niemand mehr das Risiko eingehen wollen, etwas Wichtiges darauf aufzubauen. Am Ende ist es nur eine Frage der Zeit, bis ausländische Unternehmen aufholen und sich den kommerziellen Markt für solche Modelle holen. Nur wird die USA dann, wie so oft, einfach die Konkurrenz verbieten, sodass man am Ende vielleicht nur in den USA andere Modelle im Backend verwendet
In einer Zeit mit weltweitem Ölmangel, Düngemittelknappheit und stümperhaften Eingriffen zur Ausweitung der Blase sollte man fast schon dankbar sein, dass ein seniler „stable genius“ in den Achtzigern mit Verachtung für den Rechtsstaat und 22 Fachärzten am Steuer sitzt
Für Großunternehmen oder Organisationen ab einer gewissen Größe ist es schwer hinnehmbar, dass durch so etwas plötzlich das Kernstück ihrer Infrastruktur deaktiviert werden kann. Der Druck hin zu On-Premises- und Offline-Zugang wird überwältigend zunehmen, und irgendjemand wird diese Nachfrage bedienen, sei es mit Weight-Licensing oder mit eingeschränkten Umgebungen wie TEE/CC
Einige werden größere Risiken eingehen und damit gewinnen oder verlieren, während andere sicherer agieren und langsam Ergebnisse aufbauen oder verdrängt werden. Ganz zu schweigen von der Gefahr, dass diese Modelle Code schreiben, der den Geschäftsbetrieb eines Unternehmens steuert, oder wie Agenten operieren. Es könnte sich um ein Modell handeln, das von Akteuren trainiert wurde, deren Interessen den eigenen genau entgegengesetzt sind, ob Unternehmen oder Staaten
Es gibt jetzt viel mehr zu bedenken, und es ist eine interessante Zeit, um Geschäfte zu machen
Selbst wenn man ein Open-Modell eines chinesischen Unternehmens mietet, kann man auf On-Premises umstellen, wenn der Zugang gekappt wird oder die Nutzungsbedingungen unangenehm geändert werden. Das mag lästig sein, bedroht aber nicht das Überleben. Wenn man dagegen von einem Closed Model abhängt und dann abgeschnitten wird, gerät man in große Schwierigkeiten
Im großen Bild geht es hier um die Kontrolle über die Infrastruktur. Chinesische Modelle werden zu den Modellen werden, die die Leute tatsächlich benutzen, und dadurch die Standards setzen. Dann entsteht darum herum mehr Forschung, mehr Tooling und das gesamte Ökosystem
Schon vor diesem Aufruhr hatte diese Entwicklung begonnen, weil chinesische Modelle dabei waren, weltweit die meistgenutzten Modelle zu werden. https://www.indiatoday.in/amp/technology/features/story/clau...
Wenn man lange genug darüber redet, wie gefährlich das eigene Produkt ist, könnten die Leute, die die Befugnis haben, gefährliche Produkte vom Markt fernzuhalten, tatsächlich zuhören
Besonders dann, wenn diese Leute derzeit nicht besonders klug sind und ohnehin schon auf Anthropic wütend, weil das Unternehmen ihnen nicht dabei hilft, separate autoritäre Ziele zu erreichen
Ich glaube nicht, dass das Anthropics 3D-Schach ist. Sie sind, anders als sie es gern wären, keine genialen Strategen im Hintergrund. Wer die Produkte tatsächlich benutzt hat, weiß, dass Fable und Mythos keine Weltuntergangsmaschinen sind, sondern schrittweise Verbesserungen. Das hier ist eine Strafmaßnahme einer Regierung, die gern bestraft, und Anthropic hat mit seiner törichten Rhetorik unbeabsichtigt die Begründung dafür mitgeliefert
Es heißt, das sei heute um 5:21 Uhr Eastern Time passiert
Auf der Seite stand der 11. Juni 2026, und in den letzten 10 Minuten wurde das auf den 12. Juni 2026 aktualisiert
https://imgur.com/a/lx7HCW9
Google zeigt, dass diese Seite vor ein paar Tagen gecrawlt wurde
Man muss nur nach „the us government directive to suspend access to fable“ suchen
https://imgur.com/a/EOWWUbD
Selbst wenn sie sich in den USA befinden oder Anthropic-Mitarbeiter sind, ausländische Staatsangehörige unabhängig von ihrer Herkunft von der Nutzung auszuschließen, wirkt übermäßig weitreichend und hart. Und das dann offenbar wegen nur einer potenziellen, auf den ersten Blick eher geringfügigen Jailbreak-Schwachstelle — da steckt wohl mehr dahinter, als man sieht
Das heißt nicht, dass es gut für die Forschenden oder die Forschung selbst ist. Es ist eher eine Absicherung dafür, wie von den USA angewiesene Mittel verwendet werden