Der gewaltige Schatten über der Fable-Affäre

• Die leistungsstarken AI-Modelle Fable 5 und Mythos 5 wurden nach einer Exportkontrollanweisung der US-Regierung plötzlich für alle Kunden unzugänglich
• Die Anweisung der US-Regierung zielte auf ausländische Staatsangehörige innerhalb und außerhalb der USA sowie sogar auf ausländische Mitarbeiter von Anthropic; zur Einhaltung kappte Anthropic den gesamten Zugriff
• Anthropic geht davon aus, dass die Regierung eine bestimmte Jailbreak-Umgehung beanstandet hat, doch die demonstrierte Schwachstelle bestehe nur aus wenigen bereits bekannten, geringfügigen Lücken, die sich auch bei anderen öffentlichen Modellen finden ließen
• Die Maßnahme macht es schwer zu unterscheiden, ob es sich um AI-Sicherheitsregulierung oder um politischen bzw. wettbewerblichen Druck gegen Anthropic handelt, und verschärft die Vertrauensfrage bei Regierungsentscheidungen
• Damit entsteht ein Präzedenzfall, bei dem der öffentliche Zugang zu leistungsstarken LLMs durch staatliche Kontrolle eingeschränkt wird; das schürt die Sorge, dass normale Nutzer künftig Modelle mit Spitzenleistung womöglich nicht mehr verwenden können

---

Modellzugang am Freitagabend unterbrochen

• Beim Erstellen eines HTML-Spiels mit einem AI-Agenten am Freitagabend antwortete der Agent plötzlich, „dieses Modell existiert nicht mehr“, und die Arbeit wurde unterbrochen
• Zunächst wurde ein erneuter Login-Fehler oder eine seltsame Beschränkung durch parallele Agentennutzung vermutet; daher wurde auf die API gewechselt, doch der Zugriff blieb weiterhin blockiert
• Während man im Verdacht stand, das Harness des im Team entwickelten benutzerdefinierten Rust-Agent-Clients sei kaputt, und deshalb den Rust-Code durchsah, kam von einem Freund die Nachricht, die Regierung habe Fable verboten

Anweisung der Regierung zur Zugriffssperre

• Die US-Regierung erließ unter Berufung auf Befugnisse der nationalen Sicherheit eine Exportkontrollanweisung und verlangte, den Zugang aller ausländischen Staatsangehörigen zu Fable 5 und Mythos 5 zu stoppen
  • Betroffen sind alle ausländischen Staatsangehörigen, unabhängig davon, ob sie sich innerhalb oder außerhalb der USA befinden, einschließlich ausländischer Anthropic-Mitarbeiter
  • Um dem nachzukommen, deaktivierte Anthropic Fable 5 und Mythos 5 sofort für sämtliche Kunden; der Zugriff auf alle anderen Anthropic-Modelle blieb unbeeinträchtigt
• Die Anweisung ging am selben Tag um 17:21 Uhr ET ein; das Schreiben enthielt keine konkreten Angaben zu Sicherheitsbedenken

Offizielle Position von Anthropic

• Anthropic versteht die Lage so, dass die Regierung eine Jailbreaking-Umgehungstechnik für Fable 5 erkannt hat; nach Prüfung der Demonstration dieser Technik sei dabei jedoch nur eine kleine Zahl bereits bekannter, geringfügiger Schwachstellen identifiziert worden
  • Diese Schwachstellen seien vergleichsweise einfach, und auch andere öffentliche Modelle könnten dieselben Dinge selbst ohne Umgehung entdecken
• Man habe den Bericht geprüft, der mutmaßlich der Anweisung zugrunde liegt, und verifiziert, dass dieses Fähigkeitsniveau auch bei anderen Modellen wie OpenAI GPT-5.5 breit verfügbar sei und von Sicherheitsverteidigern täglich genutzt werde; zusätzliche Informationen sollen innerhalb von 24 Stunden geteilt werden
• Zwar werde man der rechtlichen Anweisung Folge leisten, doch Anthropic lehnt die Auffassung ab, dass die Entdeckung eines eng begrenzten potenziellen Jailbreaks ein Grund für den Rückzug eines kommerziellen Modells, das an Hunderte Millionen Menschen verteilt wurde, sein dürfe

Bedenken zu AI-Sicherheit und Optimierung

• Die Haltung zu AI ist ambivalent; aufgrund umfangreicher Erfahrung beim Training von Deep-Learning-Modellen bestehen starke Sorgen darüber, wie Optimierungswerkzeuge fehlgehen können
• Menschen neigen dazu, messbare Kennzahlen zu optimieren statt der Ziele, die sie tatsächlich erreichen wollen
• So entstehen Probleme wie die Optimierung von Engagement, weil man nicht weiß, wie man ein gutes Produkt baut, oder die Optimierung von Testergebnissen, obwohl man Kindern eigentlich Lesen und Schreiben beibringen will
• AGI- und ASI-Systeme sind Optimierungswerkzeuge; indem sie Messbares optimieren, können sie sich vom Guten entfernen und dadurch schwer vorhersehbare Risiken erzeugen
• Auch Unternehmen funktionieren wie Optimierungswerkzeuge, weshalb sie sich trotz Warnungen vieler Entwickler auf ein messbares Ziel wie schnelle Monetarisierung zubewegen können

Hintergrund des Konflikts zwischen Regierung und Anthropic

• Anthropic und die derzeitige Regierung pflegen keine freundschaftlichen Beziehungen; Anthropic versuchte eine Integration beim DoD und militärische Zusammenarbeit, und die Modelle wurden bereits in hochgeheimen Systemen eingesetzt
  • Dennoch stufte die Trump-Regierung Anthropic als Supply-Chain-Risiko ein und untersagte staatlichen Kooperationspartnern die Nutzung von Anthropic-Modellen
  • In den folgenden sechs Monaten wurden Anthropic-Modelle dennoch weiterhin bei Militäroperationen wie dem Krieg in Venezuela und dem Krieg gegen Iran eingesetzt, während chinesische LLMs nicht einmal als Supply-Chain-Risiko eingestuft wurden
• Teile der extremen Rechten vertreten die Logik, Anthropic werde als „woke“ eingeordnet, weil die Regierung das Unternehmen zerstören wolle
• Es wird infrage gestellt, ob diese Maßnahme dem Zweck schädlicher AI-Regulierung dient oder eine Gelegenheit ist, ein kulturell verfeindetes Ziel zu treffen

Wettbewerbslage und IPO-Zeitpunkt

• Wettbewerber verfügen im gesamten Regierungsapparat über wohlgesonnene Kräfte; als Beispiel wird angeführt, dass die Familie Kushner umfangreich in OpenAI investiert habe
• Diese Maßnahme lässt sich als Gelegenheit für andere Labore deuten, Anthropic zu schaden
  • Fable gilt als äußerst leistungsstarkes Modell, und es ist auffällig, dass die Nutzung durch Verbraucher gerade zu einem Zeitpunkt unterbrochen wurde, an dem der IPO von Anthropic bevorsteht
• Das Patronagesystem macht die optics aller Vorgänge verdächtig, und es wird darauf hingewiesen, dass über Jahrzehnte aufgebautes Vertrauen zerbrochen sei

Bekanntgabe um 17:21 Uhr am Freitag und Marktsorgen

• Schon der Zeitpunkt der Bekanntgabe, Freitag um 17:21 Uhr, wirkt verdächtig
• Veröffentlichungen am Freitagabend gelten als Methode, schlechte Nachrichten so zu platzieren, dass der Markt den Schock über das Wochenende absorbiert
• Zu den von Claude zitierten Fällen aus The Kobeissi Letter zählen geopolitische und handelsbezogene Ankündigungen, die nach Börsenschluss am Freitag oder in der Nacht zum Samstag veröffentlicht wurden
  • Beispiele sind ein Schlag gegen iranische Nuklearanlagen, ein Militäreinsatz gegen Drogentransportschiffe in der Karibik, die Drohung mit 100 % Zöllen gegen China, die Schließung des venezolanischen Luftraums, Militäroperationen in Nigeria sowie ein direkter Schlag gegen Iran im Februar 2026
  • Auch die am 11. August 2025 angekündigte Intel-Transaktion wird als Unternehmensfall genannt, der nach öffentlichem Druck auf CEO Lip-Bu Tan außerhalb der aktiven Handelszeiten platziert wurde
• Der AI-Boom beruht stark auf der Annahme, dass es dauerhaft Nachfrage nach Computerintelligenz geben werde
• Der Börsenanstieg entlang der gesamten AI-Kette – von Schulden über Infrastrukturinvestitionen, Rechenzentren, GPUs, Speicher, Festplatten bis hin zu Server-Racks – hängt von der Annahme ab, dass Werte in Billionenhöhe entstehen werden
• Die Vorstellung, dass die Regierung jederzeit einseitig jeden Zugriff abschalten kann, könnte zu einem großen Hindernis für Investitionen in Rechenzentren in Billionenhöhe werden
• Einige Nutzer auf HN und Reddit sehen diesen Vorfall als Obergrenze für die Modellfähigkeiten, zu denen die Regierung Menschen Zugang gewähren wird
• Wenn die Regierung es nicht zulässt, bleibt das Problem bestehen, dass man selbst bei großer Nachfrage keinen Zugang bekommen kann

Community-Reaktionen und der Bumerang des Marketings mit dem „gefährlichen Modell“

• Einige Nutzer auf HN und Reddit freuen sich darüber und meinen, Anthropic zahle nun den Preis für die Marketing-Show rund um Mythos
• Früher schränkte auch OpenAI GPT-2 mit dem Argument ein, es sei „zu gefährlich, um veröffentlicht zu werden“, und verwies damals auf Sorgen über massenhafte täuschende, voreingenommene und missbräuchliche Sprachgenerierung
• Rückblickend erscheint die Sorge von OpenAI recht treffend, weil seit GPT-2 AI-erzeugte minderwertige Inhalte überhandgenommen haben und damit die gemeinsame Fähigkeit erschüttert wurde, Realität zusammen zu verstehen
• Es wird geglaubt, dass Fable tatsächlich ein leistungsstarkes Modell ist, und den Aussagen von Anthropic, man sorge sich um die Sicherheitsrisiken einer breiten Veröffentlichung von Fable, wird bis zu einem gewissen Grad vertraut
• Der Top-Kommentar im zugehörigen HN-Thread lautete sinngemäß, Anthropic müsse nun dafür bezahlen, Angst geschürt zu haben, um das eigene Modell als den anderen weit überlegen zu verkaufen
• Nimmt man die Position der Regierung zum Nennwert, wären Anthropic-Modelle so gut, dass sie buchstäblich nicht benutzt werden dürfen – was paradoxerweise sogar starke Werbung sein könnte
• Ein weiterer HN-Kommentar weist darauf hin, dass Menschen mit der Macht, gefährliche Produkte vom Markt fernzuhalten, zuhören könnten, wenn man lange genug darüber spricht, wie gefährlich das eigene Produkt ist
• Bernie Sanders wird als Abgeordneter beschrieben, der politische Videos erstellt, in denen Aussagen von AI-CEOs vorgelesen werden, um die Gefahren von AI zu betonen
• AI-Modelle könnten tatsächlich unsicher sein und Regulierung benötigen, doch AI-CEOs, die nun das Risiko einer Abschaltung sehen, könnten künftig auf solche Aussagen verzichten

Präzedenzfall für eingeschränkten Zugang zu leistungsstarken LLMs

• Der zuletzt zitierte HN-Kommentar sieht den Kern des Vorfalls darin, dass die Regierung womöglich begonnen hat, den öffentlichen Zugang zu leistungsstarken LLMs einzuschränken
• Der Kommentar betrachtet Fable als das leistungsstärkste Modell auf dem Markt und meint, dass die US-Regierung es zwar grundsätzlich nur Nicht-US-Bürgern verboten habe, es in der Praxis aber auch für US-Bürger unbenutzbar geworden sei
• Auch die Vorstellung, Open-Source-Modelle aus China oder die Ausführung auf eigener Hardware seien eine Lösung, müsse neu bewertet werden
• Wenn die US-Regierung die stärksten US-Modelle blockiert, erscheint es unwahrscheinlich, dass China ein Jahr später das stärkste LLM eines heimischen Unternehmens mit Mythos-ähnlichen Fähigkeiten als Open Source freigeben würde
• Leistungsstarke LLMs entwickeln sich in Richtung starker Cybersecurity-Waffen, und Nationalstaaten haben daher ein Interesse daran, sie einzuschränken und zu kontrollieren
• Es wäre überraschend, wenn die stärksten LLMs in zwei Jahren noch für allgemeine Zwecke verfügbar wären
• Ob Beschränkungen für leistungsstarke LLMs die Menschen ärmer oder sicherer machen, ist unklar, doch dieser Vorfall markiert einen bedeutenden Wendepunkt, an dem ein Präzedenzfall entstanden ist

[sungwoo]

Dann sollte ich wohl doch den ganzen Thread gründlich lesen.

[shakespeares]

Ach ...

[GN⁺]

Hacker-News-Kommentare

• Ich verstehe den Gedanken, dass dank AI-Tools eine Renaissance der „Flash-Spiele“ zurückkehren könnte, aber nachdem ich immer wieder die Spiele ausprobiert habe, die Leute im Subreddit aigamedev gebaut haben, war ich ziemlich enttäuscht.
  Game-Design ist eine Kunst, die schwer zu erlernen ist, und scheint ein Bereich zu sein, in dem LLMs kaum groß helfen können.
  Zu sagen, solche Spiele seien „spaßig“, wirkt ein bisschen so, als würde man Kleinkinderzeichnungen „schön“ nennen, und für mehr als 25 Dollar an Code-Generierung kann man viele deutlich bessere Indie-Games kaufen.

  • Wenn man durch die Abstraktionsschicht eines LLM arbeitet, wird es eher noch schwerer, interessante Spiele zu machen.
    Die Kunst großartigen Game-Designs liegt im Detail, und nur mit Englisch lässt sich nicht jeder einzelne Pinselstrich auf der Leinwand vermitteln.
    Ich bin in das Subreddit gegangen, um zu sehen, was dort gebaut wird, aber auch ich war nicht besonders beeindruckt.
  • Solch starker AI-Enthusiasmus und ein Mangel an Geschmack scheinen dort ziemlich stark miteinander zu korrelieren.
    Es gibt sicher viele Entwickler, die mit LLMs langweiliges Coding unterstützen, dabei aber die Leine kurz halten und die kreativen Teile selbst machen.
    Es gab schon immer Indie-Entwickler, die Coding hassten und es nur als notwendigen Schritt sahen, um ihre Ideen umzusetzen, und die trotzdem gute Spiele gemacht haben.
    Der gesamte Dialog von Undertale ist in einer riesigen switch-Anweisung mit über 5.000 Zeilen umgesetzt.
  • Die meisten Flash-Spiele waren auch miserabel.
    Um Spiele wie Boxhead, Motherload oder Bloons zu finden, musste man sich durch Berge von Müll wühlen.
    Ich denke, hier zählt vor allem die Menge.
    Man muss kein großartiger Programmierer sein, um ein großartiger Game-Designer zu werden, aber früher war Programmierung eine Voraussetzung, um überhaupt anzufangen.
    Die Schönheit daran, AI-Tools auf Spiele anzuwenden, liegt im Letzteren, also darin, sich nur auf Game-Design konzentrieren zu können, und mit der Zeit werden die kleinen Juwelen nach oben kommen.
  • Game-Design ist schwer.
    Ich habe früher vier Flash-Spiele veröffentlicht; zwei sind komplett gefloppt, eins war so lala und eins lief ziemlich gut.
    Die kumulierte Spielzeit lag bei mehreren hundert Jahren.
    Um es richtig zu machen, gibt es viel zu tun, und wie jede Software muss es auf den Zielmarkt zugeschnitten sein.
    Es gibt keine einfache AI-Lösung, um eine spaßige und fesselnde Core-Loop zu bauen, und auch keine Lösung, um die richtige Balance aus Komplexität und Lernkurve zu finden.
    Viele Menschen, die nicht programmieren konnten oder wollten, hielten sich für Game-Designer und erwarteten, dass AI ihnen ermöglichen würde, Spiele zu machen, merken aber nun wohl, dass der Kern des Problems nie der Code war.
    Außerdem reicht Vibe-Coding, wenn man nicht coden kann, noch nicht aus, um viel mehr als Spiele auf Flash-Niveau zu bauen.
  • Als Indie-Entwickler ist Spieleentwicklung schwer und im Softwarebereich fast der einzige Bereich, in dem alle Disziplinen zusammenkommen müssen, damit ein überzeugendes Ergebnis entsteht.
    Ich habe in vielen Unterbereichen viel programmiert, aber es fühlt sich immer noch wie das Feld an, das für AI am schwersten zu knacken ist.
    Als Tool zur Steigerung der Output-Geschwindigkeit ist es zweifellos beeindruckend, aber insgesamt dürfte dies der Bereich sein, der für AI am schwersten zu produktisieren ist.

• Der Autor sagt, OpenAI habe schon zu GPT-2 mit dem Marketingtrick „zu gefährlich, um es zu veröffentlichen“ gearbeitet, und meint, beide Seiten hätten diese Karte gespielt; damals war Dario jedoch bei OpenAI und Mitautor des GPT-2-Forschungspapiers.
  Der Ansatz „zu gefährlich, um es zu veröffentlichen“ ist eher etwas, das diese Person in beiden Unternehmen fortgeführt hat.

  • Waren die Sorgen um GPT-2 am Ende nicht berechtigt?
    Schon im ursprünglichen Veröffentlichungsbeitrag von 2019 wurden Missbrauchsmöglichkeiten genannt wie das Erzeugen irreführender Nachrichtenartikel, Online-Imitation, die automatische Erstellung missbräuchlicher oder gefälschter Inhalte für Social Media sowie die automatische Erstellung von Spam- und Phishing-Inhalten.
    Zusammen mit synthetischen Bild-, Audio- und Videoergebnissen hieß es, solche Technologien würden die Kosten für gefälschte Inhalte und Desinformationskampagnen senken, und die Öffentlichkeit müsse auch Online-Texte stärker so behandeln wie Deepfake-Bilder, also mit mehr Misstrauen.
    Deshalb hieß es, man werde vorsichtig ausrollen.
    https://openai.com/index/better-language-models/
  • Vielleicht hat Dario nicht blind gedacht, dass schon alles gutgehen werde, sondern tatsächlich die potenziellen Risiken abgewogen.
  • Fairerweise muss man sagen, dass generative AI die Gesellschaft jede Woche auf neue und unerwartete Weise kaputtmacht.
    Von Lügen und Desinformation bis hin zu Menschen, die sich statt für Behandlung oder menschliche Beziehungen für Chatbots entscheiden, sind die gesellschaftlichen Auswirkungen tiefgreifend, und es wird noch schlimmer werden.
    Schon jetzt ist es deprimierend schwierig, Junior-Programmierer zu finden, die noch genug können, um etwas zu schaffen, wenn die AI ausfällt, und das dürfte noch schlimmer werden.
    Wichtige Sicherheitsfunktionen wie „keine Erzeugung von Material zum sexuellen Missbrauch von Kindern“ oder „Aussagen müssen faktisch oder evidenzbasiert sein“ waren im Design dieser Systeme von Anfang an nicht eingebaut und sind bis heute nicht ordentlich gelöst, trotzdem haben AI-Unternehmen Produkte mit offensichtlichen Mängeln für die breite Öffentlichkeit freigegeben.
    Ich mag sowohl die Fähigkeit von AI, Unsinn zu erzeugen, als auch ihren Charakter als faszinierendes Spielzeug, aber bisher war sie unter dem Strich nur für die reichsten Wenigen profitabel, die Menschen entlassen und Computer die Arbeit halbwegs vermasseln lassen, während sie für alle anderen netto ein Verlust war.
    Jetzt ist es zu spät, aber rückblickend stimme ich zu, dass diese Form tatsächlich zu gefährlich war, um veröffentlicht zu werden.

• Der übertriebene Skeptizismus auf Hacker News hat eine vernünftige AI-Debatte ruiniert
  Die US-Regierung hat im eskalierenden Krieg um die Kontrolle über AI die Staatsmacht gegen Anthropic auf plumpe, korrupte und strafende Weise als Waffe eingesetzt
  Doch HN legt sich auf „Marketing-Hype“ als einzige Erklärung fest und presst alle Belege in immer gezwungenere Erklärungen
  AI bedroht Jobs, Status, Überzeugungen und Lebensweisen
  Auf HN scheint es leichter zu sein, Rationalisierungen zu erfinden, warum das unmöglich wahr sein könne, als diese Wahrheit zu glauben
  Ich bin dankbar für Leute, die akzeptieren, dass die Welt sich ziemlich seltsam zu verändern scheint, und die versuchen, die tatsächlichen Fragen zu analysieren

  • Das erinnert mich an die 90er, als die NSA den Zugang zu Verschlüsselung auf Websites einschränken wollte
    Zu einer Zeit, als sich SSL als klare Lösung für sichere öffentliche Web-Zahlungsübertragungen etablierte, hätten die USA SSL beinahe verboten
    Durch wirtschaftlichen Druck, fehlende Alternativen und viel Widerstand blieb die Tür offenbar offen, aber auch damals wurde der Unsinn von „nationalem Interesse und Sicherheit“ bemüht
    Der große Unterschied diesmal ist, dass man ohne Fable/Mythos nicht völlig handlungsunfähig ist
    Es gibt hier keine magische Grenzlinie, nur Verbesserungen beim Verbinden von Arbeitsschritten mit weniger Eingriffen
    Trotzdem dürfte das, wenn es bestehen bleibt, einen massiven Abschreckungseffekt auf die US-AI-Entwicklung haben, und andere Labs werden die Leistung von Fable/Mythos letztlich durch Umgehungen einholen
    In einer Auto-Analogie werden Modelle zwar mit Motorverbesserungen gebaut, als ginge es von V6 zu V8, aber andere Organisationen können ähnliche Geschwindigkeitsgewinne über Aerodynamik oder Einspritzung erzielen
    Weil es entlang der ganzen Kette so viele Verbesserungsmöglichkeiten gibt, ist so eine Maßnahme sinnlos
    Wenn man die ruppigen Taktiken dieser Regierung und von Anthropic betrachtet, wirkt es eher wie etwas, das innerhalb einer Woche mit irgendeinem „Deal“ endet und Teil einer Hochrisiko-Verhandlung war
    Das könnte Anthropic sogar nützen, denn wenn es zu einer süßen Einigung kommt, wo bleibt dann OpenAI
    Ein Präzedenzfall ist bereits geschaffen
  • Viele auf HN und chronische Forennutzer glauben, sie wirkten intelligenter, wenn sie sich skeptisch und zynisch geben
    Die meisten Nerds wie ich haben diese schneidige Haltung in der Highschool oder an der Uni hinter sich gelassen
    Praktisch führt diese Haltung nur dazu, alles durch die dunkelstmögliche Linse zu sehen
  • Diese Interpretation ähnelt ein wenig Geistlichen, die sagten, die Druckerpresse sei gefährlich
    Man sagte, die Leute würden Schlechtes lesen und schlechte Gedanken verbreiten, und das taten sie auch, aber insgesamt war es ein kleiner Preis für die Verbreitung von Alphabetisierung
  • Im Web-Prompt von Claude.ai erscheint ein nicht schließbarer Hinweis „Claude Fable 5 is current unavailable“
    Ich sage nicht, dass das zu 100 % ein PR-Trick ist, aber Anthropic scheint sehr zu wollen, dass die Leute das wirklich mitbekommen
  • Die Leute auf der Seite des übertriebenen Skeptizismus stehen allen im Weg
    Sie sagen Dinge wie „Anthropic veranstaltet nur einen Marketing-Zirkus“, „AI ist wie NFTs“, „das ist Wash Trading“, „die Blase platzt bald“, „die Hype-Leute stützen den Aktienmarkt, damit sie wie Betrüger schnell rauskommen“
    Die letzte Formulierung habe ich erfunden, um mich irgendwie an ihre Terminologie anzupassen
    Das Kernproblem ist, dass AI zu mächtig wird, um sie einfach gewöhnlichen Leuten wie uns in die Hand zu geben
    Wenn du immer noch glaubst, das sei alles nur Hype, dann bist du vom eigentlichen Problem abgelenkt
    Irgendwann wird diese Rhetorik wohl verschwinden und man wird sich auf die realen Probleme konzentrieren

• Dass Konkurrenten von Anthropic überall in der Regierung Freunde haben und etwa das Kushner-Umfeld stark in OpenAI investiert hat, ist zugleich zentral und irrelevant
  „Sicherheit“ ist offenkundig eher ein Vorwand, und wenn es wirklich um Sicherheit ginge, wären die Anforderungen nicht nur auf ausländische Staatsangehörige beschränkt gewesen
  Keine US-Regierung hat jemals allen US-Staatsbürgern vertraut
  Aber der Grund für die Einschränkung selbst ist fast unwichtig
  Die bloße Tatsache, dass so etwas passiert ist, sollte der letzte Weckruf dafür sein, dass die EU digitale Souveränität ernst nehmen muss, nicht nur mit Worten, sondern mit echtem Budget und Einsatz

  • Die Voraussetzung für digitale Souveränität ist die Fähigkeit, wettbewerbsfähige Digitalunternehmen aufzubauen
    Zum jetzigen Zeitpunkt scheint es unwahrscheinlich, dass die EU in diese Richtung umsteuert
  • Wenn man alles andere betrachtet, was diese Regierung getan hat, fragt man sich, ob man ihre offiziellen Absichten wirklich erst jetzt zum Nennwert nimmt

• Das wirkt wie ein minderwertiger Beschwerdetext voller Flüche und ideologischer Schlagseite und passt nicht zu Hacker News

• Diese Maßnahme tötet den gesamten Unternehmensmarkt für AI-Modelle, die besser sind als Opus 4.8
  Kein Unternehmen wird Workflows oder Fähigkeiten aufbauen, bei denen Bürokraten oder böswillige Politiker die zugrunde liegende Intelligenz sofort entziehen können
  Selbst wenn irgendein Unternehmen dumm genug wäre, dieses Risiko einzugehen: Wird Anthropic dann von allen Unternehmenskunden verlangen, die Reisepässe aller Mitarbeiter einzureichen, und für jeden Mitarbeiter eigene Claude-Accounts anlegen lassen, um den Mythos-Zugang zu kontrollieren
  Ein einfacher API-Key reicht dann nicht mehr aus

  • Mein erster Eindruck war, dass damit eine gläserne Decke für AI eingezogen wird, die den Markt hart treffen wird
    Auch das Timing passte zu einem „vermeiden wir einen Absturz“-Moment kurz vor Börsenschluss am Freitag, und man wird sehen müssen, wie sich das bis Montag entwickelt
    Wie andere Antworten sagen, ist es auch ein Kräftemessen zwischen der Regierung und Anthropic
    Wenn OpenAI aufholt und Anthropic ebenfalls Anwälte einschaltet, wird es wahrscheinlich kassiert oder in etwas umgebogen wie „Modelle müssen einen US-AI-Genehmigungsstempel erhalten, daher genehmigen wir das neue US-verifizierte Fable 5.1“
    Dieser Zeitpunkt dürfte dann mit einem groß angelegten Rollout an DoD, Pentagon und verbundene Stellen zusammenfallen
    Oder es läuft auf die Schiene hinaus, dass China sonst aufholt und deshalb alles egal sei
  • Was passiert, wenn die US-Regierung dasselbe mit Opus oder anderen Modellen macht
    Vor einem solchen Verbot ist kein Modell sicher
  • Genauer gesagt geht es um US-AI-Modelle, die besser sind als Opus 4.8
    Der viel kritisierte EU AI Act bietet einen sicheren und vorhersehbaren Regulierungsrahmen, auf dem man AI-Entwicklung aufbauen kann
    Er schafft rechtliche Stabilität im Vergleich zu den unvorhersehbaren und willkürlichen Entscheidungen der US-Regierung
    Wenn AI-Unternehmen auch nur ein wenig Urteilsvermögen haben, sollten sie einen Umzug nach Europa in Betracht ziehen

• Wenn man bedenkt, wie überzogen die Sicherheitsprotokolle rund um Fable waren, ist die ganze Sache extrem verdächtig
  Die US-Regierung setzt ihren Einfluss auf die Wirtschaft ein und signalisiert Anthropic, dass ein IPO davon abhängt, ob man in die Knie geht

• In den letzten Monaten habe ich OpenAI deutlich mehr zu vertrauen begonnen als Anthropic.
  Wenn man zwischen den Zeilen von Dario Amodeis Texten liest, wirkt er wie ein dogmatischer Gläubiger, der an ASI als perfekten, fehlerfreien Herrscher für die Menschheit glaubt, und zugleich wie ein ziemlich extremer US-Nationalist.
  Das Unternehmen scheint ideologisch ähnlich geschlossen auf Linie zu sein.
  Man kann sich sogar vorstellen, dass sie eine durchgehende ASI, von der sie glauben, sie sei ideologisch mit ihnen abgestimmt, zulassen oder bewusst erschaffen würden.
  OpenAI wirkt insgesamt weniger dogmatisch und stärker praxisorientiert.
  Das heißt nicht, dass es eine besonders gute Firma ist, aber zumindest kann man vorhersagen, wie sich ein gewöhnliches Unternehmen verhalten wird.

  • Wenn man bedenkt, dass über Führungskräfte bei OpenAI gesagt wird, sie seien „pathologische Lügner“, ist es ziemlich überraschend zu hören, dass jemand OpenAI mehr vertraut als Anthropic.
  • Wer gesehen hat, was Menschen schon für 500 Dollar alles tun, dem erscheint es unmöglich, Fremden überhaupt zu vertrauen.
    Erst recht gilt das für Menschen, bei denen Anreize in Millionen- oder Milliardenhöhe im Spiel sind.
    Man hat doch auch gesehen, was Leute ihrer eigenen Familie wegen Erbschaften antun, und dann soll man OpenAI „vertrauen“?
    „Wer ist hier naiv, Kay?“ - Godfather
  • Man muss nicht einmal zwischen den Zeilen lesen; der CEO hat das in Interviews und Texten fast ganz offen gesagt.
    Ich habe vor ein paar Wochen dasselbe geschrieben https://news.ycombinator.com/item?id=48341224, und wenn man sich die jüngsten Blogposts ansieht, verschwinden auch die letzten Zweifel vollständig.

• Auf HN und Reddit wird bereits darüber gesprochen, dass dies der Punkt sein könnte, bis zu dem Regierungen Menschen den Zugang „erlauben“.
  Es spielt keine Rolle, wie groß die Nachfrage ist, wenn die Regierung es nicht gibt.
  Schwarzmarkt-LLMs klingen wie direkt aus einem William-Gibson-Roman.

• Die Zusammenfassung war gut, und beim Lesen musste ich an die Debatte über starke Verschlüsselung denken.
  Der Satz „Wir optimieren in Wirklichkeit das, was wir messen können, nicht das, was wir erreichen wollen. Wir hoffen, dass beides dasselbe ist, aber das ist oft nicht so“ trifft das Kernproblem von LLMs.
  Ich halte es für unmöglich oder extrem teuer, zu garantieren, dass ein Modell für alle Menschen und alle Absichten sicher ausgerichtet ist.
  Außerdem kann „sicher“ je nach Adressat etwas völlig anderes bedeuten.