Alibaba will Claude Code intern wegen Backdoor-Risiken verbieten

• Der chinesische IT-Konzern Alibaba untersagt seinen Mitarbeitenden die Nutzung von Anthropics Claude Code bei der Arbeit, nachdem das Tool wegen einer Funktion zur Identifizierung von Nutzern mit China-Bezug in die Kritik geraten ist
• Die Maßnahme erfolgt, während der Konflikt zwischen beiden Unternehmen eskaliert, nachdem Anthropic Alibaba die illegale Extraktion von Fähigkeiten der Claude-KI-Modelle vorgeworfen hatte
• Trotz Zugriffsbeschränkungen für Nutzer und Institutionen in China ist Claude Code unter chinesischen Programmierern beliebt
• Alibaba-Mitarbeitende wurden angewiesen, die unternehmenseigene Coding-Plattform Qoder zu verwenden
• Während US-amerikanische KI-Entwickler versuchen, unbefugten Zugriff, Weiterverkauf und Distillation zu verhindern, wechseln chinesische Unternehmen zu inländischen und Open-Source-Modellen; der Fall zeigt den Wettstreit zwischen den USA und China um die Führungsrolle bei KI

---

Alibabas Verbot der Nutzung von Claude Code

• Laut mit der Anweisung vertrauten Quellen verbietet Alibaba seinen Mitarbeitenden die geschäftliche Nutzung von Claude Code, nachdem das Tool wegen einer Funktion, die bei der Identifizierung von Nutzern mit China-Bezug helfen kann, untersucht wurde
• Die Quelle, die nicht befugt war, mit Medien zu sprechen, bat um Anonymität und sagte, Alibaba-Mitarbeitende würden angewiesen, die unternehmenseigene Coding-Plattform Qoder zu nutzen
• Alibaba und Anthropic reagierten nicht umgehend auf Reuters-Anfragen nach Stellungnahme; Alibaba hat sich zu Anthropics Vorwürfen bislang nicht öffentlich geäußert
• Alibabas Verbot wurde zuerst von chinesischen Medien berichtet

Stellung von Claude Code und Zugriffsbeschränkungen

• Claude Code ist Anthropics KI-Coding-Assistent für Softwareentwickler
• Obwohl Anthropic den Zugriff für Nutzer und Institutionen in China einschränkt, ist das Tool unter chinesischen Programmierern beliebt

Anthropics Vorwurf eines „Distillation“-Angriffs durch Alibaba

• Anthropic erklärte im vergangenen Monat, von Alibaba angegriffen worden zu sein, und bezeichnete dies als Versuch der „Distillation“, bei der ein leistungsschwächeres Modell mit den Ausgaben eines stärkeren Modells trainiert wird
• In einem von Reuters eingesehenen Brief an zwei US-Senatoren heißt es, diese Distillation beschleunige Chinas Zugang zu den fortgeschrittenen Fähigkeiten von Anthropics Mythos Preview
• Alibabas Verbot erfolgte nur wenige Tage, nachdem Entwickler erklärt hatten, in Claude Code einen Mechanismus gefunden zu haben, der Informationen zur Nutzerumgebung wie Zeitzonen- und Proxy-Daten prüft und subtile Marker in Prompts einfügt, die an Anthropic-Server gesendet werden
• Ein Anthropic-Mitarbeiter schrieb am Dienstag auf X, die Funktion sei ein „im März gestartetes Experiment“ und solle Kontenmissbrauch durch unautorisierte Reseller verhindern sowie vor Model Distillation schützen

Grenzen der Durchsetzung und Unternehmensrisiken

• Laut der Quelle sind Anthropics Einschränkungen gegenüber China schwer durchzusetzen, wenn einzelne Nutzer Server in den USA bereitstellen, um die Herkunft des Traffics als US-basiert erscheinen zu lassen
• Unternehmen nehmen dagegen rechtliche und Compliance-Risiken stärker wahr

KI-Wettbewerb zwischen den USA und China

• Während US-amerikanische Entwickler von KI-Modellen versuchen, unbefugten Zugriff, Weiterverkauf und Distillation ihrer Systeme zu verhindern, wechseln chinesische Cloud- und KI-Unternehmen zu inländischen und Open-Source-Modellen wie DeepSeek, Alibabas Qwen, Moonshot und Zhipu
• Gleichzeitig drängen chinesische KI-Modelle auf den US-Markt und lösen bei einigen Fachleuten der US-Branche Besorgnis aus
• Der Streit ist ein Beispiel für den intensiven Wettbewerb zwischen den USA und China um die Führungsrolle bei künstlicher Intelligenz

[GN⁺]

Hacker-News-Kommentare

• Remote-AI stellt ein großes Sicherheitsrisiko für Personen, Unternehmen und Regierungen dar, die ins Visier der US-Regierung geraten könnten
  Die USA könnten von jedem AI-Anbieter einen Echtzeit-Feed erhalten, um Zielpersonen, Terroranschläge, Pläne ausländischer Regierungen und sogar ausländische Unternehmen zu identifizieren, die mit strategisch wichtigen US-Konzernen konkurrieren
  Damit hätten sie nicht nur Zugang zu internen Denkprozessen von Unternehmen, sondern auch zu textbasiertem geistigem Eigentum wie Source Code, Dokumentation und Sitzungsprotokollen
  Selbst bei lokaler AI, die nicht direkt trainiert wurde, ist schwer sicherzustellen, dass sie nicht absichtlich so verzerrt ist, dass sie von bestimmten Plänen, Ideen oder Patenten weglenkt

  • Ein selbst trainiertes lokales Modell scheint derzeit am ehesten das Beste zu sein, was man tun kann
    Aber wenn die Trainingsdaten nicht vertrauenswürdig waren, ist selbst ein selbst trainiertes Modell womöglich nicht vollständig vertrauenswürdig
    Nutzer müssen dem Coding-Agenten, dem Inferenzanbieter und dem Modell gleichermaßen vertrauen: https://jacob.gold/posts/coding-models-are-code/ https://www.anthropic.com/research/sleeper-agents-training-d...
  • Den Zusatz „die ins Visier der US-Regierung geraten könnten“ kann man wohl weglassen
    Gehostete AI insgesamt wirkt wie ein erheblicher Verstoß gegen unternehmerische Vertraulichkeitspraktiken
    Firmen, die schon ausrasten würden, wenn man nur Source-Dateien zur Referenz oder Kommentierung ausgibt, ermutigen Entwickler gleichzeitig dazu, riesige Mengen proprietären Codes und proprietärer Daten nach außen zu geben und von außen vorgeschlagene Änderungen mit minimaler Prüfung zu übernehmen
    Irgendwann wird einer der großen Dienste kompromittiert werden, und dann ist das nicht bloß ein Datenleck, sondern potenziell ein Verteilzentrum für Malware
    Mit Vibe Coding gebaute Dashboards hängen plötzlich von irgendeinem merkwürdigen left-pad-Fork ab, und zwölf Abhängigkeitsebenen tiefer laufen vielleicht ein Keylogger oder ein Dogecoin-Miner
    Vielleicht genehmigt ein Zahlungsabwickler auch Transaktionen, wenn man den Konami-Code eingibt
  • Ich verstehe nicht, warum EU-Unternehmen das Risiko amerikanischer Industriespionage nicht ernster nehmen
  • Es lohnt sich, daran zu denken, dass selbst große LLM-Anbieter insgesamt in Wahrheit nur einen Durchsatz von einigen Megabit haben
    Wenn ein Token grob auf 1 Byte komprimiert wird, liegt der weltweite AI-Ein- und -Ausgabestrom bei etwa 1 GB pro Sekunde
    Für Nachrichtendienste wäre es durchaus bezahlbar, das alles dauerhaft zu speichern und später auszuwerten
  • Warum betrachtet man das nur US-zentriert? Glaubt ihr, dass in China bereitgestellte Modelle anders wären?

• Was Claude Code getan hat, ist wirklich schockierend. Wenn ein chinesisches Harness so etwas getan hätte, hätte der US-Präsident wohl kein Auge zugemacht

  • Im Vergleich zu dem, was moderne Websites und Apps einsammeln, wirkt das ziemlich harmlos. Wie viele Dienste kennen die Zeitzone nicht?
  • Wenn du glaubst, dass der US-Präsident wegen einer Zeitzonenanzeige im Datumsformat nicht schlafen würde, ist das wohl etwas übertrieben
  • Was soll „hätte getan“ überhaupt bedeuten?
  • Wenn die chinesische Seite keine Claude-Daten abgesaugt hätte, um damit ihre miserablen Modelle zu trainieren, hätte Anthropic vielleicht auch nicht das Bedürfnis gehabt, so etwas zu tun

• Unabhängig davon, ob diese konkrete Behauptung stimmt, werden Unternehmen bei Entwicklerwerkzeugen, die große Teile eines proprietären Codebestands lesen können, deutlich vorsichtiger

  • Schon seltsam, dass das erst jetzt als Problem gilt. Eigentlich hätte die Diskussion genau an diesem Punkt enden müssen
  • Ihr ladet doch schon seit Jahren Code in private Repositories bei GitHub oder Bitbucket hoch?
    Wenn man GitHub glaubt, dass sie den eigenen Code nicht lesen, Microsofts AI aber nicht glaubt, dass sie es nicht tut, ist das fast widersprüchlich
  • Wenn man Coding-Agenten benutzt, ist es selbstverständlich, dass man entweder das Modell selbst betreibt oder der Partei vertrauen muss, an die man Daten sendet
    Aber der Kreis der Dinge, über die man sich Sorgen machen sollte, ist weit größer als nur der Code und geht weit über die Frage hinaus, ob man dem Modellanbieter vertraut
    Ein Coding-Agent mit Zugriff auf bash-Tools hat Zugriff auf alles, worauf auch jemand mit einem bash-Prompt Zugriff hätte
    Selbst wenn man versucht, den Agenten in eine streng abgeschottete Sandbox zu sperren, muss man sich Sorgen machen, dass er unverschlüsselte Passwörter und Schlüssel findet, die irgendwo im Code oder in Datenbanken „herumliegen“
    Es ist überraschend, dass Geschichten über Coding-Agenten und Crawler-Bots, die Schaden anrichten, noch nicht viel verbreiteter sind
  • Es ist bereits zu spät. Die meisten haben bereits erhebliche Teile ihrer Codebasis und ihres geistigen Eigentums in Cloud-Modelle gekippt
  • Außerdem können solche Tools Code ausführen und sind anfällig für Injection-Angriffe, sodass sie bei unvorsichtiger Nutzung faktisch wie eine Backdoor funktionieren können

• Arbeitgeber im Jahr 2022: „Nein! Installier nicht einfach irgendetwas wie lodash ohne IT-Freigabe. Du brauchst eine Charles-Proxy-Lizenz? Hm … wir müssen aufs Budget achten“
  Arbeitgeber im Jahr 2023: „Nein! Du darfst bei der Arbeit kein ChatGPT verwenden. Das ist ein Sicherheitsrisiko“
  Arbeitgeber im Jahr 2024: „Gut, GitHub Copilot ist erlaubt, aber du musst an dieser langweiligen internen Schulung zum zulässigen Rahmen teilnehmen“
  Arbeitgeber im Jahr 2025, mit Dollarzeichen in den Augen: „Ich war auf einem Vibe-Coding-Seminar. Warum hältst du nicht mit der Zeit Schritt? Mach einfach alles mit Claude Code! Schreib nicht selbst. YOLO-Modus ist auch okay. Prüf den Code und push 10x mehr Features raus! Verballer unbegrenzt Tokens! Drucken wir Geld!“
  Arbeitgeber im Jahr 2026: „Einem oder zwei Unternehmen autonomen Zugriff auf unsere kompletten Workstations zu geben und unsere Engineers zu verdummen, war kein gesundes Geschäftsmodell?“

  • Was ich 2025 gelernt habe: Mein Unternehmen hätte mich, wenn es möglich wäre, durch einen Sklaven ersetzt
    Der verwirrende Teil ist, warum solche Firmen dem AGI-Hype geglaubt haben, nach dem die LLMs von OpenAI oder Claude der ideale White-Collar-Sklave seien
    Ich kann verstehen, dass das Management Arbeit genug hasst, um irrationale Geschäftsentscheidungen zu treffen, nur um die Leute zu beleidigen, die das Unternehmen entwerfen und betreiben
    Trotzdem fühlt sich die AI-Fresssucht des Jahres 2025 bei vielen Unternehmensführungen wie ein Mord-Selbstmord an

• Die Snowden-Dokumente haben gezeigt, dass die NSA alles sammelt, was sie sammeln kann
  Natürlich sammeln die USA nicht nur von China, sondern von allen alles ein
  Andere Länder machen dasselbe

• Auch in Brasilien gab es kürzlich so einen Fall: https://www.mixvale.com.br/2026/06/26/fbi-warns-brazilian-po...
  Das ist ein zweischneidiges Schwert. In diesem Fall war es absurd wichtig für das Leben eines Kindes, aber es funktioniert auch in die andere Richtung
  Was passiert, wenn US-Behörden entscheiden, aus politischen Gründen ausländische Regierungen und Bürger überwachen zu müssen, und das jetzt mit AI im industriellen Maßstab tun?
  Sicher ist nur, dass Datenschutzgarantien für keinen Cloud-Anbieter oberste Priorität haben. Unternehmen mit hochsensibler Spitzenarbeit sollten vorsichtig sein

  • Die US-Regierung ist schon vor Jahrzehnten zu dem Schluss gekommen, dass sie ausländische Regierungen und Bürger überwachen muss, und sie tut das weiterhin
    Die eigene Regierung und die eigenen Bürger überwacht sie ebenfalls

• Es wirkt, als ginge es endlich in die nächste Phase der LLMs
  Nicht mehr nur Personalisierung auf Basis früherer Suchverläufe, sondern jetzt auch gezieltes Targeting anhand nicht öffentlicher Daten
  Im Grunde ist das derselbe Verlauf, den wir vor ein paar Jahren bei Social-Media-Werbung gesehen haben, und es ist interessant, dass man mit diesen Modellen genau dasselbe machen kann

• Das ist kein Risiko, sondern eine Tatsache. Leute, die Claude Code dekompiliert haben, haben mehrfach Codepfade gefunden, die erkennen, ob es in chinesischer Zeitzone und mit chinesischer Locale verwendet wird

• Solche Entwicklungen werden künftig wohl erhebliches Misstrauen auslösen, wenn Dienste wie Claude behaupten, Open Source und nicht-amerikanische Modelle würden nur deshalb besser, weil sie Frontier-Labs destilliert hätten