2 Punkte von GN⁺ 4 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Wenige Tage bevor das Weiße Haus die Sperrung von Anthropics AI-Modell anordnete, verlangte es, SK Telecom den Zugang zu Claude Mythos zu entziehen; Hintergrund waren Verdachtsmomente zu Verbindungen von SK Telecom nach China
  • US-Behörden problematisierten Verbindungen von SK Telecom zu China, und die Sorge nahm zu, nachdem Amazon Schwachstellen in Fable 5 dem Weißen Haus gemeldet hatte
  • Das Weiße Haus kam zu dem Schluss, dass Anthropic nicht vertrauenswürdig sei, wenn es um den sicheren Umgang mit modernster AI-Technologie gehe, und ordnete an, allen Personen mit ausländischer Staatsangehörigkeit den Zugang zu Mythos und Fable 5 zu entziehen
  • Anthropic entschied sich dafür, das Modell selbst vollständig zu deaktivieren, da eine sperrung nach Staatsangehörigkeit schwer umsetzbar sei; mit dem Weißen Haus besteht weiter Uneinigkeit
  • SK Telecom wies die Vorwürfe zurück; auch im Schreiben der US-Regierung mit der Forderung nach Einschränkungen gibt es keine direkte Erwähnung koreanischer Unternehmen oder Chinas

Exportkontrollen und die Kontroverse um den Zugang von SK Telecom

  • Die Exportkontroll-Maßnahmen der Trump-Regierung für Anthropics leistungsstärkste AI-Technologie gingen auf einen Konflikt zurück, der dadurch ausgelöst wurde, dass Anthropic dem südkoreanischen Telekommunikationskonzern SK Telecom Zugang zu Claude Mythos gewährt hatte
    • US-Beamte äußerten Bedenken und behaupteten, SK Telecom sei mit China verbunden
  • Die Sorge nahm zu, nachdem Amazon dem Weißen Haus eine in Fable 5 identifizierte Schwachstelle gemeldet hatte
    • Fable 5 ist eine Version von Mythos mit erweiterten Sicherheitsvorkehrungen und wurde am 9. Juni öffentlich vorgestellt
    • Forschende von Amazon erklärten, sie könnten einige Guardrails von Fable 5 umgehen und so Zugang zu den starken Cyber-Fähigkeiten von Mythos erhalten
    • Anthropic und externe Cybersicherheitsexperten widersprachen und erklärten, dieses Risiko sei nicht auf Claude beschränkt

Anordnung des Weißen Hauses zum Entzug des Zugangs und die Reaktion von Anthropic

  • Durch das Zusammentreffen mehrerer Ereignisse kam das Weiße Haus zu dem Schluss, Anthropic sei nicht vertrauenswürdig, und ordnete am Freitag an, allen ausländischen Staatsangehörigen, darunter auch Einwanderern in den USA, den Zugang zu Mythos und Fable 5 zu entziehen
  • Anthropic kam zu dem Ergebnis, dass eine Zugangssperre nach Staatsangehörigkeit schwer mit dem Schutz der Privatsphäre vereinbar sei, und entschied daher, das Modell vollständig zu deaktivieren
    • Auch nach mehrtägigen Verhandlungen über die Wiederfreigabe von Mythos und Fable 5 bestehen zwischen dem Weißen Haus und Anthropic weiterhin Meinungsverschiedenheiten

Project Glasswing und der Beitritt von SK Telecom

  • Claude Mythos ist besonders stark bei der Identifizierung von Software-Schwachstellen, weshalb Anthropic den frühen Zugang im Rahmen eines Programms namens Project Glasswing zunächst auf wenige vertrauenswürdige Organisationen beschränkte
  • Anfang dieses Monats erhielt SK Telecom, Südkoreas größter Mobilfunkanbieter, als eines von rund 150 Unternehmen Zugang zu Mythos, nachdem das Programm nach wochenlanger enger Zusammenarbeit mit externen Experten und der US-Regierung ausgeweitet worden war
  • Anthropic lehnte eine Stellungnahme ab; das Weiße Haus und SK Telecom reagierten nicht sofort

Vorwürfe zu China-Verbindungen und das Dementi von SK Telecom

Frühere Aufforderung zum Entzug und die Investitionen von SK Telecom in Anthropic

  • Unmittelbar nach der Ankündigung der Ausweitung von Project Glasswing Anfang dieses Monats forderte das Weiße Haus Anthropic auf, SK Telecom den Zugang zu Mythos zu entziehen
    • Anthropic kam der Forderung sofort nach; zu diesem Zeitpunkt drohte die US-Regierung noch nicht mit Exportkontrollen für das Modell
  • SK Telecom hat mehrfach Kapital in Anthropic investiert; eine Investition von 100 Millionen US-Dollar im Jahr 2023 ging mit dem Aufbau einer kommerziellen Partnerschaft zur Entwicklung maßgeschneiderter AI-Modelle für die Telekommunikationsbranche einher
  • SK Telecom ist neben Samsung Electronics und der Korea Internet and Security Agency Teil mehrerer koreanischer Organisationen, die an Project Glasswing beteiligt sind

SK Group und ihre Geschäftsbeziehungen nach China

  • SK Telecom selbst scheint in China kein großes operatives Geschäft zu haben, gehört jedoch zum Konglomerat SK Group, das in China breit aufgestellte Geschäfte etwa in den Bereichen Halbleiter und Energie unterhält
  • 2024 erzielte SK Telecom in China rund 1,9 Millionen US-Dollar Umsatz, hauptsächlich aus investitionsbezogenen Aktivitäten; vor Ort waren lediglich sieben Mitarbeiter beschäftigt

Mehr als 20 Jahre Geschäftstätigkeit im chinesischen Telekom-Sektor

  • Das Engagement im chinesischen Telekommunikationssektor reicht mehr als 20 Jahre zurück
  • 2004 gründeten SK Telecom und der staatliche Telekommunikationsanbieter China Unicom ein Joint Venture namens UNISK, das in China drahtlose Internet- und Mobile-Content-Dienste anbot
    • Es war eines der ersten Joint Ventures zwischen einem ausländischen Unternehmen und einem chinesischen Telekommunikationsanbieter
  • 2006 investierte SK Telecom 1 Milliarde US-Dollar in Wandelanleihen der in Hongkong notierten Gesellschaft von China Unicom, die später in einen Anteil von etwa 6,6 % umgewandelt wurden
  • Danach begann sich die Partnerschaft aufzulösen; 2009 verkaufte SK Telecom seine Beteiligung an China Unicom für rund 1,3 Milliarden US-Dollar zurück, behielt jedoch kleinere damit verbundene finanzielle Interessen

US-Sanktionskurs rund um China Unicom

  • Im Jahr 2021 beschränkte die erste Trump-Regierung US-Investitionen in China Unicom als Teil von Maßnahmen gegen chinesische Unternehmen, die nach ihrer Einschätzung mit Militär und Geheimdiensten verbunden sind
  • Im April dieses Jahres schlug die US-Regulierungsbehörde FCC vor, US-Telekommunikationsunternehmen aus Gründen der nationalen Sicherheit die Zusammenschaltung mit China Unicom und anderen chinesischen Telekommunikationsanbietern zu untersagen

1 Kommentare

 
GN⁺ 4 시간 전
Hacker-News-Meinungen
  • Wenn man sich diese Angelegenheit und die Artikel sowie Diskussionen zu Amazon ansieht, wirkt es so, als würden seriöse Tech-Medien und die Community nach dem wahren Grund suchen, warum die Regierung Anthropic-Modelle blockiert hat
    Aber wenn man den Konflikt mit dem DoD bedenkt und dass die aktuelle Regierung OpenAI und XAI deutlich stärker unterstützt und umgekehrt auch von dort Unterstützung erhält, könnte das ebenfalls einfach eine weitere Eskalationsstufe im Kampf zwischen einem „progressiv orientierten“ Unternehmen und Konkurrenten bzw. Regierung sein
    Vielleicht hat jemand bei Amazon etwas gesagt, aber nach Ockhams Rasiermesser sieht es eher so aus, als hätte die Regierung eine Gelegenheit ergriffen, nachdem Sanktionen gegen Zulieferer kaum Wirkung gezeigt hatten

    • Anthropic durchläuft gerade eine Phase ideologischen Widerstands, die große Tech-Unternehmen fast alle einmal durchmachen. Google, Facebook, Apple, Reddit, Microsoft, besonders auch Microsoft, haben das alle erlebt
      Am Ende erkennt man, dass ein Kampf gegen die US-Regierung schwer, teuer und vor allem laut ist, und kommt zu dem Schluss, dass es einfacher ist, sich auf gegenseitig passende Interessen zu einigen
    • Es geht nur darum, eine Schlagzeile zu finden, die Klicks zieht. Dass diese Regierung nicht aufrichtig handelt, weiß jeder, aber so zu tun, als gäbe es eine Kontroverse nach dem Motto „Könnte das wirklich sein?“, war in den letzten zehn Jahren ein lukratives Geschäft
    • Es riecht stark danach, dass die Regierung Sieger auswählen will. Zumindest scheint sie Verlierer auswählen zu wollen
  • „SK Telecom hat mehrfach Kapital in Anthropic investiert und 2023 zusammen mit einer kommerziellen Partnerschaft zur Entwicklung eines auf die Telekommunikationsbranche zugeschnittenen AI-Modells 100 Millionen Dollar investiert“
    „Das White House hat Anthropic aufgefordert, den Zugang von SK Telecom zu Mythos zu widerrufen, und Anthropic ist dem sofort nachgekommen“
    Die Lehre daraus ist: Nicht in US-Unternehmen investieren

    • In ein Unternehmen zu investieren und seine Dienste nutzen zu können, sind zwei völlig verschiedene Dinge
      Der Verlust des Modellzugangs ist sicher nicht angenehm, aber die Gewinne aus der Beteiligung dürften diesen Schaden mit hoher Wahrscheinlichkeit deutlich übersteigen
    • Das ist nicht die eigentliche Lehre. Mit US-Investitionen lässt sich enorm viel Geld verdienen
      Die wirkliche Lehre ist, sich nicht von US-AI-Modellen abhängig zu machen. Man muss in konkurrenzfähige Foundation-Modelle investieren und sie selbst aufbauen, möglichst inklusive offener Gewichte und einer Infrastruktur für offene Gewichte
  • Wenn man die Kommentare unter koreanischen Politikartikeln liest, ist der Kernpunkt nicht, ob SKT tatsächlich Verbindungen nach China hat, sondern dass der Abschaltschalter für AI-Anbieter inzwischen außerhalb des Bereichs von Modellleistungs-Spezifikationen liegt
    Wenn ausländische Unternehmen AI in ihre Arbeitsabläufe integrieren, sollten sie ihren Bewertungskriterien wohl einen Punkt zur Nachhaltigkeit des Anbieters hinzufügen
    Aus Unternehmenssicht ist unterbrechungsfreie Kontinuität entscheidend, und in dieser Sache könnte Anthropic entgegen seiner selbst verkündeten Politik massiv an Vertrauen verlieren

  • Die Wired-Überschrift hat die Angelegenheit in irreführender Weise umgedeutet. Das Problem mit SK Telecom war schon vor dem Fable-Launch erledigt
    Es könnte ein Einflussfaktor gewesen sein, aber der eigentliche Auslöser für die Beendigung war die Branchenberichterstattung über den Fable-Jailbreak, und es gibt Berichte, dass Amazon-CEO Andy Jassy das vorangetrieben hat
    Die interessantere und ehrlichere Sichtweise wäre, dass eine Branche, die die Schwere von Glasswing für bare Münze genommen hatte, vom Fable-Launch auf dem falschen Fuß erwischt wurde und angesichts einer noch offenen Warteschlange von Bugfixes über mehrere Monate, die durch Glasswing sichtbar geworden war, das Gefühl hatte, dem Restrisiko vollständig ausgesetzt zu sein und mehr Zeit gewinnen wollte
    Es wirkt, als hätte Wired absichtlich in die Irre geführt, um wie mit einem Exklusivbericht dazustehen; tatsächlich ist das beschämend unehrliche Berichterstattung

    • Diese Theorie hat zwei Probleme
      Erstens wäre eine Beschwerde Amazons beim White House wohl kaum der erste Schritt gewesen. Für Amazon und Anthropic ist es viel einfacher, direkt miteinander zu sprechen, als über das White House zu gehen. Man bräuchte Belege dafür, dass Amazon, vielleicht auch andere Anbieter, Anthropic bereits gebeten hatten, kein Modell auf Mythos-Niveau zu veröffentlichen, und Anthropic es ignoriert und trotzdem veröffentlicht hat. Gibt es dazu eine öffentliche Aussage im Protokoll?
      Zweitens müsste der von Amazon gefundene Jailbreak real gewesen sein. White-House-Mitarbeiter sind vielleicht keine AI-Experten und verstehen womöglich nicht genau, was ein Jailbreak ist, aber gegenüber Andy Jassy wäre diese Behauptung viel schwerer aufrechtzuerhalten. Wenn der eigentliche Grund für die Exportkontrollanordnung der Jailbreak war, dann müsste dieser wichtig genug gewesen sein, um Amazon realen Schaden zuzufügen. Und es müsste gelten, dass Dario bereits abgelehnt hatte, sonst wäre Jassy wohl kaum zum White House gegangen
      Es gibt jedoch keine Belege dafür, dass dieser Jailbreak tatsächlich real war. Es gibt nur eine Erzählung, wonach es auf dem Niveau einer Bitte wie „Reparier diesen Code“ gewesen sei. Anthropic hat jedenfalls öffentlich erklärt, dass der sogenannte Jailbreak keine Arbeiten an Schwachstellen ermöglicht habe, die mit anderen Modellen nicht ohnehin schon möglich gewesen wären
    • Wired ist seit einigen Jahren zu einer Art NY Post der Gegenseite geworden
    • Wenn Amazon beteiligt war, gibt es dann irgendeine andere Deutung als die, dass Amazon Anthropic eins auswischen wollte? Amazon hat doch einen Vertrag, Anthropic-Modelle über AWS anzubieten; ich verstehe nicht, warum Amazon gegen die Interessen von Anthropic handeln sollte
    • Die meisten Schlagzeilen wirken heute irreführend. Soziale Medien haben den Journalismus ruiniert
    • Genau. Das Unternehmen im Zentrum dieser Sache ist Amazon. Aber nicht nur Amazon: Letzte Woche konnte ich Fable zufällig selbst jailbreaken: https://news.ycombinator.com/item?id=48576628
  • Warum kann man das dann selbst innerhalb der USA nicht nutzen?

  • Wenn China innerhalb von sechs Monaten ein ähnliches Modell herausbringt, wird die ganze Fable-5-Kontroverse ziemlich lächerlich wirken

    • Fable/Mythos ist das erste Modell von Anthropic, das Reasoning-Tokens zu 100 % verbirgt. Jetzt dürfte es sehr viel mehr Daten dazu geben, wie weit die Fortschritte chinesischer Modelle tatsächlich durch Destillationstechniken zustande kamen
    • Google konnte es nicht, OpenAI hat es nicht getan, Meta auch nicht
      Ich verstehe nicht, warum man denkt, China könne es
      Ich bin ziemlich sicher, dass der Abstand noch größer werden wird
    • Ohne Beschränkungen hätte es nicht einmal einen Monat gedauert. Ein Grund dafür könnte sein, dass China per Destillation Leistung auf vergleichbarem Niveau erreichen kann
  • Dass chinesisches Kapital sich über inländische Unternehmen und Politiker in Korea in die koreanische Gesellschaft insgesamt hineinverflechtet, ist eine sehr reale Sache

  • Vor mehr als zehn Jahren ging ich zu einem Tech-Treffen, bei dem ein Security-Leader anwesend war, von dem später bekannt wurde, dass er einige Jahre später von Cisco für viel Geld übernommen wurde
    Ein Student wollte ein Projekt bauen, um die Great Firewall of China zu umgehen, und dieser Security-Leader sagte ihm, das sei dumm und unmöglich, und er solle es gar nicht erst versuchen. Dabei war er früher selbst Hacker gewesen und behauptete, die Meinungsfreiheit zu unterstützen
    Ich glaube, der wahre Grund, warum er das dem Studenten sagte, war, dass er die chinesische Regierung unterstützte. Mehrere Äußerungen, die ich später hörte, haben mich davon überzeugt, dass das stimmte, und ich vermute sogar, dass das Startup Geld von der chinesischen Regierung erhalten hatte
    Es ist wirklich enttäuschend, dass Tech-Führungskräfte jahrzehntelang ein mörderisches Regime wie die chinesische Regierung offen unterstützen können, ohne nennenswerten Gegenwind zu erleben. Die chinesische Regierung ist weit schlimmer als Putin und die russische Regierung und hat etwa 100-mal mehr Geld und Technologie
    Hätte er Russland unterstützt, wäre er wahrscheinlich gecancelt worden und hätte in der Tech-Branche nie wieder Fuß fassen können

  • Viele von uns kennen Coder und Cybersicherheits-Experten, die besser sind als Claude Fable oder Mythos
    Es ist erstaunlich zu sehen, wie solche Modelle enorme Anerkennung und vorsichtige Behandlung erfahren, während Menschen mit noch mehr Fachwissen gleichzeitig aussortiert und entlassen werden

    • Solche Leute gibt es sicher, aber sie sind selten, schwer zu identifizieren und einzustellen, und ihre Ausbildung dauert Jahre. Mythos/Fable ist sofort wie aus dem Wasserhahn verfügbar
    • Du scheinst zu ignorieren, dass diese Anerkennung und Aufmerksamkeit kein Zufall ist. Sie ist die direkte Folge von Anthropics massiver PR
      AGI und Skynet sind ihr Marketing, und Dario steht an vorderster Front dieser überzogenen Werbekampagne
      Man sollte sich nichts vormachen. Das ist kein gewöhnliches Startup, sondern ein Unternehmen im Wert von einer Billion Dollar, mit dem Geld und der potenziellen Macht, Politik in einer Weise zu beeinflussen, die sogar Konkurrenten verbieten lassen kann