X legt versehentlich in großem Umfang ein geheimes Einflussnetzwerk offen, das auf Amerikaner abzielte

• Die neue Standortanzeige-Funktion von X enthüllt, dass zahlreiche pro-Trump-Politik-Accounts tatsächlich aus dem Ausland betrieben werden
• Die Funktion zeigt den Erstellungsort des Accounts und die wichtigste Aktivitätsregion an und macht so den tatsächlichen Standort von Accounts sichtbar, die sich als Amerikaner ausgeben
• Es wurden zahlreiche MAGA- und America-First-Accounts entdeckt, die aus Europa, Asien und Afrika betrieben werden; selbst unter Berücksichtigung von VPNs ist das Ausmaß erheblich
• Dieses Muster erinnert an den Fall der russischen Wahleinmischung 2016 und wirft die Möglichkeit ausländisch gesteuerter oder kommerziell motivierter Manipulation auf
• Die Transparenzmaßnahme von X macht das tatsächliche Ausmaß ausländischen Einflusses auf den politischen Diskurs in den USA sichtbar und hat weitreichende Folgen für das Vertrauen in die Plattform und für die Demokratie

---

Xs neue Funktion und die entdeckten aus dem Ausland betriebenen Accounts

• X hat die „About this account“-Funktion eingeführt, die den Erstellungsort eines Accounts und seine wichtigste Aktivitätsregion anzeigt
  • Nutzer können damit statt des selbst angegebenen Standorts des Betreibers die tatsächliche Aktivitätsregion prüfen
  • Die Funktion wurde eingeführt, um Transparenz und die Authentizität von Gesprächen zu erhöhen
• Kurz nach der Veröffentlichung der Funktion wurde sichtbar, dass viele pro-Trump- und MAGA-Accounts aus dem Ausland betrieben werden
  • Accounts aus Europa, Asien und Afrika gaben sich als Amerikaner aus
  • Einige gaben ihren Standort als USA an oder verwendeten Namen wie „@American“
• X-Produktchef Nikita Bier sagte, Accounts, die einen US-Standort behaupten, tatsächlich aber im Ausland ansässig sind, könnten andere Absichten verfolgen

Zentrale Beispiele und regionale Verteilung

• Beispiele für prominente Accounts
  • „MAGA NATION“ (mehr als 390.000 Follower): aus Osteuropa betrieben
  • „Dark MAGA“ (15.000): in Thailand ansässig
  • „MAGA Scope“ (51.000): in Nigeria ansässig
  • „America First“ (67.000): aus Bangladesch betrieben
• Darüber hinaus gibt es zahlreiche Accounts zu Politik, Kryptowährungen und öffentlicher Gesundheit, die vorgeben, in den USA ansässig zu sein, tatsächlich aber aus Indien, Nigeria und anderen Ländern betrieben werden
• Die Accounts äußern sich zu politischen Themen in den USA (Benzinpreise, Impfpflicht, Grenze, Inflation usw.), als wären sie Amerikaner

Ähnlichkeiten mit früheren russischen Fällen

• 2016 griff die russische Internet Research Agency (IRA) in den US-Wahlkampf ein, indem sie sich als Amerikaner ausgab
  • Sie produzierte Inhalte, die Hillary Clinton angriffen und Trump unterstützten
  • Mithilfe gestohlener Identitäten und falscher Personas drang sie in US-Online-Communities ein
• Auch in einer CNN-Untersuchung von 2024 wurden auf X mehr als 60 gefälschte pro-Trump-Accounts entdeckt
  • Dabei wurden Fotos europäischer Frauen missbraucht, um Beiträge wie „Wählt Trump“ zu veröffentlichen
  • Die realen Personen wussten nicht, dass ihre Bilder verwendet wurden
• Die jetzige Offenlegung durch X gilt als größter öffentlich gewordener Fall ausländischer Aktivität seit 2016

Vielfalt und Motive der aus dem Ausland betriebenen Accounts

• Die offengelegten Accounts stammen nicht nur aus Russland und Osteuropa, sondern auch aus Nigeria, Indien, Thailand und Kenia
• Ein Teil wird als staatlich gelenkte Einflussoperation eingeschätzt, ein anderer als kommerziell motivierte Aktivität von Einzelpersonen oder Gruppen
  • Beispiel: Die mazedonischen „Fake-News-Farmen“ von 2016 produzierten pro-Trump-Inhalte für Werbeeinnahmen
• Auch die heutigen ausländischen MAGA-Accounts könnten auf Follower-Aufbau, Spendengewinnung und Werbeerlöse abzielen

Auswirkungen auf den politischen Diskurs in den USA und auf die Plattform

• Die große Zahl aus dem Ausland betriebener Accounts stellt eine anhaltende Bedrohung für die US-Demokratie und den gesellschaftlichen Zusammenhalt dar
• Die Funktion von X hilft zwar bei der Identifizierung ausländischer Propaganda-Accounts, birgt aber zugleich das Risiko, politisches Misstrauen und Verdacht weiter zu verstärken
  • Auch echte Aktivisten könnten bei unklarer Standortlage fälschlich als „ausländische Bots“ gelten
• Künftig müssen Politiker, Medien und Kampagnenmitarbeiter Online-Stimmungsbilder stärker verifizieren
  • Zum Beispiel, ob sich ein bestimmter Hashtag vor allem über ausländische Accounts verbreitet
• X muss entscheiden, ob aus dem Ausland betriebene Accounts gesperrt werden sollen; je nach Reaktion könnten sich Plattformvertrauen und regulatorische Risiken unterschiedlich entwickeln

Fazit

• Die Standortoffenlegung von X war ein Auslöser dafür, die Realität ausländischen Einflusses im politischen Diskurs der USA sichtbar zu machen
• Sie zeigt, dass ausländische Einmischung über Social Media auch nach 2016 andauert
• Der Vorfall unterstreicht die Notwendigkeit, die Vertrauenswürdigkeit politischer Meinungsbildung neu zu prüfen und die Plattformtransparenz weiter zu stärken

[GN⁺]

Hacker-News-Kommentare

• Es ist umständlich, dass man dreimal klicken muss, um die nötigen Informationen zu sehen, etwa „account → join date → about account“.
  Es wäre gut, wenn der Standort oder die hauptsächliche Aktivitätsregion des Autors direkt beim Beitrag angezeigt würde. Zwei kleine Info-Chips oben an jedem Post müssten schon reichen.

  • Man könnte zu jedem Beitrag ein kleines Icon hinzufügen, das beim Darüberfahren mit der Maus den Standort oder die Erstellungsregion anzeigt.
    Natürlich sind VPNs, Telefonnummern für 2FA oder Zahlungsadressen nicht vollkommen verlässlich, aber in solchen Fällen könnte man einfach so etwas wie „Benutzer verbirgt seinen Standort“ anzeigen.
  • Wenn solche Informationen öffentlich würden, würden die betreffenden Gruppen aber sofort VPNs als Standardwerkzeug einsetzen. Die Daten sind interessant, aber zur Lösung des Problems nur begrenzt hilfreich.
  • Ich habe eine Chrome-Erweiterung gebaut, die den Standort eines Accounts mit einem Flaggensymbol anzeigt → grokify.app
  • Ich überlege, eine Funktion hinzuzufügen, die beim Anklicken eines Tweets Standortinformationen neben der Tweet-Quelle anzeigt → Beispiel-Tweet
  • Ich dachte eigentlich, eine Flaggenanzeige im Profil wäre standardmäßig vorhanden. Das sollte wenigstens jetzt noch ergänzt werden.

• Wenn es Sorgen über ausländische Einflussnahme gibt, sollte man wissen, dass die Identitätsprüfungs-Pipeline von Twitter über AU10TIX abgewickelt wird.
  Das Unternehmen wurde in Tel Aviv, Israel, von einem ehemaligen Soldaten gegründet, und zentrale Teile des Engineerings werden in Israel betrieben. Das bedeutet, dass sensible Ausweisdaten strukturell außerhalb der USA abfließen.
  Die meisten US-Nutzer wissen das nicht. Dass ausländische Regierungen Zugriff auf die Adressen verifizierter US-Nutzer haben könnten, ist äußerst beunruhigend.

  • In Israel gibt es Wehrpflicht, daher haben die meisten Erwachsenen ihren Militärdienst abgeleistet. Ausnahmen sind einige Verweigerer oder ultraorthodoxe Juden.
  • Deshalb sollte man wirklich vorsichtig sein, wenn Unternehmen das Hochladen sensibler Informationen verlangen.
    Ich wollte einmal nur eine Wohnungsbesichtigung reservieren und sollte dafür online meine Identität verifizieren; um mir bloß eine Wohnung anzusehen, wollten sie ein Foto meines Führerscheins und meine Sozialversicherungsnummer. Das ist absurd.

• Es ist wirklich seltsam, dass diese Nachricht nicht größer aufgegriffen wird.
  Das müsste auf die Titelseite aller großen Nachrichtensender.

  • Eigentlich wird darüber schon seit Langem berichtet. Die Leute, die übrig geblieben sind, wurden inzwischen darauf konditioniert, solche Nachrichten als „Fake News“ abzutun, daher ist es schwer, damit Aufmerksamkeit zu bekommen.
  • Das ist schon lange nicht bloß ein Verifizierungsproblem. Die Accounts verraten sich oft auch selbst durch ihre Sprachgewohnheiten.
    Wenn zum Beispiel ein Account über „texanische Sezession“ spricht und dabei „warm water ports“ erwähnt, ist es unwahrscheinlich, dass er von einem Amerikaner stammt. So etwas ist eher für Länder wie Russland relevant, in denen Häfen zufrieren.
  • Amerikanern zu sagen: „Ihr wurdet getäuscht“, ist für jeden eine unangenehme Wahrheit. Deshalb kommt diese Botschaft selten gut an.
  • Dieser Beitrag wird vermutlich bald von der HN-Startseite verschwinden. Das ist zuvor schon zweimal passiert.
  • Einflusskampagnen von Regierungen wurden bereits in den Twitter Files eingeräumt. Da Twitter ein globales Unternehmen ist, wird es zwangsläufig auch Beziehungen zu anderen Ländern geben.

• Es heißt, „in Zukunft werden wir neu bewerten, wie sehr wir Social Media als Gradmesser der öffentlichen Meinung vertrauen“,
  aber ich weiß nicht, wer mit „wir“ gemeint ist. Die US-Medien wohl eher nicht.

• Das ist kein ausschließlich amerikanisches Problem. In den meisten Ländern ist die Manipulation politischer Debatten üblich.
  Reddit bräuchte so eine Funktion ebenfalls.

  • Als Beispiel zeigt dieser Reddit-Thread zu Polen, wie viele anti-EU- und anti-ukrainische Beiträge es gibt.
  • Reddit geht stattdessen eher in die entgegengesetzte Richtung und fügt Funktionen wie das Verbergen des Einreichungsverlaufs hinzu.
  • Wenn Dienste anfangen würden, die geografischen Informationen ihrer Nutzer offenzulegen, würden Angreifer bald mit eigenen VPN-Servern reagieren.
    Dieses Leck war nützlich, weil die Angreifer nicht damit gerechnet hatten, aber künftig werden sie raffinierter vorgehen.

• Nur ausländische Bedrohungen zu betonen, verfehlt aus meiner Sicht den Kern.
  Social Media öffnet jedem die Tür zu einem Modell, das mit Empörungsanreizen Geld verdient.

  • Ich halte es allerdings für ein deutlich schwerwiegenderes Problem, wenn ausländische Regierungen die politische Meinung manipulieren, als die bloße Kommerzialisierung von Empörung.
    Tatsächlich sind einige der Leute, die Empörungsinhalte produzieren, womöglich sogar von diesen ausländischen Akteuren bezahlt.

• Die Formulierung „zufällig“ wirkt merkwürdig. Wurde das nicht von Anfang an genau mit dieser Funktionsabsicht gebaut?

  • Das ist nur ein Titelkniff, um Klicks zu erzeugen.
  • Wenn man Musks politische Neigungen betrachtet, ist es auch möglich, dass dieses Ergebnis gar nicht beabsichtigt war.

• Seit Musk wirken die Versuche der Narrativkontrolle viel unverblümter.
  Es scheint, als würden britischen Nutzern Themen wie Einwanderung und Klassenkonflikte übermäßig oft gezeigt.
  Ich folge auf Twitter nur Tech-Accounts, aber mein FYP ist voller britischer Politik.

  • Wenn man auf die Twitter-Seite für Dateneinstellungen schaut, ist es erstaunlich, welche Themen dort automatisch als meine Interessen eingetragen wurden.
  • Ein ähnliches Phänomen gibt es auch bei Instagram. Ein paar falsche Klicks, und der Feed ist schnell mit einwanderungsfeindlichen Inhalten gefüllt.

• Ich wäre bereit, 100 Dollar im Jahr zu zahlen, wenn ich alle Social-Media-Posts aus Indien, Pakistan und Malaysia blockieren könnte.

  • Wenn Texas noch dazukommt, würde ich sogar 500 Dollar zahlen.

• Am Ende wird sich grundsätzlich nichts ändern.
  Diejenigen, die sich dafür interessieren, wissen es ohnehin schon, und der Rest kümmert sich nicht darum.
  Wer auf Twitter nach bedeutungsvollen Informationen sucht, neigt meist dazu, nur Inhalte zu konsumieren, die die eigene Sichtweise bestätigen.