Der Bau von Supercomputern für Autokraten ist nicht zwangsläufig gut für die Demokratie

 (helentoner.substack.com)
1 Punkte von GN⁺ 2025-06-09 | 1 Kommentare | Auf WhatsApp teilen
  • OpenAI stellt OpenAI for Countries und Stargate UAE als Verbreitung „demokratischer KI“ dar, doch es gibt kaum Belege dafür, dass der Bau eines großen KI-Rechenzentrums in den VAE die Demokratie fördert
  • Die VAE erhielten in der Bewertung von Freedom House 2024 18/100 Punkte; genannt werden unter anderem die Machtkonzentration einer erblichen Monarchie, ein Parteienverbot, ein Verbot von Regierungskritik, die Inhaftierung von Aktivisten, Medienzensur und die Ausbeutung von Arbeitsmigranten
  • Die Argumentation von OpenAI teilt sich in „US-KI verbreitet demokratische Werte“ und „Wenn die USA den KI-Wettlauf gegen China gewinnen, ist das gut für die Demokratie“; es gibt jedoch keine Belege dafür, dass Stargate UAE zensurfreien Zugang oder pro-demokratische Tools bereitstellen soll
  • Große KI-Recheninfrastrukturen werden zu zentralen Vermögenswerten staatlicher Macht, und da das Herrscherhaus der VAE enorme Mittel investiert, dürfte der Einfluss der Regierung der VAE durch Zugriffs- oder Eigentumsrechte an hochwertigen KI-Chips wachsen
  • Geschäfte mit Halbleitern und KI-Infrastruktur sind nicht grundsätzlich schlecht, doch sie als Demokratieprojekt zu bewerben, solange Anzahl der Chips, Eigentums- und Nutzungsrechte sowie Bedingungen zur Verhinderung von Technologietransfer nach China nicht offengelegt sind, ist eine riskante Verpackung

OpenAIs Begründung „demokratischer KI“ und Stargate UAE

  • OpenAI kündigte Anfang Mai OpenAI for Countries an und erklärte, man wolle im Zusammenhang mit Stargate, das unter anderem in Texas in den USA vorangetrieben wird, Länder beim Aufbau von KI-Infrastruktur unterstützen
  • Kern der Ankündigung ist die Logik, dass große KI-Infrastruktur zu einem Basis-Asset für künftiges Wirtschaftswachstum und nationale Entwicklung werde und dass Ländern, die „demokratische KI-Schienen“ wollen, eine Alternative zu autoritärer KI geboten werden müsse
  • Später kündigte OpenAI eine Partnerschaft zum Bau eines großen KI-Rechenzentrums in den VAE an und stellte sie als Projekt dar, das in „demokratischen Werten“ verwurzelt sei
  • Im Zentrum der Kritik steht, dass das erste große Geschäft, das OpenAI unter Berufung auf Demokratie präsentiert, nicht mit einem tatsächlich demokratischen Staat erfolgt, sondern mit den VAE

Politisches System und Menschenrechtslage in den VAE

  • In den Länderwertungen 2024 von Freedom House erhielten die VAE 18/100 Punkte und liegen damit unter Haiti, Simbabwe und Irak
  • Freiheitswert: {p:18}
  • Das politische System der VAE ist so strukturiert, dass eine erbliche Monarchie die Macht monopolisiert
    • Parteien sind verboten
    • Kandidaten können als Unabhängige antreten, können das System aber kaum sinnvoll herausfordern
    • Nur die Hälfte der Sitze des beratenden Gremiums wird gewählt, der Rest wird von der Regierung ernannt
    • Dieses beratende Gremium hat keine substanziellen legislativen Befugnisse
  • Regierungskritik ist verboten; Kandidaten und Aktivisten, die Menschenrechte oder politische Reformen fordern, werden inhaftiert oder in Massenprozessen angeklagt
  • Sogar Familien inhaftierter Dissidenten werden systematisch überwacht und bestraft
  • Medien üben Selbstzensur oder unterliegen aktiver Zensur durch die Regierung und können unter Umständen geschlossen werden
  • Rund 90 % der Bevölkerung der VAE sind Arbeitsmigranten ohne politische Rechte; Arbeitsausbeutung wie die Beschlagnahmung von Pässen, ausbleibende Lohnzahlungen und Zwangsarbeit bei extremer Hitze wird als Problem thematisiert
  • Eine Menschenrechtsorganisation bewertet die VAE als Land mit der siebthöchsten Prävalenz moderner Sklaverei weltweit

Zwei Stränge in OpenAIs Demokratie-Argumentation

  • Chris Lehane, Leiter Global Affairs bei OpenAI, argumentierte in einem Beitrag für The Hill, dass demokratische Werte die Zukunft der KI prägen müssten und dass Autokraten das Vakuum füllen würden, wenn die USA Ländern, die KI aufbauen wollen, nicht helfen
  • OpenAIs Darstellung lässt sich grob in zwei Argumente aufteilen
    • US-KI enthält demokratische Werte, daher verbreitet sich Demokratie, wenn sie mehr Menschen zur Verfügung gestellt wird
    • Die USA sind eine Demokratie und China ist es nicht; daher ist es gut für die Demokratie, wenn die USA den KI-„Wettlauf“ gewinnen
  • Das erste Argument kann in Extremsituationen bis zu einem gewissen Grad zutreffen, passt aber nicht gut zum VAE-Deal
    • Wenn ein Staat zuvor den Zugang zu unzensierten KI-Chatbots verboten hat und ihn dann erlaubt, kann das aus Sicht der Informationsfreiheit demokratischen Werten helfen
    • Auch die Bereitstellung pro-demokratischer KI-Tools gegen den Willen einer undemokratischen Regierung kann in begrenztem Maße sinnvoll sein
    • Es gibt jedoch keine Belege dafür, dass Stargate UAE ein solches Szenario verwirklichen will
  • OpenAI warb damit, dass die VAE das erste Land der Welt würden, das ChatGPT landesweit aktiviert; unklar ist jedoch, ob ChatGPT in den VAE zuvor eingeschränkt war und warum die USA, Australien, Kanada und andere nicht als „landesweit aktiviert“ gelten
  • Es gab auch Berichte, wonach Bewohner der VAE ChatGPT Plus kostenlos erhalten sollten; diese Meldung war jedoch Fake News

Betrieb von ChatGPT und Zensurlinien in den VAE

  • Es gibt keine Anzeichen dafür, dass ChatGPT in den VAE demokratischer betrieben werden soll als andere KI-Tools
  • Bewohner der VAE sollen auch Zugang zu anderen US-KI-Produkten wie Gemini, Claude und Llama haben
  • OpenAI-COO Brad Lightcap wurde gefragt, ob ChatGPT in den VAE „red lines“ bei sensiblen Themen wie Kritik am Herrscherhaus einhalten werde, und antwortete: „Wir wissen es noch nicht. Wir müssen daran gemeinsam mit dem Land und in der Partnerschaft arbeiten.“
  • Diese Antwort schließt nicht aus, dass ChatGPT so angepasst wird, dass es nicht mit den bestehenden politischen Zensurlinien der VAE kollidiert

KI-Recheninfrastruktur und staatliche Macht

  • Das zweite Argument, der KI-Wettlauf zwischen den USA und China, kann vergleichsweise überzeugender sein
    • Rechenressourcen spielen für den Erfolg von KI eine große Rolle
    • Derzeit gilt es als schwierig, in den USA große Rechenzentren zu bauen
    • Wenn andere Länder Kapital, Energie und Genehmigungen bereitstellen, können US-Unternehmen mehr Rechenressourcen sichern und bessere KI entwickeln
  • Doch eine Perspektive, die nur auf die USA und China blickt, verfehlt die größeren Implikationen des VAE-Deals
  • Große Recheninfrastruktur, insbesondere ein Weltklasse-KI-Supercomputer mit Hunderttausenden hochentwickelten KI-Beschleunigern, wird zu einem wichtigen Motor staatlicher Macht
  • Aus dieser Sicht wird Stargate UAE zu einem Geschäft, das die Macht und den KI-Einfluss der Regierung der VAE erheblich vergrößert
  • Aus den öffentlich verfügbaren Informationen bleibt sehr unklar, wem die Rechenressourcen gehören und wer sie nutzen darf; da die VAE jedoch enorme Summen ausgeben, ist es schwer vorstellbar, dass sie keinen erheblichen Zugriff auf diese Chips oder kein Eigentum daran erhalten

Bedingungen und Unsicherheiten bei Golf-KI- und Halbleitergeschäften

  • Geschäfte mit Golfstaaten im Halbleiterbereich sind nicht per se schlecht
  • Die Details mehrerer Deals, die OpenAIs VAE-Geschäft ähneln, wurden nicht offengelegt, und einige sind noch nicht endgültig abgeschlossen
  • Die USA arbeiten aus Gründen der nationalen Sicherheit seit Langem mit autoritären Regierungen in der Golfregion zusammen, und aus einer nüchtern realpolitischen Perspektive sind auch Deal-Formen möglich, deren Nutzen größer ist als ihre Kosten
  • Um im Nachhinein beurteilen zu können, ob die USA einen guten Deal gemacht haben, sind folgende Bedingungen wichtig

    • Anzahl der Chips

      • Eigentums- und Nutzungsrechte an den Rechenressourcen
      • Schutzmechanismen gegen Technologietransfer nach China
      • Allerdings müsste selbst die beste Form eines Stargate-UAE-Deals Bedingungen enthalten, die das Herrscherhaus der VAE akzeptieren kann; daher dürfte diese Partnerschaft kaum ein starkes Instrument zur Förderung der Demokratie werden

OpenAIs Mission und das Problem der Machtkonzentration

  • Wäre OpenAI ein gewöhnliches gewinnorientiertes Unternehmen oder KI eine weniger bedeutsame Technologie, wäre die Bedeutung der PR-Formulierungen rund um diesen Deal geringer
  • OpenAI betont jedoch, eine missionsorientierte Non-Profit-Organisation zu sein, und ist eine Organisation, die sehr mächtige Technologie entwickeln will
  • Die Mission, „KI zum Nutzen der gesamten Menschheit“ zu schaffen, wird oft auf den Aufbau sicherer AGI verkürzt; doch die Frage, wie man eine Technologie, die die Welt verändern kann, tatsächlich zum Nutzen aller entwickelt, ist deutlich komplexer als „sie sicher machen“ oder „sie in den USA bauen“
  • Wer Zugang zu mächtigen KI-Systemen hat und wer sie kontrolliert, ist eine zentrale Frage dafür, wer davon profitiert
  • KI so weiterzuentwickeln, dass sie bestehende Machtgefälle nicht vergrößert, autoritäre Systeme nicht stärkt und die Macht gewöhnlicher Menschen nicht schwächt, bleibt eine ungelöste Aufgabe von zivilisatorischem Ausmaß
  • Stargate UAE als Demokratieprojekt zu bewerben, ist eher ein Signal dafür, dass OpenAI diese Herausforderung nicht ernst genug nimmt

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-06-09
Meinungen auf Hacker News

  • Ich stimme dieser Richtung im Großen und Ganzen zu, aber es ist frustrierend, wie viel Sonderplädoyer ins Spiel kommt, wenn man vergleicht, was bekannte Unternehmen wie OpenAI tun, mit dem, was weniger beachtete Industriegiganten wie Cisco und Oracle seit einer Generation machen.
    Eine Analyse, die nur mit OpenAI beginnt und endet, ist wenig überzeugend.

    • Cisco und Oracle sind nicht als Nonprofits gestartet, die behaupteten, auf den Fortschritt der Menschheit hinzuarbeiten.
      Das ist nicht anders als die Kritik an Google, als es „do no evil“ aufgab. Und nur weil irgendein Unternehmen in der Vergangenheit mit schlechtem Verhalten davongekommen ist, heißt das nicht, dass man künftig von anderen Unternehmen keine besseren Standards erwarten sollte.
    • Die Hightech-Branche verkauft den VAE seit Jahrzehnten riesige Computersysteme und hochwertige Technologie.
      Auch AMDs Ausgliederung von GloFo war ursprünglich mit der Absicht verbunden, in Abu Dhabi eine hochmoderne Fab zu betreiben, stieß aber auf die Realität, in der Wüste, mit schlechter Lieferkette und ohne Süßwasser, irgendetwas auf die Beine zu stellen.
    • Es scheint zu stimmen, dass Politik die Kunst des Möglichen ist.
      Es ist ärgerlich, aber man kann zumindest dankbar sein, dass Menschen versuchen, sich um Prinzipien herum zu organisieren, selbst wenn diese Prinzipien nicht die eigentliche Motivation zu sein scheinen. In diesem Fall schreibt der Autor ganz offensichtlich zu einem großen Teil, weil er OpenAI besonders nicht leiden kann, aber das Argument selbst ist trotzdem gut.
    • Nehmen wir an, Joe und Jane haben beide falsch geparkt.
      Darauf hinzuweisen, dass Joe falsch geparkt hat, ist kein „Sonderplädoyer“. So ist der Ausdruck nicht gemeint.
    • Ich stimme im Großen und Ganzen zu, aber der wichtige Kontext hier ist, dass die Autorin dieses Textes früher im OpenAI-Board saß.
      In jenem Board, das Sam Altman entlassen hat.

  • Der Artikel hat übersehen, dass es nicht um einen amerikanischen Diktator geht, sondern um Diktatoren der Golfmonarchien.
    Es ist ganz einfach. Erstens sieht es aus Nvidias Sicht nach einer großartigen Idee aus, vertrauenswürdigen saudischen Investoren massenhaft Grafikkarten zu verkaufen. Zweitens sind die Golfmonarchien von den USA abhängig und wollen eine islamische Revolution vermeiden. Drittens wünschen sie sich Solarzellen für den Strom ihrer Rechenzentren.
    Werden sie Nutzer tracken? Natürlich. Und GCHQ und NSA können Abkommen zum Informationsaustausch schließen, um ihre nationalen Gesetze zu umgehen. Daran ist nichts neu. Man sollte seine Gedanken einfach keinem SaaS-Dienst anvertrauen.

    • Ich glaube, das Problem ist etwas subtiler als „seine Gedanken nicht anvertrauen“.
      Es gibt bereits meine Kaufhistorie, meine Adresshistorie, Metadaten meiner Telefonate, und jetzt mit DOGE auch einen beträchtlichen Teil der Bundesdaten. Sie brauchen meinen Twitter-Feed nicht, um meinen Interessen feindlich gegenüberzustehen.
      Außerdem wird das Web wie verrückt gescrapet, daher sehe ich die Grenze viel weiter gezogen als nur bei SaaS.
    • In den kleinen Golfstaaten gibt es inzwischen kaum noch Akteure, die eine islamische Revolution auslösen könnten.
      Die Einheimischen sind eine Minderheit, die Sicherheitskräfte sind allesamt Ausländer, die den Herrschern direkt unterstehen, und in manchen Fällen sind sie zahlreicher als die gesamte einheimische Bevölkerung. Auch die Einheimischen leben so gut, dass sie wenig Antrieb haben, alles aufs Spiel zu setzen.
    • „Sie wünschen sich Solarzellen für den Strom ihrer Rechenzentren“ wirkt übermäßig optimistisch.
      Ich rechne eher damit, dass sie zu einer der schlimmsten Verschmutzungsquellen im KI-Wettlauf werden. Die Versuchung, Öl und Gas zu verbrennen, das in scheinbar unbegrenzter Menge vorhanden ist, ist zu groß.
    • Am Ende ist HN eine kleine Blase, und viele Menschen außerhalb wissen nicht genug Bescheid; noch mehr Menschen werden schon bald Komfort gegen Privatsphäre eintauschen.
      Aus mancher Perspektive ist es besser, eine solche Versuchung gar nicht erst entstehen zu lassen.

  • Mir schien offensichtlich, dass der wichtigste Nutzen von LLMs ein Kraftmultiplikator zur Verstärkung von Botschaften an die Gesellschaft ist.
    Einzelne Menschen aus der breiten Masse werden in eine dicke Decke aus Kommunikation und Interaktion gehüllt, die nahezu kopiert wirkt und größtenteils nicht von Menschen stammen wird. Es hat sich herausgestellt, dass die einzige Möglichkeit, das Internet zu kontrollieren, letztlich darin besteht, es wie unter Wasser zu setzen und zu überfluten.

    • Ich sehe oft die Behauptung, der wichtigste Nutzen von LLMs sei die Verstärkung gesellschaftlicher Botschaften, aber mir erscheint das überhaupt nicht offensichtlich.
      Ich bin ziemlich introvertiert und frage mich, ob du ähnlich bist oder eher das Gegenteil. Normalerweise lese ich bestimmte Medien und suche keine Online-„Interaktionen“, und Social Media meide ich komplett. Vor Social Media war das normal. Ich frage mich, ob du es für ausgeschlossen hältst, dass der Missbrauch von LLMs die Menschen zu primitiveren Formen der Netzwerknutzung zurückführt.
      Außerdem sagst du, um das Internet zu kontrollieren, müsse man es überfluten, aber tatsächlich sieht man auch, dass keine Kosten gescheut werden, um Gesetze zu manipulieren. Es geht um mehr, als auf die „Massen“ herabzusehen.
    • Es ist schwer vorstellbar, wie sehr man seinem eigenen Wissen und seiner Vorstellungskraft vertrauen muss, um zu meinen, es sei offensichtlich, was der wichtigste Nutzen von LLMs ist.
      Was hielten die Menschen 1780 wohl für den wichtigsten Nutzen der Dampfmaschine?
    • Wenn „hoi polloi“ die breite Masse meint: eher nicht.
      Für kommerzielle Transaktionen mag man so etwas nutzen können, aber was Menschen an Social Media bindet, ist ein Bedürfnis nach sozialer Interaktion, das auf diese Weise nicht erfüllt wird. Selbst wenn damit die Elite gemeint ist, passt es ebenfalls nicht. Sie haben das bereits getan, indem sie Menschen als Puffer eingesetzt haben, und wenn sie reich genug sind, werden sie das wahrscheinlich auch weiterhin tun.
    • Diese Idee fällt mir schwer zu akzeptieren.
      Medien sind bereits weit über das hinaus, was Einzelne bewältigen können, mit klebrigem Müll überflutet. Die durchschnittliche Aufmerksamkeit ist schon gesättigt, daher glaube ich nicht, dass noch mehr KI-generierter Müll viel ändern wird.
      Die Methode, das Internet zu kontrollieren, besteht darin, es buchstäblich zu kontrollieren. So, wie Regierungen es bereits tun.

  • Etwas für Diktatoren zu bauen, ist ehrlich gesagt wahrscheinlich nicht gut für die Demokratie.
    Wenn man will, dass Demokratie gesund ist, sollte man den Wohlstand der Arbeiterklasse maximieren. Menschen, die genug Spielraum haben, um sich ein wenig um sich selbst, ihre Familien und ihre Gemeinschaften zu kümmern, können die Zeit und Bildung haben, sinnvoll an der Demokratie teilzunehmen.
    Egal ob man es für einen amerikanischen Diktator, einen Diktator eines Golfstaats oder einen russischen Diktator baut: Wahrscheinlich wäre es besser, es nicht zu tun. Natürlich ist das leichter gesagt als getan.

    • Diese Aussagen scheinen nicht wirklich zusammenzuhängen.
      Ich frage mich, was es bedeutet, in einem diktatorischen Staat an der Demokratie teilzunehmen.
      Ironischerweise sieht man, je weiter sich Technologie in Richtung Singularität oder etwas Ähnliches entwickelt und die meisten gering- und mittelqualifizierten Jobs automatisiert werden, im Westen, besonders in den USA, immer mehr dystopische Tendenzen. Diese Diktaturen dagegen haben seit Langem starke Sozialsysteme für ihre Staatsbürger und inzwischen auch für Einwohner, und wegen ihrer kleinen Bevölkerung sind sie gut positioniert, um vom KI-Boom zu profitieren.

  • Ich sehe die Implikation eher in die entgegengesetzte Richtung.
    Eine ausreichend einflussreiche Technologie kann jede Regierung diktatorisch und totalitär machen. Für Machthaber ist der Wunsch, alles kontrollieren zu können, die größte Versuchung, und daraus entstehen schreckliche Staaten und eine schreckliche Herrschaft über die Bevölkerung.

  • Man kann sich daran erinnern, dass eine Kernidee in Orwells 1984 war, dass die Fernseher in jedem Haushalt ständig zuschauen und dass jemand hinter diesem Gerät tatsächlich versteht, was er sieht.
    Der letzte Teil galt als dystopisch. Es kann unmöglich genug Menschen geben, um den ganzen Tag alle zu beobachten und zu verstehen, und außerdem stellt sich die Frage, wer die Wächter überwacht. 1984 war eher eine unheimliche Fantasie, weil es keinen praktikablen Weg gab, sie umzusetzen.
    Zum ersten Mal in der Geschichte machen neue LLMs/generative KI genau diesen Teil von 1984 realistisch. Für eine Frühwarnung vor „gefährlichen Gedanken“ reicht eine GPU pro Haushalt, und das ist bereits möglich oder wird es bald sein. Dass die pro Haushalt zugewiesene Rechenleistung gering ist und nur eine grundlegende, dürftige Intelligenz betreiben kann, passt sogar perfekt. AGI könnte sich zumindest theoretisch beide Seiten anhören, das große Ganze untersuchen und sich auf die Seite der Opposition schlagen; ein eindimensionaler LLM-Agent kann das nicht.
    Berichten zufolge arbeiten mindestens sechs Unternehmen, darunter OpenAI und Apple, an ständig beobachtenden Haushaltsgeräten mit moderner generativer KI als Backend. Um mit einem einzigen Satz sinnvoll zu helfen, braucht es genügend Kontext, also muss es dein gesamtes jüngstes Leben sehen. Gleichzeitig reicht genau das, um zu wissen, wen du wählen wirst, ob du zu einer noch gar nicht angekündigten Demonstration gehst und welche Methode am besten ist, dich so einzuschüchtern, dass du nicht hingehst. Das ist ähnlich wie der Unterschied zwischen einem Werkzeug zum Einschlagen von Nägeln und einer Mordwaffe. Beides ist derselbe Hammer.
    Während der TikTok-China-Kampagne gab es viele Videos, in denen LGBT-Personen erzählten, wie schnell TikTok ihre sexuelle Orientierung herausgefunden hatte. Selbst wenn sie keine Videos gelikt, niemandem gefolgt und keine nachverfolgbaren Profilinformationen angegeben hatten, wusste es TikTok manchmal schon, bevor sie es sich selbst eingestanden hatten. TikTok findet es heraus, indem es nur beobachtet, was Nutzer wie lange anschauen. Es reicht schon, dass jemand bei Videos mit Männern beim Sport deutlich länger verweilt als bei Videos mit Frauen, oder umgekehrt. Das sollte offenbar Angst davor machen, wie viel China allein durch App-Nutzung über Amerikaner herausfinden kann.
    Wenn das beängstigend ist, ist Folgendes noch beängstigender. Ein Gerät mit LLM-Backend kann schon viel mehr leisten, wenn es nur sieht, welche TV-Sendungen man anschaut, an welchen Stellen man lacht und was man der Person neben sich sagt. Es muss vielleicht nicht einmal multimodal sein. Untertitel und Speech-to-Text könnten schon ausreichen. Es kann den Wunsch erkennen, sich dem kommenden Autoritarismus zu widersetzen, noch bevor man ihn sich selbst eingesteht.
    Während Helen Toner sich um Demokratien am anderen Ende der Welt sorgt, könnte das Bollwerk der Demokratie nur noch zwei letzte Schritte von der ersten funktionierenden Umsetzung einer Orwell’schen Gesellschaft entfernt sein. Schritt 1: alle davon überzeugen, ein solches Gerät zu ihrem eigenen Vorteil ins Haus zu holen; das läuft bereits. Schritt 2: die Eigentümerunternehmen erpressen oder übernehmen, damit diese Geräte für Zwecke genutzt werden, die nicht in unserem Interesse liegen; das steht noch aus.

    • 1984 sagt eher, dass eine solche Überwachung gar nicht alle ständig beobachten muss, um wirksam zu sein; es reicht, wenn die Wahrscheinlichkeit, in einem bestimmten Moment überwacht zu werden, so hoch ist, dass man keine Anzeichen von Widerspruch zeigt.
      „Natürlich konnte man nie wissen, ob man gerade überwacht wurde. Wie oft oder nach welchem System die Gedankenpolizei sich in eine einzelne Leitung einschaltete, war reine Mutmaßung. Vielleicht beobachteten sie jeden die ganze Zeit. Jedenfalls konnten sie sich jederzeit in deine Leitung einschalten, wenn sie wollten. Man musste in der Annahme leben — und aus Gewohnheit, die zum Instinkt wurde, lebte man tatsächlich so —, dass jedes Geräusch, das man machte, mitgehört und, außer in der Dunkelheit, jede Bewegung beobachtet wurde.“
      Allerdings stimmt es, dass zum ersten Mal in der Geschichte viele Staaten einer echten flächendeckenden Kommunikationsüberwachung nahekommen.
    • Ein Verhalten als „gefährlich“ oder „nicht gefährlich“ zu klassifizieren, ist ein perfektes Beispiel für KI, die keine generative KI ist — früher hätte man maschinelles Lernen gesagt.
      Die Ausgabe ist keine Texterklärung, sondern ein binäres Ja/Nein. Man kann das auch mit einem LLM machen, aber ein spezifisches Machine-Learning-Modell, das auf demselben Datensatz trainiert wurde, wäre bei fast allen quantitativen Kennzahlen wahrscheinlich besser, und diese Technik gab es schon lange vor dem Aufkommen von Transformern.
    • Bei der Stelle „Es kann unmöglich genug Menschen geben, um den ganzen Tag alle zu beobachten und zu verstehen“ frage ich mich, ob nicht der Frühsportleiter vor einem Dutzend Monitoren saß.
      So etwas wie eine Gedankenpolizei auf Nachbarschaftsebene.

  • Jegliche Geschäfte mit Diktatoren und diktatorischen Regimen sollten verboten werden.
    Mit den Top 100 Ländern auf dieser Liste kann man meiner Meinung nach Geschäfte machen: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
    Wer mit den übrigen Geschäfte macht, stärkt nur unmenschliche Regime, und leider töten solche Regime nicht nur die eigene Bevölkerung, sondern greifen auch Nachbarländer an. Siehe Ukraine, und vielleicht bald auch Taiwan. Geld stinkt doch.

    • Ich frage mich, ob man ein Verbot erst will, nachdem die Top-100-Länder auf dieser Liste mit den übrigen Handel getrieben und Geld verdient haben, oder schon davor.
      Ein großer Teil des Reichtums der Industrieländer wurde aufgebaut, indem man die Korruption in Entwicklungsländern ausnutzte. Dadurch haben diese einen Anreiz, korrupt zu bleiben, solange sie nur mit westlichen Mächten kooperieren und Ressourcen sowie die Arbeit ihrer Menschen billig an westliche Unternehmen verkaufen.

  • Es ist besser, die Vorteile aus Geschäften mit den VAE selbst zu nutzen, als zuzulassen, dass diese Vorteile am Ende China zufallen.
    Der Versuch, den Nahen Osten dauerhaft niederzuhalten, hat offensichtlich nicht funktioniert; was jetzt passiert, ist Realpolitik und für mich die naheliegende Antwort. Saudi-Arabien wird ohnehin autoritär sein, und das ist wie eine gute Partie Hearts of Iron im echten Leben.

    • Ich weiß nicht, worin diese Vorteile bestehen sollen.
      Die Nachteile sind klar. Wir liefern damit praktisch Rüstung an Menschen, die fundamental nicht zu unserem Weltbild passen und selbst jetzt bestenfalls Zweckverbündete sind. Außerdem gibt es keine Garantie, dass das, was wir ihnen geben, nicht an China weiterverkauft wird. Wenn man bedenkt, wie notorisch korrupt diese Regime sind, halte ich das praktisch für fast sicher.

  • Jedenfalls ist nicht klar, ob irgendjemand von den „Verantwortlichen“ sich darum kümmert.
    Vielleicht ist genau das der Punkt.

  • Das größte Risiko von KI ist nicht eine Rebellion, sondern dass sie Diktatoren und Totalitaristen ermöglicht, die gesamte Bevölkerung vollständig zu kontrollieren.
    Ausreichend fortgeschrittene Algorithmen können durch Querverweise, Schreibstil usw. alles finden, was eine Person online veröffentlicht hat, und ihre Sichtweisen und Meinungen mit hoher Genauigkeit einschätzen. Sie können auch extrapolieren, wie sich diese Meinungen verändert haben.
    Eine Regierung kann Dissidenten ins Visier nehmen, noch bevor diese selbst merken, dass sie Dissidenten sind – geschweige denn, bevor sie Zeit haben, sich zu organisieren.

    • Das klingt für mich nach so etwas wie einem „hinreichend intelligenten Compiler“.
      Stilanalyse ist ein gut erforschtes Feld. Beruhigend ist, dass sie nur dann praktikabel ist, wenn es wenige infrage kommende Autoren für einen Beitrag gibt und von jedem Autor genügend Text als Probe vorliegt. Mit anderen Worten: In einer Situation, in der jeder ein potenzieller Verdächtiger ist, ist es in den meisten Fällen völlig unmöglich, anonyme Beiträge wieder ihren Autoren zuzuordnen. Selbst in den wenigen praktikablen Fällen liefert sie bestenfalls ein schwaches Signal für weitere Ermittlungen.
      Die Arbeit „Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity“ von Greenstadt et al. könnte eine interessante Lektüre sein.
    • Für Autoritäre spielen Wahrheit oder Genauigkeit keine Rolle.
      Für Trump ganz offensichtlich auch nicht. Menschen werden ohne Beweise abgeschoben, manchmal sogar ohne formelle Anklage. Genau das ist der Kern des Autoritarismus: Es geschieht, was der Anführer will. Was Trump ermöglicht, ist nicht KI, sondern ein machtloses System von Checks and Balances. Ebenso hat W über Massenvernichtungswaffen gelogen, um in einen endlosen Krieg zu ziehen. Es spielte keine Rolle, dass der Grund nicht der Wahrheit entsprach. Er kam damit davon und machte sich selbst und seine Freunde in der Rüstungsindustrie reich – auf Kosten der amerikanischen Bevölkerung.
    • Was man dann braucht, ist eine Datenbank.
      https://www.newsweek.com/donald-trump-database-palantir-dyst...
    • Es ist nur ein neuer Hebel, der dieselben schrecklichen Menschen und Verhaltensweisen weiter dazu ermutigt, die Gesellschaft zu ruinieren.
      Nur dass er in einem viel größeren Maßstab wirkt.
    • Ich bin nicht sicher, ob Staaten in den kommenden Jahrzehnten noch eine so wichtige Rolle spielen werden, wie sie es historisch getan haben.
      Derzeit ist ein Trend zu beobachten, bei dem wohlhabende Einzelpersonen immer mehr Macht konzentrieren, und das wird im öffentlichen Raum immer sichtbarer. Besonders auffällig ist auch, dass sie an vorderster Front beim Besitz und bei der Kontrolle der Entwicklung künstlicher Intelligenz stehen. Zufälligerweise wird diese Entwicklung häufig als „Technofaschismus“ bezeichnet, womit man am Ende wieder bei einer Diktator-Konstellation landet.