Der Aufbau eines Supercomputers für Diktatoren ist nicht zwangsläufig gut für die Demokratie

• OpenAI hat kürzlich eine Partnerschaft zum Aufbau eines groß angelegten KI-Datenzentrums in den VAE angekündigt
• Die Partnerschaft soll zwar „in demokratischen Werten verwurzelt“ sein, doch die VAE sind ein typischer undemokratischer Staat
• Freedom House und andere betonen in den VAE die Unterdrückung bürgerlicher Freiheiten und politischer Rechte
• OpenAI stellt die Zusammenarbeit als Beitrag zur Verbreitung demokratischer KI dar, doch ob sie der Demokratie tatsächlich nützt, ist fraglich
• Es gibt Bedenken, dass die Verlagerung von Supercomputing-Ressourcen zur Stärkung autoritärer Staaten beitragen könnte

---

Überblick über OpenAIs Partnerschaft für einen KI-Supercomputer in den VAE

• Im Mai 2024 stellte OpenAI offiziell das Programm OpenAI for Countries sowie das Projekt Stargate, ein groß angelegtes KI-Datenzentrum in den USA, vor
• OpenAI erklärte, Regierungen würden erkennen, dass die Konzentration von KI-Rechenleistung ein Schlüsselfaktor nationaler Wettbewerbsfähigkeit werde, und formulierte das Ziel, „demokratische KI in Länder auf der ganzen Welt zu bringen“
• Nach der Ankündigung veröffentlichte OpenAI eine Partnerschaft mit den VAE zum Bau eines modernen KI-Datenzentrums. Diese Partnerschaft basiere auf „demokratischen Werten“

Zustand der Demokratie in den VAE

• Laut der Bewertung von Freedom House für 2024 erreichen die VAE 18 von 100 Punkten und liegen damit sogar hinter Haiti, Simbabwe und dem Irak
• Die VAE sind eine erbmonarchische Herrschaftsordnung mit Konzentration politischer Macht, Verbot politischer Parteien, eingeschränktem Wahlrecht und einem beratenden Rat ohne echte Gesetzgebungskompetenz
• Kandidaten und Aktivisten, die Regierungskritik äußern, Menschenrechte verteidigen oder politische Reformen fordern, werden inhaftiert; auch ihre Familien sind Ziel von Überwachung und Bestrafung
• Medien unterliegen Selbstzensur oder direkter staatlicher Zensur; auch Schulbücher und Lehrpläne werden zensiert
• Migrantische Arbeitskräfte, die 90 % der Bevölkerung ausmachen, haben keine politischen Rechte, und Arbeitsausbeutung ist ein schwerwiegendes Problem. Auch die weite Verbreitung moderner Sklaverei wird von internationalen Menschenrechtsorganisationen angeprangert

Kritik an OpenAIs Logik der „demokratischen KI“

• OpenAI und Chris Lehane (Leiter der globalen Politik) argumentieren, dass die Ausweitung amerikanischer KI-Technologie zur „Verbreitung demokratischer Werte“ beitrage
• Die zentrale Argumentation lautet:
  1. In den USA entwickelte KI verkörpere demokratische Werte; ihre Verbreitung ins Ausland fördere daher den demokratischen Fortschritt
  2. Dass die USA den KI-Wettbewerb mit China gewinnen, sei unmittelbar mit dem Schutz der Demokratie verknüpft
• Selbst wenn die Nutzung von ChatGPT in den VAE zunimmt, lässt sich daraus kaum ableiten, dass dies tatsächliche Meinungsfreiheit garantiert oder unmittelbar demokratischen Fortschritt bringt
• Unklar ist sogar, ob Dienste an die lokalen Zensurmaßstäbe der VAE angepasst angeboten werden. Die Antwort des OpenAI-COO, man werde dies „gemeinsam mit der Regierung weiter diskutieren“, stützt diese Einschätzung

Auswirkungen der Unterstützung autoritärer Regierungen mit Supercomputing-Technologie

• Große KI-Supercomputer-Infrastruktur wird zunehmend zu einem äußerst wichtigen Bestandteil staatlicher Macht
• Es ist gut möglich, dass sich die VAE durch diese Partnerschaft erheblichen Zugang zu oder Eigentum an modernsten KI-Chips sichern
• Wie Lehane sagte, liefert der Deal einen entscheidenden Antrieb, um die VAE in den Rang einer KI-Großmacht zu heben
• Aus Sicht einer interessengeleiteten US-Außenpolitik mag dies Vorteile bringen, doch die negative Implikation einer Stärkung autoritärer Herrschaftssysteme ist erheblich

Fazit und Problemstellung

• Das bedeutet nicht, dass Halbleiter- und KI-Kooperation an sich zwangsläufig negativ sind
• Die Details des Vertrags zwischen OpenAI und den VAE sind größtenteils nicht öffentlich oder noch nicht abschließend festgelegt
• Dennoch ist klar, dass diese Vereinbarung nur zu Bedingungen zustande kommen wird, die für das Herrscherhaus der VAE akzeptabel sind → die Kraft zur Förderung von Demokratie ist begrenzt
• OpenAIs Ziel, KI-Technologie zum Nutzen der gesamten Menschheit einzusetzen, und die Frage der tatsächlichen Governance- und Kontrollverteilung sind zwei völlig verschiedene Dinge
• Dieser Fall kann als Signal verstanden werden, dass OpenAI die Spannung zwischen hehren Zielen und realen Risiken wie Machtkonzentration und demokratischem Rückschritt möglicherweise nicht ernsthaft genug bedenkt

[GN⁺]

Hacker-News-Kommentare

• Ich hasse wirklich diese Stimmung, dass man für prominente Unternehmen wie OpenAI immer besondere Ausreden oder Ausnahmen macht. In Wirklichkeit tun Low-Profile-Industriekonzerne wie Cisco oder Oracle seit Jahrzehnten genau solche Dinge. Ich finde nicht, dass die Analyse dessen, was OpenAI tut, Anfang und Ende der Debatte sein sollte.
  • Cisco und Oracle sind nicht mit dem Slogan gestartet, einer besseren Zukunft für die Menschheit zu dienen, und auch nicht als Non-Profit-Organisationen. Das ist nicht anders als bei Google, das einst das Motto „Sei nicht böse“ ausgab, dann davon abrückte und dafür kritisiert wurde. Nur weil man das Fehlverhalten eines Unternehmens durchgehen ließ, ist es für mich kein überzeugendes Argument, künftig nicht auch von anderen Unternehmen höhere Standards zu verlangen.
  • Politik ist die Kunst des Möglichen. Auch wenn es nervt, kann man doch dankbar dafür sein, dass zumindest versucht wird, nach Prinzipien zu handeln. Natürlich können die tatsächlichen Motive bloß Fassade sein, aber selbst wenn der Autor in diesem Fall ganz offensichtlich OpenAI gezielt kritisieren wollte, finde ich die Argumentation an sich durchaus überzeugend.
  • Die Tech-Branche verkauft seit Jahrzehnten große Computersysteme und Spitzentechnologie an die VAE. Der ursprüngliche Hintergrund von AMDs Abspaltung zu GloFo war ja tatsächlich auch der Plan, in Abu Dhabi eine fortschrittliche Halbleiterfabrik aufzubauen, was sich in der Praxis wegen Problemen wie Lieferkette und Wasserversorgung in der Wüste als schwer umsetzbar erwies.
  • Das ist sogar noch viel älter als das, was Cisco und Oracle seit Jahrzehnten tun. IBM lieferte tatsächlich Computer, die beim Betrieb des Holocaust eingesetzt wurden.
  • Ich denke, OpenAI hat sich selbst für solche Kritik angreifbar gemacht, indem es mit „Förderung der Demokratie“ auftrat. Da das eigentliche Ziel offenkundig Geldverdienen ist, hat sich diese Behauptung nun gegen das Unternehmen gewendet.
• Mir war entgangen, dass die im Artikel gemeinte Kategorie diktatorischer Staaten eher die Monarchien am Golf als Autoritäre innerhalb der USA bezeichnet. Erstens ist es aus Sicht von Nvidia ein gutes Geschäft, große Mengen GPUs an verlässliche saudische Investoren zu verkaufen. Zweitens hängen die Golfmonarchien von ihren Beziehungen zu den USA ab und wollen schon zur Vermeidung einer islamischen Revolution das bestehende System aufrechterhalten. Drittens kann man die Stromversorgung von Rechenzentren auch mit Solarenergie lösen. Überwachen diese Staaten ihre Nutzer? Natürlich. Über Informationsaustauschabkommen mit GCHQ und NSA ist es auch nicht schwer, lokale Rechtsgrenzen zu umgehen. Das ist nichts grundlegend Neues, und am Ende heißt das für mich nur, dass ich meine Gedanken oder meine Privatsphäre keinem SaaS anvertrauen sollte.
  • Ich glaube sogar, dass die Realität noch raffinierter ist. Meine Kaufhistorie, meine Adresse, meine Gesprächs-Metadaten und dank DOGE inzwischen sogar Bundesdaten werden ohnehin schon eingesammelt. Auch ohne meinen Social-Media-Feed kann das völlig ausreichen, um für mich bedrohlich zu sein. Außerdem ist das keineswegs nur auf SaaS beschränkt. Das gesamte Web wird mit enormer Geschwindigkeit abgesaugt, daher fühlt es sich so an, als seien die Grenzen meines Lebens längst viel weiter gezogen worden.
  • Letztlich ist die HN-Community nur eine kleine Gruppe, und die meisten Menschen auf der Welt sind nicht nur schlecht informiert, sondern werden sich am Ende wohl auch dafür entscheiden, ihre Privatsphäre für Bequemlichkeit aufzugeben. Man kann auch die Sichtweise einnehmen, dass die ideale Lösung wäre, diese Versuchung gar nicht erst entstehen zu lassen.
• Ich denke, dass technologische Entwicklung für Diktatoren, in welcher Form auch immer, der Demokratie nicht guttut. Der Kern einer gesunden Demokratie ist die Maximierung des Wohlstands der arbeitenden Bevölkerung. Erst wenn Menschen genug Spielraum und Bildung haben, um sich um sich selbst, ihre Familien und ihre lokale Gemeinschaft zu kümmern, wird echte demokratische Teilhabe möglich. Es ist besser, nicht für Diktatoren zu entwickeln, egal in welchem Land — ob in den USA, den Golfstaaten oder Russland — auch wenn das in der Realität natürlich nicht leicht ist.
  • Demokratische Teilhabe und die Realität in Diktaturen scheinen mir eher zwei getrennte Themen zu sein. Im Gegenteil: Je schneller der technologische Fortschritt voranschreitet, desto stärker werden die dystopischen Tendenzen in westlichen Gesellschaften, besonders innerhalb der USA. Dagegen betreiben autoritäre Staaten im Nahen Osten schon lange starke Wohlfahrtssysteme, und wegen ihrer kleinen Bevölkerungen können sie vom AI-Boom sogar effizienter profitieren.
• Ich denke, der wesentliche Wert von LLMs liegt darin, die Macht von Botschaften zu vervielfachen, die sich in der Gesellschaft verbreiten. In Zukunft wird jeder von nachrichtenähnlichen Botschaften umgeben sein, die nicht von Menschen stammen. Das ist gewissermaßen der Beweis, dass die einzige Methode, das Internet zu kontrollieren, letztlich darin besteht, es unter einer enormen Menge an Botschaften zu begraben.
  • Falls mit hoi polloi die Masse gemeint ist, dann wird die Masse solche Werkzeuge in der Praxis wohl nur für kommerzielle Zwecke nutzen und sich wegen ihres anhaltenden Hungers nach sozialer Interaktion weiterhin in Social Media verlieren. Falls dagegen die Elite gemeint ist, dann nutzt sie diese Methode schon seit Langem, indem sie Menschen als Schutzschirm vorschiebt, und wird das auch weiter tun, solange genug Geld vorhanden ist.
  • Der Ausdruck „Vervielfachung von Macht“ trifft meiner Meinung nach den Kern meiner Sorge sehr gut.
  • Ich kann dieses Gefühl kaum nachvollziehen, dass man wegen des Vertrauens in das eigene Wissen und die eigene Vorstellungskraft so sicher behauptet, der wesentliche Nutzen von LLMs sei derart „offensichtlich“. Das erinnert mich an die Perspektive von Leuten, die 1780 meinten, das Wesen der Dampfmaschine eindeutig bestimmen zu können.
  • Ich lese oft die Meinung, LLMs würden zur Verstärkung von Botschaften eingesetzt, aber für mich ist das überhaupt nicht selbstverständlich. Ich verfolge nur eine sehr kleine Zahl von Medien und meide Online-Interaktionen bewusst, weil ich eher introvertiert bin. Vor dem Aufkommen von Social Media war so etwas sogar eher normal. Wenn LLMs überhandnehmen, könnte das nicht eher zu einer Rückkehr zu primitiveren Formen der Netznutzung führen? Und auch wenn man das Internet angeblich durch Überflutung mit Botschaften kontrolliert, ist die Realität komplexer, weil man in der Praxis auch bei rechtlichen Eingriffen nicht an Kosten spart.
  • Dieser Behauptung kann ich nur schwer zustimmen. Presse und Medien sind bereits mit übermäßig viel Informationsmüll gefüllt, und die durchschnittliche Aufmerksamkeitsspanne der Menschen ist ohnehin am Limit. Selbst wenn noch zusätzlich allerlei AI-generierter Kram dazukommt, wird sich nicht viel ändern. Die Kontrolle des Internets erfolgt letztlich dadurch, dass der Staat direkt regulierend eingreift.
• Meiner Ansicht nach birgt gerade hochentwickelte Technologie für jede Regierung das Risiko, autoritärer oder totalitärer zu werden. Auf Machthaber wirkt die Versuchung stark, alles kontrollieren zu wollen, und das führt oft zu einer schrecklichen Herrschaft über Staat und Bevölkerung.
• Unabhängig von Sam Altmans moralischen Maßstäben frage ich mich, ob es tatsächlich einen wesentlichen Unterschied gibt zwischen demokratischen Staaten, die unterdrücken, Gewalt ausüben und andere besetzen (USA, Israel, Indien), und den Diktaturen auf der anderen Seite (Saudi-Arabien, China, Nordkorea).
  • Wenn die Regierten selbst kein direktes Mitspracherecht haben, wirkt schon die Bezeichnung „demokratischer Staat“ merkwürdig.
  • Wenn man Unterschiede ignoriert und alles miteinander vergleicht, wird eine wesentliche Unterscheidung unmöglich. Und es klingt hier so, als hätten Diktaturen nur wenige Opfer, während übersehen wird, dass dort tatsächlich Milliarden gewöhnlicher Menschen unter Unterdrückung leben.
• Persönlich halte ich es für weitaus realistischer, Geschäfte mit den VAE zu machen und daraus Gewinn zu ziehen, als China profitieren zu lassen. Dass es nicht funktioniert, den Nahen Osten auf ewig niederzuhalten, ist bereits bewiesen. Aus Sicht der Realpolitik ist dieser Kurs am Ende die beste Option, fast wie eine Partie Hearts of Iron in der realen Welt. Wenn Saudi-Arabien ohnehin eine Diktatur ist, dann bringt dieser Weg zumindest jetzt Vorteile.
• Auch die Demokratie ist eine Struktur, die nicht einmal der Demokratie selbst dient. Ich halte sie bereits für eine gescheiterte Idee.
• Ich erinnere mich, dass in 1984 die Grundidee war, dass in jedem Haushalt ein Fernseher steht und dieser die Menschen ständig überwacht. Bisher war das bloß eine dystopische Fantasie, weil es unmöglich war, dass jemand alle Menschen in Echtzeit „versteht“ und beobachtet. Mit dem jüngsten Aufkommen von LLMs/GenAI sind jedoch frühe Warnsignale für Dinge wie das Erkennen gefährlicher Gedanken mit einer GPU pro Haushalt durchaus denkbar geworden. Vielleicht wäre es in der Realität sogar sinnvoll, Systeme bewusst so zu entwerfen, dass nur begrenzte Rechenressourcen verbleiben. Eine AGI könnte beide Seiten hören und Neutralität wahren, aber ein einseitig arbeitender LLM-Agent kann das nicht. Mindestens sechs Unternehmen, darunter OpenAI und Apple, entwickeln derzeit moderne, auf GenAI basierende Heimgeräte, die ständig zuhören oder zusehen. Eine AI, die das ganze Leben beobachtet und seinen Kontext erfasst, kann auch die Vorlieben und politischen Neigungen eines Nutzers erkennen. Das ließe sich von autoritären Regierungen im schlimmsten Fall massiv missbrauchen. Beinahe in Echtzeit wurde bereits sichtbar, dass TikTok auch ohne Nutzerdaten sexuelle Vorlieben oder Interessen von Nutzern erschließen konnte. LLM-basierte Geräte könnten allein durch die Analyse von TV-Sehgewohnheiten, Gesprächsinhalten und emotionalen Ausdrucksformen sogar Wahlneigungen oder die Bereitschaft zur Teilnahme an Protesten ableiten. Helen Toner sorgt sich um Demokratien auf weit entfernten Kontinenten, aber ich habe eher Angst davor, dass selbst das vermeintliche Kernland der Demokratie kurz davorsteht, eine Orwellsche Gesellschaft zu verwirklichen. Schritt 1: alle dazu bringen, solche Geräte in ihren Häusern zu installieren (läuft bereits), Schritt 2: die betreffenden Unternehmen unter Druck setzen, damit sie die Geräte im Sinne der Machthaber einsetzen (steht noch aus).
  • Verhaltensklassifikation als binäre Entscheidung wie „gefährlich/sicher“ gehört eigentlich nicht zum Kernbereich generativer AI; das war schon lange mit klassischem Machine Learning bzw. Klassifikationsmodellen möglich. Dafür braucht es keine LLMs, und in der Praxis sind traditionelle ML-Modelle sogar effizienter.
• Der Wikipedia-Artikel zu Chris Lehane ist noch nicht im gleichen Maß aktualisiert wie seine tatsächliche Laufbahn Chris Lehane - Wikipedia Eine Karriere auf höchstem Niveau als Fixer.