Wie KI institutionelle Grundlagen zerstört

 (cyberlaw.stanford.edu)
1 Punkte von GN⁺ 2026-01-22 | 1 Kommentare | Auf WhatsApp teilen
  • Zentrale Institutionen der Demokratie wie Rechtsstaatlichkeit, Universitäten und Medien werden als Strukturen beschrieben, die Kooperation, Stabilität und Anpassung ermöglichen
  • Diese Institutionen bewahren ihre Legitimität, indem sie sich innerhalb von Hierarchien der Autorität und eines Rahmens aus Regeln weiterentwickeln und anpassen
  • Auf Transparenz, Zusammenarbeit und Verantwortlichkeit basierende Institutionen unterstützen Einzelne dabei, intellektuelle Risiken einzugehen und die bestehende Ordnung infrage zu stellen
  • Doch die Funktionsweise von KI-Systemen schwächt diese institutionellen Eigenschaften oder lässt sie verschwinden
  • KI führt zu Erosion von Expertise, verkürzten Entscheidungsprozessen und Isolierung zwischen Menschen und bedroht damit die Nachhaltigkeit bürgerlicher Institutionen

Rolle und Struktur bürgerlicher Institutionen

  • Rechtsstaatlichkeit, Universitäten und freie Medien werden als Grundlage des demokratischen Lebens dargestellt
    • Sie fungieren als Mechanismen, die in komplexen Gesellschaften Kooperation, Stabilität und Anpassung an Veränderungen fördern
  • Die eigentliche Stärke von Institutionen liegt in ihrer Fähigkeit, sich innerhalb von Hierarchien der Autorität und eines Rahmens aus Rollen und Regeln weiterzuentwickeln und anzupassen
  • Zweckorientierte Institutionen, die auf Transparenz, Zusammenarbeit und Verantwortlichkeit beruhen, ermöglichen es Individuen, intellektuelle Risiken einzugehen und die bestehende Ordnung herauszufordern
    • Dieser Prozess vollzieht sich durch die Interaktion menschlicher Beziehungen innerhalb der Institutionen und führt zu einer Erweiterung des Horizonts sowie zu stärkerem Engagement für gemeinsame Ziele

Auswirkungen von KI-Systemen auf Institutionen

  • Die funktionalen Eigenschaften (Affordances) von KI-Systemen schwächen kontinuierlich die zentralen Merkmale von Institutionen
  • KI verursacht Erosion von Expertise, verkürzte Entscheidungsprozesse und Entfremdung zwischen Menschen
    • Dadurch werden Weiterentwicklung, Transparenz, Zusammenarbeit und Verantwortlichkeit von Institutionen beschädigt
  • Die heutigen KI-Systeme werden als „Todesurteil“ für bürgerliche Institutionen bezeichnet
    • Solche Systeme wirken in einer Richtung, die Zweck und Nachhaltigkeit von Institutionen zerstört

Fazit

  • KI-Systeme werden als Struktur beschrieben, die mit den zentralen bürgerlichen Institutionen unvereinbar ist, welche die Demokratie tragen
  • Daher sollte KI als Faktor institutioneller Zerstörung verstanden und mit Vorsicht betrachtet werden

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2026-01-22
Hacker-News-Kommentare

  • Ich denke, KI ist weniger die Ursache als vielmehr ein Mechanismus, der einen bereits laufenden Prozess beschleunigt
    Social Media hat Menschen bereits isoliert, und KI-Bots beschleunigen das nun. Sie werden auch genutzt, um aus politischen Motiven Verwirrung zu stiften, und treiben Menschen dadurch weiter in Extreme
    Auch das Hochschulsystem war bereits zu einem Mittel des Gelderwerbs geworden, und zwischenmenschliche Beziehungen existieren weiterhin. KI ändert daran nichts
    Allerdings führt KI zu einem Mangel an kritischem Denken. Menschen verlassen sich auf KI, statt selbst zu recherchieren oder kreativ zu denken

    • Dem stimme ich nicht zu. Wenn ich Benzin auf einen brennenden Laubhaufen gieße, habe ich das Feuer vielleicht nicht „gestartet“, aber ich habe es sehr wohl außer Kontrolle geraten lassen
      KI fühlt sich an wie ein Vorschlaghammer für ein ohnehin schon rissiges Bauwerk
    • Die Aussage „KI beschleunigt nur bestehende gesellschaftliche Probleme“ klingt für mich wie „Heroinsucht beschleunigt nur das, was die Gesellschaft ohnehin schon getan hat“
      Manchmal ist der Katalysator selbst das Problem. Deshalb denke ich, dass sowohl für Social Media als auch für KI gewisse Leitplanken nötig sind
    • „Öl ins Feuer gießen“ dürfte wohl der technische Ausdruck sein. Das ist normalerweise etwas sehr Schlechtes
      Wenn KI die Lage verschlimmert hat, dann trägt KI auch die Verantwortung dafür, dass das Feuer unkontrollierbar wurde. Dass ein kleiner Funke den ganzen Wald abbrennt, liegt am Ende am Öl
    • Ich denke, die Wurzel des Problems ist das kapitalistische System. Jede Technologie wird eingesetzt, damit „die Zahlen steigen“, und Externalitäten werden per Steuern abgewickelt, obwohl es in Wahrheit billiger ist, Politiker zu kaufen
      So entstehen nährstoffarme Lebensmittel, sinnloser Konsum, Schulen, die nur Geld absaugen, und mit Werbung überladene soziale Netzwerke
      Ich glaube, dass in den nächsten Jahren der Punkt kommt, an dem sich der Shareholder-Kapitalismus selbst auffrisst
    • Wenn Bots gesellschaftliches Chaos anheizen, dann sind Plattformen, die das nicht verhindern, Mittäter
      Technisch ist es nicht schwer, Bots zu blockieren. Wenn man es trotz der Vorteile für Vertrauen in die Plattform und Kostensenkung unterlässt, bleibt fast nur noch der Verdacht einer Verflechtung mit politischen Kräften

  • Die Aussage „Rechtsstaat, Universitäten und Medien sind die Grundlage der Demokratie“ mochte im 19. Jahrhundert stimmen, heute aber nicht mehr
    Die Medien sind voller Propaganda, und auch der Rechtsstaat wird von politischen Interessen beeinflusst. Universitäten sind ebenfalls schwer zu vertrauen
    Wenn man sich den Varsity-Blues-Skandal ansieht, fragt man sich, ob das wirklich Säulen der Demokratie sind

    • Die Alternative zu diesen Institutionen ist derzeit Social Media, und das ist in Bezug auf Genauigkeit, Fairness und Neugier viel schlechter
      Deshalb denke ich eher, dass KI ein besserer Ersatz sein könnte. KI und Institutionen könnten in einer symbiotischen Beziehung stehen
    • Paradoxerweise könnten die heutigen Institutionen in ihrem besten Zustand der Geschichte sein
      Früher haben wir ihnen nur mehr vertraut, weil wir weniger wussten; heute verlieren wir im Streben nach Perfektion das Gute
      Misstrauen ist ein Gefängnis, das wir selbst gebaut haben
    • Medien waren schon immer Propaganda. Früher wusste man es nur nicht, weil es keine alternativen Medien gab
      Der Vorteil der Demokratie liegt in einer Struktur, in der Probleme öffentlich diskutiert und gelöst werden können
    • Wenn all das stimmt, dann würde ich gern fragen, was dann die neue Grundlage der Demokratie sein sollte

  • Der Download-Link zum Paper ist hier

    • Dieses Paper ist ein nicht peer-reviewter Entwurf. Auch die Beispiele zu DOGE oder FDA sind schwach belegt
      Besonders die Kritik an der KI-Nutzung der FDA basiert auf einem fehlerhaften Artikel. Tatsächlich wird sie für Produktrückrufe verwendet
      Letztlich ist dieses Paper eher ein Meinungsbeitrag
    • Es gibt zu viele Rechtschreib- und Interpunktionsfehler, um dem Text zu vertrauen
      Der Aussage „KI ist gesellschaftlich schädlich“ kann ich zustimmen, aber es fehlt das Verständnis dafür, warum die Öffentlichkeit KI nutzt
      Wenn Medizin, Bildung und Medien ihre Rolle nicht erfüllen, ist es nur natürlich, dass Menschen sich der KI zuwenden

  • Das Problem ist nicht KI, sondern die Vertrauensstruktur menschlicher Institutionen
    Die meisten Institutionen wurden unter der Annahme von Autorität wie eine „Priesterkaste“ aufrechterhalten, und als Entwürfe aus der Zeit vor der Spieltheorie sind sie anfällig für Manipulation
    Jetzt behandeln Menschen Institutionen nicht mehr als heilige Bauwerke, sondern als Strukturen, die zerbrechen können
    Ein Beispiel: Die jüngste Abschiebungskampagne der ICE ist das Ergebnis davon, dass politische Kräfte die amerikanische Demokratie mit einem Sybil-Angriff attackiert haben
    Erklärung zum Sybil-Angriff

    • Dann würde mich in diesem Fall interessieren, wo genau die vielen gefälschten Identitäten sind

  • Ich bin solchen Hypothesen gegenüber skeptisch. Die Verschlechterung beginnt oft vor der Ursache
    Social Media oder Tinder sind weniger die Ursache von Einsamkeit, sondern haben nur einen bereits bestehenden Trend beschleunigt
    Auch soziale Technologien wie Rechtsstaat, Medien und Universitäten haben über lange Zeit ihre Schwachstellen offengelegt und deren Ausnutzung erlebt

  • Der Titel „KI untergräbt Fachkompetenz“ wirkt seltsam
    Wenn ein Gespräch mit einem Anwalt 500 Euro für 30 Minuten kostet und KI fast kostenlos ist, dann ist bei 80 % Qualität KI die wirtschaftliche Wahl
    Dass KI die Gesellschaft verändert, stimmt, aber die gesamte Verantwortung auf KI abzuwälzen, ist überzogen. Die Institutionen selbst waren bereits nicht gesund

    • Es gibt die Sichtweise, dass man KI negativ sieht, weil sie bestehende Wissensstrukturen zerlegt
      Früher war man auf Experten angewiesen, heute bekommt jeder mit einem KI-Abo Zugang zu Wissen
      Die Gesellschaft bewegt sich in einen Zustand maximaler Entropie. Unter solchen Bedingungen ist fraglich, wie Werte und Konsens entstehen sollen
    • Ich würde eher sagen, dass ich gerade bei wichtigen Problemen für vertrauenswürdigen Rat bezahlen würde
      Rechtsberatung, die zu 20 % falsch ist, ist gefährlicher als gar keine. Das Problem beginnt, wenn selbst Anwälte anfangen, sich auf KI zu verlassen
    • Das Qualitätsproblem entsteht, weil die Verantwortung für das Scheitern unterschiedlich verteilt ist. Ein Anwalt kann wegen falscher Beratung verklagt werden, KI hingegen ist haftungsbefreit

  • Letztlich wirkt es so, als hätten Anwälte erst jetzt ein Krisenbewusstsein entwickelt. Die nächsten zehn Jahre werden wohl eine Zeit sein, in der alle Wissensberufe gegen KI kämpfen

    • Anwälte haben Gründe, sich KI nicht nur aus Selbstschutz, sondern zum Erhalt des wesentlichen Werts des Rechts zu widersetzen
      Das Recht muss sich selbst reflektieren und weiterentwickeln, aber KI neigt dazu, den Status quo zu verfestigen. Das steht im Konflikt mit dem Geist des Rechts
    • „12 Angry Agents“ ist wirklich eine witzige Formulierung
    • Die Haltung, Kritik daran, dass Technologie die Gesellschaft destabilisiert, als Verschwörungstheorie abzutun, ist problematisch

  • Ich habe bereits das Gefühl, dass die Institutionen tödlich verwundet wurden
    Social Media und endloser Content-Konsum schwächen die Medien, lähmen die Entscheidungsfindung und isolieren die Menschen

    • Mit „Social Media isoliert Menschen“ ist wohl doomscrolling gemeint
      Tatsächlich können soziale Netzwerke auch Verbindungen schaffen. Vielleicht ist Facebook natürlich eine Ausnahme

  • Warum gibt es kein institutionelles Misstrauen gegenüber Zahnärzten?
    Seit den 1990er Jahren sind Behandlungen viel angenehmer geworden und haben die Lebensqualität verbessert
    Andere Experten sagen dagegen oft nur: „Wenn ihr auf uns hört, wird es immerhin weniger schlimm.“ Um Vertrauen zu gewinnen, muss man das Leben tatsächlich verbessern

    • Manche sagen allerdings, dass auch Zahnärzte durch Überbehandlung und verkäuferisches Verhalten Vertrauen verlieren
      Ich vertraue einzelnen Zahnärzten, aber große Zahnarztketten finde ich schwer vertrauenswürdig
    • Ich vertraue Zahnärzten überhaupt nicht. Ich habe erlebt, wie man mit unnötigen Eingriffen Geld verdienen wollte
      Letztlich ist eine Struktur, die Zeit und Patienten in Geld verwandelt, das Problem. Sorgfältige Behandlung wird dadurch zum Privileg der Reichen