Foren und Communities in Südkorea müssen nun alle Bilder mit KI-Zensurwerkzeugen prüfen
(discuss.privacyguides.net)- Durch eine Änderung des Telekommunikationsgeschäftsgesetzes werden Betreiber südkoreanischer Internet-Communities und Foren verpflichtet, alle von Nutzern hochgeladenen Bilder und Videos per KI zu prüfen
- Die Hardware zum Ausführen der KI-Modelle wird nicht vom Staat bereitgestellt; stattdessen müssen Website-Betreiber Nvidia-GPUs auf Rechenzentrumsniveau selbst kaufen, was kleinen Anbietern und Foren finanziellen Druck auferlegen dürfte
- Websites müssen die erforderlichen Hardware- und Softwarefunktionen ab dem 1. Juli sofort umsetzen
- Die Politik der KI-Vorzensur für Bilder in inländischen Internet-Communities steht im Zusammenhang mit der 2021 in Kraft getretenen Änderung des Telekommunikationsgeschäftsgesetzes, die als „Nth Room-Präventionsgesetz“ bekannt wurde; die öffentliche Meinung ist zwischen der Notwendigkeit eines sozialen Sicherheitsnetzes und Eingriffen in die Meinungsfreiheit gespalten
- Die Durchsetzung der Maßnahme führt gleichzeitig zu Kostenbelastung für Betreiber, kurzer Vorbereitungszeit, Problemen bei der Gerätebeschaffung und einer Debatte um die Meinungsfreiheit
Regulierungsänderung und Zeitplan
- Durch die Änderung des Telekommunikationsgeschäftsgesetzes verlangt die südkoreanische Regierung von Betreibern von Internet-Communities und Foren, von Nutzern hochgeladene Bilder und Videos auf ihren Websites per KI zu prüfen
- Websites müssen die erforderlichen Hardware- und Softwarefunktionen ab dem 1. Juli sofort implementieren
- Der Verfasser weist darauf hin, dass dieser Zeitpunkt der Umsetzung bereits im Monat nach dem Veröffentlichungsdatum liegt
Hardware- und Kostenbelastung
- Die für den Betrieb der KI-Modelle notwendige Hardware wird nicht vom Staat bereitgestellt
- Website-Betreiber müssen Nvidia-GPUs auf Rechenzentrumsniveau selbst kaufen
- Problematisch ist, dass diese Anforderung kleine Anbieter und Foren finanziell belastet
Zugehörige Berichte und Reaktionen von Community-Betreibern
- Der zugehörige Artikel Vorzensur selbst beim Hochladen von Bildern? Hintergrund der Pro-und-Contra-Konfrontation berichtet, dass eine Politik sichtbar geworden ist, nach der sogar in inländische Internet-Communities hochgeladene Bilder vorab per KI zensiert werden, und dass die öffentliche Meinung zwischen der Notwendigkeit eines sozialen Sicherheitsnetzes und Eingriffen in die Meinungsfreiheit gespalten ist
- Dem Bericht zufolge trat die Änderung des Telekommunikationsgeschäftsgesetzes, die als „Nth Room-Präventionsgesetz“ bezeichnet wurde, 2021 in Kraft
- Im Beitrag eines Ruliweb-Betreibers heißt es, einige Teilnehmer hätten mit einer sechsmonatigen Übergangsfrist gerechnet, doch auf den Hinweis, dass eine Gerätebeschaffung unmöglich sei, habe die Regierungsseite geantwortet, sie wisse nichts über Geräte; da der gesetzliche Standard ab Juli gelte, müsse es umgesetzt werden
Zentrale Streitpunkte
- Die KI-Prüfung von von Nutzern hochgeladenen Bildern und Videos ist eine politische Maßnahme, bei der die Notwendigkeit eines sozialen Sicherheitsnetzes und die Debatte über Eingriffe in die Meinungsfreiheit aufeinanderprallen
- Da ein sofortiger Umsetzungszeitplan vorgegeben wird, ohne dass der Staat Geräte bereitstellt, bleiben Betriebskosten und Gerätebeschaffung direkt bei den Betreibern von Communities und Foren hängen
4 Kommentare
Es heißt auch, dass sich das gegenüber Communities mit Sitz im Ausland nicht durchsetzen lasse, selbst wenn sie stark genutzt werden, sodass am Ende nur inländische Communities darunter leiden würden.
Wenn man sich die Beiträge auf Hacker News ansieht, sind unter den Deepfake-Opfern ziemlich viele koreanische Prominente, und die eigentliche Herstellung wird wohl von kriminellen Gruppen in China oder Südostasien betrieben. Da ausgerechnet inländische Websites zu zensieren, ist letztlich eine sinnlose Maßnahme.
Endlich ist dieses Thema aufgetaucht.
Hacker-News-Kommentare
Das Problem ist, dass man zur Nutzung des KI-Zensur-Tools eine Lösung eines bestimmten Anbieters kaufen muss und die Frist faktisch nicht einmal mehr einen Monat beträgt
In Korea gibt es viele IT-Zombieunternehmen, die von Regierungsaufträgen leben, daher ist das nichts besonders Ungewöhnliches; tatsächlich ist dort eine lokale CMS-Struktur etabliert
Koreanische Programmierer mit schwachen Englischkenntnissen werden abhängig von diesem lokalen CMS, und dadurch entsteht eine Struktur, in der auch die Programmierkompetenz schwächer wird
Ich denke, das ist ein Grund dafür, warum es in Korea trotz des hohen Anteils Hochgebildeter relativ wenige herausragende Programmierer gibt
Korea war das erste Land der Welt, das ein Internetzensurgesetz eingeführt hat, und es gibt unter Regierungen jeder politischen Richtung historische Belege für Zensur
Allerdings ist das ein komplexes Problem, weil solche Zensursysteme auch staatliche IT-Verträge und Arbeitsplätze schaffen
Konkret sind die meisten inländischen Board- und Forenplattformen stark an ein bestimmtes kommerzielles CMS gebunden, und bei staatlich relevanten Projekten wird dieses CMS oft faktisch vorausgesetzt
Entwickler bleiben wegen mangelnder Englischkenntnisse und fehlender Erfahrung mit globalen Open-Source-Alternativen in diesem Ökosystem gefangen, und selbst grundlegende KI-Zensurfunktionen hängen von proprietären Modulen dieses Anbieters ab
Wenn eine extrem knappe Frist von weniger als einem Monat den Kauf erzwingt, bleibt kein Raum, bessere, günstigere oder transparentere Optionen zu prüfen
Am Ende erzeugt die Struktur selbst immer wieder einen Kreislauf aus Anbieterknebelung, schwacher technischer Kompetenz und bloß oberflächlicher Compliance statt echter Innovation
Es ist dieselbe Kombination aus einem realen Problem, einer hastigen und vermutlich unterlegenen NIH-artigen Lösung, einer einzigen Implementierung, die allen aufgezwungen wird, und jahrelanger technischer Stagnation danach
Hoffentlich weitet sich diese Pflicht nicht so aus wie bei SEED, das das koreanische Web lange an veralteten Internet Explorer und unsichere ActiveX-Controls gebunden hat
https://archive.is/ermII
Ich frage mich, ob das einen Markt für freiere Foren schaffen wird, die für Koreaner gedacht sind, aber in anderen Ländern gehostet werden
Ein kultureller Kontext fehlt hier: In Korea sind Deepfakes, nicht einvernehmliche Pornografie und der Missbrauch privater Bilder ein weit verbreitetes, beinahe permanentes Problem.
Korea hat viele gute Seiten, aber das sexuelle Umfeld rund um Männer, Frauen und Kinder ist ziemlich schrecklich.
Es ist schwer, die Schwere dieses Problems zu beurteilen, wenn man sie nicht kennt und nur mit einer westlichen Denkweise herangeht; unabhängig davon, wie man den Mechanismus bewertet, ist das dahinterliegende Problem sehr real.
Der Vorschlag, ein kleines Forum mit einem KI-Filter auszustatten, wirkt seltsam und vermutlich unbeholfen, aber Korea neigt dazu, bei realen Problemen erst einmal zu handeln und eher nach dem Motto „Probieren wir es einfach“ vorzugehen.
Das führt manchmal zu merkwürdigen Ergebnissen, ermöglicht aber auch dynamische Problemlösungen.
Was ich hier vorab abwehren möchte, ist die Haltung, diese Sache nach sogenannten „universellen“ Werten zu bemessen.
Das Konzept universeller Rechte im Sinne der Französischen Revolution und der Aufklärung ist in der Praxis weniger universell als vielmehr die Logik eines bestimmten Kulturraums; in seiner eigenen Blase ist es konsistent, wurde aber als Standard für alle exportiert.
Ich persönlich mag diese Werte, aber es gibt auch andere in sich stimmige Logiken, und die koreanische Logik ist aus meiner Sicht eine davon.
So abgedroschen es klingt: Korea stützt sich auf Harmonie und Kollektiv, der Westen auf das Individuum, und beide erzeugen Abweichungen, nur eben unterschiedliche Arten davon.
Als ich zum ersten Mal nach Korea kam, hielt ich die vielen Blitzer und CCTV-Kameras für völlig verrückt, aber nach ein paar Jahren sah ich darin weniger etwas, woran ich mich nur gewöhnt hatte, sondern eher einen Kompromiss, der im Großen und Ganzen funktioniert, und begann ihn sogar zu schätzen.
Korea bevorzugt eher freundlich wirkende, leichte Polizeipräsenz und massenhafte automatisierte Überwachung statt harter Durchsetzung, bei der gelegentlich gepanzerte Fahrzeuge auftauchen.
Das ist eine Designentscheidung, kein Zeichen dafür, dass man in eine Dystopie abrutscht.
Gemeint ist: offen bleiben und nicht unkritisch die Werte eines Kulturraums als Maßstab für alle anwenden.
Den Mechanismus kann man jederzeit kritisieren, aber man sollte nicht die Werte einer Kultur zum Maßstab machen, an dem alle anderen gemessen werden.
Ich persönlich halte diese Politik für einen fehlgeleiteten Versuch, aber nicht für eine Rutschbahn in die Dystopie.
Eher einfach ein ganz normaler Dienstag in Korea.
Allerdings finde ich es schwer, der Einordnung koreanischer Internetpolitik als „leichtgewichtig“ zuzustimmen.
Koreanische Internetpolitik schreibt üblicherweise sehr spezifische Technologien wie SEED oder jetzt dieses neue Modell verpflichtend vor und verknüpft das mit einem dichten Geflecht detaillierter, nur auf Korea zugeschnittener Regeln, wodurch objektiv schlechtere und hochgradig unsichere Software in Monopol- oder Oligopolstellungen gedrängt wird.
Das ist keine leichte Politik.
Selbst der britische Online Safety Act, der mit seiner erzwungenen Altersverifikation im Westen als Paradebeispiel für staatliche Übergriffigkeit kritisiert wird, ist deutlich leichter als koreanische Politik.
Er schreibt weder bestimmte Software oder Hardware noch bestimmte Chiffren oder Protokolle vor, und auch die Liste zulässiger Methoden zur Altersverifikation ist ausdrücklich nicht abschließend.
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
Bei den meisten digitalen Regulierungen wäre Japan aus meiner Sicht das wirklich leichte Beispiel.
Die Anforderungen sind vage, Beispiele sind nicht abschließend, es gibt viele Ausnahmen, und oft gilt sinngemäß: „Wenn es technisch zu umständlich ist, müsst ihr X nicht umsetzen“; außerdem kann vieles sowohl manuell als auch vollautomatisch abgewickelt werden.
Das heißt nicht, dass Japan immer gut ist; bei Sicherheitsanforderungen ist es manchmal zu lax, aber objektiv ist das eine leichte Politik.
Koreanische Digitalpolitik ist nach keiner Definition leichtgewichtig.
Wenn man es leicht nennt, weil man keine Panzer schickt, um Täter von Rachepornos zu fassen, dann bitte — aber welches Land tut das schon?
Wenn man die Schwere von Politik nach ihrer Restriktivität bemisst, gibt es nur wenige Länder, die mit Korea konkurrieren könnten.
2024 erstellte jemand sogar eine Meldelandkarte für schulbezogene Deepfakes, die landesweit zum Gesprächsthema wurde: https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
Es gibt ein wirklich schreckliches Problem, und Leute, die das Internet offenbar nicht verstehen, kommen mit schrecklichen Lösungen daher — sehr ähnlich wie bei der Altersverifikation.
Es fühlt sich an, als würde sich die Affenpfote einkrümmen.
Es ist eine gute Übung, sich das in einen nichttechnischen Kontext übertragen vorzustellen.
Ein Lokal, Restaurant, Buchladen oder Kunstatelier zu betreiben oder überhaupt Zusammenkünfte mittlerer bis größerer Größe zu veranstalten, wäre demnach illegal, wenn nicht von der Regierung bestimmte Zensoren mithören und das Recht haben, Menschen zum Schweigen zu bringen.
Wirkt das immer noch „harmonisch“?
Man kann nicht behaupten, dass es in Korea kein Problem mit Rachepornografie gibt, und das ist im Grunde auch die Logik der koreanischen Regierung.
Das Problem ist jedoch, dass die Hauptquellen von Rachepornografie in Wirklichkeit ausländische Communities sind, die von Koreanern genutzt werden.
Natürlich hatte auch die größte inländische Community Koreas mit Filterproblemen zu kämpfen, und es gab Dinge wie Terrordrohungen oder Vergewaltigungsfälle.
Aber das liegt daran, dass DCinside einfach enorm groß ist.
Die Fälle, die die breite Öffentlichkeit wirklich empört haben, begannen tatsächlich auf Twitter(X) und Telegram.
Werden also die zentralen Akteure dieses Problems zensiert? Nein.
Beseitigt Zensur die zuvor genannten Probleme wirklich? Oder macht sie sie nur dunkler und schlimmer?
Ich persönlich denke typisch ostasiatisch und glaube, dass ein gewisses Maß an Einschränkung von Freiheit notwendig ist.
Trotzdem wirkt das ehrlich gesagt wie ein Internet-Kriegsrecht.
CUDA vorzuschreiben und auf Ubuntu 18.04 zu verweisen, ist seltsam.
Zur Erinnerung: Ubuntu 18.04 hat 2023 das Support-Ende erreicht.
Glaubt hier wirklich jemand, dass ein einzelner Server mit Quadro-GPU hohen Traffic in Echtzeit bewältigen kann?
Das liest sich entweder nach einer Hinterzimmerabsprache oder nach gravierender Inkompetenz.
Die traditionellen Medien behandeln dieses Thema nicht ausreichend.
Es scheint, als würde es niemanden interessieren außer Leuten, die ständig wütend sind und permanent im Internet hängen.
Ich hatte nie große Erwartungen an ein freies Internet in diesem Land, aber es wird noch schlimmer, als ich es mir vorgestellt hatte.
Die Zukunft werden selbstgehostete private Communities sein, in die nur verifizierte echte Personen eingeladen werden, vermutlich mit Verifizierung im Offline-Raum
Ehrlich gesagt wäre es für mich inzwischen auch okay, wenn das öffentliche Internet stirbt und die Leute wieder zu kleineren lokalen Gruppen zurückkehren.
Keine Big-Tech-Kontrolle, kein Krypto-Unsinn wie bei nostr, und keine schlechten Admins wie bei Mastodon, die Beiträge löschen können.
Sie können sie nur auf ihrem eigenen Server blockieren.
Man kann darauf ein Web of Trust oder ein Verifizierungssystem aufbauen, so wie tangled es im Code macht.
Ein System nach dem Motto „Für diese Person bürge ich“?
Koreanische Internetforen sehen eher wie ältere Seiten vom Typ Hacker News aus als wie moderne Apps à la Reddit.
Das merkt man an UI/UX und an der Art, wie Webtechnologien eingesetzt werden, und trotzdem ist es erstaunlich, dass sie Besucher in Höhe von etwa 20 % der Bevölkerung haben.
Ich frage mich, ob sie wegen der koreanischen Sprache stärker beim älteren Forenstil geblieben sind als englischsprachige Apps.
Persönlich gefällt mir dieser Ansatz deutlich besser.
Es sieht so aus, als würde Korea die Methode des nördlichen Nachbarn übernehmen.
Wird sich das auch auf aus Korea exportierte Software auswirken?
Ich glaube nicht, dass Samsung-Handys beliebter würden, wenn AI-Zensurtools standardmäßig eingebaut wären.
Auch Apple bekam heftigen Gegenwind, als es das auf dem iPhone machen wollte.
Ich habe es aus Neugier ausprobiert, und bei der Bildbearbeitung wurde vieles als „unangemessen“ abgelehnt, besonders Gewalt.
Die Grundlage ist also schon vorhanden.
Der Fall Nth Room könnte den Weg für diese starke Stimmung zugunsten von Zustimmung/Freigabe geebnet haben.
https://en.wikipedia.org/wiki/Nth_Room_case
Korea ist technisch in praktisch jeder Hinsicht rückständig.
Lange Zeit brauchte man einen Windows-PC, um Regierungs- oder Bankdienste zu nutzen, und bei vielen Diensten ist das immer noch so.
Wegen der Abhängigkeit von billigen Windows-Laptops sieht man in Cafés und ähnlichen Orten oft Menschen mit externen Mäusen am Laptop.
Das faktische Standard-Dokumentformat ist das chaotische Hancom-Format.
In koreanischen Nachrichten ist es fast lächerlich: Sobald Video aus öffentlichen Räumen gezeigt wird, sind 80 % des Bildschirms verpixelt.
Es wirkt, als gäbe es kaum noch einen Grund hinzusehen.
APIs und API-Dokumentationen sind wirklich miserabel entworfen und geschrieben, auf Witzniveau.
Externe Kartenanbieter waren bis letztes Jahr faktisch vom Markt ausgeschlossen.
Wenn man sich irgendwo anmelden will, braucht man buchstäblich immer eine Telefonnummer.
Es gäbe noch viel mehr Beispiele, aber das ist nur das, was mir gerade einfällt.
Es gibt überhaupt keinen Raum zum Atmen für Dynamik.
Koreas Problem ist kein politisches Problem, sondern das Ergebnis eines reinen Oligopols.
Auf Twitter stellt man Korea gern als technofuturistischen Staat dar, aber in Wirklichkeit ist die Startup-Kultur schrecklich, es gibt kein Venture-Capital-Ökosystem, und die Großkonzerne schreiben alle Regeln.
Das kommt von den Eigenschaften eines kleinen Landes.
Tatsächlich wird Twitter(X) in Korea verächtlich betrachtet als etwas, das nur Verrückte benutzen, und hat dort kein gutes Image.
Insgesamt ist es eine Struktur, in der ein Oligopol großer Unternehmen auf ein vom Chaebol-System geprägtes, familiengeführtes Staats- und Wirtschaftssystem aufsetzt.
In diesem Umfeld geht es eher darum, durch Firmenverträge zu überleben, als um aggressive Investitionen.
Ich persönlich hasse diese Kultur und versuche deshalb, in den USA einen Job zu finden.
Drei Monate lang 84 Stunden pro Woche zu arbeiten und nicht einmal 8 Millionen Won zu verdienen, ist einfach zermürbend.
Dass externe Kartenanbieter ausgeschlossen waren, war buchstäblich für alle in Korea lebenden Menschen positiv und nur für Google-Aktionäre und ein paar Touristen negativ, die sich eine lokale Karten-App herunterladen mussten.
Ein Politiker hat also etwas getan, das den Bürgern nützt — was genau ist daran das Problem?
Dass man zum Anmelden eine Telefonnummer braucht, hat in der Praxis ebenfalls viele Vorteile.
Auf HN kommt das nicht besonders gut an, wenn man das zugibt, aber tatsächlich ist es ein vertretbarer Kompromiss.
Man kann anderer Meinung sein, aber so zu tun, als sei es offensichtlich schlecht, ist ignorant.
Das Hancom-Format benutzt ab 2026 praktisch niemand mehr, außer wenn man mit Regierungsbehörden zu tun hat.
Es als faktischen Standard für ganz Korea zu bezeichnen, ist eine übertriebene Verallgemeinerung.