Warum wir zum „neuen n-Room-Verbotsgesetz“ „NEIN“ sagen sollten

 (m.zdnet.co.kr)
5 Punkte von kunggom 2020-05-09 | 6 Kommentare | Auf WhatsApp teilen

Von dem sogenannten „n-Room“-Fall, der vor nicht allzu langer Zeit öffentlich bekannt wurde und die Empörung der gesamten Bevölkerung auslöste, haben Sie vermutlich alle gehört. Diese öffentliche Empörung setzte die Legislative unter Druck, neue Gesetze zu schaffen, und tatsächlich sind inzwischen eine Reihe von Gesetzesänderungen vorgelegt worden, die gemeinhin als „n-Room-Verbotsgesetz“ bezeichnet werden. Dieser Artikel grenzt jedoch einige dieser Entwürfe als „n-Room-Verbotsgesetz 2“ ab und argumentiert gegen eben diese Gesetzesänderungen. (Koreanisch)

Bei dem problematischen Entwurf handelt es sich um Änderungen des Informations- und Kommunikationsnetzgesetzes sowie des Telekommunikationsgeschäftsgesetzes, die derzeit im Ausschuss für Wissenschaft, IKT, Rundfunk und Kommunikation der Nationalversammlung beraten werden. Internet-Plattformbetreibern sollen dabei verschiedene Pflichten auferlegt werden, um die Verbreitung unterschiedlicher „illegaler obszöner Inhalte“ zu verhindern. Zu diesen Pflichten gehört insbesondere die in der [Durchführungsverordnung zum Telekommunikationsgeschäftsgesetz] festgelegte „technische Pflicht“ (Artikel 30-3). Diese technische Pflicht bedeutet, dass Betreiber „illegale obszöne Informationen“ identifizieren, Nutzer an der Suche oder Übertragung solcher Informationen hindern, Personen, die eine Übertragung versuchen, Warnmeldungen senden und entsprechende Logs zwei Jahre lang aufbewahren müssen. Bei Verstößen sieht der Entwurf Geldbußen von bis zu 3/100 des Umsatzes oder bis zu 1 Milliarde Won vor.

Am problematischsten ist die Identifizierung „illegaler obszöner Informationen“ durch die Betreiber selbst. Wenn zum Beispiel der Inhalt von Videos oder Dateien überprüft wird, die über Messenger ausgetauscht werden, und illegale Inhalte dann blockiert werden, ist das eindeutig [Zensur]. Natürlich wirft das Fragen zum Eingriff in die Privatsphäre auf. Auch die Kriterien zur Beurteilung illegaler obszöner Inhalte sind unklar. So kann es, wie in der Erzählung „Man blockierte Fotos mit viel nackter Haut, und dann wurden Bilder von Sumo-Kämpfen abgeschnitten“, zu Fehlalarmen kommen, bei denen gar keine illegalen obszönen Informationen vorliegen. Und was ist, wenn E2EE (Ende-zu-Ende-Verschlüsselung) angewendet wird? Wenn Ende-zu-Ende-Verschlüsselung korrekt implementiert ist, ist es normal, dass der Betreiber den Inhalt überhaupt nicht einsehen kann. Selbst wenn man gesetzeskonform illegale obszöne Inhalte identifizieren wollte, wäre das dann gar nicht möglich.

Ein weiteres Problem ist, dass die Last nur auf inländische Unternehmen abgewälzt wird. Zwar will die Gesetzgebung durch extraterritoriale Anwendungsregeln auch ausländischen Anbietern solche Pflichten auferlegen, doch bei ausländischen Anbietern ohne inländische Niederlassung stellt sich die Frage, welche reale Zwangsmaßnahme es außer dem Einblenden von warning.or.kr geben könnte, wenn sie diese Pflichten nicht einhalten. Telegram, wo der ursprüngliche „n-Room“ überhaupt existierte, ist schließlich gerade dafür bekannt geworden, Informationen an keine staatliche Stelle irgendeines Landes weiterzugeben. Und es ist auch problematisch, die Last überhaupt nur den Unternehmen aufzubürden. Wäre es zur Verhinderung von Sexualstraftaten nicht sinnvoller, stattdessen die allzu milden Strafen für solche Delikte abzuschaffen?

Das heißt allerdings nicht, dass Betreiber wirklich gar nichts tun könnten. So soll etwa der Cloud-Dateispeicher- und Sharing-Dienst MEGA hochgeladene Dateien anhand ihrer Hash-Werte mit den Hash-Werten bekannter Kinderpornografie abgleichen und bei Übereinstimmung Strafverfolgungsbehörden informieren. Wenn man ein solches Verfahren anwendet, ließe sich die Verbreitung von Kinderpornografie oder Revenge Porn bis zu einem gewissen Grad eindämmen. Wenn man clientseitig Perceptual hashing einsetzt und nur die Hash-Werte abfragt, könnte man vielleicht den Eingriff in die Privatsphäre minimieren und zugleich Schäden durch Revenge-Porn-Verbrechen verringern. Allerdings würde dadurch die Verarbeitung langsamer, es entstünden Betriebskosten für die DB, und Videos, deren Hash-Werte nicht in der Datenbank registriert sind, könnten nicht blockiert werden. Auch bei bereits in der Datenbank registrierten Videos wäre ein Umgehen des Hashings für jemanden mit entsprechender Absicht wohl nicht unmöglich. Schon grundsätzlich ist fraglich, ob Täter dieser Art überhaupt leicht nachverfolgbare inländische Plattformen nutzen würden. Eine perfekte Blockierung kann es von vornherein nicht geben. Daher sind solche technischen Maßnahmen weit von einer grundlegenden Lösung entfernt.

Diese Frage betrifft letztlich, wie weit die Verantwortung und Pflichten von Internet-Plattformbetreibern überhaupt reichen sollten und wie weit der Schutz der Privatsphäre gehen muss. Eines ist sicher: Dieses Problem lässt sich nicht lösen, indem man die Verantwortung einfach auf einzelne Unternehmen abwälzt. Zunächst müssen bereits verabschiedete Gesetze konsequent durchgesetzt werden, damit Täter solcher Sexualverbrechen nicht mit zu milden Strafen davonkommen. Auch der Staat sollte wohl einen Teil der Last tragen. Wenn Betreiber tatsächlich per Hash-basiertem Filtering prüfen sollen, wäre es zum Beispiel denkbar, dass der Staat eine zentrale Datenbank mit Hash-Werten problematischer Videos betreibt und sie den einzelnen Anbietern zur Verfügung stellt, sodass Material nach einer Meldung durch Betroffene sofort in diese Datenbank aufgenommen wird. Zumindest in diesem Umfang sollte der Staat die Last übernehmen, damit es überhaupt ein Mindestmaß an Legitimation dafür gibt, Plattformunternehmen Zensur aufzuzwingen.

※ Eigentlich ist dieser Ort nicht besonders geeignet, um sensible Inhalte im Zusammenhang mit Politik oder Gesetzgebung zu posten. Da dieser Artikel jedoch direkt mit IT-bezogener Gesetzgebung zusammenhängt, bitte ich um Verständnis, dass ich hier eine Ausnahme gemacht habe.

Verwandte Beiträge

6 Kommentare

 
sduck4 2020-05-11

Der zuständige Verband hat offenbar eine Anfrage an die Nationalversammlung geschickt.

https://www.yna.co.kr/view/AKR20200508148851017
 
gwanryo 2020-05-11

Ich denke, es ist etwas anderes, IT-bezogene Gesetzgebung vorzustellen, als dazu Pro- und Kontra-Positionen zu vertreten.

Es wäre noch besser gewesen, wenn Sie die Meinungen beider Seiten ausgewogen dargestellt hätten.
 
gwanryo 2020-05-11

„Was darf ich nicht hochladen?

Vieles, was mit Politik, Religion, Vorfällen und Unfällen, Sport usw. zu tun hat, behandeln wir nicht.

Die meisten Dinge, die es in die News-Rubrik eines Portals schaffen würden, passen hier nicht hin.“

Das steht auch in der GeekNews-Nutzungsanleitung (https://news.hada.io/guidelines).

Ich sage nicht, dass Ihr Beitrag keine technischen Inhalte hat, aber ich denke, dass er aufgrund anderer enthaltenen Inhalte (politische Meinungen, persönliche Ansichten usw.) möglicherweise gegen diese Nutzungsregeln verstößt.

Aus dieser Perspektive möchte ich anmerken, dass es besser gewesen wäre, wenn Sie die Meinungen beider Seiten ausgewogen dargestellt hätten.
 
kunggom 2020-05-11

Ich denke nicht, dass die Regel „Dinge, die in die Nachrichtenrubrik eines Portals passen würden, passen größtenteils nicht hierher.“ bedeutet, dass Nachrichten, die in einer Portal-Nachrichtenrubrik erschienen sind, hier auf keinen Fall gepostet werden dürfen. Ebenso halte ich es für schwer vertretbar, diese Regel so auszulegen, dass sie das Äußern von Meinungen im Text grundsätzlich verbietet oder ausnahmslos eine mechanische Neutralität verlangt. Es gibt auch die Regel „Bitte nutzt dies nicht für Auseinandersetzungen über Politik/Religion/Ideologie usw.“; ich denke jedoch, dass Kritik etwas anderes ist, als emotional einen Streit vom Zaun zu brechen.

Was den ausgewogenen Umgang mit beiden Positionen betrifft, bin ich beim Verfassen des Textes zunächst davon ausgegangen, dass die meisten Menschen, die ihn zum jetzigen Zeitpunkt lesen, den Kontext des Falls „Nth Room“ bereits kennen und darin übereinstimmen, dass Sexualverbrechen wie im Fall Nth Room ausgerottet werden müssen. Daher gehe ich davon aus, dass die Vorstellung eines Gesetzentwurfs, der Internetplattform-Betreibern eine Zensurpflicht auferlegen will, um Sexualverbrechen wie Nth Room zu verhindern, an sich bereits die zustimmende Position vollständig mit einschließt. Deshalb hielt ich es für eine bloße Wiederholung und habe es bewusst nicht weiter ausformuliert. Dass die technische Diskussion zu den Zensurmethoden unzureichend ist und sich nur auf bestimmte Verfahren beschränkt, liegt an meinen begrenzten Kenntnissen; ich bitte dafür um Verständnis. Wenn möglich, wäre es gut, wenn die technische Diskussion in den Kommentaren fortgesetzt würde.
 
verysatisfying 2020-05-09

Es gibt eine Ausnahmeklausel. Aber wäre es hier nicht passender, sich bei solchen Themen zu überlegen, wie man technisch dazu beitragen kann, illegale pornografische Inhalte zu blockieren?

In Artikel 95-2 werden Nummer 1-2 und Nummer 1-3 jeweils wie folgt neu eingefügt.

1-2. Wer nach Artikel 22-5 Absatz 1 nicht die erforderlichen Maßnahmen zur Verhinderung der Verbreitung ergreift, etwa die Löschung illegal aufgenommener Inhalte oder die Sperrung des Zugangs dazu. Dies gilt jedoch nicht, wenn nach Erkennen solcher illegal aufgenommenen Inhalte ohne Verzug die gebotene Sorgfalt nicht vernachlässigt wurde, um die erforderlichen Maßnahmen zur Verhinderung der Verbreitung zu ergreifen, etwa die Löschung der betreffenden Informationen oder die Sperrung des Zugangs, oder wenn dies technisch erheblich erschwert ist.

1-3. Wer die in Artikel 22-5 Absatz 2 vorgesehenen technischen und administrativen Maßnahmen nicht ergreift.

Dies gilt jedoch nicht, wenn bei der Umsetzung der in Artikel 22-5 Absatz 2 vorgesehenen technischen und administrativen Maßnahmen die gebotene Sorgfalt nicht vernachlässigt wurde oder wenn dies technisch erheblich erschwert ist.
 
kunggom 2020-05-09

Technische Überlegungen zur Sperrung illegaler pornografischer Inhalte fehlen im Haupttext zwar nicht völlig, aber offenbar empfinden Sie das als nicht ausreichend. Persönlich denke ich, dass ein auf Perceptual Hashing basierender Ansatz derzeit noch am ehesten die realistischste Lösung ist.