Kinderschutz darf nicht zu Internet-Zugangskontrolle werden

• Das sich weltweit ausbreitende System der Altersverifikation geht über bloßen Kinderschutz hinaus und gestaltet die Struktur des Internetzugangs selbst neu
• Dieses System funktioniert als Architektur der Zugangskontrolle nach dem Prinzip „Identitätsnachweis vor dem Zugang“ und wird teils auf eine Identitätsschicht auf Betriebssystemebene ausgeweitet
• Durch die Verwechslung von Content-Moderation und Aufsichtspflicht droht es sich in eine zentralisierte Kontrollstruktur zu verwandeln, in der Plattformen und Betriebssysteme die Entscheidungen von Eltern ersetzen
• Während technische Umgehung einfach ist, zahlen alle Nutzer den Preis in Form von Datenerfassung und Zugangshürden, und die Kontrollinfrastruktur könnte auf die Prüfung weiterer Merkmale ausgeweitet werden
• Das eigentliche Risiko liegt in Empfehlungssystemen und suchtförderndem Design; Kinderschutz sollte durch stärkere lokale Kontrolle und den Erhalt einer nicht genehmigungspflichtigen Internetstruktur erreicht werden

---

Verwechslung von Altersverifikation und Zugangskontrolle im Internet

• Systeme zur Altersverifikation breiten sich über Erwachsenen-Websites hinaus auf Social Media, Messenger, Spiele, Suche und weitere zentrale Dienste aus
  • In Europa, den USA, dem Vereinigten Königreich, Australien und anderen Regionen läuft die Gesetzgebung bereits
  • Im Zentrum der Debatte steht nicht mehr, ob sich diese Systeme ausbreiten, sondern wie sie die Struktur des Internets verändern
• Technisch gesehen ist Altersverifikation keine bloße Kinderschutzfunktion, sondern wirkt als Architektur der Zugangskontrolle
  • Sie verschiebt das bestehende Modell von „grundsätzlich zugänglich, Sperrung als Ausnahme“ hin zu einer Struktur, in der „Identitätsnachweis vor dem Zugang erforderlich“ ist
  • Das System wandelt sich zu einer Ordnung, in der Nutzer ihre Informationen nachweisen müssen, bevor sie Inhalte erhalten
• In einigen Vorschlägen in den USA verlagert sich Altersverifikation auf eine dauerhafte Schicht auf Betriebssystemebene (OS)
  • Das OS stellt eine Systemschnittstelle bereit, die den Altersstatus des Nutzers verwaltet und an Apps weitergibt
  • In diesem Fall wird Altersverifikation nicht zu einem begrenzten Schutzmittel, sondern zu einer Identitätsschicht für das gesamte Gerät ausgeweitet
  • Auch im Linux-Ökosystem gibt es entsprechenden Druck; so wurde dem userdb von systemd ein birthDate-Feld hinzugefügt

Abgrenzung von Content-Moderation und Aufsichtspflicht

• Der zentrale Fehler in der aktuellen Debatte besteht darin, Content-Moderation und Aufsichtspflicht miteinander zu verwechseln
  • Content-Moderation ist eine Frage von Klassifikation und Filterung und entscheidet darüber, welche Inhalte blockiert, angezeigt oder verzögert werden
  • Aufsichtspflicht ist die Verantwortung von Eltern, Lehrkräften, Schulen und anderen vertrauenswürdigen Erwachsenen, je nach Kontext zu urteilen und Orientierung zu geben
  • Moderation ist technisch, Schutz ist relational, lokal und situationsabhängig
• Gesetze zur Altersverifikation verschmelzen diese beiden Probleme zu einer einzigen zentralisierten Lösung
  • Plattformen, Browser, App-Stores, Betriebssysteme und Identitätsvermittler drohen zu einer Struktur zu werden, die die Urteile von Erziehungsberechtigten ersetzt
  • Das ist eine fehlerhafte Abstraktion, die ein Bildungs- und Sozialproblem auf ein Authentifizierungsproblem reduziert

Technische Grenzen und Nebenwirkungen

• Umgehungsmöglichkeiten liegen klar auf der Hand: VPNs, fremde Konten, gekaufte Zugangsdaten, gefälschte Angaben, Umgehung von Systemen zur Altersschätzung
  • Die Umgehung ist einfach, die Durchsetzung teuer, und der tatsächliche Schutzeffekt bleibt gering
  • Im Ergebnis droht dies zu einer Ausweitung der Datensammlung durch Unternehmen zu führen
• Alle Nutzer tragen die Kosten
  • Mehr Identitätsprüfung, Metadaten, Logs, Zwischenanbieter und Reibung beim Zugang
  • Für Menschen ohne passende Geräte oder Unterlagen oder mit geringer digitaler Kompetenz wird dies zu einer Zugangshürde
  • Das ist nicht bloß eine Sicherheitsfunktion, sondern eine neue Kontrollschicht des Netzwerks
• Einmal aufgebaute Infrastruktur lässt sich leicht über das Alter hinaus auf andere Merkmale ausdehnen
  • Sie kann für Standort, Staatsbürgerschaft, Rechtsstatus oder Plattformrichtlinien wiederverwendet werden
  • Eine begrenzte Prüfung droht sich in ein allgemeines Gate-System zu verwandeln

Ein alternativer Ansatz

• Es braucht eine Trennung der Probleme
  • Content-Moderation sollte nah am Endpunkt erfolgen (Browser, Gerät, Schulnetzwerk, vertrauenswürdige lokale Listen)
  • Aufsichtspflicht sollten Eltern, Lehrkräfte und lokale Gemeinschaften übernehmen, mit kontextbezogenen Entscheidungen, Ausnahmen und laufender Anpassung
• Betriebssysteme sollten nur als lokale Richtlinienebene unter Kontrolle von Nutzern und Erziehungsberechtigten fungieren
  • Sie dürfen sich nicht zu einer Schicht entwickeln, die Altersinformationen universell an Apps und entfernte Dienste sendet
  • Genau hier verläuft die architektonische Grenzlinie

Die eigentliche Quelle des Risikos

• Der Großteil des Online-Schadens entsteht nicht durch die bloße Existenz von Inhalten, sondern durch Empfehlungssysteme, Dark Patterns, suchtfördernde Metriken und unverantwortliche, auf Verstärkung ausgerichtete Geschäftsmodelle
  • Wenn der Schutz Minderjähriger das Ziel ist, sollte die Regulierung auf diesen Bereich fokussiert sein

• Kinderschutz ist notwendig, aber das Internet darf kein Genehmigungssystem werden

  • Um Schaden zu verringern, ist es wichtiger, lokale Kontrolle zu stärken, ohne das Netzwerk in ein System aus Kontrollpunkten zu verwandeln, statt zu versuchen, alle Menschen zu identifizieren

[GN⁺]

Hacker-News-Kommentare

• Kinderschutz und Internetkontrolle sollten getrennt werden. Es müsse verhindert werden, dass das Motto „Lasst uns die Kinder schützen“ in eine Kontrolle des gesamten Internets umschlägt; dafür werden drei Funktionen vorgeschlagen, die auch ohne neue Gesetze möglich seien

  1. Plattformen wie Discord oder Gmail sollten beim Ändern von Profilinformationen, insbesondere des Alters, eine Funktion für eine zusätzliche Passwortsperre anbieten. Eltern könnten auf dem Gerät ihres Kindes das Alter festlegen und mit einem Passwort sperren
  2. OS-Entwickler sollten einen passwortgeschützten Schalter hinzufügen, der Installation und Updates von Apps kontrolliert. Er würde ähnlich wie sudo unter Linux funktionieren, sodass Eltern steuern könnten, welche Apps auf dem Gerät ihres Kindes ausgeführt werden dürfen
  3. Gerätehersteller sollten Treiber und Firmware Open Source machen und es Nutzern ermöglichen, den Bootloader mit einem eigenen Passwort zu sperren bzw. zu entsperren. So könnten Eltern ein kinderfreundliches, auf Open Source basierendes OS installieren. Apple und Samsung hätten solche Versuche lange behindert
  • Letztlich wird das als eine Struktur verstanden, bei der Eltern das Alter ihres Kindes festlegen und Apps diese Information über eine OS-API erhalten und nutzen. Das sei ähnlich wie der kalifornische Gesetzentwurf
  • Man könnte auch damit beginnen, Punkt 2 zu erweitern, etwa mit einer einfachen Methode, bei der der Server einen „18+“-Header sendet und die betreffende Website dann blockiert wird
  • Allerdings wäre für eine tatsächliche Umsetzung selbst „eine Woche“ völlig unrealistisch. Integration auf Systemebene sei fast schon ein Kulturkampf

• Die Kräfte, die „Kinderschutz“ rufen, zielten in Wirklichkeit darauf ab, Plattformen rechtlich aus der Verantwortung zu nehmen. Es gehe darum, Inhaltsmoderation zu verringern und Kosten zu senken

  • Das sei eine Bewegung hin zu stärkerer Zensur und erzwungener Preisgabe der Identität. Manche sagen, Meta führe das an, aber selbst sie könnten nur Handlanger noch größerer Kräfte sein
  • Die Formulierung „war auf einer Insel“ klinge nach Verschwörungstheorie. Nicht jeder, der solche Gesetze unterstütze, gehöre in diese Kategorie
  • Tatsächlich sei Metas Lobbyarbeit die Hauptursache. Überzogene Erzählungen helfen nicht
  • Medienkontrolle sei zugleich Kontrolle über Botschaften. Eine Überwachungsstruktur wie in 1984 werde Realität
  • Es gibt auch spöttische Reaktionen in Form der Frage: „Welche Insel?“

• Das eigentliche Problem sei nicht die Altersverifikation, sondern die Verifikation von Klarnamen der Nutzer. Es sei der Versuch, alle Aktivitäten im Internet mit der persönlichen Identität zu verknüpfen

  • Allerdings werde Altersverifikation auf Basis von digitaler ID + Zero-Knowledge-Proofs (ZKP) zugelassen. Siehe Googles zugehörigen Blog
  • Die Nebenwirkungen von Anonymität seien ebenfalls real. Datenlecks bedrohten inzwischen Leben und Vermögen. Man könne das nicht einfach nur als „faschistische Wende“ sehen; problematisch sei auch, dass die Tech-Branche keine realistische Alternative vorgelegt habe. Es gebe mehr erwachsene Opfer als Kinder. Das Internet sei kein Ort, an dem Kinder allein umherstreifen sollten

• Ich hatte als Kind uneingeschränkten Internetzugang. Weil mich das stark geprägt hat, will ich meinen eigenen Kindern nicht dieselbe Erfahrung geben.
  In Brasilien wurde für Websites ab 16 Jahren Gesichtserkennung und Ausweisprüfung verpflichtend; das birgt ein hohes Risiko für Abfluss biometrischer Daten. Es ist ein widersprüchliches Gesetz, in dem gleichzeitig ein „Nicht-Überwachen“-Paragraf und ein „Prüfbarkeits“-Paragraf existieren.
  Je weniger technikaffin Menschen sind, desto stärker unterstützen sie solche Gesetze; wer widerspricht, wird schnell als „Befürworter von Kindesmissbrauch“ dargestellt. Die Verantwortung für Schutz liegt bei den Eltern

  • Umgekehrt bin ich dank des ungefilterten Internets als Kind zum Programmierer und Gründer geworden. Freiheit und Autonomie waren das Entscheidende, was mich geprägt hat. Gleichaltrige, die stärker kontrolliert wurden, wirken im Vergleich eher abgestumpft gegenüber der Welt
  • Es taucht auch die Frage auf, welche konkreten Auswirkungen diese Erfahrung denn gehabt habe

• Es sei bereits zu spät. „Kinderschutz“ sei nur ein anderer Name für mehr Datensammlung und Überwachung. Die junge Generation verliere schon das eigentliche Gefühl für Privatsphäre

  • Trotzdem könne man nicht aufgeben, solange noch Hackergeist und ziviler Ungehorsam existieren
  • Es könnte nicht nur Unwissen sein, sondern auch eine Generation mit anderen Werten
  • Auch die moralische Verkommenheit der Tech-Industrie sei ein Problem. Für ein paar RSUs werde der Bau von Überwachungssystemen gerechtfertigt
  • Tatsächlich habe es im Internet fast nie vollständige Privatsphäre gegeben. Schon seit den frühen 2000ern überwachten Geheimdienste mit
  • Aber reale digitale Kriminalitätsfälle seien gravierend. Wie in dem Fall eines 17-jährigen Mädchens, das über Discord und Roblox angelockt und ermordet wurde, könne man Privatsphäre nicht absolut setzen. Die Gesellschaft insgesamt habe die Verantwortung, alle Kinder zu schützen

• Ein System, das beide Extreme kontrolliert, wäre vielleicht akzeptabel. Dazu gibt es den Gegenwind-Humor à la „Zugang verweigert, weil zu alt“

• Aus einer anderen Perspektive werden Dead Internet Theory und sinkende Werbeeinnahmen miteinander verknüpft. Die Hypothese lautet, man treibe ein Internet mit Klarnamenpflicht voran, um zu beweisen, dass jemand ein echter Mensch ist

  • Früher verlangte der Staat einen eingescannten Ausweis, heute wollen es Werbekunden und Unternehmen. Innerhalb der Logik des Kapitalismus sei dieser Unterschied groß

• Religiöse Gruppen nutzen die Bekämpfung von Kinderhandel als Begründung, um den Zugang zu Pornografie einzuschränken

  • Einige Gruppen zielten darauf ab, LGBT+-Inhalte zu unterdrücken. Die Heritage Foundation behaupte, „Trans-Inhalte zu blockieren sei Kinderschutz“. Siehe den zugehörigen Artikel
  • Es gibt auch Reaktionen, die wissen wollen, welche religiösen Gruppen wo genau so etwas betreiben
  • Manche behaupten außerdem: „Diesmal steckt Meta dahinter“
  • Eine weitere Person erwähnt, Flüchtlingsprogramme würden als Kanal für Menschenhandel missbraucht

• Vorgeschlagen wird ein Internet, das standardmäßig als Kindermodus gilt, wenn man nichts tut, sodass Tracking, Werbung und Feeds blockiert werden.
  Wer möchte, könnte gegen Bezahlung über digitale ID + ZKP Werbung und Feeds freischalten

  • Solche Vorschläge hätten aber für Kräfte, denen es nicht ernsthaft um „Kinderschutz“, sondern um den Aufbau eines Überwachungsnetzes gehe, keine Bedeutung. Selbst westliche Demokratien höhlten die Freiheit des Internets durch schrittweise Machtkonzentration aus. „Denkt an die Kinder“ sei eine emotionale Parole, mit der rationales Urteilsvermögen gelähmt werde. Dass ein freies Internet so lange erhalten blieb, sei fast ein Wunder gewesen

• Die Menschen, die solche Gesetze vorantreiben, seien dieselben Kräfte, die Bibliothekszensur betreiben wollen. Es seien schlechte oder unfähige Eltern, die statt Dialog lieber ihre konservativen Werte per Gesetz erzwingen wollen