TikTok schadet Kindern in industriellem Maßstab

• Die Generalstaatsanwälte von 14 US-Bundesstaaten haben Klage eingereicht und behaupten, dass TikTok Kindern und Jugendlichen schweren Schaden zufügt
• Interne Dokumente und Aussagen von Mitarbeitenden offenbaren suchtfördernde Algorithmen, psychische Gesundheitsprobleme, sexuelle Ausbeutung und die Exposition gegenüber Kinderpornografie
• TikTok kennt diese Probleme, lässt sie aber bestehen, weil Einnahmen und Nutzerengagement priorisiert werden
• Das Content-Filtering-System und die Funktionen zur elterlichen Kontrolle sind sehr ineffektiv, und auch die Altersverifikation zur Verhinderung der Nutzung durch Kinder scheitert
• Viele Nutzer der Gen Z haben ebenfalls das Bewusstsein: „Ich bin süchtig, kann aber nicht aufhören“, und insgesamt ist der gesellschaftliche Nettonutzen stark negativ

Der Schaden, den TikTok Kindern in industriellem Maßstab zufügt

Angekündigte Entscheidung des Obersten Gerichtshofs der USA zum TikTok-Verbotsgesetz

• Der Oberste Gerichtshof der USA will entscheiden, ob er in das TikTok-Verbotsgesetz eingreift
• Sollte das Gesetz in Kraft treten, wird der Dienst in den USA eingestellt, sofern ByteDance TikTok nicht verkauft
• Allerdings werden Beweise für tatsächliche Schäden wie psychische Gesundheitsprobleme, Ausbeutung von Kindern und Sucht in der juristischen Prüfung ausgeklammert
• Dadurch wird die Bedeutung der öffentlichen Urteilsbildung betont

Aussagen von TikTok-Insidern und geleakte Dokumente

Wichtige Klagen der Generalstaatsanwälte und Dokumente

• Generalstaatsanwälte aus 14 Bundesstaaten, darunter Kentucky, Utah, Nebraska und New York, haben Klage eingereicht
• Interne Slack-Gespräche, Planungsdokumente und Testdaten wurden in großer Zahl veröffentlicht
• Ein gezielt auf Jugendliche ausgerichtetes Design und entsprechende Algorithmus-Strategien wurden bestätigt
• Bei geschwärzten Dokumenten bestanden die Schwärzungen teils nur aus einfachen schwarzen Kästen und ließen sich leicht rekonstruieren

Schadenscluster 1: Suchtpotenzial und Förderung zwanghaften Nutzungsverhaltens

• TikTok hält ausdrücklich fest, dass Teenager die Zielgruppe sind, die am meisten Zeit und Engagement liefern kann
• Durch suchtfördernde Algorithmen, endloses Scrollen, Autoplay und Benachrichtigungsdesign wird zwanghafte Nutzung gefördert
• Jugendliche sind besonders empfänglich für soziale Belohnungen (Likes, Kommentare usw.) und verfügen über geringere Selbstregulationsfähigkeit
• Auch interne Mitarbeitende äußerten die Sorge: „Unser Produkt ist schädlich für die Entwicklung von Kindern“
• Der Bericht „TikTank“ erwähnt insbesondere, dass jugendliche Nutzer unter versagender Selbstregulation, Schlafstörungen und nachlassender Lernfähigkeit leiden

Schadenscluster 2: Psychische Gesundheitsprobleme und Filterblasen

• Zwanghafte Nutzung führt zu Angstzuständen, Depressionen, Selbstabwertung, Selbstverletzung und Suizidgedanken
• Testkonten gerieten innerhalb von nur 20 Minuten in eine Filterblase voller Inhalte zu Depression, Suizid und Essstörungen
• TikTok weiß, dass Beauty-Filter ein verzerrtes Selbstbild und geringes Selbstwertgefühl fördern, unternimmt aber nichts
• Content-Moderator:innen können Inhalte zu Selbstverletzung und Suizid wegen unzureichender Sprachinterpretation, fehlendem Kontext und unklaren Standards nicht angemessen blockieren

Schadenscluster 3: Verbreitung von Pornografie-, Gewalt- und Drogeninhalten

• Pornografische Inhalte, Drogenwerbung und Gewaltdarstellungen werden Minderjährigenkonten automatisch empfohlen
• Das Content-Filtering-System von TikTok kann implizite Codesprache nicht angemessen verarbeiten
• Interne Dokumente zeigen, dass TikTok weiß, dass Drogenhandel, Prostitution und Geldwäsche auf TikTok LIVE stattfinden
• Der Generalstaatsanwalt von Utah führte in den Ermittlungen einen Fall an, in dem ein Kind direkt von einem Drogendealer kontaktiert wurde
• 30 bis 100 % schwer schädlicher Inhalte werden nicht gefiltert und bleiben sichtbar

Schadenscluster 4: Sexuelle Ausbeutung, CSAM und sexualisierte Live-Ausbeutung von Kindern

• TikTok hat Technologien zur Erkennung von CSAM (Material über sexuellen Kindesmissbrauch) bewusst nicht eingeführt
• Kinder im Alter von 13 bis 15 Jahren erhalten in LIVE-Streams Geschenke (virtuelle Währung) von Erwachsenen und liefern dafür sexualisierte Inhalte
• TikTok weiß davon, lässt es aber aus Gründen der Profitabilität und zur Sicherung des Engagements zu
• Es gibt sogar Streams, in denen Kinder Schilder mit Botschaften wie „Eiscreme = Nippel, Weltraum = ausziehen“ hochhalten
• Die LIVE-Funktion ist für Kinder hochgradig schädlich, doch intern hieß es bei TikTok, man könne sie „nicht einschränken, weil sie zu profitabel ist“

Schadenscluster 5: Missachtung von Altersgrenzen und unzureichende Reaktion

• TikTok hat zwar Altersgrenzen, geht aber trotz Kenntnis von Anmeldungen unter 13 Jahren und kindlicher Nutzung nicht konsequent dagegen vor
• Die Altersprüfung ist nahezu wirkungslos, Minderjährige können ihr Alter leicht fälschen
• Auch die elterliche Kontrollfunktion (Family Pairing) wird kaum genutzt und bietet keinen wirksamen Schutz
• Interne Dokumente zeigen, dass TikTok Sicherheitsfunktionen teils nur als „Feigenblatt“ für Regierung und Medien nutzt
• Die Sicherung von DAU (täglich aktive Nutzer) und Engagement-Rate ist das Kernziel aller Entscheidungen, Sicherheit hat keine Priorität

Reue und Abhängigkeit bei jungen Nutzer:innen

• Viele TikTok-Nutzer reagieren mit „Ich weiß, dass ich süchtig bin, aber ich kann nicht aufhören“
• In Experimenten zeigte sich, dass viele bereit wären aufzuhören, wenn alle gemeinsam aufhören würden
• In einer Umfrage von Harris Poll lag TikTok mit 47 % bei der Antwort „Ich wünschte, es hätte das von Anfang an nie gegeben“ unter den sozialen Medien an der Spitze
• TikTok ist eine Plattform mit zugleich verhaltensbezogenem Suchtpotenzial und sozialer Abhängigkeit, und die Nutzer erkennen selbst, dass sie ihnen schadet

Fazit: Warum eine Regulierung von TikTok zum Schutz von Kindern nötig ist

• Die auf TikTok entstehenden Schäden sind kein bloßer Unfall, sondern das Ergebnis von Designentscheidungen
• Millionen Kinder in den USA erleiden selbst bei normaler Nutzung schwere psychische und körperliche Schäden
• Unter den aktuellen Algorithmen und Content-Richtlinien ist TikTok eine Plattform, die die Kindheit selbst beeinträchtigt
• Auch für die US-Gesellschaft insgesamt könnte eine Einstellung des TikTok-Dienstes am 19. Januar eine positive Veränderung sein

[GN⁺]

Hacker-News-Kommentare

• Haidt ist bei der Datenanalyse nicht immer der vorsichtigste Mensch, aber seine zentralen Behauptungen der letzten zehn Jahre gingen im Großen und Ganzen in die richtige Richtung

  • Cancel Culture ist nicht mit demokratischen Normen vereinbar
  • Soziale Medien haben auf viele Menschen leicht negative Auswirkungen und auf einige Menschen stark negative Auswirkungen
  • Das ständige Mit-sich-Tragen des Smartphones ist schlecht für alles, was anhaltende Aufmerksamkeit erfordert, insbesondere auch für Beziehungen und Dating
  • Technologie wird dieses Problem nicht lösen. AI wird die Lage verschlimmern. Selbst wenn TikTok verboten und eine bessere Version entsteht, geht die Entwicklung in die falsche Richtung. Es braucht einen kulturellen Wandel, und Haidt tut sein Bestes dafür

• Als das Büro des Generalstaatsanwalts von Kentucky den Bericht über TikTok veröffentlichte, wurden Textstellen mit schwarzen Rechtecken geschwärzt, aber man konnte den verborgenen Text mit dem Cursor kopieren und lesen. Eine ausgesprochen komische Situation

• Die Person hat keine Kinder, teilt aber persönliche Erfahrungen dazu, dass andere Wege im Umgang mit Technik und Kindern möglich sind

  • Als sie in den 1980er Jahren im Mittleren Westen lebte, bat sie ihre Eltern, eine gebrauchte Ausgabe der Encyclopedia Britannica von 1973 zu kaufen. Diese bot dieselbe Freude an Neugier und Entdeckung, die man auch aus Online-Ressourcen ziehen kann
  • Selbst auf Reisen wurde die Enzyklopädie mitgenommen und gelesen. Das zeigt, dass es Wege gibt, wie Kinder verschiedenste Bedürfnisse erfüllen können, ohne von Technik abhängig zu sein

• Es überrascht, dass es für junge Frauen und Teenagerinnen üblich ist, Geschenkwünsche und sexualisierte Kommentare zu erhalten. Das kann auf Menschen unter 18 Jahren große Auswirkungen haben

• Es wird infrage gestellt, warum interne Berichte Dinge schreiben, die die Führungsebene nicht hören will

  • Ob die Führungsebene nicht erkennt, was sie nicht hören will
  • Ob die Führungsebene es eigentlich hören will, aber absichtlich eine voreingenommene Interpretation wünscht
  • Ob man glaubt, dass die Informationen konstruktiv genutzt werden
  • Ob man einfach seiner Rolle als ehrlicher Forscher gerecht werden will
  • Ob es um Arbeitsplatzsicherheit geht, um eine Entlassung zu vermeiden
  • Ob man Dokumentation hinterlassen will für den Fall, dass der Skandal öffentlich wird

• Die unangemessene Art der Schwärzung durch das Büro des Generalstaatsanwalts von Kentucky wird als amüsant empfunden

• Es wird gewünscht, dass Eltern bestimmte Websites auf den Geräten ihrer Kinder blockieren. Dann hätte es keine Ausweitung von Zensur und Überwachung gebraucht

• Es wird die Erfahrung geteilt, dass soziale Medien so süchtig machen, dass sie selbst blockiert werden mussten. Aus Bildungsperspektive kann das Anschauen von Videos nützlich sein, aber es ist besser, den hilfreichen Inhalt über LLM-Zusammenfassungen zu erfassen