TikToks „süchtig machendes Design“ wird in Europa als illegal eingestuft

• EU-Regulierungsbehörden haben vorläufig entschieden, dass zentrale TikTok-Funktionen wie endloses Scrollen, Autoplay und Empfehlungsalgorithmen als süchtig machendes Design gelten
• Sie könnten der körperlichen und psychischen Gesundheit der Nutzer potenziell schaden und betreffen alle Nutzer, einschließlich Minderjähriger und schutzbedürftiger Erwachsener
• Ein EU-Vertreter sagte, dies sei das erste Mal weltweit, dass ein rechtlicher Standard auf die Suchtwirkung sozialer Medien angewendet werde
• TikTok muss das Grunddesign seines Dienstes ändern; bei Verstößen droht eine Geldbuße von bis zu 6 % des globalen Umsatzes
• Im Zusammenspiel mit Klagen in den USA und Bestrebungen mehrerer europäischer Länder, soziale Medien für Minderjährige zu verbieten, nimmt der globale Regulierungsdruck rasant zu

---

Inhalt der vorläufigen EU-Entscheidung

• Die European Commission gab am Freitag eine vorläufige Entscheidung bekannt, wonach TikToks endloses Scrollen, Autoplay und Empfehlungsalgorithmen als „süchtig machendes Design“ einzustufen seien und gegen das EU-Gesetz zur Online-Sicherheit verstießen
• Diese Funktionen könnten der körperlichen und psychischen Gesundheit der Nutzer, darunter Minderjährige und schutzbedürftige Erwachsene, potenziell schaden
• Offiziell hieß es: „TikTok muss das Grunddesign seines Dienstes ändern“
• Von TikTok werden Beschränkungen für endloses Scrollen, neue Bildschirmzeit-Limits und Änderungen am Empfehlungssystem verlangt
• Es ist das erste Mal weltweit, dass ein rechtlicher Standard auf die Suchtwirkung sozialer Medien angewendet wird

TikToks Nutzungsmuster und Grundlage der Regulierung

• Die Regulierungsbehörden werfen TikTok vor, Anzeichen zwanghaften Nutzungsverhaltens ignoriert zu haben, darunter Daten zur nächtlichen Nutzung Minderjähriger und zur Häufigkeit des App-Starts
• TikTok belohne Nutzer mit neuen Inhalten, damit sie weiter scrollen, und versetze das Gehirn in einen Zustand des „Autopilot“
• TikTok hat in Europa mehr als 200 Millionen Nutzer
• Seit 2024 wird das Unternehmen in der EU insbesondere wegen des „Rabbit-Hole-Effekts“ bei Nutzern, vor allem Jugendlichen, untersucht
• Laut einem Bericht des Pew Research Center aus dem Jahr 2025 gaben 16 % der US-Teenager an, TikTok „fast ständig“ zu nutzen

Mögliche Geldbußen und Verfahren

• Wegen eines Verstoßes gegen den Digital Services Act droht TikTok eine Geldbuße von bis zu 6 % des globalen Umsatzes
• Eine Frist für die endgültige Entscheidung wurde nicht genannt; TikTok hat derzeit Gelegenheit, sich gegen die Vorwürfe zu verteidigen
• Die Vizepräsidentin der European Commission, Henna Virkkunen, sagte, „die Suchtwirkung sozialer Medien kann schädliche Auswirkungen auf die sich entwickelnden Gehirne von Kindern und Jugendlichen haben“, und dass europäisches Recht Plattformen für die Auswirkungen auf ihre Nutzer verantwortlich macht

Ähnlichkeiten zu Klagen in den USA

• Die Einschätzung der EU-Regulierungsbehörden ähnelt den Vorwürfen in zahlreichen Klagen in den USA
• Behauptet wird, dass endlose Feeds, automatisch abgespielte Videos und personalisierte Empfehlungen zwanghafte Nutzung, Depressionen, Essstörungen und Selbstverletzung ausgelöst hätten
• TikTok stimmte vergangenen Monat in einem Verfahren in Los Angeles kurz vor Prozessbeginn einem Vergleich zu; es war der erste Fall in einer Reihe von Verfahren, die für dieses Jahr geplant sind
• Gegen Meta, YouTube und Snap haben Tausende Einzelpersonen, Schulbezirke und Generalstaatsanwälte der Bundesstaaten Klagen eingereicht
• Die Unternehmen weisen die Vorwürfe zurück und argumentieren, es gebe keinen klaren Zusammenhang zwischen der Nutzung sozialer Medien und Sucht

Verschärfte Regulierungsbestrebungen in Europa

• Spaniens Ministerpräsident Pedro Sánchez kündigte in dieser Woche an, auf ein Verbot sozialer Medien für unter 16-Jährige sowie auf eine strafrechtliche Verantwortung von Tech-Führungskräften für die Verbreitung illegaler Inhalte hinzuarbeiten
• In einer Rede sagte er, „soziale Medien sind zu einem gescheiterten Staat geworden“ und „wir schlagen zurück“
• In Dänemark, Frankreich, Malaysia und Spanien laufen Bemühungen, jüngeren Teenagern den Zugang zu Plattformen zu verwehren

Kontext der EU-Tech-Regulierung

• Die European Commission reguliert die Tech-Industrie seit Jahren in Bezug auf wettbewerbswidriges Verhalten, Desinformation, spaltende Inhalte und datenschutzverletzende Geschäftsmodelle
• Im Dezember 2025 verhängte sie gegen Elon Musks Social-Media-Plattform X wegen Verstößen gegen Regeln zur Online-Transparenz eine Geldbuße von 120 Millionen Euro (rund 140 Millionen Dollar)
• Zwar gibt es auch Bestrebungen, einige Tech-Regulierungen zugunsten von Wirtschaftswachstum und Innovation zu lockern, doch die Regulierung sozialer Medien bleibt Priorität
• Die Untersuchung gegen TikTok deutet darauf hin, dass sich die Regulierung nicht nur gegen US-Unternehmen richtet

Konflikt mit den USA und ByteDances Herausforderungen

• Die Trump-Regierung kritisiert, die EU nehme US-Unternehmen unfair ins Visier; der Konflikt hat sich zu einer Debatte über Meinungsfreiheit und die Befugnis zur Festlegung grenzüberschreitender Plattformregeln ausgeweitet
• ByteDance schloss vergangenen Monat mit einer Investorengruppe außerhalb Chinas eine Vereinbarung zur Gründung einer US-Version von TikTok und beendete damit einen jahrelangen Rechtsstreit
• Die Vereinbarung soll die Verbindung zwischen TikTok und China schwächen und Bedenken begegnen, dass Peking über die App mehr als 200 Millionen Nutzer in den USA überwachen oder beeinflussen könnte

[GN⁺]

Hacker-News-Kommentare

• Unter dem archive.is-Link kann man weitere Details nachlesen

• Auf der PyData Berlin gab es einen Vortrag darüber, wie man den TikTok-Empfehlungsalgorithmus direkt implementiert
  TikToks personalisierte Empfehlungs-Engine ist eine der wertvollsten KI-Systeme der Welt; Empfehlungen werden innerhalb von 1 Sekunde nach einem Klick aktualisiert. Wenn die Feature Freshness niedrig ist, wirkt selbst eine gute Empfehlung langsam und dumm
  Das System basiert auf europäischer Technologie wie Apache Flink, Kafka und verteilter Infrastruktur für das Modelltraining
  Der Kern ist nicht „Online-Lernen“, sondern eine Struktur, bei der Klick-Events innerhalb von 1 Sekunde in Vorhersage-Features einfließen
  Dafür braucht man eine ereignisbasierte Streaming-Architektur wie Flink
  Das zugehörige Video ist der YouTube-Vortrag, das Referenzpapier ist das Monolith paper

  • Wenn ich mich an ein Video erinnere, das ich auf TikTok gesehen habe, und nur sehr grob nach einer Beschreibung suche, ist das gesuchte Video fast immer das erste Ergebnis
    Keine andere Plattform scheint eine so präzise Suchfunktion zu bieten
  • YouTube Shorts funktioniert ähnlich. Wenn man schnell durchscrollt und dann ein Hundevideo länger ansieht, kommen als Nächstes wieder Hundevideos
  • Danke für den Hinweis auf Feldera. Mit Feldera und IVM lässt sich die Synchronisierung von Offline- und Online-Feature-Engineering perfekt abstimmen
    Man kann direkt mit dem Beispiel in der Feldera-Dokumentation loslegen
  • Flink ist für so einen Einsatzzweck zu langsam. Das Tracking von zustandsbehafteten Daten pro Nutzer geht mit Redis deutlich schneller
    Flink kann hier eher zum Flaschenhals werden. Wenn Flink tatsächlich genutzt wird, ist das kein Wettbewerbsvorteil
  • Schön zu sehen, dass Flink im Stack enthalten ist. Noch besser wäre es gewesen, wenn statt Kafka Pulsar verwendet worden wäre

• Ich bin skeptisch gegenüber Verboten nur wegen übermäßig genutzter Designmuster
  So wie Cliffhanger oder Sequels im Kino schon immer attraktiv waren, sehe ich nicht, warum das Kurzvideoformat staatliches Eingreifen rechtfertigen sollte
  Die eigentliche Frage ist, wo die Grenze zwischen „Schutz vor manipulativen Designs“ und „Respekt vor der individuellen Entscheidung“ liegt
  Suchtfördernde Muster gibt es im Streaming, in sozialen Netzwerken, in Spielen, bei E-Mail-Benachrichtigungen und überall sonst
  Ich halte mehr Medienkompetenz und Transparenz für wichtiger als staatliche Regulierung

  • Diese Apps werden absichtlich süchtig machend gestaltet. Es werden Milliarden investiert, um Menschen möglichst lange festzuhalten
    Normale Nutzer haben keine Chance gegen solche hochpräzisen Manipulationssysteme. Das ist ein unfairer Kampf
  • Mit der Zeit versucht die Gesellschaft, schädliches Verhalten selbst zu regulieren. Es gibt dafür keinen perfekten Maßstab, und er verändert sich je nach Epoche
  • Kurzvideos haben bestehende Medienkonsummuster vollständig verändert. Algorithmisches Infinite Scroll halte ich für schädlich für die Menschheit
  • Nach dieser Logik müsste man jede Form von Unterhaltung verbieten, weil sie die menschliche Natur ausnutzt. Das ergibt keinen Sinn
  • Um auf EU-Regulierung zu reagieren, könnte TikTok zwischen Videos eine „Cooldown-Verzögerung“ einführen. Am Ende würden Nutzer dann aber wohl nur noch länger in der App bleiben

• Die Überschrift des Artikels übertreibt im Vergleich zur tatsächlichen Lage
  Es gibt noch keine endgültige Entscheidung; TikTok befindet sich erst in einer frühen Phase, in der das Unternehmen reagieren kann
  Die Überschrift wirkt so, als sei schon alles entschieden, tatsächlich ist es aber erst die Einleitungsphase der Untersuchung

  • Ich frage mich, welche Überschrift gemeint ist. Falls es „Europe Accuses TikTok of ‘Addictive Design’ and Pushes for Change“ ist — ist das wirklich übertrieben?

• Laut der Pressemitteilung der EU-Kommission
  soll TikTok Maßnahmen zur Abmilderung der Suchtwirkung umsetzen, darunter das Deaktivieren von „Infinite Scroll“, die Einführung von „Bildschirmzeit-Pausen“ und Änderungen am Empfehlungssystem
  Das eigentliche Problem ist aber das Empfehlungssystem selbst. Soll absichtlich weniger interessanter Content empfohlen werden? Wie schlecht muss es werden, damit man zufrieden ist?

  • Da stimme ich zu. Der Kern der App ist es, das Interesse der Nutzer zu halten. TikTok macht das nur besser als andere — ist es wirklich die Lösung, genau das zu unterdrücken?
    Wenn das Ziel am Ende „schlechterer Content“ ist, wird nur die Nutzererfahrung schlechter
  • In der chinesischen Version von TikTok (抖音) gibt es für Kinder solche Schutzmechanismen bereits
  • Es wirkt fast so, als würde die EU damit nur eine Begründung aufbauen, um gegen soziale Medien wie TikTok und X Geldbußen zu verhängen
  • Das Ziel ist einfach — das Produkt so „schlecht“ zu machen, dass die Suchtwirkung verschwindet

• Rechtlich kenne ich mich nicht gut aus, aber ich habe während der Corona-Zeit selbst TikTok-Sucht erlebt und dann aufgehört
  Ich habe 4 bis 8 Stunden pro Tag geschaut und sogar beim Abwasch Videos laufen lassen

  • Für mich fühlt sich TikTok schlimmer an, als den ganzen Tag Musik zu hören. Aber ich kann schwer erklären, warum
  • Mich würde interessieren, wie du es geschafft hast aufzuhören
  • Kurzvideos sind wirklich so süchtig machend wie eine Droge. Nachdem ich mehrere Stunden YouTube Shorts geschaut hatte, fühlte ich mich benommen, fast wie unter Drogeneinfluss
    Seitdem öffne ich das nie wieder. Menschen sind unterschiedlich anfällig, aber das Risiko ist eindeutig

• Ich denke, dass auch Duolingo eine ähnliche psychologisch manipulative UX verwendet
  Mit Lernserien, absichtlich gesteuerter Schwierigkeit und erzwungenen Wiederholungen bindet es Nutzer an die App
  Tatsächlich stehen das Ziel des Nutzers (Sprachbeherrschung) und das Geschäftsmodell einander direkt entgegen

  • Für mich erzeugt die Lernserie eher Druck. Wenn ich sie verliere, sinkt meine Motivation, und ich nutze die App eher gar nicht mehr
  • Duolingo wird hier überschätzt. Der Unterricht ist monoton und auch nicht wirklich süchtig machend. Die meisten nutzen es einfach, um ihre Serie aufrechtzuerhalten
    Seit dem jüngsten KI-Overhaul ist die Qualität stark abgestürzt, und auch die Sprachsynthese ist kaputt
  • Inzwischen funktioniert fast jede Branche nach diesem endlosen Abo-Modell. Statt Probleme zu lösen, geht es darum, fortlaufende Zahlungen auszulösen
  • Das Eulenbild auf der Seite zum Löschen des Kontos ist mir im Gedächtnis geblieben — trauriges Eulenbild
  • Duolingo ist nicht besonders gut, aber die Alternative Anki-Karteikarten hat den Nachteil, dass die Einrichtung für nichttechnische Nutzer schwierig ist

• Ich finde es überraschend, dass HN-Nutzer TikTok als eine „bewaffnete Suchtmaschine“ sehen
  Auch YouTube hatte einmal ein hervorragendes Empfehlungssystem, und ich verstehe nicht, was an auf die eigenen Interessen zugeschnittenen Empfehlungen problematisch sein soll
  Wenn man einfach abschalten will, macht es dann wirklich einen großen Unterschied, ob man TikTok schaut oder Fernsehen?
  So wie man Fahrräder nicht wegen ihrer Effizienz verbietet, ist es irrational, etwas allein wegen seiner Suchtwirkung zu verbieten

  • TikTok betreibt tatsächlich Design zur gezielten Erzeugung von Sucht
    Im Fernsehen sehen alle denselben Content, TikTok dagegen bietet einen personalisierten Feed
    Fahrräder machen nicht süchtig, aber Content mit drogenähnlichem Suchtpotenzial kann durchaus zum Regulierungsgegenstand werden

• Für mich war TikTok überhaupt nicht interessant. Ich habe mich 30 Minuten lang dazu gezwungen, es anzusehen, und es dann sofort gelöscht
  Freunde sagten: „Der Algorithmus kennt dich noch nicht“, aber Videos zu meinen Interessen waren alle auf Müllniveau

  • Der TikTok-Algorithmus zeigt standardmäßig populäre Genres und A/B-testet mit Dwell Time immer feinere Kategorien
    Das eigentliche Geheimnis ist die präzise Klassifizierung und Kuratierung der Videos. Früher hat TikTok Inhalte selbst entdeckt und vergütet
  • Bei mir war es ähnlich. Direkt nach der Installation wurden mir nur lokale Videos empfohlen, also habe ich die App sofort gelöscht. YouTube hat eine deutlich höhere Content-Qualität
  • Ich habe zwar einen Account, schaue aber nur Videos, die mir Freunde schicken. Ich mag einfach das Format selbst nicht
  • Ich habe es gelöscht, weil ich Angst hatte, süchtig zu werden, aber dann hat Instagram mit Reels nachgezogen und ich bin am Ende dort hängen geblieben. Wegen der Nachrichten meiner Freunde kann ich es nicht einmal löschen

• Ein Verbot von Infinite Scroll kommt fast einem Verbot guten Designs gleich
  Wenn verbesserte Bedienbarkeit als illegal gilt, müsste man alle Designer ins Gefängnis stecken
  Auch ein Verbot von Empfehlungssystemen ergibt keinen Sinn. Die Empfehlungen von YouTube, Amazon und Twitter beruhen alle auf demselben Prinzip — warum wäre dann nur TikTok das Problem?

  • Infinite Scroll kann gute UX sein, wird in algorithmischen Feeds aber zu einem Dark Pattern, das die Psychologie des „nur noch eins“ auslöst
    Unternehmen beschäftigen sogar Psychologen, um Dopamin-Erntemaschinen zu entwerfen
    Den Empfehlungsalgorithmus selbst zu verbieten wäre töricht, aber diese Fehlentwicklungen des Geschäftsmodells müssen reguliert werden
    Das Problem ist letztlich nicht die Technologie, sondern eine Managementstruktur, die menschliche Zeit ausbeutet
  • Wenn Infinite Scroll gutes Design ist, dann sollten nicht die Designer verantwortlich gemacht werden, sondern die Manager, die dieses Ziel vorgegeben haben