Meta soll seinen invasiven KI-Discover-Feed sofort abschalten

 (mozillafoundation.org)
1 Punkte von GN⁺ 2025-06-07 | 1 Kommentare | Auf WhatsApp teilen
  • Meta hat durch die Veröffentlichung persönlicher Gesprächsinhalte aus KI-Chats im Discover-Feed ohne Zustimmung der Nutzer wachsende Sorgen über Verletzungen der Privatsphäre ausgelöst
  • Die Mozilla-Community fordert die Abschaltung des Discover-Feeds, datenschutzfreundliche Standardeinstellungen für KI-Gespräche, eine auf Nutzereinwilligung basierende Veröffentlichung von Informationen und mehr Transparenz
  • Erforderlich sind ein umfassendes, für alle leicht nutzbares Opt-out-System sowie das Recht auf dauerhafte Löschung, wenn private Gespräche veröffentlicht wurden
  • Viele Menschen wissen nicht, dass ihre persönlichen Informationen öffentlich preisgegeben werden
  • Diese Kampagne fordert, sicherzustellen, dass Inhalte aus Nutzerkonversationen nicht ohne klare vorherige Einwilligung veröffentlicht werden

Inhaltszusammenfassung

Sorgen um Verletzungen der Privatsphäre

  • Meta hat stillschweigend damit begonnen, persönliche Gesprächsinhalte aus der Nutzung des eigenen KI-Dienstes über den Discover-Feed in öffentliche Inhalte umzuwandeln
  • Viele Nutzer sind sich nicht bewusst, dass ihre eingegebenen Gesprächsinhalte öffentlich sichtbar werden

Forderungen der Mozilla-Community

  1. Sofortige Abschaltung des Discover-Feeds
    • Es wird gefordert, den Discover-Feed so lange auszusetzen, bis echte Schutzmechanismen für die Privatsphäre eingerichtet sind
  2. KI-Gespräche standardmäßig privat
    • Alle KI-Interaktionen sollen standardmäßig privat bleiben, und öffentliche Funktionen sollen nur mit ausreichender Information und Einwilligung erlaubt sein
  3. Forderung nach Transparenz
    • Meta soll klare Zahlen offenlegen, wie viele Nutzer persönliche Informationen ohne vorherige Kenntnis oder Zustimmung geteilt haben
  4. Aufbau eines universellen Opt-out-Systems
    • Meta soll plattformübergreifend ein für alle leicht zugängliches Opt-out-System bereitstellen, damit persönliche Daten nicht für das KI-Training verwendet werden
  5. Benachrichtigung und Recht auf Löschung
    • Nutzer, deren private Gespräche veröffentlicht wurden, sollen sofort benachrichtigt werden und auf Wunsch das Recht erhalten, diese Inhalte dauerhaft zu löschen

Verwischung der Grenze zwischen Privatleben und Öffentlichkeit

  • Durch Metas Politikänderung wird die Grenze zwischen privaten Gesprächen und öffentlichen Inhalten unscharf
  • Menschen glauben, sich in einem privaten Raum zu unterhalten, tatsächlich besteht jedoch das Risiko, dass sich Informationen öffentlich verbreiten

Kampagne und Aufruf zur Unterzeichnung

  • Es läuft eine Kampagne, die ein Ende der Veröffentlichung von Gesprächsinhalten ohne persönliche Einwilligung sowie garantierte klare Wahlmöglichkeiten für Nutzer fordert
  • Nutzer, die die Kampagne unterstützen, können mit ihrem Namen an einer Unterschriftensammlung teilnehmen, um Meta zu einer Änderung seiner Richtlinien zu bewegen

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-06-07
Hacker-News-Kommentare

  • Hintergrundmaterial:

    • „Meta has a new stand-alone AI app. It lets you see what other people are asking.“ https://www.businessinsider.com/meta-ai-app-public-feed-warn... (Mai 2025)
    • „People are seemingly accidentally publishing their AI chat histories with Meta’s new AI app“ https://www.crikey.com.au/2025/05/05/meta-ai-chatbot-discove... (Mai 2025)
      Der erste Link sagt, dass Unterhaltungen standardmäßig privat sind und dass wahrscheinlich ein Fehler der Nutzer im Spiel war[1]. Mozillas Hervorhebung kann auf den ersten Blick auch wie das Gegenteil gelesen werden[2]
      [1]: „To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on.“
      [2]: Beim ersten Lesen habe ich „Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.“ so verstanden
    • Ich kenne die Situation selbst nicht mit Sicherheit, aber von Google Docs über ChatGPT bis Notion gibt es einen klaren Unterschied zwischen „einen Freigabelink erstellen, den nur Personen mit dem Link sehen können“ und „diesen Freigabelink für die Öffentlichkeit durchsuchbar/auffindbar machen“
      Wenn Meta beim Drücken des Teilen-Buttons in einem AI-Chat standardmäßig die Durchsuchbarkeit/Auffindbarkeit aktiviert, oder schlimmer noch gar keine Option anbietet, die nahe am Branchenstandard liegt, würde das die Verwirrung erklären und wäre ein sehr unerwartetes Dark Pattern. Wie im übergeordneten Kommentar gesagt: Nur auf ein Teilen-Icon zu drücken, ist noch keine ausreichend informierte Zustimmung
    • Ich habe die App nicht ausprobiert und werde es wahrscheinlich auch künftig nicht tun, aber keiner der beiden Artikel zeigt den Mechanismus, mit dem Nutzer sich dafür entscheiden, eine Interaktion zu „teilen“. Gibt es da ein Dark Pattern?
      In anderen Apps öffnet sich beim Tippen auf „Teilen“ ein Modal, in dem man eine Methode wie WhatsApp, SMS oder E-Mail auswählt, und erst nachdem man Methode und Empfänger gewählt hat, wird tatsächlich geteilt. Wenn die Aktion des „Teilen“-Buttons aber sofortiges Veröffentlichen ist, können Leute, die erwartet haben, im nächsten Schritt eine bestimmte vertrauenswürdige Person auszuwählen, durchaus überrascht sein
    • Ich nutze die App, wurde aber noch nie zum Teilen aufgefordert, daher kommt mir das seltsam vor

  • Nachdem ich die App selbst ausprobiert habe, lässt sich dieser Artikel schwer anders interpretieren, als dass Mozilla lügt. Das Teilen in dieser App funktioniert genauso wie in anderen Social-Media-Apps
    Oben rechts in der App gibt es einen „Share“-Button; wenn man darauf tippt, erscheint ein Zwischenscreen mit einem großen „Post“-Button unten. Drückt man diesen Button, wird der Chat geteilt
    Sehen andere Leute andere Bildschirme? Warum sagt Mozilla so etwas? Die meisten Forderungen sind bereits erfüllt

    Shut down the Discover feed until real privacy protections are in place.
    Alles ist bereits standardmäßig privat, und man kann sehen, was öffentlich ist
    Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.
    Das ist bereits der Fall
    Provide full transparency about how many users have unknowingly shared private information.
    Es gibt keinen Grund, warum Meta das tun müsste
    Create a universal, easy-to-use opt-out system for all Meta platforms that prevents user data from being used for AI training.
    Gibt es bereits. Korrektur: Scheint nur für EU-Nutzer zu gelten. Persönlich sehe ich keinen Zusammenhang mit der Behauptung zum öffentlichen Teilen
    Notify all users whose conversations may have been made public, and allow them to delete their content permanently.
    Auch das gibt es bereits

    • Das ist ein Dark-Pattern-Problem. Viele wollten mit einer bestimmten Person teilen, teilen aber versehentlich mit der allgemeinen Öffentlichkeit. Das ist einer der Punkte, die hier kritisiert werden. Für viele Menschen bedeutet „share“: „Gib mir eine Möglichkeit, es mit einer bestimmten Person zu teilen“, nicht: „Mach es für die breite Öffentlichkeit indexierbar und durchsuchbar sichtbar“
    • Ich bin kein Nutzer, aber liegt der Unterschied nicht darin, dass Nutzer erwartet haben, der geteilte Inhalt sei nur für Freunde sichtbar, tatsächlich aber öffentlich ist?
    • Vielleicht sehen sie tatsächlich einen anderen Bildschirm. Vielleicht heute, vielleicht morgen
      Metas Kernproblem ist derzeit, wie andere schon gesagt haben, Dark Patterns. Meta verschiebt, verändert und entfernt UI-Elemente entsprechend dem Verhalten, das es von Nutzern will. Es ist immer wieder überraschend, wenn etwas gepostet, geteilt oder geändert wurde, obwohl man es nicht beabsichtigt hat oder sich nicht einmal daran erinnert, so etwas getan zu haben. Bei Meta-Produkten scheint selbst bei inaktiven Konten einfach irgendetwas zu passieren
      Wenn man Meta-Produkte lange genug nutzt, merkt man, dass zwei Nutzer nicht garantiert dieselbe Erfahrung haben. Es gibt kein Standarderlebnis. Die Erfahrung ändert sich je nach Region, Sprache und, ehrlich gesagt, weiteren unbekannten Faktoren. In der Produktionsumgebung werden ständig Dark Patterns getestet und optimiert. Wenn man nur eine Stunde Meta Business Suite nutzt, merkt man, dass die gesamte Plattform eher ein Dark-Pattern-Labyrinth aus kaputten Links, kaputten Funktionen und UI-Elementen ist, die nirgendwohin führen oder zu eingestellten Funktionen. Ein Team will einen dazu bringen, X zu tun und Feature Y zu nutzen, ein anderes Team will einen dazu bringen, Z zu tun und Feature W zu nutzen. Business Suite mischt das alles zusammen. Selbst wenn man heute die Codebasis einfrieren und Business Suite monatelang untersuchen würde, würde man feststellen, dass sie bis auf den Grund aus Dark Patterns besteht
    • Warum hat Mozilla ein verstecktes Adware-Add-on mit Systemrechten verteilt, um für eine TV-Show zu werben?
      Warum hat Mozilla ungefragt beliebige Drittanbieterdienste integriert?
      Warum hat Mozilla den Browserverlauf an Cliqz gesendet?
      Warum hat Mozilla nicht blockierbares Google-Tracking integriert?
      Warum hat Mozilla Daten verkauft?
      Warum hat Mozilla Telemetriedienste installiert, die sich nach einem Update wieder einschalteten, obwohl sie deaktiviert waren?
      Warum lügt Mozilla so?
      Weil es Mozilla ist
    • Die Forderung, „vollständige Transparenz darüber zu schaffen, wie viele Nutzer unwissentlich persönliche Informationen geteilt haben“, kann vermutlich auch Meta nicht erfüllen. Wie soll man wissen, ob ein Nutzer unwissentlich geteilt hat?

  • Mozillas Artikel erklärt ziemlich schlecht, was eigentlich falsch ist, also habe ich selbst in die Meta-AI-App geschaut:
    Im Chat gibt es einen „Share“-Button
    Wenn man darauf tippt, sieht man einen Chat-Entwurf und einen „Post“-Button
    Tippt man auf „Post“, wird der Chat öffentlich gepostet und man gelangt zum „Discover“-Tab
    In einem geposteten Chat kann man über das „Send“-Symbol den Chat-Link an andere schicken
    Persönlich halte ich das tatsächlich für ein Dark Pattern, und es passt nicht dazu, wie Menschen die Aktion „Share“ verstehen. Außerdem ist es schlecht, dass man nicht teilen kann, ohne den Chat öffentlich zu machen
    Der aktuell oben angezeigte Discover-Post ist zum Beispiel ein stilisiertes Bild eines Babyfotos; öffnet man den Post, kann man auch das Originalfoto sehen. Es wirkt sehr wahrscheinlich, dass die Person das Foto eigentlich mit Verwandten oder Freunden teilen wollte
    Insgesamt ist das Meta in seiner „besten“ Meta-Manier: lieber später um Entschuldigung bitten, als vorher um Erlaubnis zu fragen

    • Genau, genau darum geht es. Auf dem Handy nutze ich ständig Share, wenn ich Fotos, Webseiten usw. zwischen Apps privat über eine Messaging-App mit jemand anderem teilen will. Das bedeutet „share“ für mich heute
    • Wenn man nicht sicher ist, was man tut, sollte man es nicht tun. Zum Beispiel habe ich gerade einen Beitrag auf Hacker News gepostet; der Button in meiner App heißt „submit“ und warnt nicht davor, dass ich ihn ins Internet stelle. Ist das ein Problem? Nein. Weil ich weiß, was ich tue, und das sollte jeder wissen, der das Internet nutzt

  • Klingt nach einer großen Sache, aber kann Mozilla nicht detailliertere Informationen liefern?
    Es braucht Beispiele oder Screenshots. Selbst nach dem Lesen verstehe ich nicht, wann und wie so etwas passiert.

    • Grauenhaft schlecht erklärt. Eigentlich wird nicht einmal versucht, es zu erklären. Es scheint wohl mit Metas neuer Social-Media-App für KI zusammenzuhängen:
      https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
      Ich habe gehört, dass einige Leute die KI darin nutzen, ohne zu wissen, dass sie Prompts öffentlich teilen.
    • Der relevante Kontext ist folgender:
      „Meta hat in seiner eigenständigen KI-App, die letzte Woche gestartet wurde, soziale Funktionen eingeführt. Stille Anfragen wie ‚Was ist dieser peinliche Ausschlag?‘ oder ‚Wie sage ich meiner Frau, dass ich sie nicht mehr liebe?‘ könnten bald für jeden sichtbar sein, der durch den Discover-Tab der App scrollt.“
      https://www.fastcompany.com/91327812/metas-ai-social-feed-is...

  • Es fehlt an Kontext und Beispielen, die erkennen lassen, worin die Sorge besteht.
    Der Ton ist stark rechtschaffen und imperativisch, obwohl konkrete Fälle oder anonyme Verfasser das nicht untermauern können.
    „Mozilla: Improve your messaging. Now.“

    • „Mozilla: Improve your messaging. Now.“ war das Erste, was ich gesehen habe. Das war so schlecht, dass ich sofort wieder gehen wollte, und es war ein klares Signal. Mein Bullshit-Detektor schlug an, aber weil es auf HN so viele Punkte hatte, habe ich den Rest auch gelesen, und ich lag nicht falsch.

  • Die Zeichensetzung in „Meta: shut down [...]“ lässt es so aussehen, als würde Meta „shut down“ sagen. Es müsste ein Komma sein, wie in „Meta, shut down your [...]“.

    • In früheren Chat-Apps wurde der Doppelpunkt verwendet, um die Aufmerksamkeit von jemandem zu erregen. Wenn man zum Beispiel in einem IRC-Client einen Nickname per Tab vervollständigte, wurde automatisch ein Doppelpunkt angehängt, wenn die Eingabe mit dem Nickname begann.
    • Meta: Shut down. You're invasive. (AI Discover feed)
    • Vielleicht wäre „Dear Meta: ...“ besser.

  • I’m okay with Mozilla handling my info as explained in this Privacy Notice.
    Die Ironie, dass dieses Kontrollkästchen erforderlich ist, um ein Protestformular zum Datenschutz einzureichen.

  • Man sollte einfach von den Meta-Plattformen weg.

    • Der Großteil der Welt außerhalb der USA geht zurück zu WhatsApp.
      SMS ist keine Option. Noch einmal: Außerhalb der USA zahlt man für jede gesendete SMS.
      Es gibt Pläne für WhatsApp-Interoperabilität, aber die werden vermutlich nur für die EU gelten.
      https://www.wired.com/story/whatsapp-interoperability-messag...
    • Mir fällt die Geschichte von vor ein paar Tagen ein: „Meta found 'covertly tracking' Android users through Instagram and Facebook“. Dabei wurden aus Web-Pixeln STUN-Anfragen an die Meta-Apps (FB/IG) auf localhost gesendet.
      Ich finde, man kann kaum ernsthaft behaupten, sich Sorgen um Tracking zu machen, wenn man Facebook/Instagram nutzt, insbesondere die ständig laufenden mobilen Apps.
      Betreibt Facebook noch einen Tor-Onion-Dienst? Früher schien das die einzige Möglichkeit zu sein, diese Produkte zu nutzen und gleichzeitig extremes Tracking zu vermeiden.
    • Wegen der Netzwerkeffekte sind die meisten Menschen an mindestens eines der Meta-Produkte gebunden. Wenn Freunde Instagram/Facebook/WhatsApp verwenden, um Kontakt zu halten und Verabredungen zu treffen, ist das Verlassen der Plattform fast so, als würde man die Verbindung zur eigenen Gemeinschaft kappen.
      Deshalb hat der Staat die Aufgabe, Datenschutz zu regulieren und Interoperabilität zwischen Plattformen vorzuschreiben. „Benutz es einfach nicht“ ist keine realistische Forderung.
    • Nicht komplett von Meta weggehen, sondern nur saugen. Keine Beiträge, Kommentare oder Verhaltenssignale beisteuern. Die Web-App nutzen und, wenn möglich, in einem getrennten privaten Browser-Container. Man sollte alle Meta-Apps vom Gerät entfernen und ausreißen.
    • Man sollte auch aus dem Mozilla-Geschäft aussteigen.

  • Warum funktioniert diese Website auf Firefox Mobile nicht richtig? Mozilla, bitte räumt da endlich auf.
    Der Viewport nimmt nur ein Viertel des Handybildschirms ein, und man kann ihn in einer schwarzen Leere herumscrollen.

  • Ein Social-Media-Unternehmen hat eine KI-App gebaut, mit der man Ergebnisse in Social Media teilen kann. Überraschend!
    Aber wenn man einen Beitrag schreibt, der keinerlei Details enthält und nur ein paar passende Buzzwords und einen Call-to-Action einstreut, landet er oben auf HN und hält den Empörungszyklus des Tages am Laufen. Morgen geht es dann wieder zurück zu „Google ist böse“.