Meta soll seinen invasiven KI-Discover-Feed sofort abschalten

• Meta hat durch die Veröffentlichung persönlicher Gesprächsinhalte aus KI-Chats im Discover-Feed ohne Zustimmung der Nutzer wachsende Sorgen über Verletzungen der Privatsphäre ausgelöst
• Die Mozilla-Community fordert die Abschaltung des Discover-Feeds, datenschutzfreundliche Standardeinstellungen für KI-Gespräche, eine auf Nutzereinwilligung basierende Veröffentlichung von Informationen und mehr Transparenz
• Erforderlich sind ein umfassendes, für alle leicht nutzbares Opt-out-System sowie das Recht auf dauerhafte Löschung, wenn private Gespräche veröffentlicht wurden
• Viele Menschen wissen nicht, dass ihre persönlichen Informationen öffentlich preisgegeben werden
• Diese Kampagne fordert, sicherzustellen, dass Inhalte aus Nutzerkonversationen nicht ohne klare vorherige Einwilligung veröffentlicht werden

---

Inhaltszusammenfassung

Sorgen um Verletzungen der Privatsphäre

• Meta hat stillschweigend damit begonnen, persönliche Gesprächsinhalte aus der Nutzung des eigenen KI-Dienstes über den Discover-Feed in öffentliche Inhalte umzuwandeln
• Viele Nutzer sind sich nicht bewusst, dass ihre eingegebenen Gesprächsinhalte öffentlich sichtbar werden

Forderungen der Mozilla-Community

1. Sofortige Abschaltung des Discover-Feeds
   • Es wird gefordert, den Discover-Feed so lange auszusetzen, bis echte Schutzmechanismen für die Privatsphäre eingerichtet sind
2. KI-Gespräche standardmäßig privat
   • Alle KI-Interaktionen sollen standardmäßig privat bleiben, und öffentliche Funktionen sollen nur mit ausreichender Information und Einwilligung erlaubt sein
3. Forderung nach Transparenz
   • Meta soll klare Zahlen offenlegen, wie viele Nutzer persönliche Informationen ohne vorherige Kenntnis oder Zustimmung geteilt haben
4. Aufbau eines universellen Opt-out-Systems
   • Meta soll plattformübergreifend ein für alle leicht zugängliches Opt-out-System bereitstellen, damit persönliche Daten nicht für das KI-Training verwendet werden
5. Benachrichtigung und Recht auf Löschung
   • Nutzer, deren private Gespräche veröffentlicht wurden, sollen sofort benachrichtigt werden und auf Wunsch das Recht erhalten, diese Inhalte dauerhaft zu löschen

Verwischung der Grenze zwischen Privatleben und Öffentlichkeit

• Durch Metas Politikänderung wird die Grenze zwischen privaten Gesprächen und öffentlichen Inhalten unscharf
• Menschen glauben, sich in einem privaten Raum zu unterhalten, tatsächlich besteht jedoch das Risiko, dass sich Informationen öffentlich verbreiten

Kampagne und Aufruf zur Unterzeichnung

• Es läuft eine Kampagne, die ein Ende der Veröffentlichung von Gesprächsinhalten ohne persönliche Einwilligung sowie garantierte klare Wahlmöglichkeiten für Nutzer fordert
• Nutzer, die die Kampagne unterstützen, können mit ihrem Namen an einer Unterschriftensammlung teilnehmen, um Meta zu einer Änderung seiner Richtlinien zu bewegen

[GN⁺]

Hacker-News-Kommentar

• Es wird ein Artikellink zur neu veröffentlichten eigenständigen AI-App von Meta geteilt, zugleich aber angemerkt, dass die Veröffentlichung von Gesprächsinhalten auf einen Nutzerfehler zurückzuführen sei. Standardmäßig seien Gespräche privat, und nur durch das Drücken des „Teilen“-Buttons würden sie öffentlich gemacht. Die harte Wortwahl von Mozilla könne daher zu Missverständnissen über die User Experience führen

  • Es wird erwähnt, dass verschiedene Dienste wie Google Docs, ChatGPT und Notion klar zwischen „nur für Personen mit dem Link freigegeben“ und „öffentlich, durchsuchbar und für alle sichtbar“ unterscheiden. Falls Meta durch den Teilen-Button Inhalte sofort durchsuchbar mache oder diese Unterscheidung gar nicht anbiete, sei das eindeutig ein Dark Pattern. Es wird die Frage aufgeworfen, ob ein Klick auf das „Teilen“-Icon wirklich als echte Zustimmung gelten kann
  • Obwohl keine eigene App-Nutzungserfahrung vorliegt, wird Verwirrung darüber geäußert, dass aus dem Artikel nicht hervorgeht, wie Nutzer der Freigabe eigentlich zustimmen. Üblicherweise erscheine in anderen Apps nach dem Teilen-Button ein Modal, in dem Empfänger und Freigabemethode gewählt werden. Wenn „Teilen“ hier jedoch sofort eine weltweite Veröffentlichung bedeute, wäre das für jeden überraschend
  • Zusammen mit dem Artikellink wird bedauert, dass Mozillas Petition inhaltlich kaum einen Kontext liefert, der tatsächlich hilfreich wäre
  • Die Person berichtet, die App selbst zu nutzen, aber nie zum Teilen aufgefordert worden zu sein oder entsprechende Hinweise gesehen zu haben
  • Es wird zurückgemeldet, dass der geteilte Artikel Ursache und Streitpunkt nicht klar erkläre und insgesamt sehr vage wirke

• Nach eigener Nutzung der App könne man Mozillas Darstellung nur so lesen, dass hier Falschinformationen verbreitet würden. Das Teilen funktioniere in dieser App genauso wie in anderen Social-Media-Apps. Oben rechts in der App gebe es einen „Share“-Button; nach dem Antippen erscheine unten groß ein „Post“-Button. Wenn man diesen drücke, werde das Gespräch öffentlich geteilt.

  • Es wird erklärt, dass die meisten Forderungen von Mozilla bereits erfüllt seien: Alle Gespräche seien standardmäßig privat, die Öffentlichkeit eines Beitrags werde klar angezeigt, und es wird bezweifelt, dass Meta offenlegen müsse, wie viele persönliche Informationen Nutzer versehentlich preisgegeben hätten. In Europa gebe es bereits eine Opt-out-Funktion, außerdem würden Benachrichtigungen und eine dauerhafte Löschfunktion für veröffentlichte Inhalte schon angeboten
    • Kritisiert wird das Dark Pattern, dass ein Button mit der Aufschrift „Teilen“ nicht das gezielte Teilen mit bestimmten Personen meint, sondern eine Veröffentlichung für alle. Für die meisten bedeute „Teilen“ eher Weitergabe zwischen Personen oder eingeschränkten Zugriff; eine vollständige Veröffentlichung sei womöglich gar nicht beabsichtigt
    • Obwohl die Person die App nicht selbst nutzt, wird betont, dass der Kern des Problems wohl darin liege, dass Nutzer glauben könnten, der geteilte Inhalt sei nur für Freunde sichtbar
    • Es wird gefragt: „Schaue ich hier überhaupt auf denselben Bildschirm wie alle anderen?“ Das grundlegende Problem bei Meta sei eine inkonsistente UI voller Dark Patterns, bei der Teams miteinander konkurrierten, um Nutzerverhalten zu lenken und Menschen dazu zu bringen, unbeabsichtigt Freunde oder Beiträge zu teilen. Je nach Region und Sprache sei die Erfahrung anders; besonders Meta Business Suite sei ein Labyrinth aus Dark Patterns
    • Der Forderung, offenzulegen, wie viele Nutzer versehentlich Informationen öffentlich gemacht hätten, wird nicht zugestimmt. Meta könne gar nicht wissen, ob eine Veröffentlichung absichtlich oder irrtümlich erfolgt sei
    • Es wird die Ansicht geäußert, Mozilla habe schon früher durch fragwürdige Zusatzinstallationen, Integrationen von Drittanbieterdiensten, unerlaubte Übermittlung von Nutzungsdaten und erzwungenes Google-Tracking Vertrauen verspielt; daher werde das jetzige Verhalten als Fortsetzung dieser Linie gesehen

• Weil Mozillas Text das Problem nicht richtig erkläre, wurde die Meta-AI-App direkt ausprobiert.

  • Im Chat-Bildschirm gibt es einen „Share“-Button; beim Antippen erscheint auf einer Entwurfsseite unten ein „Post“-Button. Drückt man diesen, wird der Chat vollständig öffentlich im Discover-Tab veröffentlicht. Erst danach kann der Link über ein „Senden“-Icon individuell weitergegeben werden
  • Diese Struktur wird als eindeutiges Dark Pattern bewertet, weil es keine einfache Möglichkeit gebe, einen Link nur mit Familie, Freunden oder einer einzelnen Person zu teilen, ohne ihn komplett öffentlich zu machen
  • Es wird berichtet, dass ganz oben im Discover-Tab ein Fotobeitrag mit einem Babybild zu sehen gewesen sei; da sogar das Originalfoto veröffentlicht worden sei, wird vermutet, dass die betreffende Person es wahrscheinlich nur an Familie oder Freunde schicken wollte
  • Das Fazit lautet, dies passe zu Metas typischem Stil des „erst handeln, dann entschuldigen“, bei dem nachträgliche Entschuldigungen wichtiger seien als vorherige Zustimmung
    • Es wird die Meinung vertreten, dass man etwas besser gar nicht tun sollte, wenn man nicht genau weiß, was man tut. Die Person selbst habe beim Klick auf den „submit“-Button bei Hacker News gewusst, dass der Beitrag öffentlich im ganzen Internet sichtbar werde, und findet, dass diese Verantwortung für Internetnutzer selbstverständlich sei

• Es wird nach konkreteren Beispielen, Screenshots oder dem genauen Zeitpunkt gefragt, auf den sich Mozillas Kritik bezieht

  • Es wird angemerkt, dass die Erklärung stark unzureichend sei und sich auf die neue soziale AI-App von Meta beziehe. Einige Nutzer würden Ergebnisse aus AI-Chats öffentlich machen, ohne es selbst zu bemerken Link zur Vorstellung von Meta AI
  • Zusätzlich wird erklärt, dass über den „Discover“-Tab der App sogar sensible Fragen wie zu Krankheiten oder Trennungen für jeden sichtbar würden, und dazu wird auch ein ausführlicher Artikellink geteilt

• Mozillas Kampagnenbotschaft wird kritisiert, weil ihr Kontext fehle und sie wie ein bedingungsloser Befehlston wirke

• Zur Formulierung „Meta: shut down [...]“ wird angemerkt, dass das so wirke, als sage Meta selbst „shut down“; klarer wäre ein Komma oder die Form „Dear Meta: ...“

  • Ergänzend wird erklärt, dass in älteren Chat-Apps oft ein Doppelpunkt nach dem Nickname verwendet wurde, um die Aufmerksamkeit des Gegenübers zu gewinnen

• Es wird die Meinung vertreten, man solle Meta-Plattformen grundsätzlich nicht nutzen

  • In den meisten Ländern außerhalb der USA sei WhatsApp das Standard-Kommunikationsmittel, während SMS pro Nachricht kosteten. Interoperabilität mit WhatsApp sei bislang nur in der EU geplant; dazu wird ein passender Artikellink geteilt
  • Außerdem wird ein Zusammenhang zu einem kürzlichen Bericht hergestellt, wonach Meta über Instagram- und Facebook-Webpixel Android-Nutzer heimlich getrackt habe. Früher seien Tor-Onion-Dienste die einzige Möglichkeit gewesen, Privatsphäre zu schützen; inzwischen sei Tracking-Vermeidung praktisch unmöglich
  • Statt Meta vollständig zu verlassen, wird geraten, die Plattformen nur noch passiv zu konsumieren und keinerlei Beiträge oder Signale zu hinterlassen — gewissermaßen „parasitär“ zu bleiben. Alle Meta-Apps sollten vom Gerät gelöscht werden
  • Wegen der Netzwerkeffekte seien viele Menschen halb gezwungen, verbunden zu bleiben. Wer Pläne mit Freunden oder Communitys aufrechterhalten wolle, könne nicht einfach gehen; deshalb seien Datenschutz und Interoperabilität Aufgaben des Staates. „Benutz es einfach nicht“ sei unrealistisch
  • Ergänzend wird darauf hingewiesen, dass man auch Mozillas geschäftliche Interessen im Blick behalten müsse

• Es wird auf die Ironie hingewiesen, dass man zum Absenden des Datenschutz-Petitionsformulars zwingend Mozillas Datenschutzrichtlinie zustimmen muss

• Es wird ein Fall geschildert, in dem die betreffende Website in FireFox Mobile nicht korrekt angezeigt wird, verbunden mit der Aufforderung an Mozilla, das zu verbessern

• Abschließend wird die Einschätzung geäußert, dass ein überzogener Artikel voller Buzzwords und zugespitzter Kontroversen nur deshalb auf HN Top gelandet sei, weil eine Social-Media-Firma AI-Ergebnisse teilen lässt — was letztlich kaum überraschend sei