Blueskys stackbares Moderationsmodell
(bsky.social)- Bluesky setzt auf stackbare Moderation, bei der Filter unabhängiger Dienste auf grundlegende Schutzmechanismen aufgesetzt werden, damit Nutzer ihr soziales Erlebnis passend für sich gestalten können
- Das nun Open-Source gewordene Ozone ist ein Kollaborationstool, mit dem Teams Meldungen prüfen, Labels erstellen und Inhalte im atproto-Netzwerk sichten können
- Für das Standard-App-Erlebnis sind ein rund um die Uhr arbeitendes Bluesky-Moderationsteam und automatisierte Systeme zuständig; Nutzer können zusätzlich weitere Filter auswählen und hinzufügen
- Filter unabhängiger Moderationsdienste werden zunächst in der Desktop-App angeboten und später auf Mobilgeräte ausgeweitet; sie lassen sich finden und abonnieren wie ein Account
- Labeler und Moderationsdienste können über die Bluesky-App hinaus im gesamten atproto-Netzwerk funktionieren, sodass sich je nach App unterschiedliche Moderationskonfigurationen erstellen lassen
Eine von Nutzern anpassbare Moderationsstruktur
- Bluesky verfolgt das Ziel, dass Nutzer ihre sozialen Online-Räume selbst gestalten können
- Bestehende soziale Medien haben zwar die ganze Welt verbunden, aber auch dazu geführt, dass Macht bei wenigen Unternehmen und Führungspersonen konzentriert wird
- Da es für ein einzelnes Unternehmen schwierig ist, perfekte Sicherheitsstandards für alle Länder, Kulturen und Communities festzulegen, baut Bluesky ein communitybasiertes Moderationsökosystem auf
- Das eigene Moderationsteam ist rund um die Uhr im Einsatz, um die Community-Richtlinien durchzusetzen
- Gleichzeitig stellt Bluesky Open-Source-Sicherheitstools und ein Moderationsökosystem bereit, damit Communities Räume schaffen können, die zu ihren eigenen Normen und Vorlieben passen
Veröffentlichung von Ozone und unabhängige Moderationsdienste
- Bluesky veröffentlicht das kollaborative Moderationstool Ozone als Open Source
- Mit Ozone können Einzelpersonen und Teams Inhalte im gesamten Netzwerk prüfen und mit Labels versehen
- Ab später in dieser Woche können Nutzer unabhängige Moderationsdienste, die in die Bluesky-App integriert werden, selbst betreiben
- Nutzer können zusätzlich zur von Bluesky geforderten Grundmoderation weitere Moderationsdienste erstellen und abonnieren
- Das Ozone-Repository ist auf GitHub verfügbar
Drei Designprinzipien
- Das Design der Moderationsdienste von Bluesky folgt drei Prinzipien
- Simple and Powerful: Das Standarderlebnis bleibt einfach, während Nutzer mit Bedarf Anpassungsoptionen erhalten
- User Choice: Nutzer und Communities sollen eigene Moderationssysteme aufbauen können
- Openness: Angestrebt wird ein offenes System, das das Vertrauen in die Governance digitaler Räume stärkt
- Bluesky hat seine Idee von composable moderation bereits geteilt, bevor der Dienst überhaupt 20.000 Nutzer hatte; heute bedient er mehr als 5 Millionen
Nutzerwahl, auf Standardwerte aufgesetzt
- Wer sich bei Bluesky anmeldet, abonniert standardmäßig den integrierten Moderationsdienst von Bluesky
- Dieser Basisdienst kombiniert die Bearbeitung von Nutzermeldungen durch ein rund um die Uhr arbeitendes Team mit mehreren automatisierten Moderationssystemen
- Nutzer können Filter unabhängiger Moderationsdienste installieren und so wie mit Bausteinen weitere Ebenen auf das Grundgerüst der Bluesky-App setzen
- In der ersten Auslieferungsphase werden Filter unabhängiger Moderationsdienste in der Desktop-Version angeboten
- Später folgen auch mobile Geräte, damit sich das soziale Erlebnis plattformübergreifend anpassen lässt
- Mehr zur technischen Struktur steht in der Dokumentation zur AT-Protocol-Moderationsarchitektur
So sieht es für Nutzer aus
- Bluesky priorisiert ein intuitives Standarderlebnis direkt nach der Installation der App
- Nutzer, die feinere Anpassungen möchten, können in der Bluesky-App unabhängige Moderationsdienste finden, auswählen und abonnieren
- Das Abonnieren ist so einfach gestaltet wie das Folgen eines anderen Accounts
- Das Beispiel Spider Shield könnte als Moderationsdienst zum Blockieren von Spinnenfotos erstellt werden
- Wenn ein Nutzer diesen Dienst installiert, verschwinden mit Labels versehene Spinnenfotos aus seinem Erlebnis
- Wird ein nicht gekennzeichnetes Spinnenfoto entdeckt, kann über den Meldeablauf in der App eine Prüfung durch Spider Shield angefordert werden
Was sich für Moderatoren ändert
- Wer zusätzlich zur Standardmoderation der Bluesky-App eine eigene Ebene anbieten möchte, muss dafür weder umfangreiche Infrastruktur betreiben noch eine eigene Client-App bauen
- Derzeit ist noch ein gewisses technisches Wissen nötig, aber Bluesky erwartet, dass dieser Prozess mit der Zeit einfacher wird
- Schon bisher lassen sich Mute-Listen oder Blocklisten betreiben, die andere Nutzer abonnieren können
- Beliebte Blocklisten sind oft stark an persönliche Accounts gebunden; je größer sie werden, desto belastender kann es werden, wenn Nutzer die Betreiber direkt in der App taggen
- Ozone ermöglicht einen feineren Betrieb von Diensten, die Blocklisten ähneln
- Es können nicht nur Accounts, sondern auch einzelne Beiträge mit Labels versehen werden
- Es gibt Zugriff auf die Warteschlange für Meldungen
- Nutzer können Meldungen über den Meldeablauf in der App einsenden
- Eigene Labels lassen sich erstellen und mit festgelegten Aktionen verknüpfen
- Der Dienst ist nicht an eine einzelne Person gebunden und kann von mehreren Personen verwaltet werden
- Im Beispiel Spider Shield stellt das Ozone-Dashboard eine Warteschlange mit gemeldeten Spinnenfotos bereit, sodass Menschen nicht jedes Mal den Betreiber direkt taggen müssen
- Labels lassen sich unterschiedlich konfigurieren, etwa indem echte Spinnenfotos blockiert und Spinnenillustrationen nur unscharf dargestellt werden
- Mehrere Personen können bei der Bearbeitung von Meldungen helfen oder ein Projekt an andere übergeben, ohne Nutzer zu stören
Wie Entwickler Labels anwenden
- Entwickler können zum Versehen von Inhalten mit Labels Bluesky-Software wie Ozone verwenden oder Labels direkt per API anwenden
- Ozone ist ein Tool, das Menschen bei der Prüfung von Moderationsmeldungen unterstützt, aber ein Moderationsdienst kann auch mit automatischer Labelvergabe betrieben werden
- Wenn Spider Shield als automatischer, auf Machine Learning basierender Dienst Spinnenfotos erkennen und labeln soll, ist das auch ohne Ozone umsetzbar
- Wer Ozone für den eigenen Zweck anpassen möchte, kann einen PR einreichen oder das Projekt forken
- Bluesky stellt Open-Source-Moderationstools bereit, damit Apps im AT-Protocol-Ökosystem Vertrauens- und Sicherheitsfunktionen nicht jedes Mal von Grund auf neu aufbauen müssen
Labels und die Skalierbarkeit des atproto-Netzwerks
- Labels sind bewusst allgemein und anpassbar gestaltet
- Die anfänglichen Funktionen der Labeler konzentrieren sich darauf, Inhalte auszublenden, zu blockieren oder unscharf darzustellen
- Später können sie auch für Kuration oder Verifizierung genutzt werden
- So ließen sich Labels etwa verwenden, um Natur-Accounts, die keine Spinnenfotos posten, als „verifiziert“ zu kennzeichnen
- Moderationsdienste sind nicht auf die Bluesky-App beschränkt, sondern können im gesamten atproto-Netzwerk arbeiten
- Wenn mit Skygram eine neue Foto-Sharing-App entsteht, kann der für Bluesky entwickelte Moderationsdienst Spider Shield auch in Skygram verwendet werden
- Diese Kombinierbarkeit ist der Kern von composable moderation: Komponenten lassen sich auch zwischen unterschiedlichen Apps mischen und wiederverwenden
Optionen außerhalb der Standardmoderation
- Nutzer der Bluesky-App verwenden standardmäßig den Moderationsdienst von Bluesky
- Alle Inhalte, die in der Bluesky-App angezeigt werden, müssen den Community-Richtlinien von Bluesky entsprechen
- Wenn die Standardmoderation von Bluesky nicht den eigenen Anforderungen entspricht, kann man eine separate Client-App erstellen oder verwenden und daran einen eigenen Moderationsdienst anbinden
- Diese Option erfordert zwar eine separate Client-App, die mit dem AT Protocol verbunden ist, bietet dafür aber die Flexibilität, von Anfang an ein eigenes Moderationssystem umzusetzen
Anders als die Server-Moderationsbeziehung bei Mastodon
- Die Moderation von Bluesky ist nicht wie bei Mastodon an Server gebunden
- Defederation bei Mastodon behandelt Moderationsprobleme durch das Trennen von Serververbindungen, doch bei Bluesky ist das wegen anderer Ebenen weniger relevant
- Serverbetreiber können Regeln für die Inhalte festlegen, die sie hosten, während Communities sich mithilfe von Blocklisten und Moderationsdiensten entsprechend ihren Moderationsvorlieben selbst organisieren können
- Mehr zu den Unterschieden in der föderierten Struktur von Bluesky steht im Beitrag zur Federation
- Moderationsdienste werden wahrscheinlich wie Feed-Generatoren als Community-Projekte starten
- Bei Bluesky gibt es mehr als 40.000 benutzerdefinierte Feeds, und auch Moderationsdienste können als unabhängige Projekte von Einzelpersonen oder Organisationen betrieben werden
- Auch Moderationsdienste mit zahlenden Abonnenten sind möglich
1 Kommentare
Meinungen auf Hacker News
Ich bin im Team, das diese Funktion implementiert hat, und kann Fragen beantworten. Kurz technisch erklärt: Insgesamt handelt es sich um ein System, das Metadaten namens Labels zu Beiträgen veröffentlicht.
Wenn ein App-Client im Request-Header angibt, welche Labeling-Services er verwenden möchte, werden diese Labels an die Antwort angehängt, und der Client kann sie interpretieren.
Da es sich um ein offenes System handelt, kann der Client auswählen, welche Labeler er nutzen will. Der Bluesky-Client hardcodiert die Bluesky-Moderation, aber andere Clients können andere Standard-Labeler wählen. Nutzer können Community-Labeler hinzufügen, und der Großteil der Moderation soll auf dieser Ebene stattfinden. Für illegale Inhalte oder Netzwerkmissbrauch gibt es außerdem auf der Service-Ebene, also im Relay, eine „Löschung auf Infrastrukturebene“.
In der App sieht das wie ein spezieller Account aus, den man abonnieren kann, um zusätzliche Filter zu erhalten. Labels können neutral oder negativ sein und damit faktisch auch wie Nutzer-Badges funktionieren. Künftig soll das auf umfangreichere Metadaten und Aktionen erweitert werden, sodass es auch für Funktionen wie Community Notes oder labelbasierte Einschränkungen bei Antworten genutzt werden kann.
Ich frage mich, ob es Vorläufer dafür gibt. Am nächsten kommt vielleicht sogar diese Website hier: Dort ist es zwar Opt-out, aber nicht austauschbar. Oder vielleicht E-Mail-Spamfilter aus Sicht von Server-Administratoren.
Ich möchte wissen, ob das auch Third-Party-Clients betrifft und ob es ein Zentralisierungspunkt ist, der für Missbrauch bei der Moderation offensteht. Oder ob Bluesky als Protokoll so funktioniert, dass es selbst dann außerhalb des eigenen Clients nichts entfernen könnte, wenn es wollte.
Besonders die Anwendung einer Funktion im Stil von Steam Curator auf Content-Moderation wirkt wirklich passend – so sehr, dass man sich fragt, warum man nicht früher darauf gekommen ist.
Beim erneuten Lesen ist das wohl kein besonders hilfreicher HN-Kommentar, daher ergänzend: Einer der nützlichsten Aspekte des Internets liegt meiner Ansicht nach darin, Orte und Ideen zu erkunden, denen man sonst nie begegnen oder über die man nie nachdenken würde. So wie eine Fahrt mit einem Holzboot in die Arktis birgt auch das Herumstreifen im Internet erhebliche Risiken, aber angesichts der Möglichkeit zu persönlichem Wachstum und Veränderung können diese Risiken es wert sein.
Dieses Modell des Internets ist etwas altmodisch. Heute ist das Internet größtenteils eher Unterhaltung, und auch Bluesky existiert, wie TikTok oder Instagram, um den Blick am Handybildschirm festzuhalten. Bluesky ist zwar etwas intellektueller, aber nur ein ganz kleines bisschen.
Menschen empfinden normalerweise kein Vergnügen an Dingen, die sie frustrieren. Daher ist es verständlich, dass ein Unterhaltungsunternehmen wie Bluesky von Content-Moderation besessen ist und dafür sorgen will, dass Nutzer nur Inhalte erreichen, die ihnen Freude machen. In diesem Sinne scheint Labeling nützlich zu sein, ähnlich wie Altersfreigaben bei Filmen, um Verbrauchern mitzuteilen, ob etwas für sie geeignet ist.
Für Bluesky ist das also großartig. Ich werde aber höflich darauf verzichten, beizutreten, und eine Plattform mit einem anderen Zweck nutzen.
Ich sehe viele Vorteile dieses Ansatzes, bin aber bei einem Punkt skeptisch.
Im Beitrag wird mehrfach kulturspezifische Moderation erwähnt, und ich frage mich, welche Standardkultur die seitenweite Moderation voraussetzt. Die USA?
Ich frage mich, ob das von Bluesky finanzierte Moderationsteam alle Sprachen abdeckt oder nur englische Beiträge. Ebenso stellt sich die Frage, was es bedeutet, einer Kultur anzugehören, die nicht „offiziell unterstützt“ wird.
Sieht dem Serversystem von Mastodon sehr ähnlich. Es ist zwar wie eine Struktur, bei der man einem Server beitritt, der zu den eigenen Regeln passt, aber hier ist der Serverwechsel viel einfacher. Eine sehr gute Idee
Bei Bluesky gibt es Identität über DID. Verwendet man eine web DID, ist die Identität an den Domainnamen gebunden, und die Bluesky-Infrastruktur ist überhaupt nicht verbunden. Man hat alles vollständig selbst in der Hand, aber Name oder Domain lassen sich nicht leicht ändern. Verwendet man dagegen eine plc DID, nutzt man derzeit zentralisierte Infrastruktur, kann aber Name oder Domain leicht ändern. In diesem Fall hat man pro Konto eine DID.
Es gibt einen PDS oder „Datenspeicher“, der die Inhalte von Beiträgen aufbewahrt. Man kann ihn selbst hosten oder den zentralen PDS von Bsky nutzen, und pro Konto ist nur einer möglich.
Es gibt einen Indexer, der Beiträge aus allen PDS/Datenspeichern sammelt, und daraus entsteht das, was Bluesky als „firehose“ bezeichnet. Außerdem gibt es Relays, die Traffic routen und cachen.
Es gibt App Views, die die eigentliche Anwendung bereitstellen, zum Beispiel Bluesky, sowie Feed-Dienste, die „Algorithmen“ bereitstellen, die festlegen, wie eine Seite aussehen soll. Solche Feeds kann man in beliebiger Zahl abonnieren oder selbst hosten.
Schließlich gibt es die hier behandelten Labeler. Anders als bei Mastodon kann man mehreren Labelern gleichzeitig folgen. Labeler können automatische Content-Warnungen oder manuelle Moderation bereitstellen. Entscheidend ist, dass am Ende der Nutzer kontrolliert, ob das, was ein Labeler tut, nur zu Warnungen/Unschärfe führt oder Inhalte tatsächlich ausgeblendet werden.
Bei Mastodon ist alles an einen Server/eine Instanz gebunden, und die Kontrolle über Moderation läuft letztlich auf „die eigene Instanz betreiben und die ganze Moderationsarbeit selbst übernehmen“ oder „sich ohne Überwachungsmöglichkeit auf eine andere Instanz verlassen“ hinaus.
Das heißt nicht, dass Mastodons Ansatz damals keinen Sinn ergab, aber wie gesagt ist der Bluesky-Ansatz deutlich plausibler, und Nutzer können viel leichter zwischen Optionen wechseln.
Das liegt daran, dass die Aggregation serverseitig erfolgt und nicht wie bei RSS clientseitig. Außerdem kann der eigene Server schon dadurch auf einer Blacklist landen, dass er einen bestimmten Server nicht sperrt. Dadurch wird es weniger zu einem Netzwerk als zu einem Graphen, bei dem man exklusiv eines von mehreren voneinander isolierten Netzwerken wählen muss.
Das sollte der richtige Ansatz sein. Ich kann Leute blockieren, die Dinge posten, die ich nicht sehen will, und ich kann auch Gruppen solcher Leute blockieren. Umgekehrt kann ich die Personen und Gruppen identifizieren, die ich sehen möchte, und sie in meine Timeline durchlassen.
Theoretisch könnte man wohl seinen eigenen Client bauen, aber ich bin mir nicht sicher, wie das praktisch funktionieren würde. Inhalte, die Bluesky nicht mag, werden vermutlich nicht auf BlueSky-Servern gespeichert.
Die eigene Community sollte nicht verboten werden, nur weil sie über schlimme Dinge spricht, die ihr passiert sind. Ich frage mich, wie solche Szenarien gehandhabt werden.
Vielleicht werden Inhalte nur ausgegraut. Aber was passiert dann mit dem Nutzer? Ich frage mich, ob auch die Inhalte dieses Nutzers ausgegraut werden.
Eine wirklich großartige Idee. Mir gefällt das als Beispiel genannte Spider Shield. Ich hoffe, dass es für alle möglichen moderationsnahen Zwecke genutzt wird, etwa Spoiler oder Themen, die man vorerst nicht lesen möchte.
Ehrlich gesagt ziemlich hervorragend. Es ist eine offizielle und erweiterbare Version von Browser-Erweiterungen, die Leute rekursiv blockiert, Twitter-Blue-Nutzer blockiert, Personen blockiert, die in bestimmten Subreddits posten, oder sie wie masstagger markiert haben.
Programmierbare Blocklisten zu einem erstklassigen Feature zu machen, ist sehr gut.
Vor Dramen wie https://www.techdirt.com/2022/11/02/hey-elon-let-me-help-you... wird das wohl nicht retten, aber trotzdem ist es ein willkommenes Feature. Es wird interessant sein, wie Leute reagieren, die auf beliebten Drittanbieter-Blocklisten landen.
Richtet das die Anreize wirklich richtig aus?
Meiner Meinung nach nicht. Selbst wenn Nutzer Moderation auswählen, sollten sie die Moderationsfunktion jederzeit vorübergehend ausschalten und eine ungefilterte Ansicht sehen können. Man muss die Brille jederzeit abnehmen können. Andernfalls kann Moderation in einem ideologischen Kontext zu Zensur werden, und BlueSky wird zum Freund derer, die die öffentliche Meinung lenken wollen.
Selbst wenn Nutzer die Brille abnehmen können, dürfte Moderation die Produktion von Inhalten stark dämpfen. Warum sprechen, wenn niemand zuhört? Wenn Nutzer aber experimentell die Moderation abschalten können, kann jeder jederzeit beurteilen, ob Moderation hilfreich ist oder Zensur. Dann ist Moderation leicht zu entdecken und zu messen, wodurch auch Druck auf Moderatoren entsteht, rational zu handeln.
Ich denke, das ist auch gut für Gruppen. Wenn die Moderationsregeln einer ganzen Gruppe verbindlich feststehen und Nutzer nicht darüber hinausblicken können, wird die Moderation selbst zu einer mächtigen Position, sodass diejenigen, die die öffentliche Meinung verwalten wollen, wie immer Machtkämpfe austragen. Wenn Moderation dagegen immer auf Zustimmung beruht und dadurch abgeschwächt wird, werden die Spiele um die Kontrolle der öffentlichen Meinung weniger.
Gruppen sind besser damit bedient, sich über Mitgliedschaft selbst zu verwalten. Der Beitritt kann schwierig sein, aber sobald man drin ist, sollte die eigene Stimme unabhängig von Moderation für alle hörbar sein. Schwache Moderation erhöht den Wert der Gruppenmitgliedschaft und macht es leichter, Beitrittsbedingungen zu schaffen, die helfen, einander zu vertrauen. Solche Bedingungen beobachtbar und konsistent anzuwenden, ist wiederum ein anderes Problem.
Ehrlich gesagt mochte ich die Idee von BlueSky sehr und war ein früher Nutzer. Aber als ich letzte Woche sah, dass sie ein Trust-&-Safety-Team angekündigt oder zumindest eine neue Leitung eingestellt haben, habe ich die App gelöscht.
In meinem Kopf, und für viele Menschen, ist Trust and Safety ein Synonym für Zensur.
Wir leben in einer Zeit, in der Zensur eine enorme Gefahr für die Freiheit ist. Eine freie Gesellschaft muss debattieren können, und jede Person oder Organisation, die meint, sie besitze die Weisheit, die Grenzen dessen festzulegen, worüber Menschen diskutieren dürfen, ist eine Bedrohung für die Freiheit.
Ich hatte gehofft, BlueSky würde einen anderen Weg wählen, aber danach sieht es jetzt nicht mehr aus.
Ich frage mich, ob es für den Bluesky-Blog einen RSS-Feed gibt.
Es gibt allerdings diesen Feed (https://bsky.app/profile/did:plc:z72i7hdynmk6r22z27h6tvur/fe...), der alle Beiträge des Bluesky-Teams sammelt. Leider ist es auch nicht möglich, bsky-Feeds als RSS-Feed zu konsumieren. Einzelne Accounts kann man aber per RSS abonnieren, indem man
/rssan die Profil-URL anhängt. Der Account, der zum Beispiel die ursprüngliche Ankündigung gepostet hat, ist https://bsky.app/profile/safety.bsky.app/rss.Eine extrem gespaltene Gesellschaft wird also stark von konfigurierbaren Echokammern profitieren.
Anders als in der physischen Welt gibt es keine Knappheit an Land, der Cyberspace ist unendlich. Ich verstehe nicht, warum Menschen, die einander nicht ausstehen können, sich unbedingt ständig gegenseitig ins Gesicht springen wollen.
Jeder, der auch nur ein wenig Internetforen genutzt hat, weiß, dass im weiteren Sinne irgendeine Art von Moderation nötig ist. Persönlich würde ich kein soziales Netzwerk nutzen, in dem ich alltäglicher Transfeindlichkeit ausgesetzt bin. Nicht weil ich „beide Seiten“ nicht hören will, sondern weil ich bereits eine möglichst gefestigte Gegenposition habe und nicht mehr davon hören muss. Vielleicht gibt es keine allgemeine Lösung, aber ich schätze, was Bluesky versucht.