Was haltet ihr von Community Notes?

• Community Notes ist ein Fact-Checking-Tool, das Tweets Kontextinformationen hinzufügt, um Falschinformationen zu korrigieren. Es wurde im Januar 2021 zunächst als Pilotprojekt namens Birdwatch eingeführt und anschließend schrittweise ausgebaut.
• Nicht eine Expertengruppe, sondern jede Person kann schreiben und abstimmen; welche Notes angezeigt werden, entscheidet vollständig ein Open-Source-Algorithmus.
• Der Kern ist nicht ein einfacher Durchschnitt, sondern ein Verfahren, das Notes bevorzugt, die zugleich positive Bewertungen von Nutzern mit unterschiedlichen Perspektiven erhalten; Notes, über die lagerübergreifend Einigkeit besteht, bekommen hohe Punktzahlen.
• Die Links-rechts-Achse der Politik ist nicht hartcodiert, sondern wird in der Analyse von Nutzern und Notes emergent entdeckt; Daten und Code können heruntergeladen und die Ergebnisse selbst überprüft werden.
• Ziel ist nicht, jeden falschen Tweet zu korrigieren, sondern als pädagogisches Werkzeug an die Existenz vieler Perspektiven zu erinnern; damit kommt es dem Ideal „glaubwürdiger Neutralität“ (credible neutrality) nahe.

---

Hintergrund: Eine Funktion, die in den Umbrüchen von Twitter/X gewachsen ist

• In den vergangenen zwei Jahren hat Twitter seit Elon Musks Übernahme für 44 Milliarden US-Dollar tiefgreifende Veränderungen bei Personal, Content-Moderation und Geschäftsmodell durchlaufen.
• Mitten in diesen umstrittenen Veränderungen wurde eine neue Funktion schnell wichtig und erhielt unabhängig von der politischen Ausrichtung viel Lob.
  • Der Zeitpunkt der Übernahme fiel mit der Phase der stärksten Expansion zusammen.
  • Sie erscheint häufig bei Tweets, die ein großes Publikum erreichen, insbesondere zu politisch sensiblen Themen.
• Wenn eine Note angehängt ist, wird sie von Menschen verschiedener politischer Richtungen als nützlich und wertvoll bewertet.
• Obwohl es kein „Krypto-Projekt“ ist, gilt es in der Mainstream-Welt als eines der Beispiele, die „Krypto-Werten“ (crypto values) am nächsten kommen.
  • Nicht zentral ausgewählte Experten, sondern jede Person kann schreiben und abstimmen.
  • Ob etwas angezeigt wird, entscheidet vollständig ein Open-Source-Algorithmus.

So funktioniert der Community-Notes-Algorithmus

• Jedes Twitter-Konto, das bestimmte Kriterien erfüllt (seit mindestens 6 Monaten aktiv, keine jüngsten Regelverstöße, verifizierte Telefonnummer), kann sich zur Teilnahme bewerben.

  • Derzeit werden Teilnehmende langsam und zufällig zugelassen; langfristig sollen alle Personen zugelassen werden, die die Kriterien erfüllen.
  • Anfangs kann man nur bestehende Notes bewerten; wer genügend gute Bewertungen gesammelt hat, kann selbst Notes schreiben.

• Geschriebene Notes erhalten anhand der Reviews anderer Teilnehmender eine Punktzahl.

  • Reviews bestehen aus einer Abstimmung auf einer 3-Punkte-Skala — HELPFUL, SOMEWHAT_HELPFUL, NOT_HELPFUL — plus zusätzlichen Tags.
  • Liegt die Punktzahl über 0,40, wird die Note angezeigt; andernfalls nicht.

• Die Besonderheit der Punkteberechnung

  • Statt einfacher Summe oder einfachem Durchschnitt werden Notes explizit bevorzugt, die positive Bewertungen von Menschen mit unterschiedlichen Perspektiven erhalten.
    • Wenn Menschen, deren Bewertungen sonst auseinandergehen, einer bestimmten Note zustimmen, erhält diese Note eine besonders hohe Punktzahl.
  • Es wird eine Nutzer×Note-Matrix M erstellt; jede Zelle Mi,j beschreibt, wie der i-te Nutzer die j-te Note bewertet hat.
    • Die meisten Nutzer bewerten die meisten Notes nicht, daher ist der Großteil der Matrix 0 — das ist kein Problem.
  • Ein Modell mit vier Spalten sagt die Matrix voraus, indem es Nutzern „Freundlichkeit“ (friendliness) und „Polarität“ (polarity) sowie Notes „Nützlichkeit“ (helpfulness) und „Polarität“ (polarity) zuweist.

• Bedeutung der Variablen

  • μ ist ein Parameter für die „allgemeine öffentliche Stimmung“, der widerspiegelt, wie hoch Nutzer insgesamt bewerten.
  • iu steht dafür, dass ein bestimmter Nutzer tendenziell hohe Bewertungen vergibt (Freundlichkeit).
  • in steht dafür, dass eine bestimmte Note tendenziell hoch bewertet wird (Nützlichkeit), und ist letztlich die Variable, die interessiert.
  • fu/fn ist die Position auf der dominanten Achse politischer Polarisierung (Polarität); negative Werte entsprechen grob links, positive grob rechts.
    • Das Links-rechts-Konzept ist jedoch nicht hartcodiert, sondern wird in der Analyse emergent entdeckt.

• Kernidee

  • Die Matrixvorhersage wird mit standardmäßigem gradient descent optimiert; die einer Note zugewiesene Nützlichkeit ist ihre finale Punktzahl.
  • Der Polaritätsterm absorbiert Eigenschaften, die nur manchen gefallen, während der Nützlichkeitsterm nur Eigenschaften misst, die allen gefallen.
    • Daher identifiziert die Auswahl nach Nützlichkeit lagerübergreifende Zustimmung und schließt Notes aus, die nur ein Lager bejubelt.

• Zusätzliche Mechanismen auf dem Kern

  • Es werden zufällige extreme „Pseudo-Stimmen“ hinzugefügt und mehrere Läufe durchgeführt; die untere Konfidenzgrenze dieser Spannweite wird mit einem Schwellenwert von 0,32 verglichen.
  • Wenn viele Nutzer mit ähnlicher Polarität mit demselben Tag („umstrittene oder voreingenommene Formulierung“, „Quelle stützt die Note nicht“ usw.) Not Helpful vergeben, steigt der Veröffentlichungsschwellenwert von 0,4 auf 0,5 (in der Praxis sehr bedeutend).
  • Damit eine einmal bestätigte Note wieder entfernt wird, muss ihre Nützlichkeit 0,01 Punkte unter den Bestätigungsschwellenwert fallen.
  • Durch deutlich mehr Läufe mit mehreren Modellen können Notes, deren ursprüngliche Punktzahl zwischen 0,3 und 0,4 liegt, ebenfalls hochgestuft werden.
  • Insgesamt handelt es sich um 6.282 Zeilen komplexen Python-Code in 22 Dateien; alles ist öffentlich und kann selbst ausgeführt und überprüft werden.

Wie es in der Praxis funktioniert

• Der wichtigste Unterschied zum einfachen Durchschnitt ist das Konzept des Polaritätswerts (polarity); da zwei Terme (fu, fn) miteinander multipliziert werden, wird das f für factor verwendet.

  • Polarität wird sowohl Nutzern als auch Notes zugewiesen; die Verbindung zwischen Nutzer-IDs und tatsächlichen Accounts bleibt absichtlich privat, Notes sind öffentlich.
  • Im englischen Datensatz entspricht die Polarität sehr eng dem politischen Links-rechts-Spektrum.

• Beispiele für Notes nahe Polarität -0,8

  • Inhalt, wonach Lauren Boebert und andere konservative Abgeordnete aus Colorado anti-trans Rhetorik verstärkt hätten (-0,800).
  • Inhalt, wonach Trump vor der US-Präsidentschaftswahl 2020 das Vertrauen der Amerikaner in Wahlergebnisse ausdrücklich untergraben habe (-0,825).
  • Inhalt, wonach die US-Präsidentschaftswahl 2020 frei und fair durchgeführt worden sei (-0,818).
  • Diese drei Punkte wurden nicht willkürlich ausgewählt, sondern waren bei lokaler Ausführung die ersten drei Zeilen mit Polarität (coreNoteFactor1) unter -0,8.

• Beispiele für Notes nahe Polarität +0,8

  • Viele betrafen brasilianische Politik auf Portugiesisch oder Widerlegungen von Tesla-Kritik, daher wurde teilweise ausgewählt.
  • Inhalt, wonach 2021 64 % der „schwarzen“ Kinder in Einelternhaushalten lebten (+0,809).
  • Inhalt, wonach Kinderhandel ein reales großes Problem sei und Operation Underground Railroad dagegen vorgehe (+0,840).
  • Inhalt, wonach verbotene LGBTQ+-Kinderbücher obszön seien und nicht durch die verfassungsrechtliche Meinungsfreiheit geschützt würden (+0,806).
  • Da die Links-rechts-Spaltung nicht hartcodiert, sondern emergent entdeckt wurde, kann das System bei Anwendung in anderen Kulturkreisen auch die dominierende politische Spaltung dieser Gesellschaft automatisch erkennen und damit verknüpfen.

• Notes mit höchster Nützlichkeit

  • Sie werden tatsächlich auf Twitter angezeigt und können direkt per Screenshot erfasst werden.
  • Das zweite Beispiel behandelt ein parteipolitisches Thema direkter, wird aber hoch bewertet, weil es klar, hochwertig und nützlich ist.
  • Der Algorithmus funktioniert, und auch die Möglichkeit, die Ausgabe durch Ausführen des Codes zu überprüfen, scheint zu funktionieren.

Bewertung des Algorithmus

• Am beeindruckendsten an der Analyse ist die Komplexität: Es gibt eine akademische Version (5-Term-Vektor und gradient descent über Matrixgleichungen) sowie eine praktische Version mit vielen frei gewählten Koeffizienten.

  • Selbst die akademische Version versteckt intern Komplexität: Wegen des quadratischen Terms fu∗fn und der Kostenfunktion mit quadratischem Fehler entsteht eine Gleichung vierten Grades.
  • Gleichungen vierten Grades können mehrere Lösungen haben, sodass gradient descent bei jedem Lauf zu einer anderen Antwort gelangen kann.
    • Kleine Änderungen der Eingabe können die Ausgabe stark verändern, indem sie zwischen lokalen Minima umkippen.

• Algorithmus von Ökonomen vs. Algorithmus von Ingenieuren

  • Der Unterschied zu Arbeiten wie quadratic funding wirkt wie die Unterscheidung zwischen Algorithmen von Ökonomen und Algorithmen von Ingenieuren.
    • Algorithmus von Ökonomen: einfach und leicht analysierbar; mathematische Eigenschaften, die Optimalität zeigen, und Grenzen für Missbrauchsschäden lassen sich beweisen; er bricht in unerwarteten Situationen nicht vollständig zusammen.
    • Algorithmus von Ingenieuren: Ergebnis iterativen Ausprobierens, praktisch und erledigt die Aufgabe.
  • Die „theorycel aesthetic“ von Krypto ist nötig, um Protokolle, die tatsächlich kein Vertrauen erfordern, von Strukturen zu unterscheiden, die zwar gut aussehen, intern aber zentralen Akteuren vertrauen müssen oder Betrug sind.
  • Deep Learning funktioniert, wenn es funktioniert, ist aber anfällig für adversarial machine learning attacks; eine Frage ist daher, ob Community Notes stärker in Richtung eines Ökonomen-Algorithmus gebracht werden kann.

• Beispiel: pairwise-bounded quadratic funding

  • Ein Design, um die Lücke im normalen quadratic funding zu schließen, bei der schon zwei kolludierende Teilnehmende über ein Fake-Projekt den gesamten Pool abziehen können.
  • Jedem Teilnehmerpaar wird ein begrenztes Budget M zugewiesen; Zuschüsse für Projekte, die A und B gemeinsam unterstützen, werden vom Budget des Paars (A,B) abgezogen.
    • Selbst wenn k Personen kolludieren, ist der maximal entwendbare Betrag auf k∗(k−1)∗M begrenzt.
  • Bei Community Notes lässt sich das jedoch nicht unverändert anwenden, weil Nutzer jeweils sehr wenige Stimmen abgeben und daher zwei Nutzer kaum gemeinsame Bewertungen haben.
    • Das Ziel des Machine-Learning-Modells ist gerade, die Matrix aus spärlichen Daten zu füllen; damit wenige böswillige Stimmen das Ergebnis nicht instabil machen, ist zusätzliche Arbeit nötig.

• Reduziert Community Notes tatsächlich Polarisierung?

  • Auch naives Voting reduziert Polarisierung bis zu einem gewissen Grad (ein Beitrag mit 200 Zustimmungen und 100 Ablehnungen liegt niedriger als einer mit nur 200 Zustimmungen).
  • Abstrakt ist das schwer zu beurteilen, daher wurde es mit einer vereinfachten Implementierung 100 Runden lang direkt ausgeführt.
    • Gruppe 1 (gut): 0,300, Gruppe 2 (gut, aber stärker polarisiert): 0,217, Gruppe 3 (neutral): 0,094, Gruppe 4 (schlecht): -0,152.
    • „Gut“ bedeutet +2 im eigenen Lager und +0 im gegnerischen; „gut, aber stärker polarisiert“ bedeutet +4 und -2 — gleicher Durchschnitt, aber andere Polarität.
  • Tatsächlich erhält die „gute“ Note im Mittel eine höhere Nützlichkeit als die „gute, aber stärker polarisierte“ Note.
  • Je näher man an einen Ökonomen-Algorithmus herankommt, desto klarer lässt sich das Prinzip der Polarisierungsstrafe erklären.

Nützlichkeit in Hochrisikosituationen

• Vor etwa einem Monat kritisierte Ian Bremmer, dass eine kritische Note zu einem Tweet eines chinesischen Regierungsbeamten gelöscht worden sei.

  • Anders als bei kleinen Experimenten der Ethereum-Community ging es um politische und geopolitische Fragen, die Millionen Menschen betreffen; daher unterstellen alle ein Höchstmaß an böser Absicht.
  • Da Elon viele Geschäftsinteressen in China hat, konnten Verdachtsmomente für zentralisierte Manipulation entstehen.

• Direkte Überprüfung per Open Source

  • Über die ursprüngliche Tweet-ID 1676157337109946369 wurde in den heruntergeladenen Daten die entsprechende Note-Zeile gefunden und die Note-ID 1676391378815709184 ermittelt.
  • Die Suche in scored_notes.tsv und note_status_history.tsv ergab: aktueller Status NEEDS_MORE_RATINGS, zuvor CURRENTLY_RATED_HELPFUL.
    • Der Algorithmus hatte die Note zunächst angezeigt und sie entfernt, nachdem ihre Bewertungen gefallen waren; ein zentraler Eingriff ist nicht erkennbar.
  • Sortiert man ratings-00000.tsv nach Zeit und betrachtet die ersten 50 Stimmen, sieht man 40-mal HELPFUL und 9-mal NOT_HELPFUL.
    • Das frühe Publikum war wohlwollender als das spätere, deshalb war die Bewertung anfangs hoch und fiel dann.
  • Der Zustandswechsel war kein einfaches Überschreiten eines Schwellenwerts, sondern das Ergebnis davon, dass viele NOT_HELPFUL-Bewertungen die Outlier-Bedingung auslösten und so die erforderliche Nützlichkeitspunktzahl erhöhten.
    • Damit ein glaubwürdig neutraler Algorithmus wirklich Vertrauen genießt, muss er einfach bleiben; Zustandsänderungen brauchen einfache und klare Erklärungen.

• Anfälligkeit für Brigading

  • Wer eine Note nicht mag, kann möglicherweise viele aktive Community-Mitglieder oder Fake-Accounts mobilisieren, um massenhaft NOT_HELPFUL zu vergeben — also Brigading.
    • Um eine Note von „nützlich“ auf „polarisiert“ herabzustufen, braucht es womöglich gar nicht so viele Stimmen.
  • Als Verbesserung wird vorgeschlagen, nicht jede Person über jede beliebige Note abstimmen zu lassen, sondern Notes zufällig über den „For you“-Feed zuzuweisen und nur die zugewiesenen Notes bewerten zu lassen.

• Ist Community Notes nicht „mutig“ genug?

  • Die wichtigste Kritik lautet, dass es nicht genug tut; zwei jüngere Artikel weisen darauf hin.
    • Damit eine Note veröffentlicht wird, braucht es ideologische Einigkeit über das politische Spektrum hinweg, und in einem zunehmend parteiischen Umfeld ist „überparteiliche Einigkeit über die Wahrheit“ nahezu unmöglich.
  • Trotzdem gilt: Es ist besser, zehn falsche Tweets zu übersehen als eine einzige unfaire Note zu zeigen.
    • Mutiges Fact-Checking nach dem Motto „Wir kennen die Wahrheit, und eine Seite lügt häufiger“ führt am Ende zu breitem Misstrauen gegenüber dem Fact-Checking selbst.
    • Es ist wertvoll, eine lagerübergreifende Institution aufzubauen, die alle in gewissem Maß respektieren; wie in William Blackstones Maxime muss ein System eher Sünden der Unterlassung als der Handlung begehen, um Respekt zu behalten.
  • Ziel ist nicht, alle oder die meisten falschen Tweets mit Korrektur-Notes zu versehen.
    • Selbst wenn weniger als 1 % der falschen Tweets eine Note erhalten, ist der Dienst als pädagogisches Werkzeug äußerst wertvoll.
    • Ziel ist, an die Existenz vieler Perspektiven zu erinnern und bewusst zu machen, dass überzeugend wirkende Beiträge falsch sein können und man dies durch eigene Suche prüfen kann.
  • Es ist kein Allheilmittel für alle Probleme öffentlicher Erkenntnis; andere Mechanismen wie prediction markets oder Organisationen mit Fachpersonal können Lücken füllen.

Fazit

• Community Notes ist ein spannendes Social-Media-Experiment und ein Beispiel für ein neues Genre von Mechanismusdesign, das Polarisierung identifiziert und das Überbrücken von Spaltungen priorisiert.
  • Weitere Beispiele derselben Kategorie sind pairwise quadratic funding, wie es bei Gitcoin Grants verwendet wird, sowie das Diskussionstool Polis, das per Clustering breit unterstützte Aussagen findet.
  • Es bleibt zu hoffen, dass es in diesem Bereich mehr akademische Forschung geben wird.
• Die Algorithmustransparenz von Community Notes ist keine vollständig dezentrale Social-Media-Lösung; wer dem Algorithmus nicht zustimmt, hat keine Möglichkeit, dieselben Inhalte mit einem anderen Algorithmus zu sehen.
  • Dennoch ist es wohl die Form, der hyperskalige Anwendungen in den kommenden Jahren am nächsten kommen können, und es bietet bereits großen Wert — sowohl bei der Verhinderung zentralisierter Manipulation als auch dabei, Plattformen, die nicht manipulieren, die verdiente Anerkennung zu verschaffen.

[GN⁺]

Meinungen auf Hacker News

• Interessanter Beitrag. Community Notes scheint auf einem mathematisch ziemlich soliden Modell aufzubauen.
  Es wirkt deutlich weniger anfällig für voreingenommenes Gruppenverhalten als bestehende Pro-/Contra-Abstimmungssysteme, dürfte aber nicht völlig immun dagegen sein. Da „Voreingenommenheit“ vom Blickwinkel der betrachtenden Person abhängt, ist es unrealistisch, von irgendeinem System zur Bewertung von Inhalten völlige Unvoreingenommenheit zu erwarten.
  Community Notes und Kryptowährungen haben gemeinsam, dass sie „dank komplexer Mathematik sehr robust sind, für 95 % der Menschen aber völlig undurchschaubar“. Allerdings wirkt die Verbindung angesichts des Umfangs, den der Beitrag ihr widmet, ziemlich schwach. Vitalik schreibt nun einmal einen Krypto-Blog, also scheint es auf die Leserschaft zugeschnitten zu sein, aber trotzdem war es ein guter Beitrag.

  • Die Verbindung zu Kryptowährungen beruht nicht nur auf der Mathematik, sondern auch auf den Prinzipien der Open-Source-Überprüfbarkeit des Algorithmus und der glaubwürdigen Neutralität.

• Ich mag Community Notes wirklich sehr. In Brasilien werden sie seit einiger Zeit genutzt, um Posts von Politikerinnen und Politikern zu überprüfen, die ständig lügen oder die Geschichte umschreiben wollen.
  Es fühlt sich an wie ein kleines Schandabzeichen, das an einen Post geheftet wird, und bislang scheint es Politikerinnen und Politiker über das gesamte politische Spektrum hinweg zu betreffen.

  • Es ist wirklich traurig, dass genau solche Politikerinnen und Politiker unter dem Vorwand, Desinformation, also „Fake News“, zu bekämpfen, alle möglichen Informationsquellen regulieren wollen.

• „Deep Learning vs. Kryptowährungen ist eine klare Trennung zwischen Rotator und Wordcel. Ersteres widerspricht dem ästhetischen Empfinden des Theorycel, erzeugt empirisch aber völlig absurde Wunder. Letzteres ist eine Aneinanderreihung irrer Nerd-Traps und himmelhoher Abstraktionsleitern, aber größtenteils Betrug.“
  Kann mir jemand diesen meme-verseuchten Satz ins Englische übersetzen?
  Außerdem wirkt das für etwas, das Vitalik postet, ziemlich kryptofeindlich formuliert.

  • Dass ein erheblicher Teil der Publikationen rund um Krypto im Grunde Betrug ist, ist nahezu Allgemeinwissen, und Vitalik war schon immer kritisch gegenüber Plänen, die nur aufs Geld aus sind. Vitaliks Projekt Ethereum hat stark unter den „shit coins“ gelitten, also alternativen Kryptowährungen, die nur zum Geldverdienen gedacht sind.
    Wenn normale Nutzerinnen und Nutzer auf magische Weise wüssten, welche Krypto-Technologien diesem Bereich tatsächlich Wert hinzufügen und welche nicht, wäre das gesamte Ökosystem viel gesünder.
    Der Rest des Satzes ist eher eine amüsante Selbstironie. Er scheint sich zum Beispiel durchaus der Forschungs-Kaninchenlöcher und mathematischen Abstraktionen bewusst zu sein, in die das Ethereum-Team geraten ist, um Staking zum Laufen zu bringen.
    Wenn Ethereum nicht auf allen Kryptobörsen ganz oben stünde und Vitalik nicht einigermaßen bekannt wäre, wie schwer wäre es dann für den durchschnittlichen Krypto-Interessierten, Ethereums „irre Nerd-Traps und himmelhohe Abstraktionsleitern“ von Betrug zu unterscheiden?
  • „Deep Learning vs. Kryptowährungen ist eine klare Trennung zwischen Rotator und Wordcel“ kann man ungefähr als „Deep Learning vs. Kryptowährungen ist eine klare Trennung zwischen Mathe-Mensch und Sprach-Mensch“ verstehen.
    „Ersteres widerspricht dem ästhetischen Empfinden des Theorycel, erzeugt empirisch aber völlig absurde Wunder“ bedeutet, dass Deep Learning für Menschen, die tief in der Theorie stecken, nicht so aussieht, als würde es funktionieren, aber trotzdem hervorragende Ergebnisse liefert.
    „Letzteres ist eine Aneinanderreihung irrer Nerd-Traps und himmelhoher Abstraktionsleitern, aber größtenteils Betrug“ bedeutet, dass Kryptowährungen voller interessanter technischer Problemstellungen sind, die Ergebnisse aber größtenteils Betrug sind.
  • Zum Glück gibt es eine Website, die das erklärt: https://knowyourmeme.com/memes/wordcel-shape-rotator-mathcel
    Ein Shape Rotator ist jemand, der Formen im Kopf drehen kann, also eine Art Stellvertretermaß für Intelligenz. Es geht um Menschen, die gut in Mathematik oder STEM sind, aber das Gefühl haben, dass dieser Wert nicht anerkannt wird.
    Ein Wordcel ist jemand, der gut mit Worten oder Rhetorik ist, aber das Gefühl hat, dass diese Fähigkeit nicht ausreichend anerkannt wird oder ihm im Leben nicht wirklich weiterhilft.
  • Es bedeutet: „ChatGPT, erfinde mir bitte ein paar Fachbegriffe, die Leute, die ohnehin schon überzeugt hereingekommen sind, sich wie Insider fühlen lassen, während schwerer zu täuschende Leute^W^W, nein, Hater, außerhalb der Sicherheitszone bleiben.“

• Community Notes dürften in gewissem Maße ähnliche Stärken und Schwächen haben wie Wikipedia.
  Community Notes werden nicht von einer zentral ausgewählten Expertengruppe geschrieben oder kuratiert, sondern jede und jeder kann sie schreiben und darüber abstimmen. Es ist nicht perfekt, kommt dem Ideal glaubwürdiger Neutralität aber erstaunlich nahe.
  Wenn das der optimistische Vorteil ist, dann besteht der Nachteil darin, dass dieselben Bias-Probleme wie bei sozialen und kulturellen Themen auf Wikipedia entstehen können, sobald bestimmte Bevölkerungsgruppen stärker zum Schreiben solcher Notes hingezogen werden oder Twitter selbst dominieren. Was auch immer dann herauskommt, es wird keine „glaubwürdige Neutralität“ sein.

  • Wikipedia ist viel schlimmer. Denn dort werden bestimmte Editoren über bestimmten Seitengruppen, insbesondere politischen Seiten, faktisch institutionalisiert, sodass Bearbeitungen nur in die von ihnen gewünschte Richtung laufen.
    Bei Community Notes kann jede und jeder sie prüfen und als hilfreich/nicht hilfreich markieren.
  • Ich weiß nicht, ob Community Notes das berücksichtigt, aber wenn man Mitwirkenden anhand ihres früheren Abstimmungsverhaltens Bias-Gewichte gibt und die Ausgabe medianisiert, könnte man das Heranstürmen einer Seite oder organisiertes Abstimmen verhindern.
  • Nutzer können Community Notes bewerten.

• Einige Community Notes, die ich gesehen habe, waren ziemlich gut. Mir gefällt, dass man sie auch an Werbung anhängen kann.
  Viele Werbeanzeigen, die derzeit auf Twitter erscheinen, haben Community Notes, weil die Anzeige etwas behauptet, während das tatsächliche Produkt etwas völlig anderes tut.

  • Das war überraschend beeindruckend. Das erste Mal habe ich so etwas bei Faktenchecks auf Instagram gesehen, und ich erinnere mich, dass es fast sofort absurd wurde, weil Leute Faktenchecks unter offensichtliche Scherzposts oder Memes setzten.
    Community Notes hingegen erscheinen an den passenden Stellen, sind ziemlich informativ und wirken in manchen Fällen erstaunlich detailliert.
  • Wow, beeindruckend. Nutzer sehen eine Anzeige, schauen sie bis zum Ende an und schreiben sogar noch etwas dazu – aus Sicht von Werbetreibenden ist das ein Traum. Eine Engagement-Rate ohnegleichen.

• Community Notes sind bei all dem das einzig Gute, was X passiert ist.

  • Community Notes wurden im Januar 2021 unter dem Namen „Birdwatch“ eingeführt, gab es also schon vor Musks Übernahme.

• Jemand hat es hier in den Kommentaren schon angedeutet, aber das erinnert stark an eine deutlich ausgefeiltere Version von Slashdots Moderationsmodell.
  Das war meine liebste Art der Moderation auf einer Website. Ein Meta-Urteil oder eine Einordnung zu etwas abzugeben fühlte sich nicht wie ein selbstverständliches Recht an, sondern wie ein Privileg.

• Das größte Problem sehe ich darin, „Polarität“ als eine einzige Achse zu behandeln. Tatsächlich lassen sich viele Themen so anordnen, aber die Themen, bei denen das nicht funktioniert, sind wichtig.
  Es ist gut, dass Bemühungen in Richtung verteilter Moderation erkennbar sind, aber um diesen Traum zu verwirklichen, ist das Ganze noch viel zu zentralisiert.

• Der Text versucht wiederholt, die Leser zu beruhigen, dass die Links-rechts-Dichotomie nicht hartcodiert ist, sondern „emergent“ entstanden sei, geht aber überhaupt nicht im Detail darauf ein, wie genau das passiert ist.
  Dass eine Links-rechts-Unterscheidung auftauchte, wirkt seltsam. Warum ausgerechnet links/rechts und nicht etwa religiös/nicht religiös oder autoritär/liberal? Gibt es öffentliche Daten, mit denen man überprüfen kann, ob das stimmt, oder muss man einfach der Organisation glauben?

  • Das lässt sich leicht erklären, wenn man bedenkt, dass sich die Bedeutung von links/rechts im Lauf der Zeit ständig verändert. Wie würde man zum Beispiel jemanden einordnen, der für Meinungsfreiheit ist, gegen Krieg, gegen Hegemonie, für Chancengleichheit und für eine Gesellschaft, die Hautfarbe nicht berücksichtigt? Vor 20 Jahren wäre das ein ganz typischer Liberaler gewesen, heute ist das nicht mehr so.
    Wenn wir also von links und rechts sprechen, beziehen wir uns nicht auf feste Werte oder grundlegende Werte an sich. Alles verschiebt sich ständig, oft auch auf widersprüchliche Weise. Deshalb werden diese Begriffe zu Stellvertretern für sich fortlaufend verändernde Bruchlinien in der Gesellschaft. In diesem Sinn ist es fast tautologisch, dass eine faire Stichprobe der Gesellschaft am Ende entlang dieser Begriffe aufgeteilt wird.
  • So wie es aussieht, ist diese Unterscheidung tatsächlich gar nicht links/rechts. Nach meinem Verständnis reduziert der Algorithmus die hochdimensionale „Ausrichtung“ von Nutzern/Notes auf eine eindimensionale „Polarität“, und diese überschneidet sich zufällig bis zu einem gewissen Grad mit der Parteiteilung in den USA.
    Bei einem Zweiparteiensystem ist das ziemlich erwartbar. Jede Partei versucht, sich an möglichst vielen Wählern auszurichten, daher ist durchaus zu erwarten, dass die Trennung Republikaner/Demokraten eine „gute“ Schnittfläche durch den Ausrichtungsraum bildet.
    Im Grunde sucht der Algorithmus explizit nach der „optimalen“ Polaritätsachse, die am meisten Information darüber enthält, welchen Inhalten Nutzer zustimmen würden, während sich ein Zweiparteiensystem als emergente Eigenschaft der Bewegung der Parteipolitik implizit entlang einer solchen Achse ausrichtet.
  • Keine direkte Antwort, aber ein Freund hat vor einigen Jahren ein ähnliches Experiment gemacht. Er sammelte mehrere kontroverse Fragen und wendete auf die Antworten eine Hauptkomponentenanalyse an. Heraus kamen zwei Achsen; mathematisch gibt es zwar weitere Achsen, aber die übrigen hatten geringe Bedeutung. Die größte Achse ähnelte sehr stark „links/rechts“.
    http://politics.beasts.org/scripts/eigenvectors
    Es wäre interessant, das heute mit denselben oder anderen Fragen zu wiederholen.
  • Ich weiß nicht, ob das als Beweis gilt, aber die Links-rechts-Dichotomie ist auch in den meisten realen Ländern „emergent“ entstanden. Sie ist nicht die einzige Variationsachse, die wir sehen, aber eine der dominanten.
    Twitter ist ebenfalls Teil der realen Welt, also könnten Nutzer bereits mit der Neigung hineingekommen sein, sich in linke/rechte Stämme einzuordnen, und anschließend könnten die Blasenbildungsmechanismen sozialer Medien den Polarisierungsprozess beschleunigt haben.
  • Der Code ist Open Source: https://github.com/twitter/communitynotes
    Auch Notes und Bewertungsdaten werden täglich veröffentlicht: https://twitter.com/i/communitynotes/download-data
    Man kann den Matrixfaktorisierungs-Code selbst auf die Daten laufen lassen und die dabei gefundenen latenten Dimensionen eigenständig interpretieren. Und wenn man den Code liest, kann man auch sehen, dass tatsächlich keine bestimmte Links-rechts-Unterscheidung hartcodiert ist, sondern eine Matrixfaktorisierung durchgeführt wird.

• Etwas ungnädig zusammengefasst: Die meisten Menschen mögen Community Notes, und Vitalik möchte, dass Krypto etwas von dieser Sympathie abbekommt. Weil Krypto diese Sympathie dringend fehlt, behauptet er, beide hätten eine gemeinsame philosophische oder funktionale Abstammung.
  Meiner Meinung nach ergibt das keinen Sinn und wirkt wie der Versuch, eine tote Kuh an eine lebende zu binden. Aber es ist sein Blog, also kann er machen, was er will.

  • Wohlwollender betrachtet könnte man sagen, dass Vitalik ein intellektuelles Interesse an der Schnittstelle von Mathematik/Systemen und Governance hat und dass dieses Interesse sowohl zu Krypto als auch zu diesem Text geführt hat.
    Ich bin ein völliger Krypto-Skeptiker, aber ich hatte nicht das Gefühl, dass die kurze Erwähnung von Krypto den Wert des restlichen Textes schmälert.
  • Vitalik schreibt seit Jahren philosophische Texte über technische und ökonomische Systeme. Die Vorstellung, er sei ein machiavellistischer Strippenzieher, der mit einem übermäßig detaillierten technischen Analyse-Blogpost Sympathie absaugen will, ist auf geradezu komische Weise unzutreffend.
  • Das ist eine viel zu ungnädige Auslegung. Ich bin kein Krypto-Befürworter, aber Vitalik ist jemand, der Ideen, die er in diesem Bereich interessant findet, konsequent erkundet, und auch dieser Text wirkt aufrichtig, nicht wie der Versuch, „eine tote Kuh an eine lebende zu binden“.
    Der Großteil des Textes hat überhaupt nichts mit Krypto zu tun.
  • Man kann die Krypto-bezogenen Teile beim Lesen auch ausblenden, und der Text ist trotzdem nützlich. Ich wusste jedenfalls nicht, dass Community Notes auf diese Weise funktioniert.
    Quadratic Funding ist auch für sich genommen interessant, und man muss für die Umsetzung nicht zwingend Krypto verwenden.
  • Als jemand, der in diesem Bereich arbeitet, sehe ich das so: Vitalik ist ein Vordenker. Krypto-Entwickler respektieren ihn sehr.
    Der Blog auf vitalik.ca behandelt größtenteils Krypto und angrenzende Themen, und genau darauf liegt derzeit der Fokus von Vitaliks Forschung und Entwicklung. Er schreibt seit über zehn Jahren über Krypto.
    Wenn er auf seinem eigenen Blog Aufmerksamkeit auf Community Notes lenken möchte, dann wahrscheinlich vor allem, weil ihm das Nachdenken und Schreiben darüber Spaß macht. Als positiven Nebeneffekt hätte er aber vermutlich auch nichts dagegen, wenn Krypto-Entwickler sich von Community Notes inspirieren lassen, insbesondere beim Aufbau krypto-nativer sozialer Netzwerke.