- Während der US-Präsidentschaftswahl 2020 verbreiteten in einer Stichprobe von US-Wählern auf X (ehemals Twitter) rund 2.000 Supersharer 80 % der Inhalte von Fake-News-Websites; die Verbreitung von Desinformation konzentrierte sich damit auf eine winzige Zahl von Accounts
- Diese Gruppe war im Schnitt 58 Jahre alt und damit 17 Jahre älter als der Stichprobendurchschnitt; fast 60 % waren Frauen, und die registrierte Parteizugehörigkeit lag bei 64 % Republikaner und 16 % Demokraten
- Die Forschenden hatten wegen der hohen Aktivität Automatisierung erwartet, fanden aber in Tweet-Zeitpunkten und -Abständen keine Bot-Muster; das Verhalten ähnelte eher tatsächlichen Nutzern, die selbst retweeten
- Wären diese Accounts im August 2020 gesperrt worden, hätte sich die von Wählern gesehene Fake-Wahlnachrichtenmenge schätzungsweise um zwei Drittel verringert; ein Limit von 50 Retweets pro Tag würde etwa 90 % der Supersharer betreffen, aber nur 1 % aller Nutzer
- Retweet-Limits oder erneute Bestätigungsschritte könnten die Verbreitung reduzieren, ohne die User Experience der meisten Nutzer stark zu beeinträchtigen; die tatsächliche Wirkung hängt jedoch davon ab, zu verstehen, warum diese Personen weiter Inhalte verbreiten
Konzentrierte Verbreitung in Daten zur Wahl 2020
- Laut einer in Science veröffentlichten Analyse war die Verbreitung von Inhalten von Fake-News-Websites in einer Stichprobe von mehr als 600.000 US-Wählern auf X (ehemals Twitter) stark auf wenige Nutzer konzentriert
- Wenn Inhalte zur US-Präsidentschaftswahl 2020 von Seiten wie Infowars oder Gatewaypundit in Social Feeds auftauchten, stammten sie mit hoher Wahrscheinlichkeit aus einer sehr kleinen Nutzergruppe
- Die Forschenden nutzten Daten von 660.000 US-Nutzern von X, die Klarnamen und Standortangaben verwendeten, und glichen sie mit Wählerregistrierungsdaten ab
- Rund 7 % der politischen Nachrichten, die diese Nutzer pro Tag teilten, stammten von nicht vertrauenswürdigen Websites wie Infowars und Gatewaypundit
- Davon verbreiteten 2.107 Personen 80 % der Fake News; mehr als einer von 20 Nutzern im Datensatz folgte mindestens einem Supersharer, sodass die Reichweite der kleinen Gruppe groß war
Merkmale der Supersharer und mögliche Gegenmaßnahmen
- Das Durchschnittsalter der Supersharer lag bei 58 Jahren und damit 17 Jahre über dem Durchschnitt der gesamten Studie; fast 60 % waren Frauen, was nicht dem Klischee entspricht, Social-Media-Manipulatoren seien junge Männer aus der Alt-Right-Szene
- Die registrierte Parteizugehörigkeit lag bei 64 % Republikaner und 16 % Demokraten
- Trotz der hohen Aktivität zeigten Tweet-Zeitpunkte oder -Abstände keine Muster, die auf Automatisierung hindeuteten; Co-Autorin Briony Swire-Thompson erklärte, diese Personen säßen tatsächlich vor dem Computer und drückten den Retweet-Button
- Für Nir Grinberg ist Supersharing weniger ein einmaliger Wahleingriff technikaffiner Einzelpersonen, sondern eher ein langfristiger sozio-technischer Prozess, der das Informationsökosystem eines Teils der Gesellschaft verunreinigt
- Frühere Forschung zeigte ein ähnliches Konzentrationsphänomen
- 2019 analysierten Nir Grinberg und Kollegen in einer Stichprobe von mehr als 16.000 Twitter-Nutzern aus der Zeit rund um die US-Präsidentschaftswahl 2016, dass 80 % der getweeteten Nachrichten von nicht vertrauenswürdigen Websites von nur 16 Personen stammten
- Gegenmaßnahmen könnten darauf ausgelegt sein, Supersharer direkt ins Visier zu nehmen oder den Retweet-Prozess einzuschränken
- Wären Supersharer im August 2020 gesperrt worden, hätte sich die Zahl der von Wählern gesehenen Fake-Wahlnachrichten schätzungsweise um zwei Drittel verringert
- Ein Tageslimit von 50 Retweets würde etwa 90 % der Fake-News-Supersharer in der Studie betreffen
- Beim selben Limit würden nur etwa 1 % aller Nutzer an die Grenze stoßen
- Stephan Lewandowsky meint, X könne statt eines absoluten Limits den Prozess etwas umständlicher machen, indem Nutzer gefragt werden, ob sie wirklich retweeten möchten
- Die verbleibende Frage verschiebt sich von dem, was Supersharer tun, hin zu warum sie es tun
1 Kommentare
Hacker-News-Kommentare
Die richtige Frage ist nicht „Wie verhindern wir das Teilen von Fake News?“, sondern „Wie stellen wir sicher, dass Menschen Werkzeuge zur Erkennung von Fake News haben?“
Wenn man ihnen Werkzeuge gibt und jemand trotzdem etwas verbreitet, das ich für Fake News halte, dann hat man im Grunde getan, was man konnte. Zu viele Menschen sind wütend darüber, dass andere Dinge teilen, die von ihren eigenen Ansichten abweichen, und wollen die Kommunikation unterdrücken. Aber das bedeutet nur, dass diese Ansichten im Überzeugungswettbewerb verloren haben, und Menschen haben die Freiheit, Ideen zu denken und zu teilen, die mich verärgern. Wenn man zur Waffe der Zensur greift, wird am Ende nicht ich der Letzte sein, der sie schwingt
Fake News bedeutet meist eher, falsche Gerüchte oder unbeweisbare und unbegründete Behauptungen zu verstärken, und das beschädigt den Diskurs massiv. Selbst gegenteilige Ansichten würde ich gern lesen, wenn sie als überprüfbare Tatsachen präsentiert und untermauert werden
Menge ist nicht gleich Fakt oder Wahrheit. Zensur ist zwar gefährlich, aber dieser Artikel fordert keine Zensur. Wie bei Mark Twains Satz, dass „eine Lüge um die halbe Welt reist, während sich die Wahrheit noch die Stiefel anzieht“, gießt Social Media nur Raketentreibstoff auf diesen Effekt. Wenn eine Gruppe Lügen konsequent und unverhältnismäßig verstärkt, ist es vernünftig, etwas Reibung einzubauen oder bei Reposts Prioritäten zu setzen. Das verhindert nicht das Posten von Lügen, sondern sorgt nur dafür, dass man auswählt, was man selbst für am wichtigsten hält
Auch Hacker News zeigt Meldungen wie „Please slow down, you're posting too fast.“, wenn man zu viel postet, und man kann dann einige Stunden lang nichts mehr einstellen. Ich habe noch niemanden deswegen „Zensur!!“ schreien sehen, und kaum jemand wird meinen, dass Debatten auf Twitter besser sind als auf HN. Wer also ähnliche Posting-Limits für andere Social-Media-Plattformen als „Zensur“ bezeichnet, sollte erklären, warum, zumal es keinerlei inhaltsspezifische Einschränkung gibt
Gewünscht ist, dass Menschen bei den Fake News des Gegners blockieren — oder sogar bei Wahrheiten, wenn sie vom Gegner kommen. Dann glauben die Leute alles, was ich sage, und der Gegner kann keinen Einfluss mehr ausüben
Um 1990 herum, als Internet-E-Mail erstmals bei nichttechnischen Angestellten in technikaffinen Organisationen eingeführt wurde, zeigte eine sehr kleine Zahl von Menschen ein Verhalten, das man als Freizeit-Weiterleitungsstörung bezeichnen könnte
Ob Blondinenwitze, „Bitte betet alle für Katie, sie hat Krebs“ oder „Wenn du das 1.000-mal weiterleitest, kommt der Weltfrieden“ — egal. Es gab weder einen Glaubwürdigkeitsfilter noch einen Filter, der die Zeit und Aufmerksamkeit anderer respektierte. Wenn die Zahl der vernetzten Nutzer stieg, reichte schon ein winziger Anteil solcher Fälle aus, um genug Traffic zu erzeugen, dass E-Mail-Dienste auf dem Niveau von Einwahlmodems oder teilweisen T-1-Leitungen zusammenbrachen. Mathematisch war das interessant, und am Arbeitsplatz ließ es sich mit gelegentlichen Erinnerungen durch Administratoren recht gut kontrollieren. Heute ist durch Politik und Emotionen alles viel toxischer, aber man sollte sich klarmachen, dass die Grundlage meist einfach sehr große Netzwerke und eine glockenförmige Verteilung menschlichen Verhaltens sind
Wenn Plattformen wollten, wäre es vermutlich leicht, Nutzereinstellungen zu bauen, die Politik, empörungsfördernde Inhalte usw. herausfiltern. Zum Beispiel zeigt Reddit mir auf der Startseite Links zu Videos von Polizeigewalt, obwohl ich gar nicht in dieser Sub-Community bin. Das wirkt wie ein schlechtes Muster, ähnlich wie Schokoriegel an der Kasse zu platzieren, damit ich absichtlich gegen meine Selbstbeherrschung kämpfen muss
Ich arbeitete in einer kleinen Firma ein paar Autostunden von New York entfernt, die Tochter eines großen Unternehmens mit Hauptsitz weiter westlich war. Jemand in der Verwaltung des Mutterkonzerns leitete hochauflösende Fotos der Ereignisse vom Vortag weiter, und die verwendete Gruppenadresse umfasste offenbar alle Organisationen unter dieser Verwaltungsstruktur, sodass möglicherweise 10.000 bis 20.000 Menschen die Bilder erhielten. Nach etwa drei Mails hörte es auf — oder wurde gestoppt. Ob gut oder schlecht: Menschen mit RSD-Tendenzen scheinen inzwischen zu Facebook weitergezogen zu sein
https://www.youtube.com/watch?v=KCSA7kKNu2Y
Dass kleine, fokussierte Gruppen großen Einfluss auf die Gesellschaft haben können, ist gut bekannt, und auch progressive Ideen, die anfangs randständig waren, wie LGBT-Rechte, wurden so durchgesetzt
Das Problem bei Fake News ist, dass sich ein Teil davon später als wahr herausstellt, wodurch das Vertrauen in diejenigen sinkt, die sich dagegen gestellt haben, Zweifel an den „Schiedsrichtern der Wahrheit“ entstehen und Supersharer noch glaubwürdiger wirken. Dann heißt es: „Wenn die offiziellen Medien bei jener Sache gelogen haben, könnte diese Person dann nicht auch recht haben?“ Inzwischen stellen sogar angesehene Personen wie Jeffrey Sachs, die ihr ganzes Leben nahe an der Macht waren, verschiedene offizielle Narrative infrage. Das schwächt die Signale für „Wahrheit“ weiter und vergrößert die Verwirrung. AI wird die Lage wohl bald noch verschlimmern
Man muss nur an die Zeit denken, als schon das bloße Ansprechen der Lab-Leak-Theorie stigmatisiert wurde. Später schwenkten auch Mainstream-Medien um, aber dabei wurde ihre Glaubwürdigkeit stark beschädigt. Auch mit dem Narrativ, der Irak verfüge über Massenvernichtungswaffen, sind viele Menschen aufgewachsen und haben dann direkt erlebt, wie es sich als Lüge herausstellte. Jetzt glauben sie gar nichts mehr. Wer wissenschaftlich denkt, kann immerhin selbst urteilen und sich bis zu einem gewissen Grad versichern, nicht verrückt zu sein, aber das scheint für die meisten eben nicht gut zu funktionieren — und genau das ist wohl das Kernproblem
In jeder Organisation übt eine gut organisierte Minderheit Macht über die unorganisierte Mehrheit oder den Rest aus. So entstehen absurde lokale Satzungen. Eine kleine, aber gut organisierte Gruppe baut Druck auf, während die Gegenseite verstreut und gleichgültig ist. Wenn diese Minderheit nicht zu klein ist, kann sie gerade wegen ihrer Größe leichter ein größeres Umfeld aus Mitläufern oder nützlichen Idioten organisieren. Wenn man am Samstagnachmittag gemeinsam marschiert, wirken Randideen plötzlich wie Mehrheitsmeinungen, und selbst Menschen ohne großes Interesse sagen dann: „Ja, meinetwegen.“
Ich persönlich bevorzuge Social Media ganz ohne „Retweet“-Funktion.
Ich will die tatsächlichen Original-Updates der Leute sehen, denen ich folge, und nicht Nachrichten, Fake News oder Kettenbriefe.
Die meisten Accounts, denen ich folge, habe ich entdeckt, weil jemand, dem ich bereits folgte, sie retweetet hat oder auf Mastodon geboostet hat.
Deshalb weiß ich nicht, ob sich das vollständig unterbinden ließe.
Das Problem ist, dass Menschen ursprünglichen Quellen wie „Ich habe gehört, dass X passiert!“ unkritisch glauben, auch wenn dafür keine echten Belege vorliegen.
Wenn man sehr weit zurückgeht, kann man sich vorstellen, wie Fremde in freier Wildbahn aufeinandertreffen und einander misstrauen.
Um einzuschätzen, ob jemand eine Bedrohung oder ein potenzieller Freund ist, musste man Vertrauen aufbauen. Woher kommt die Person, wen kennt sie, kennen wir gemeinsame Leute, lügt sie? Frühe Vertrauensnetzwerke beruhten auf persönlichem Wissen über andere. Ich glaube, ein ähnliches Netz des Vertrauens müsste wieder entstehen. Man bürgt für jemanden, und wenn diese Person alles kaputtmacht, trifft das auch denjenigen, der für sie gebürgt hat. Man kann es sich so vorstellen, dass der Beziehungsgraph kollabieren kann, wenn man einen Wolf in den Kreis des Vertrauens hineinlässt.
Wenn sich ein beschädigter Vertrauenskreis vollständig abtrennen ließe, könnte man vielleicht wieder ein echteres Web zurückbekommen. Wenn ich Junk-Werbung oder Blog-Spam sehe, vergebe ich Strafpunkte, indem ich Inhalte aus dem Kreis, der das zugelassen hat, nicht mehr anschaue. Kleine Kreise sind mit anderen Kreisen verbunden, und im ersten Kreis sind auch Leute, die ich tatsächlich kenne. Eine Art neuer Webring. Wenn mein Ring und die damit verbundenen Ringe das einzige Tor zum Internet wären, könnte zwar eine Echokammer entstehen, aber man bekäme auch die Möglichkeit, bösartige Akteure aus dem unmittelbaren Ring zu entfernen. Wenn Fake-News-Propaganda auftaucht, bekommen der Ring und alle seine Mitglieder Strafpunkte, bis der Wolf entfernt wird.
Uniform gibt Bonus, und alle vertrauen ihnen. Zu wissen, wem man vertrauen sollte, war nie eine besondere Stärke des Menschen.
Man kann jemandem bei einem Thema vertrauen und bei einem anderen nur die Augen verdrehen. Dieses Vertrauen verändert sich, und zwar tatsächlich oft. Manchmal weil die andere Person sich verändert, manchmal weil ich mich verändere. Zumindest für mich sieht es eher aus wie ein einzelner Knoten mit unzähligen flackernden Verbindungen der Tiefe 1.
Ich denke, die meisten denken ähnlich, auch wenn sie sich dessen nicht unbedingt bewusst sind. Wir haben eine Demokratie, in der alle scheinbar für den Kandidaten stimmen, von dem sie wollen, dass er gewinnt, und trotzdem liegt die Zustimmung zum Parlament nahe bei einstelligen Werten. [1] Das ist möglich, weil die Leute extrem unzufrieden sind, selbst wenn ihre eigene Seite und deren Partei beide an der Macht sind; sonst müsste es zumindest in der Nähe von 50 % bleiben.
[1] - https://news.gallup.com/poll/1600/congress-public.aspx
Das Individuum existiert nicht mehr wirklich. Alle werden vor allem durch Massenmedien und die massenhafte Indoktrination in Schulen geformt. Die wenigen Individuen, die es noch gibt, können wie Supersharer überproportionalen Einfluss ausüben.
Der Begriff „Fake News“ ist so breit und so sehr mit ideologischer Positionierung, sprachlicher Übertreibung sowie dogmatischem und naivem Realismus aufgeladen, dass er praktisch verboten werden sollte.
Es scheint darum zu gehen, Menschen kritischer gegenüber dem zu machen, was sie lesen und teilen, aber tatsächlich wirkt es umgekehrt. Es werden Quellen einfach als schlecht oder gut etikettiert, und das kommt Propaganda sehr nahe. Wir brauchen dringend eine viel differenziertere Einordnung als diese Dichotomie aus Fake News/guten Nachrichten.
Dass die Verbreitung aller Informationen einer Potenzgesetzverteilung folgt, ist überhaupt nicht überraschend. Hätte man Informationskategorien wie Politik, Empörungsstoff, Technikdiskussionen und neutrale, langweilige Nachrichten verglichen, hätte man etwas Interessantes sagen können. Stattdessen konzentriert sich das hier weitgehend nur auf eine enge Kategorie von Falschinformation, die auf Werturteilen basiert. Es wäre viel interessanter zu wissen, wie sich bestimmte Informationstypen in ihren topologischen Eigenschaften unterscheiden.
In den letzten Jahren habe ich mehrere Tweets kostenpflichtig beworben und dabei immer wieder einen bestimmten Anteil von Nutzern gesehen, die anscheinend fast alles in ihrem Feed retweeten.
Meine Inhalte sind nischig und haben normalerweise nur sehr wenige Leser, deshalb fallen diese blind retweetenden Accounts stark auf, wenn man sich anschaut, wer auf meine Tweets reagiert hat. Das Verhalten, das ich beobachtet habe, passt zu dem, was im Text beschrieben wird. Der Zeitpunkt von Retweet-Wellen kann ziemlich gut darauf hindeuten, dass tatsächlich ein Mensch auf den Button drückt, und ich vermute, dass das auch so ist. Wenn man sich im Long Tail völlig absurde Fake News mit sehr kleinem Publikum auf Ebene einzelner Tweets ansieht, wäre es auch nicht überraschend, wenn die meisten Retweets solcher offenkundigen Falschheiten von diesen blind retweetenden Accounts stammen würden.
Der Gesamteffekt scheint mir eher darin zu bestehen, dass die Blase, in der solche Nutzer stecken, ein wenig verstärkt wird, bis hin zur Absurdität; ich bin aber skeptisch, ob das wirklich eine große Rolle dabei spielt, dass etwas tatsächlich populär wird. Das eigentliche Problem ist subtiler. Gefährlicher sind weniger offensichtliche Fake News, auf die auch Leute hereinfallen, die nicht blind klicken; weniger offensichtliche Fake News, die ein großes Publikum erreichen, weil viele sie plausibel finden; und Täuschungen, die selbst dann im kollektiven Unbewussten bleiben, wenn ihre Popularität durch Widerlegung oder Faktenchecks bereits nachgelassen hat. Der Effekt von Superspreadern, die völligen Unsinn wiederholen, ist meiner Ansicht nach gering im Vergleich zum Effekt von fast plausiblem Unsinn, der tatsächlich Mainstream wird.
Diese Regel besagt, dass in sozialen Netzwerken oder auf Bewertungsseiten nur 1 % der Nutzer aktiv Inhalte erstellen, 9 % sich durch Kommentare, Bewertungen oder Teilen beteiligen und die restlichen 90 % nur schauen und lesen, ohne zu reagieren. Das entspricht auch meiner Erfahrung, und auf HN ist die Mehrheit ebenfalls stille Mitleserschaft. Wenn man nur still mitliest, ist die Wahrscheinlichkeit viel höher, dass man Dinge gedankenlos konsumiert. So wie das Sprichwort sagt, dass man etwas lehren muss, um es wirklich zu verstehen, müsste man es zumindest erklären können — und das passiert in Passivität nicht. Es passiert im Gespräch.
Wir leben in einer reduktionistischen Welt, und das wird sich nicht ändern. Wie jemand anderes treffend sagte: Der einzige Ausweg sind bessere Werkzeuge
Inzwischen können wir nicht einmal mehr zwischen falschen und echten Menschen unterscheiden, und die Qualität von Informationen präzise zu beurteilen ist erst recht schwieriger geworden. So weit hat uns der von Werbung getriebene Internet-Sumpf gebracht, und ein Ausweg ist nicht in Sicht
Ich habe viel mit Organisationen gearbeitet, die in der Krise stecken oder auf ihr Ende zusteuern. Es kommt ein Punkt, an dem alle wissen, dass es ins Finale geht, und trotzdem marschieren sie weiter. Das Verhalten der Menschen wird dann zu einem Verhalten wie in einem Potemkinschen Dorf. So war es in den letzten Jahren der Sowjetunion
Ich denke, die Werkzeuge, die wir künftig brauchen, haben fast nichts mit Programmieren zu tun. Wir brauchen kleine Vertrauensgruppen aus echten Menschen, schrittweises Teilen, sich überschneidende Interessen und Gruppen sowie Geräte, die nur eine Sache auf einmal tun. Deshalb sollten ich und meine soziale Gruppe die Nutzung überwachen und optimieren können. Wir wissen, dass so etwas für Menschen funktioniert, und wir machen das seit Tausenden von Jahren. Das wird auf HN wohl nicht populär sein, aber das sind die Werkzeuge, die wir als Spezies brauchen, um voranzukommen. Technologie kann sicher helfen, aber sie kommt nicht einmal annähernd daran, die in uns verankerten gemeinsamen sozialen und evolutionären Erfahrungen zu ersetzen
Langfristig bin ich in Bezug auf Technologie und Fortschritt optimistisch, aber wie bei jeder großen Veränderung von Werkzeugen müssen wir den Unsinn ausmisten und die sozialen Normen neu anpassen. Das haben wir schon oft getan, und ich hoffe, dass wir es wieder tun werden
Die Lösung „eine einfache Retweet-Begrenzung würde die Verbreitung dieser Informationen eindämmen und hätte zugleich kaum Auswirkungen auf die meisten Nutzer“ ist gut
Ich glaube, es war damals in Indien, als WhatsApp die Zahl der Nutzer begrenzte, an die man etwas auf einmal weiterleiten konnte, nachdem die Plattform dazu benutzt worden war, ethnische Gewalt anzuheizen. Solche kaskadierende Viralität mit Dämpfern zu versehen, kann jeder Kommunikationsplattform nur dabei helfen, einigermaßen bei Verstand zu bleiben
Die Kombination, dass einzelne Accounts ohne jede Verifikation mit der Reichweite großer TV-Nachrichtensender senden können, konnte nichts hervorbringen, was der Wahrheit nahekommt. Die Annahme, dass Gruppen Wahrheit hervorbringen, beruht auf einem repräsentativen Effekt der Weisheit der Vielen. Wenn hochgradig korrelierte 0,1 % der Nutzer jede Diskussion erschüttern, ist das ein extrem pathologischer Zustand
Das größte Problem ist, dass die Begrenzung viraler Nutzer den geschäftlichen Anreizen profitorientierter Social-Media-Plattformen frontal widerspricht, und besonders bei Twitter scheint so etwas kaum wahrscheinlich
Es gibt keine Möglichkeit, „Fake News“ loszuwerden
Und man würde es vermutlich auch gar nicht wollen. In vielen Fällen nennen Menschen das Fake News, was in Wirklichkeit Nachrichten mit gegenteiliger Sichtweise sind. Der Kern ist, Menschen dazu zu erziehen, selbst zu denken und alles zu hinterfragen
Es gibt keine Lösung, und Bildung ist zwar eindeutig ein Schritt nach vorn, aber das Problem ist viel komplexer
Ich weiß nicht, wie oft Menschen Fake News als Gegenmeinung auffassen, aber der Begriff ist so definiert, dass er Desinformation bedeutet. https://en.wikipedia.org/wiki/Fake_news
Dass Menschen, die tatsächlich Desinformation verbreiten, behaupten, ihre Position sei keine Lüge, sondern eine Gegenmeinung, und sie seien die Schwächeren, die wegen ihrer Gegenmeinung ausgegrenzt würden, ist eine ziemlich verbreitete Taktik
Menschen dazu zu bringen, an allem zu zweifeln, ist ebenfalls Teil dessen, was sie wollen. Das Ziel von Desinformation ist Misstrauen, und an allem zu zweifeln ist zu anstrengend. Man kann sich etwa Brandolinis Gesetz ansehen. Ich kenne die Lösung nicht, aber ich bin selbst hochgebildet und kenne persönlich Menschen, die in Desinformations-Kaninchenlöcher geraten sind. Misstrauen und Verschwörungstheorien zerstören, sobald sie sich festgesetzt haben, die Fähigkeit, vertrauenswürdige und wissenschaftliche Quellen zu bewerten. Man sollte nicht davon ausgehen, dass Bildung der Schlüssel ist. Fake News sind sehr, sehr effektiv, und genau deshalb betreiben Menschen so etwas.