Warum gibt es in rationalistischen Communities so viele Kulte?

 (asteriskmag.com)
1 Punkte von GN⁺ 2025-08-13 | 1 Kommentare | Auf WhatsApp teilen
  • Innerhalb der rationalistischen Community sind mehrfach kleine, seltsame Glaubensgruppen entstanden, von denen einige mit tatsächlichen Gewalttaten in Verbindung standen
  • Dieses Phänomen entsteht daraus, dass Inhalte, die rationales Denken betonen (Sequences), die Technik eines „besseren Denkens“ versprechen, dieses Versprechen in der Realität jedoch nicht einlösen können
  • Menschen in verletzlichen Lebenslagen geraten in der Community mit höherer Wahrscheinlichkeit in schädliche Gruppen und sind oft so von der Außenwelt abgeschnitten, dass ein Ausstieg schwerfällt
  • Die Verknüpfung von gruppeninternen Überzeugungen und Handlungen, die Haltung, Ideen sehr ernst zu nehmen, sowie soziale Isolation können schwere Dysfunktionen auslösen
  • Die Entstehung rationalistischer Kulte lässt sich kaum vollständig verhindern, aber die Verbindung zur äußeren Realität, soziale Vielfalt und gesunde Organisationsstrukturen können die negativen Auswirkungen verringern

Einleitung

  • Die rationalistische Community ist eine aus der Blogreihe „Sequences“ des AI-Forschers Eliezer Yudkowsky hervorgegangene Bewegung
  • Diese Reihe behandelt die Frage, wie man rational denkt, weshalb zu erwarten wäre, dass die Mitglieder der Community Vorbilder für kritisches Denken und Skepsis sind
  • Tatsächlich entstanden innerhalb der Community jedoch seltsame und schädliche Gruppen, darunter kleine Zirkel, die mit Dämonen zu kommunizieren glaubten, Gruppen im Zusammenhang mit Gewalttaten und traumatisierende Zusammenschlüsse
  • Repräsentative Beispiele sind die Zizians, eine vegane anarchistische transhumanistische Gruppe, sowie Fälle wie Black Lotus und Leverage Research
  • Der Autor ist selbst Insider der Community und erhielt durch tiefgehende Interviews einen beispiellosen Zugang und außergewöhnliche Offenheit

Das Problem der jungen Rationalisten

  • Die rationalistische Community funktioniert insgesamt, doch einige Gruppen weisen stark dysfunktionale Strukturen auf

  • Die „Sequences“ versprechen „die Kunst, besser zu denken“ und eine außergewöhnliche Zukunft, doch in der Realität ist dieses Versprechen nicht einlösbar

  • Viele Interviewpartner weisen darauf hin, dass solche Inhalte das Rohmaterial für Kulte liefern

  • Eliezer Yudkowsky selbst ist beim Aufbau von Gemeinschaft eher zurückhaltend, doch Menschen, die von außen dazukommen, sehnen sich oft nach Veränderung durch Autoritäten und einer heroischen Mission

  • Die Dysfunktion mancher Gruppen liegt entweder an ihrem Anführer (z. B. Brent Dill von Black Lotus), oder toxische Dynamiken entstehen von unten heraus wie von selbst (z. B. bei Leverage Research)

  • Verletzliche Menschen werden leicht zu Gefangenen abgeschotteter Gruppen und haben es schwer, problematische Situationen wieder zu verlassen

  • Anfangs half die Community unreiferen Mitgliedern, doch mit der Zeit neigten erfolgreiche Personen dazu, ihre Unterstützung zurückzuziehen

  • Newcomer ohne Unterstützung werden leicht zum Ziel schädlicher interner Gruppen

Der Ernst von Überzeugungen

  • In dysfunktionalen Gruppen ist nicht nur soziale Isolation oder Manipulation durch Führungspersonen entscheidend, sondern vor allem der Glaube selbst

  • Bei den Zizians etwa war eine radikale Entscheidungstheorie – die Überzeugung, auf Bedrohungen unbedingt reagieren zu müssen – direkt mit realem Handeln verknüpft

  • Leverage Research versuchte mithilfe einer integrierten psychologischen Theorie namens „Connection Theory“, die innere Struktur von Mitgliedern zu verstehen und ihre Probleme zu lösen

  • Der Versuch, das eigene Verhalten an solche vereinfachten psychologischen Modelle anzupassen, führte sogar zu psychischen Problemen

  • Brent Dill brachte Mitglieder dazu, die Welt und andere Menschen zynisch zu interpretieren; das wirkte als gruppeninterne Form des Misstrauens und als grundlegendster Schaden

  • Wenn Rationalisten das Vertrauen in Experten ablehnen und selbst denken wollen, entsteht paradoxerweise die Gefahr, das eigene Denken an einen charismatischen Anführer zu delegieren

  • „Ideen ernst zu nehmen“ und „Handlungsfähigkeit“ sind eigentlich Tugenden, können aber falsch angewendet in riskantes Verhalten außerhalb gesellschaftlicher Normen münden

Vorsicht bei Psychologie

  • In problematischen Gruppen wurden Philosophie, Psychologie und Beziehungen innerhalb der Gruppe routinemäßig über lange Zeit und mit hoher Intensität diskutiert

  • In gesunden Gruppen dagegen lag der Fokus auf externen Aktivitäten oder greifbaren Leistungen (Programmierung, Spiele usw.)

  • Auch bei Black Lotus gab es Fälle, in denen Mitglieder durch tatsächlich wichtige Rollen Selbstvertrauen gewannen

  • Bei Leverage Research waren ebenfalls die Untergruppen gesünder, die an praktischen Projekten arbeiteten, etwa an der Entwicklung von Kryptowährungen

  • Übermäßige Diskussionen über Emotionen innerhalb der Gruppe und psychologische Analysen vertiefen Dysfunktion, Angst, Isolation und die Entkopplung von der Realität

  • Wenn eine Gruppe ohne konkrete externe Ziele endlos intern diskutiert, verstärken sich schädliche Dynamiken

  • Wenn langwierige Gruppenpsychologie und emotionale Tiefenbohrungen zum Alltag werden, ist das selbst dann ein Zeichen, dass etwas schiefläuft, wenn es sich nicht um einen Kult handelt

Die Gefahr des Consequentialism

  • Nimmt man eine konsequentialistische Weltsicht sehr ernst, kann das übermäßige Hingabe und Opfer für Anführer rechtfertigen
  • Die in der rationalistischen Community häufig erwähnte AGI-Aussterberisiko-Erzählung erzeugt gruppeninternen Druck und Zwanghaftigkeit
  • Menschen, denen die Fähigkeiten fehlen, direkt zu AI beizutragen, klammern sich leichter an Ersatzprojekte oder kleine Gruppen und geraten so in Dysfunktion
  • Große Rechtfertigungen wie eine Krise der Menschheit führen dazu, dass selbst alltägliche Angelegenheiten mit überzogener Bedeutung aufgeladen werden
  • In Wirklichkeit besteht die Bewältigung von Krisen aus einer Folge einfacher, repetitiver Aufgaben, doch stattdessen wird einem heroischen Ideal nachgejagt, dem man kaum entsprechen kann

Warnsignale von Isolation

  • Soziale Isolation, Konformitätsdruck innerhalb der Gruppe und die Abschottung nach außen sind zentral für die Verschärfung von Dysfunktion
  • Dass Mitglieder Haus oder Büro praktisch nicht verlassen, ist eines der deutlichsten Anzeichen dafür, dass es sich um einen Kult handeln könnte
  • Eine nur intern definierte Realität, der Ausschluss von Kritikern und gegenseitige Überwachung führen zu Gruppendenken und übersteigerten Überzeugungen
  • Wenn Menschen im selben Haus leben und die Gruppe für alle Bedürfnisse sorgt, schwächt das Unabhängigkeit und Handlungsfähigkeit in der Außenwelt
  • Problematisch ist auch Geheimhaltung, bei der selbst interne Gruppen Informationen nicht teilen; Enthüllungen und mangelnde Kommunikation verstärken dann einen Teufelskreis

Fazit und Empfehlungen

  • Die Dysfunktionen der rationalistischen Community sind nicht unbedingt schwerwiegender als anderswo, sie treten nur „auf interessantere Weise“ auf
  • Zu den Ursachen gehören communitytypische Neigungen wie „Überzeugungen in Handlungen umzusetzen“ und „anders zu leben als die bestehende Gesellschaft“, doch vollständig beseitigen lässt sich das nicht
  • Auf individueller und gemeinschaftlicher Ebene können die folgenden Strategien helfen, Dysfunktionen zu verringern

Empfehlungen für Einzelne

  1. Wenn stundenlange Gespräche über Beziehungen und Emotionen innerhalb der Gruppe anhalten, ist das ein Warnsignal
  2. Aktivitäten mit objektiven Leistungsmaßstäben suchen und Berührungspunkte mit der äußeren Realität schaffen
  3. Beziehungen zu unterschiedlichen sozialen Gruppen aufrechterhalten
  4. Arbeit, Wohnen und Therapie voneinander trennen
  5. Selbst wenn alle in der Gruppe an etwas glauben, braucht es Außenstehende oder unabhängige Überprüfung
  6. Wenn eine lange Kette abstrakter Logik am Ende darauf hinausläuft, dass „man anderen schaden darf“ oder „alles andere weniger wichtig ist als diese Sache“, sollte man misstrauisch werden
  7. Die Teilnahme an einer anspruchsvollen Gruppe sollte sorgfältig überlegt werden, wenn man keine realistischen Alternativen hat

Empfehlungen für die Community

  • Die Bindung zu Mitgliedern in dysfunktionalen Gruppen aufrechterhalten und statt Verurteilung normale Kommunikation anbieten
  • Neuen Mitgliedern realistische Erwartungen vermitteln und Wege zu mehr praktischer Unterstützung prüfen
  • Ehrlich kommunizieren, dass der Einstieg in Bereiche wie AI Safety nicht leicht ist, und den Wert von Menschen, die nicht direkt beitragen können, nicht abwerten
  • Diskussionen über ethische rote Linien fördern, also über Dinge, die eindeutig nicht getan werden dürfen

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-08-13
Hacker-News-Meinung

  • Ein sehr interessanter Artikel. Vor 15 Jahren dachte ich bei solchen selbsternannten Rationalisten noch, das seien Leute, die ausschweifende Fanfiction schreiben, aber inzwischen bin ich an dem Punkt, dass ich glaube, ihre Untergruppen begehen inzwischen sogar Morde und betreiben Dämonenaustreibung. Es fühlt sich ein bisschen so an, als hätte jemand in den 1950ern einen Text von Hubbard gelesen und dann Jahrzehnte später gesehen, dass Hubbard eine riesige Religion anführt. Der Artikel bemüht sich, in solchen Gruppen noch irgendwie etwas Positives zu finden, und erwähnt die Behauptung, „Rationalisten hatten zu Beginn der COVID-Pandemie die richtige Sicht und warnten früh vor den Gefahren der künstlichen Intelligenz“. Aber mir kommt weder die Zustimmung zur Position der WHO noch die Ansicht, dass eine Skynet-artige KI gefährlich sein könnte, als etwas Besonderes vor. Die im Artikel gezeigten Erfolgsgeschichten der Rationalisten wirken auf mich eher wie das Sprichwort, dass selbst eine stehengebliebene Uhr zweimal am Tag richtig geht

    • Die WHO erklärte COVID erst am 11. März 2020 zur Pandemie. Es gab Rationalisten, die schon vorher gewarnt hatten (wie auch andere Leute). Ich hatte Warnungen in Rationalisten-Blogs gelesen und dann in anderen Foren Beiträge zu den COVID-Nachrichten geschrieben, wo ich als jemand wahrgenommen wurde, der eine wichtige Warnung gegeben hatte. Ob das tatsächlich einen großen Unterschied gemacht hat, weiß ich nicht
      https://pmc.ncbi.nlm.nih.gov/articles/PMC7569573/

    • Dieser Absatz war so enttäuschend, dass ich dort aufgehört habe zu lesen. Beide Beispiele stimmen einfach nicht, und es ist unerquicklich, dass das die besten Beispiele sind, die der Artikel zur Verteidigung des Rationalismus noch auftreiben konnte. Eine KI-Bedrohung gab es in Wirklichkeit nicht, und diese Leute waren vielmehr mitverantwortlich dafür, dass Google die Veröffentlichung seiner LLMs verzögerte und Bildmodelle nur noch Roboter zeichnen sollten. Inzwischen kann man aber viel bessere Modelle auf einem privaten Laptop laufen lassen, und es gab weder Massenarbeitslosigkeit noch einen Zusammenbruch. KI ist eher freundlich gesinnt. Und auch bei den Masken sehe ich, egal wie viele realen Daten und Grafiken ich mir ansehe, keinerlei Spur eines nennenswerten Effekts. Länder, in denen vorher praktisch niemand Masken trug, trugen plötzlich von einem Tag auf den anderen alle Masken, und die Kurven der Infektionszahlen änderten sich trotzdem nicht. Das Virus kann schließlich durch Lücken in der Maske, beim Abnehmen der Maske und sogar über die Augen eindringen. Am Ende hatten die Rationalisten also mit gar nichts recht. Wirklich enttäuschend

  • Dieser Artikel ist wunderschön geschrieben, und es steckt viel echte originelle Recherche darin. Schade nur, dass die meisten Kommentare bloß spontane „Rationalisten lol“-Reaktionen sind. Vieles davon wird im Artikel selbst schon reichhaltiger und differenzierter behandelt, aber solche Kommentare sieht man kaum

    • Asterisk ist im Grunde ein „Rationalisten-Magazin“, und der Autor ist ein bekannter Rationalisten-Blogger. Deshalb überrascht es nicht, dass dies fast der einzige Fall ist, in dem dieser Gegenstand fair behandelt wird. Von außen heißt es sonst meist, Rationalismus sei ein Kult und Eliezer Yudkowsky ein Kultführer, aber ich halte schon diese Sichtweise für unsinnig

    • Ich finde es völlig in Ordnung, nach der Lektüre solcher Artikel zu dem Schluss zu kommen: „Ja, eindeutig ein Kult.“ Es ist egal, ob sie an Raumschiffe, Dämonen oder AGI glauben. Die eigentliche wichtige Einsicht ist, dass es ein Warnsignal ist, wenn Anführer Mitglieder von der Gesellschaft isolieren. Das ist keine besonders neue oder außergewöhnliche Erkenntnis

  • Eines der Probleme, die ich bei solchen Gruppen empfinde, ist, dass sie äußerlich logisch zusammenhängende Überzeugungen mit enormem Selbstvertrauen, manchmal sogar aggressiv, vortragen. Später merkt man dann, dass die zugrunde liegenden Prämissen beziehungsweise Axiome in Wahrheit fast völlig ungeprüfte Fantasie sind. So etwas sieht man überall, aber in diesen Communities ist es besonders schlimm. Sie neigen dazu, in ihrer eigenen Logik gefangen zu sein, und wenn man mitmacht, wird es schnell etwas unerquicklich. Die wirklich klugen Leute, die ich kenne, waren oft gerade nicht sicher, was sie eigentlich sicher wissen. Wenn jemand seine eigenen Schlussfolgerungen präsentiert und dabei zu sicher wirkt, finde ich das erst einmal verdächtig

    • Ich glaube nicht, dass das Problem nur in falschen Prämissen liegt. Leute sind überzeugt, dass jeder einzelne Schritt in ihrer logischen Herleitung zwingend aus dem vorigen folgt, aber in Wirklichkeit entstehen von Schritt zu Schritt kleine Lücken, und daraus wächst eine falsche Gewissheit. Nicht-Rationalisten sind nicht unbedingt besser im Umgang mit Logik als Rationalisten, aber sie profitieren wenigstens von intellektueller Bescheidenheit

    • Es gibt ein Profil von Curtis Yarvin im New Yorker, das ich sehr empfehlen würde. (Auch Curtis Yarvin benutzt „Rationalität“ als Grundlage seiner Überzeugungen.) Besonders eindrücklich ist gegen Ende des Textes der lange Abschnitt, in dem er seinen am meisten verehrten ideologischen Helden trifft
      https://www.newyorker.com/magazine/2025/06/09/curtis-yarvin-profile

      Durch das Internet haben sich solche Gruppen explosionsartig vermehrt. Online sieht man nur „Ideen“ und nicht „Menschen“, und wahrscheinlich liegt es daran. Wenn man mit glühenden Rationalisten tatsächlich lange Zeit in einem Zimmer oder auf einer Insel verbringt, ignoriert man ihre Theorien in der Praxis ziemlich schnell, egal wie klug ihre schriftlichen Argumente wirken

    • Ich stimme zu, dass „jeder, der von irgendetwas völlig überzeugt ist, verdächtig ist“. Daher kommt wohl auch die Bezeichnung conman für Betrüger. Sie nutzen geschickt den natürlichen Glauben aus, dass Selbstvertrauen zwangsläufig mit Richtigkeit zusammenhängt. Selbst wenn jemand nicht bewusst betrügt: Wie könnte man überhaupt zu so viel Gewissheit gelangen? Nur indem man alle Gegenbeweise ignoriert. Wer tatsächlich etwas weiß, grenzt den Kontext immer ein und formuliert vorsichtig mit Bedingungen wie „wahrscheinlich“ oder „falls“. Solche Leute machen kaum verallgemeinernde Aussagen

    • „Schätze diejenigen, die die Wahrheit suchen, und hüte dich vor denen, die glauben, sie gefunden zu haben.“ – Voltaire

    • Es gab auch viele Debatten über den Wert von Geld in der Zukunft. Siehe dazu „discount function“: Manche, die sich als sogenannte „rational altruists“ verstehen, setzen den Zukunftswert auf 1,0, während die „drill, baby, drill“-Seite eher nahe bei 0 liegt.
      Ich denke, in eine Discount-Funktion muss unbedingt ein Rauschterm hinein, der die Unsicherheit von Vorhersagen abbildet. Denn je weiter man die Zukunft vorhersagt, desto größer wird das Rauschen. Wenn man das nicht berücksichtigt, löst man am Ende das falsche Problem und scheitert daran. Dass Energieknappheit und Überbevölkerung tatsächlich nicht eingetreten sind – ähnlich wie schon im alten Rom die Sorge um zu wenig Friedhofsfläche –, liegt daran, dass im Vorhersageprozess zu wenig Rauschen berücksichtigt wurde
      https://en.wikipedia.org/wiki/Discount_function

  • Ich habe Eliezer Yudkowsky vor langer Zeit einmal getroffen. Er gab mir ein Faltblatt über Rationalität, und der Inhalt wirkte wie ein Witz oder eher wie eine Satire auf Missionierung. Wir haben beide darüber gelacht. Ich habe es ein paarmal durchgeblättert und dann ins Regal gestellt, aber ich hätte nie gedacht, dass dieser Mann einmal so einflussreich werden würde

    • Ich glaube, solche Leute profitieren vom Halo-Effekt. Wenn man sich ihren Hintergrund ansieht, gibt es da nicht viel, was ihre heutige Stellung rechtfertigen würde. Gehört Eliezer Yudkowsky nicht, wenn ich mich recht erinnere, in die Kategorie der Thiel babies?

    • Für mich war Eliezer Yudkowsky immer nur durch die Harry-Potter-Fanfiction <Harry Potter and the Methods of Rationality> bekannt. Gibt es noch irgendeinen anderen Grund, warum er auch breiter bekannt sein sollte?

  • Diese Leute wollen offenbar Philosophie betreiben, aber eine formale Ausbildung dazu ist ihnen zu sehr eine Kränkung ihres Stolzes. Ich nenne dieses Phänomen „Kleiner-Fisch-im-kleinen-Teich-Syndrom“. Wenn jemand einen besseren Begriff hat, wäre ich dankbar

    • Der Grund, warum Menschen keine formale Ausbildung machen wollen, ist, dass moderne Philosophie selbst ziemlich nutzlos wirkt. Wenn man sich zum Beispiel den Duke-Lacrosse-Vergewaltigungsfall von 2006 ansieht, dann kamen die Professoren, die bei der Hysterie mitmachten, meist aus den Geisteswissenschaften (einschließlich Philosophie), und niemand änderte seine Haltung, bis der Staatsanwalt selbst strafrechtlich angeklagt wurde. Dagegen waren die Leute, die sich dem Problem zumindest etwas widersetzten, eher Ökonomen, Naturwissenschaftler und Juristen. Es ist nachvollziehbar, dass man nicht unbedingt in die Geisteswissenschaften gehen will, wenn diese nicht einmal zuverlässig richtig und falsch unterscheiden können

    • Volle Zustimmung! Ich bin ein Überlebender, der zehn Jahre in der akademischen Philosophie ausgehalten hat. Die Stimmung in diesen Communities fühlt sich an, als würde man ein Flugzeug voller Undergraduates auf Survivor Island absetzen und ihnen unendlich viele Pizza Pockets und nur Adderall geben

    • Braucht man wirklich formale Ausbildung? Ich halte es für sehr viel besser, direkt die Klassiker zu lesen – Platon, Sokrates, Dostojewski, Camus, Kafka und so weiter – als das, was sie jetzt tun

  • „Viele Rationalisten erwarten, dass die Menschheit ohne heroische Anstrengungen an der Entwicklung von AGI zugrunde gehen wird.“ „Solche Überzeugungen machen es schwer, sich noch um irgendetwas anderes zu kümmern. Wenn die Menschheit kurz vor der Auslöschung steht, welchen Sinn haben dann Krankenschwestern, Notare oder Romanautoren?“ Wenn man bei der AGI-Endzeit nur die Entrückung einsetzt, klingt das sehr ähnlich wie amerikanische fundamentalistische Christen. Sie weigern sich, Umwelt-, Wirtschafts- und Sozialprobleme zu lösen, weil sie glauben, dass die Entrückung ohnehin bald kommt. Wenn man einmal in so eine Apokalyptik hineingerät, kommt man schwer wieder aus dem Gedankenkreis heraus, und wer Erfahrung mit Angststörungen hat, lernt, dass man katastrophische Vorstellungen unbedingt überwinden muss. In solchen Communities bestärken sie sich jedoch gegenseitig gerade in diesem Katastrophenglauben, sodass sie aus einer sich wiederholenden „Katastrophenschleife“ nicht mehr herauskommen

    • Ich bin auch mit der Angst aufgewachsen, dass die Erde untergeht, und mit der Furcht, „in die Hölle geschleift zu werden“, und deshalb manage ich meine Angst bis heute sehr konsequent. Das kam nicht aus logischer Begründung, sondern aus all den angstbesetzten Botschaften, die aus Medien im Elternhaus und in der umliegenden Community auf mich einströmten

    • Für Gläubige ist der Glaube an die Entrückung (im eigentlichen Sinn) kein Untergang. Insofern ist die AI-Doom-Seite noch extremer. Und in der Realität gibt es auch nicht viele Fundamentalisten, die wegen ihres Glaubens alle Angelegenheiten der realen Welt komplett aufgeben

    • Viele Menschen glauben auch, dass der Klimawandel schreckliche Folgen haben wird. Das ist für sich genommen eine mögliche Überzeugung, und insgesamt gesehen glauben am Ende die meisten Amerikaner an irgendeine Form von Katastrophe. Der Glaube an AGI-Untergang hat durchaus eine gewisse innere Logik. Ich teile ihn nicht, aber als Glaubenssystem ist er eher mit dem Glauben an den Klimawandel vergleichbar

    • Wenn man AGI durch Klimawandel ersetzt, ergibt sich ebenfalls ein ziemlich schlüssiges Glaubenssystem

  • Ich muss dabei ständig an die Szene aus dem ersten Avengers-Film denken, in der Loki über der Menge steht und ruft: „Seht hin, das ist doch eure Natur.“ In gewisser Weise scheint in der Tatsache, dass man keine Wahl hat, eine seltsame Erleichterung zu liegen. Ein auf Logik beruhendes rationalistisches System verbindet sich leicht mit einer Unfähigkeit, Mehrdeutigkeit auszuhalten, und schießt dann in merkwürdige Richtungen hinaus

    • Menschen sind zwar keine Hühner, aber sie scheinen subtile Rangordnungskämpfe durchaus zu mögen

    • Diese Leute neigen dazu, ihre Logik so zu entwickeln, dass sie am Ende das tun können, was sie ohnehin wollen. Für mich ist das eine moderne Version der alten Vorstellung, Gott leite einen persönlich

  • Als jemand, der Rationalisten gut kennt, würde ich sagen:

    1. Wenn es etwas zu kritisieren gibt, dann haben sie selbst darüber bereits ununterbrochen nachgedacht und es kritisiert (einschließlich der Tatsache, dass der Name dämlich ist). Das heißt nicht, dass sie es gelöst hätten
    2. Sie lesen tatsächlich extrem viel. Es ist keine naive oder verwirrte Gruppe, sondern eher eine, die ständig bereitwillig ungewöhnliche Herausforderungen ausprobiert. Die schrägen Erfahrungen, die man in dieser Community machen kann, sind wirklich erstaunlich
    3. Es gibt tatsächlich auch ehrlichen Willen, Gutes zu tun. Man hört vielleicht von seltsamen, unangenehmen oder etwas beängstigenden Gruppen, aber Geschichten über nette und coole Projekte bleiben selten als Gerücht hängen.
      Meiner Erfahrung nach geraten sie dort auf Abwege, wo sie sich in Anstrengungen verrennen, die über das Mittel hinausgehen. Im Kern der meisten rationalistischen Projekte steckt der Wunsch: „Lasst uns das alltägliche menschliche Leiden neu durchdenken und eine Lösung finden, mit der alle glücklich werden können.“ Zynischere oder realistischere Menschen würden darauf hinweisen, dass es bei jedem Problem immer jemanden geben wird, der am Ende nicht zufrieden ist, aber Rationalisten versuchen diese Grenze unbedingt zu durchbrechen. So brennen nicht nur sie selbst aus, sondern ziehen ihr Umfeld gleich mit in den Mixer. Im Extremfall kam die Gruppe der Zizians offenbar zu dem Schluss, dass „die meisten Menschen keine Seele haben und man deshalb Menschen ohne Seele nicht mitbedenken muss, um alle glücklich zu machen“. In weniger extremen Fällen wird es zu Idealismus (unerfüllbaren Träumen) oder zu einer von der Realität abgekoppelten Logik. Etwa so: „Wenn dieses Gedankenexperiment auch nur eine 1%ige Wahrscheinlichkeit birgt, 90 Billiarden Einheiten Leid zu verursachen, dann muss ich mein ganzes Leben darauf verwenden, genau das zu verhindern, und wenn du das nicht auch tust, trägst du moralische Verantwortung für 90 Billiarden Einheiten Leid, also bist du böse.“
      Die meisten Rationalisten sind zwar seltsam, halten aber zumindest Abstand zu den extremistischen Sonderlingen und bleiben eher bei Dingen wie „vegetarischer Ernährung mit tierischen Bestandteilen von Tieren, die keinen Schmerz empfinden können“ und damit, von 300.000 Dollar Jahreseinkommen 200.000 zu spenden. Mit den ganz extremen Leuten ist wirklich kaum zu reden, und alle gehen ihnen aus dem Weg

  • Diese Gruppe ist gleichzeitig über verschiedene Stränge gewachsen: einzelne Websites, Communities und so weiter. In der Philosophie habe ich erlebt, wie Nick Bostroms Simulationstheorie weit höher bewertet wurde, als ihr tatsächlich zustand (sie wurde auf populärem Niveau von allen ziemlich unkritisch übernommen). Im Rückblick sehe ich, dass sich dieses Thema auch bei less wrong und auf diversen anderen Seiten weiterentwickelte. Als die Simulationsdebatte die Philosophie zu dominieren begann, habe ich mich gefragt, wo diese Wurzeln lagen. Jetzt erkenne ich, dass all diese Phänomene miteinander verbunden waren und sich gemeinsam bewegten.
    Oberflächlich wirkte es klug, und einige der Websites waren aufrichtig, aber am Ende entgleiste die Entwicklung

    • Nur um Missverständnisse zu vermeiden: Dieser Artikel bezeichnet nicht den Rationalismus selbst als Kult, sondern Kulte (wie etwa die Zizians), die sich einzelne Konzepte des Rationalismus aneigneten oder sozial mit ihm verbunden waren

    • Ein großer Teil der Kommentare spricht über Kulte im Allgemeinen, aber eigentlich müsste man sich ansehen, warum gerade dieser Kult so erfolgreich war. Ein wesentlicher Teil des Erfolgsrezepts lag an der Schnittstelle von Geld und Status. Berühmte Persönlichkeiten aus dem Silicon Valley waren damit verbunden, und als dann Kapital wie Angel- und VC-Geld dazukam, verbreitete es sich rasant.
      Eine Zeit lang war es eine Community, mit der Status – und vielleicht auch Geld – einherging, und deshalb war sie auf unnormale Weise erfolgreich