Warum gibt es in rationalistischen Communities so viele Kulte?

• Innerhalb der rationalistischen Community sind mehrfach kleine, seltsame Glaubensgruppen entstanden, von denen einige mit tatsächlichen Gewalttaten in Verbindung standen
• Dieses Phänomen entsteht daraus, dass Inhalte, die rationales Denken betonen (Sequences), die Technik eines „besseren Denkens“ versprechen, dieses Versprechen in der Realität jedoch nicht einlösen können
• Menschen in verletzlichen Lebenslagen geraten in der Community mit höherer Wahrscheinlichkeit in schädliche Gruppen und sind oft so von der Außenwelt abgeschnitten, dass ein Ausstieg schwerfällt
• Die Verknüpfung von gruppeninternen Überzeugungen und Handlungen, die Haltung, Ideen sehr ernst zu nehmen, sowie soziale Isolation können schwere Dysfunktionen auslösen
• Die Entstehung rationalistischer Kulte lässt sich kaum vollständig verhindern, aber die Verbindung zur äußeren Realität, soziale Vielfalt und gesunde Organisationsstrukturen können die negativen Auswirkungen verringern

---

Einleitung

• Die rationalistische Community ist eine aus der Blogreihe „Sequences“ des AI-Forschers Eliezer Yudkowsky hervorgegangene Bewegung
• Diese Reihe behandelt die Frage, wie man rational denkt, weshalb zu erwarten wäre, dass die Mitglieder der Community Vorbilder für kritisches Denken und Skepsis sind
• Tatsächlich entstanden innerhalb der Community jedoch seltsame und schädliche Gruppen, darunter kleine Zirkel, die mit Dämonen zu kommunizieren glaubten, Gruppen im Zusammenhang mit Gewalttaten und traumatisierende Zusammenschlüsse
• Repräsentative Beispiele sind die Zizians, eine vegane anarchistische transhumanistische Gruppe, sowie Fälle wie Black Lotus und Leverage Research
• Der Autor ist selbst Insider der Community und erhielt durch tiefgehende Interviews einen beispiellosen Zugang und außergewöhnliche Offenheit

Das Problem der jungen Rationalisten

• Die rationalistische Community funktioniert insgesamt, doch einige Gruppen weisen stark dysfunktionale Strukturen auf

• Die „Sequences“ versprechen „die Kunst, besser zu denken“ und eine außergewöhnliche Zukunft, doch in der Realität ist dieses Versprechen nicht einlösbar

• Viele Interviewpartner weisen darauf hin, dass solche Inhalte das Rohmaterial für Kulte liefern

• Eliezer Yudkowsky selbst ist beim Aufbau von Gemeinschaft eher zurückhaltend, doch Menschen, die von außen dazukommen, sehnen sich oft nach Veränderung durch Autoritäten und einer heroischen Mission

• Die Dysfunktion mancher Gruppen liegt entweder an ihrem Anführer (z. B. Brent Dill von Black Lotus), oder toxische Dynamiken entstehen von unten heraus wie von selbst (z. B. bei Leverage Research)

• Verletzliche Menschen werden leicht zu Gefangenen abgeschotteter Gruppen und haben es schwer, problematische Situationen wieder zu verlassen

• Anfangs half die Community unreiferen Mitgliedern, doch mit der Zeit neigten erfolgreiche Personen dazu, ihre Unterstützung zurückzuziehen

• Newcomer ohne Unterstützung werden leicht zum Ziel schädlicher interner Gruppen

Der Ernst von Überzeugungen

• In dysfunktionalen Gruppen ist nicht nur soziale Isolation oder Manipulation durch Führungspersonen entscheidend, sondern vor allem der Glaube selbst

• Bei den Zizians etwa war eine radikale Entscheidungstheorie – die Überzeugung, auf Bedrohungen unbedingt reagieren zu müssen – direkt mit realem Handeln verknüpft

• Leverage Research versuchte mithilfe einer integrierten psychologischen Theorie namens „Connection Theory“, die innere Struktur von Mitgliedern zu verstehen und ihre Probleme zu lösen

• Der Versuch, das eigene Verhalten an solche vereinfachten psychologischen Modelle anzupassen, führte sogar zu psychischen Problemen

• Brent Dill brachte Mitglieder dazu, die Welt und andere Menschen zynisch zu interpretieren; das wirkte als gruppeninterne Form des Misstrauens und als grundlegendster Schaden

• Wenn Rationalisten das Vertrauen in Experten ablehnen und selbst denken wollen, entsteht paradoxerweise die Gefahr, das eigene Denken an einen charismatischen Anführer zu delegieren

• „Ideen ernst zu nehmen“ und „Handlungsfähigkeit“ sind eigentlich Tugenden, können aber falsch angewendet in riskantes Verhalten außerhalb gesellschaftlicher Normen münden

Vorsicht bei Psychologie

• In problematischen Gruppen wurden Philosophie, Psychologie und Beziehungen innerhalb der Gruppe routinemäßig über lange Zeit und mit hoher Intensität diskutiert

• In gesunden Gruppen dagegen lag der Fokus auf externen Aktivitäten oder greifbaren Leistungen (Programmierung, Spiele usw.)

• Auch bei Black Lotus gab es Fälle, in denen Mitglieder durch tatsächlich wichtige Rollen Selbstvertrauen gewannen

• Bei Leverage Research waren ebenfalls die Untergruppen gesünder, die an praktischen Projekten arbeiteten, etwa an der Entwicklung von Kryptowährungen

• Übermäßige Diskussionen über Emotionen innerhalb der Gruppe und psychologische Analysen vertiefen Dysfunktion, Angst, Isolation und die Entkopplung von der Realität

• Wenn eine Gruppe ohne konkrete externe Ziele endlos intern diskutiert, verstärken sich schädliche Dynamiken

• Wenn langwierige Gruppenpsychologie und emotionale Tiefenbohrungen zum Alltag werden, ist das selbst dann ein Zeichen, dass etwas schiefläuft, wenn es sich nicht um einen Kult handelt

Die Gefahr des Consequentialism

• Nimmt man eine konsequentialistische Weltsicht sehr ernst, kann das übermäßige Hingabe und Opfer für Anführer rechtfertigen
• Die in der rationalistischen Community häufig erwähnte AGI-Aussterberisiko-Erzählung erzeugt gruppeninternen Druck und Zwanghaftigkeit
• Menschen, denen die Fähigkeiten fehlen, direkt zu AI beizutragen, klammern sich leichter an Ersatzprojekte oder kleine Gruppen und geraten so in Dysfunktion
• Große Rechtfertigungen wie eine Krise der Menschheit führen dazu, dass selbst alltägliche Angelegenheiten mit überzogener Bedeutung aufgeladen werden
• In Wirklichkeit besteht die Bewältigung von Krisen aus einer Folge einfacher, repetitiver Aufgaben, doch stattdessen wird einem heroischen Ideal nachgejagt, dem man kaum entsprechen kann

Warnsignale von Isolation

• Soziale Isolation, Konformitätsdruck innerhalb der Gruppe und die Abschottung nach außen sind zentral für die Verschärfung von Dysfunktion
• Dass Mitglieder Haus oder Büro praktisch nicht verlassen, ist eines der deutlichsten Anzeichen dafür, dass es sich um einen Kult handeln könnte
• Eine nur intern definierte Realität, der Ausschluss von Kritikern und gegenseitige Überwachung führen zu Gruppendenken und übersteigerten Überzeugungen
• Wenn Menschen im selben Haus leben und die Gruppe für alle Bedürfnisse sorgt, schwächt das Unabhängigkeit und Handlungsfähigkeit in der Außenwelt
• Problematisch ist auch Geheimhaltung, bei der selbst interne Gruppen Informationen nicht teilen; Enthüllungen und mangelnde Kommunikation verstärken dann einen Teufelskreis

Fazit und Empfehlungen

• Die Dysfunktionen der rationalistischen Community sind nicht unbedingt schwerwiegender als anderswo, sie treten nur „auf interessantere Weise“ auf
• Zu den Ursachen gehören communitytypische Neigungen wie „Überzeugungen in Handlungen umzusetzen“ und „anders zu leben als die bestehende Gesellschaft“, doch vollständig beseitigen lässt sich das nicht
• Auf individueller und gemeinschaftlicher Ebene können die folgenden Strategien helfen, Dysfunktionen zu verringern

Empfehlungen für Einzelne

1. Wenn stundenlange Gespräche über Beziehungen und Emotionen innerhalb der Gruppe anhalten, ist das ein Warnsignal
2. Aktivitäten mit objektiven Leistungsmaßstäben suchen und Berührungspunkte mit der äußeren Realität schaffen
3. Beziehungen zu unterschiedlichen sozialen Gruppen aufrechterhalten
4. Arbeit, Wohnen und Therapie voneinander trennen
5. Selbst wenn alle in der Gruppe an etwas glauben, braucht es Außenstehende oder unabhängige Überprüfung
6. Wenn eine lange Kette abstrakter Logik am Ende darauf hinausläuft, dass „man anderen schaden darf“ oder „alles andere weniger wichtig ist als diese Sache“, sollte man misstrauisch werden
7. Die Teilnahme an einer anspruchsvollen Gruppe sollte sorgfältig überlegt werden, wenn man keine realistischen Alternativen hat

Empfehlungen für die Community

• Die Bindung zu Mitgliedern in dysfunktionalen Gruppen aufrechterhalten und statt Verurteilung normale Kommunikation anbieten
• Neuen Mitgliedern realistische Erwartungen vermitteln und Wege zu mehr praktischer Unterstützung prüfen
• Ehrlich kommunizieren, dass der Einstieg in Bereiche wie AI Safety nicht leicht ist, und den Wert von Menschen, die nicht direkt beitragen können, nicht abwerten
• Diskussionen über ethische rote Linien fördern, also über Dinge, die eindeutig nicht getan werden dürfen