- Ich habe kürzlich an der LessOnline-Rationalistenkonferenz teilgenommen und dort langjährige Online-Bekannte persönlich getroffen und mich mit ihnen ausgetauscht.
- Noch beeindruckender als die eigentlichen Sessions der Veranstaltung waren die tiefen Gespräche und die intensive Kommunikation unter den Teilnehmenden.
- Als wichtigste Unterschiede zur Rationalisten-Community nennt der Autor die Fixierung auf AI-Risiken, bestimmte kulturelle Eigenheiten und eine sektenartige Atmosphäre.
- Im Lauf der Zeit hatten die Reifung der Community, ihre wachsende Vielfalt und ihre Entwicklung hin zu mehr Familienorientierung großen Einfluss auf seinen Wahrnehmungswandel.
- Am Ende erkennt er seine Zugehörigkeit zur Community nach eigenen Maßstäben an, statt sich nach dem Blick anderer zu richten.
Erfahrungen auf der LessOnline-Rationalistenkonferenz
- Kürzlich nahm ich an der rationalistischen Blogging-Konferenz LessOnline teil und traf dort langjährige Bekannte wie Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin und Carl Feynman wieder.
- Es war schön, viele Menschen, die ich bisher nur online kannte, zum ersten Mal persönlich zu treffen.
- Der Veranstaltungsort Lighthaven ist mit seiner labyrinthartigen Struktur und den Gärten ein einzigartiger Ort und wirkt wie ein neues „Nerd-Utopia“ in Berkeley.
- Ich führte ein Gespräch mit Nate Soares über die Orthogonality Thesis und veranstaltete außerdem eine Q&A-Session zu Quantencomputing und theoretischer Informatik.
Gespräche und Atmosphäre auf der Konferenz
- Noch stärker als die offiziellen Sessions in Erinnerung geblieben sind die dynamischen und lebhaften Gespräche, die den ganzen Tag über an allen Ecken und Enden zwischen Hunderten von Menschen stattfanden.
- Die Veranstalter legten von Anfang an großen Wert auf kollektiven Meinungsaustausch und ermutigten aktiv zu Gesprächen in kleinen Diskussionsgruppen.
- Der Weg von einem Gebäude zum anderen konnte sich über Stunden ziehen, weil sich überall intensive Gespräche ergaben und praktisch alle engagiert daran teilnahmen.
- Ich wurde dabei oft mit Begrüßungen wie „Sind Sie Scott Aaronson?“ aufgehalten.
Rationalistische Identität und Gründe für das Gefühl der Fremdheit
- Obwohl ich über Jahre hinweg ähnliche Interessen und Sichtweisen wie Rationalisten hatte, habe ich aus bestimmten Gründen nie offensiv betont, selbst „Rationalist“ zu sein.
- Der erste Grund war eine gewisse Distanz zur Fixierung darauf, dass AI übermenschliche Fähigkeiten erlangen und die Bedingungen der Menschheit verändern werde.
- Früher war ich bei diesem Thema skeptisch, habe meine Einwände aber angesichts der rasanten jüngsten Fortschritte bei AI zurückgezogen.
- Inzwischen trage ich selbst zu Teilen des heißen Themas AI alignment bei.
- Der zweite Grund war kultureller Natur.
- Die Kultur, in der meist Menschen in ihren Zwanzigern in selbst gegründeten Organisationen und Wohngemeinschaften verschiedenste Experimente machen, wirkte auf mich als etablierten Professor zunächst fremd.
- Inzwischen zeigt sich in der Community aber auch ein familienorientierter Wandel mit verheirateten Mitgliedern und Menschen mit Kindern, und man sieht dort auch spielende Kinder.
- Rationalists bekommen Kinder unter dem Einfluss von Büchern wie Selfish Reasons to Have More Kids oder aus traditionelleren Motiven und denken darüber nach, wie man für die nächste Generation eine bessere Welt schaffen kann.
Eigenschaften der Community und Blick auf Missverständnisse
- Früher hielt ich wegen der Atmosphäre in manchen Kreisen Abstand, weil sie sektenartig wirkte (mit Eliezer als einer Art Guru).
- Auch Eliezer selbst übergibt inzwischen zunehmend an eine neue Generation, und die Community wird allmählich vielfältiger.
- Ein repräsentatives intellektuelles Zentrum ist der von Scott Alexander betriebene Blog, daneben treten zahlreiche neue Führungspersönlichkeiten hervor.
- Nach meiner tatsächlichen Erfahrung ist diese Community jedoch weniger eine „Glaubensgruppe“ als vielmehr ein Netzwerk aus Ideen und Leidenschaft.
- Es gibt praktische und offene Diskussionen über sehr unterschiedliche Themen wie AI, Beziehungen und Kindererziehung.
- So gab es etwa ein von Jacob Falkovich geleitetes Treffen, bei dem Männer über Dating und das Verständnis von Frauen diskutierten, sowie eine Session von Gretta Duleba über Beziehungskonflikte.
- Was externe Vorwürfe betrifft wie „Sind Rationalists in Wirklichkeit rechts oder richten sie auf irgendeine Weise Schaden an?“, so dominieren in der realen Praxis eher gemäßigt demokratische und am Gemeinwohl orientierte Diskussionen.
Veränderung des Zugehörigkeitsgefühls und Selbstwahrnehmung in der Community
- Die wichtigste Veränderung ist, dass ich mich nicht länger vom Blick anderer leiten lasse, sondern selbst einen Sinn in dieser Community sehe.
- Früher fühlte ich mich durch externe Kritik von RationalWiki, SneerClub oder Artikel in der NYT verunsichert, doch vor Ort bei LessOnline haben mich das Gedeihen und die Lebendigkeit der Community, der reale Raum und das Auftreten einer nächsten Generation tief beeindruckt.
- Statt die äußere Wahrnehmung meiner Person zu fürchten, akzeptiere ich diese Identität, indem ich mit den Menschen zusammen bin, die mich anerkennen — Familie, Wissenschaft, Community und Blog-Leserschaft.
Fazit
- Ich bewahre weiterhin unverändert verschiedene Identitäten als Informatiker, Wissenschaftler, progressiver Jude und Blogger.
- Die Rationalisten-Community bietet über ein breites Themenspektrum hinweg — darunter AI, Kindererziehung und Beziehungen — pragmatischen Diskurs und ein greifbares Zugehörigkeitsgefühl.
- Externer Zynismus oder Kritik entspricht nicht der Realität; vielmehr bestätigt sich erneut das anhaltende Wachstum, die Bedeutung der Community und meine persönliche Zufriedenheit damit.
Sonstige Hinweise
- Antworten auf Kommentare könnten sich etwas verzögern (ich bin mit meiner Tochter auf einer Reise zu den Galápagos-Inseln).
- Ich habe an einer Session zu Philosophie und theoretischer Informatik an der UT Austin teilgenommen (YouTube-Video veröffentlicht).
- Alon Rosen bittet um Nominierungsvorschläge für einen neuen Preis in der theoretischen Informatik (zum Gedenken an Luca Trevisan).
- Für die Online-Postersession der STOC'2025 ist eine Anmeldung bis zum 12. Juni möglich; ich werde in Prag vor Ort als Plenary-Sprecher teilnehmen.
1 Kommentare
Hacker-News-Kommentar
Beim Lesen dieses Textes habe ich genauer darüber nachgedacht, warum mich an dieser Bewegung etwas stört.
Zwischen der Haltung, „rational“ zu sein, dem Versuch, Logik von „ersten Prinzipien“ aus zu entfalten, und der absoluten Atmosphäre in dieser Community spürt man eine grundlegende Spannung.
Sie wirken immer wie Menschen, die sich ihrer Sache zu sicher sind.
Diese Art von Bescheidenheit nach dem Muster „Ich denke zwar so, aber vielleicht habe ich nicht alle Perspektiven berücksichtigt, und vielleicht liege ich falsch“ sieht man fast nie.
Typisch für Leute, die es peinlich finden, zu einem Thema keine Meinung zu haben oder „Ich weiß es nicht“ zu sagen.
Vor dem Zeitalter der AI war diese Tendenz vielleicht noch hinnehmbar, aber heute zeigt sich der Mangel an Bescheidenheit noch offener in der Weltuntergangs-Euphorie.
Es braucht die Anerkennung, dass wir die Auswirkungen von AI womöglich nicht richtig verstehen.
Vielleicht ist es in Wirklichkeit gar nicht so besonders und langweiliger als erwartet.
Sie erinnern mich an die „Effective Altruism“-Gruppe.
Sie verlieren sich in reiner Logik, merken nicht, dass die Ausgangsannahmen künstlich sind, gelangen zu seltsamen Schlussfolgerungen und sperren sich dann selbst in diese ein.
Weil sie meinen, allein durch Logik überlegen zu sein, wirken sie oft arrogant.
In den späten Teenagerjahren oder frühen Zwanzigern kann man kurz in so ein Denken geraten, aber mit viel Geld und Internet im Rücken kann sich diese Denkweise dauerhaft festsetzen.
Diese Leute waren es auch, die anfingen, Formulierungen wie „<i>epistemic status: mostly speculation</i>“ an ihre Blogs zu schreiben.
Sie verfassen Essays über die Gefahren von Selbstgewissheit, messen, wie oft ihre Vorhersagen falsch liegen, und pflegen öffentlich Listen mit „Dingen, bei denen ich falsch lag“.
Deshalb möchte ich fragen, ob man diese ganze Gruppe hier nicht zu stark verallgemeinert.
Ich habe immer gedacht, dass Singularitarier die Frage der AI-Alignment-Probleme übertrieben stark betonen und damit als Nebelkerze von realistischeren AI-Risiken ablenken wollen, etwa algorithmischer Verzerrung, Policy-Washing, Energieverbrauch oder beschleunigter Vermögenskonzentration.
Statt aktuelle praktische Probleme zu lösen, betonen sie nur hypothetische Probleme einer fernen Zukunft, was dann im Longtermism endet.
Scott Alexanders Blog (Astral Codex X) ist voller ständiger Zweifel und Selbstreflexion.
Er veröffentlicht sogar eine Liste seiner eigenen Fehler (https://www.astralcodexten.com/p/mistakes).
Für mich ist dieser Blog der einzige Berührungspunkt mit der „Rationalist Community“, und arrogant kam mir das nie vor.
Eher genau das Gegenteil.
Das Konzept des „Rationalen“ wirkt am Ende wie ein Werkzeug, um eine zustimmende Atmosphäre zu erzeugen, in der man das von einem selbst und den Leuten um einen herum produzierte Methangas einatmet.
Auch ich fand es am Stanford ganz unterhaltsam, als Genie bezeichnet zu werden, aber manchmal denke ich, dass es bedeutungsvoller ist, auf dem Land die Hände in die Erde zu stecken und tatsächlich etwas Gutes zu tun.
Logik ist ein großartiges Werkzeug, von griechischen Philosophen bis zu modernen Computern.
Aber das Kernproblem des reinen Rationalismus ist, dass man die „ersten Prinzipien“ dieser Logik sorgfältig überprüfen muss.
Wenn die Prinzipien falsch sind oder Komplexität ausgelassen wird, führt Logik einen eher in die falsche Richtung.
Aristoteles war zum Beispiel ein großartiger Logiker, hat aber viele falsche Schlussfolgerungen gezogen.
Ein Beispiel für übersehene Komplexität ist die natürliche Selektion, die aus induktiver Analyse hervorging — nicht aus ersten Prinzipien, sondern weil die reale Welt zu komplex war.
Ich will nicht sagen, dass man Logik ignorieren soll, sondern betonen, dass man immer eine „vorläufige Bescheidenheit“ haben sollte.
Und ich bin Fan von Scott Aaronson.
(Link dazu, warum Aristotle falsch lag)
(Der induktive Ursprung der natürlichen Selektion)
Die hier diskutierten „Rationalisten“ sind keine kartesianischen Rationalisten, sondern bayesianische Empiristen.
Die bayesianische Wahrscheinlichkeitstheorie ist eine stetige reellwertige Erweiterung der booleschen Logik, die Aristoteles entgangen ist.
Vermutlich nennt man sie wegen des Ideals des „rationalen bayesianischen Akteurs“ in der Ökonomie „Rationalisten“.
Allerdings haben auch sie den berühmten Slogan, dass „das Universum nicht einfach als gemeinsame bedingte Wahrscheinlichkeitsverteilung erschlossen werden kann“.
Tatsächlich ist sogar AIXI nicht berechenbar, und ihnen ist sehr wohl bewusst, dass reale Probleme schon theoretisch enorm schwierig sind.
Logik untersucht „Wahrheit“ und „Beweisbarkeit“.
Im Idealfall stimmen beide überein, aber in der Realität gibt es viele wirklich komplexe Systeme, bei denen etwas „wahr“, aber „unbeweisbar“ ist oder umgekehrt.
Deshalb ist Urteilsvermögen ebenfalls wichtig.
Wenn ich so etwas wie ein Echo der Wahrheit spüre, forsche ich tiefer nach, versuche aber immer, den Selbstzweifel nicht zu vergessen.
Gedanken sind letztlich verführerisch, können aber selbst zum Hindernis werden — wichtig ist, sie als notwendige „Stolpersteine“ auf dem Weg zu einer unbewussten Vollkommenheit zu akzeptieren.
Ich möchte Aristoteles ein wenig verteidigen.
Auch wenn seine Logik und Metaphysik unvollständig waren, war das für seine Zeit ein beispielloser Versuch, und seine Community hat empirische Forschung in der Biologie nicht ignoriert.
Das größere Problem war wohl, dass spätere Generationen ihn zu unkritisch verehrt haben.
Mit dem Ausdruck „vorläufige Bescheidenheit“ kann ich mich wirklich identifizieren.
Ich hoffe, daraus wird ein Meme.
Wir sollten den pH-Wert der Bescheidenheit erhöhen.
Logik ist einfach nur ein Werkzeug.
Kein magisches Fenster zur absoluten Wahrheit.
Je nach Situation kann sie passend sein oder eben nicht, also einfach cool als Werkzeug einsetzen.
Ich lese gerade Yudkowskys „Rationality: from AI to zombies“.
Eigentlich ist das Buch eine Sammlung von Blogposts, deshalb wirkt es recht repetitiv; früher habe ich nach ungefähr 50 Kapiteln aufgegeben.
Diesmal interessiert mich das Thema stärker, und ich lese es mit ziemlich viel Vergnügen.
Ich finde, Yudkowsky zeigt stellenweise tatsächlich tiefgehende Einsichten.
Es gibt viele Ideen, die sich für alltägliches Denken eignen, etwa „Belief in Belief“, „Emergence“ oder „Generalizing from fiction“.
Früher hatte ich oft das Gefühl, Diskussionen drehten sich nur im Kreis oder seien bloß Streit über Bedeutungsunterschiede, aber tatsächlich entstehen viele Debatten einfach daraus, dass Wörter unterschiedlich interpretiert werden.
Dass ich solche Fallstricke inzwischen in Echtzeit erkennen kann, ist sehr hilfreich.
Ich würde empfehlen, es einmal auszuprobieren.
Die Stimmung innerhalb der Rationalitäts-Community kann sich zwar fremdartig anfühlen, aber die in dieser Literatur beschriebenen Denkwerkzeuge sind tatsächlich sehr wertvoll.
Ein ganz entscheidender Punkt ist jedoch: In dem Moment, in dem man denkt, man habe als „Rationalist“ mehr recht als andere, ist man als Rationalist eigentlich schon gescheitert.
Diesen Fehler macht man sehr leicht, und wenn man rationale Denkwerkzeuge gut nutzen will, muss man eher noch bescheidener werden als vorher.
Ein echter Rationalist sollte seltener „Ich habe recht“ sagen und häufiger „Oh, könnte es sein, dass ich falsch liege?“
Ich glaube, es gibt das Phänomen, dass Menschen aus STEM-Fächern, die mit Philosophie, Literatur und Geschichte nicht vertraut sind, übermäßig beeindruckt reagieren, wenn sie auf ganz grundlegende Ideen aus diesen Bereichen zum ersten Mal stoßen.
Es ist weniger so, dass Yudkowsky etwas Originelles entdeckt, sondern eher, dass man Themen, die seit Jahrtausenden diskutiert werden, neu begegnet.
Solche sprachlichen Debatten sind das Phänomen, das Wittgenstein „Sprachspiele“ nannte.
Wenn man sich für das Kernargument der AI-Risiken interessiert, ist es viel effizienter, den Anfang von Nick Bostroms <i>Superintelligence</i> zu lesen als Yudkowskys Buch.
Früher habe ich Scott Aaronson immer positiv gesehen und seine Arbeit respektiert.
Aber nachdem ich in diesem Text die Geschichte über die Leute in „Galt's Gulch“ gelesen hatte, dachte ich nur: „Ach so, jetzt ist auch er zum Nashorn geworden.“
(Link zum Stück Rhinoceros)
Im Scherz gesagt: Der Unterschied zwischen einem „rationalist“ und einem „rationalizer“ sind die Anreize.
Ich hielt Scott Aaronson unter den bekannten Rationalisten immer noch für einen der rationaleren.
Dass ihm Scott Siskind erst sagen musste, dass er selbst ein Rationalist sei, ist irgendwie komisch.
Für den Hinweis auf das Stück „Rhinoceros“ würde ich am liebsten upvoten.
Sehr interessant, ich kannte das vorher nicht, und ich finde, es hätte sogar Wert als eigener Top-Post.
Als jemand, der sowohl die Rationalist Community als auch die Rust-Community mag, finde ich es interessant, wie beide auf Hacker News ähnlich behandelt werden.
Die Verachtung, der Mangel an Neugier und die Gewalt großspuriger Verallgemeinerungen schockieren mich immer wieder.
Ich finde die jüngsten Hacker-News-Kommentare umso bedeutender, weil viele von Leuten stammen, die lange in der Rationalist Community aktiv waren.
Auch ich habe mit Freunden ziemlich viel Zeit auf LessWrong, SSC usw. verbracht und unzählige Blogs und Texte gelesen.
Aber jedes Mal, wenn ich etwas schreiben wollte, wurde es mit der Haltung abgetan, ich sei ein Außenseiter und wüsste es deshalb nicht richtig.
Sie kritisieren gern andere Gruppen, reagieren aber defensiv, sobald die eigene Gruppe infrage gestellt wird.
Sowohl die Rationalist- als auch die Rust-Community sind sehr aktiv darin, tatsächlich Dinge zu erschaffen.
Für Menschen, die selbst nichts tun, ist es jedoch viel leichter, die produktive Arbeit anderer zu kritisieren.
Online zeigt sich viel leichter die Angst, im Tempo anderer zurückzufallen oder benachteiligt zu werden, und daraus entstehen Ablehnung und Hass.
Ich denke, die Anonymität und Distanz des Internets verstärken das noch.
Ich dachte immer, Hacker News sei ein Ort, der Rust mag.
Ich selbst bin hier früher überhaupt erst auf Rust gestoßen und habe dadurch Rust gelernt.
Wenn ich Rust-Fans suchen müsste, würde ich direkt auf HN nach ihnen suchen.
Nach meiner Beobachtung wirkt nicht die Rust-Community hier defensiv, sondern eher andere Sprach-Communities.
Wenn man in Threads zu Zig, Odin oder C++ geht, landet man immer in Debatten darüber, dass Rust besser sei.
(Konkretes Beispiel)
Ich war überrascht zu hören, dass die Rust-Community hier kritisiert werde.
Tatsächlich scheint Go viel mehr Kritik abbekommen zu haben, weil es bei der Einführung von Generics so arrogant auftrat.
Persönlich kann ich mit dem Konzept einer „Programmier-Community“ ohnehin nicht viel anfangen.
Die Leidenschaft erkenne ich an, aber ich würde raten: etwas mehr Gelassenheit, vielleicht mal psychologische Beratung und auch mal ein Date.
Worum es hier gerade geht, ist eindeutig die „Rationalist community“ unter https://en.wikipedia.org/wiki/Rationalist_community
und nicht https://en.wikipedia.org/wiki/Rationalism.
Alle verwenden die Bezeichnung falsch.
Die eigentliche Bezeichnung der Bewegung ist rationality oder Rationality im LessWrong-Stil.
Das ist etwas anderes als der klassische philosophische Rationalismus.
Rationality steht dem Empirismus näher.
Die Wörter sind sich so ähnlich, dass dieser Namensstreit fast so mühsam ist wie die Debatten um das Wort „hacker“.
Ich lese mich kreuz und quer durch Communities wie Lightcone und LessWrong, aber ich verstehe immer noch nicht wirklich, was sie eigentlich „tun“.
Ich hatte einmal Interesse an einer Frau, die tief in effective altruism/rationalism steckte, und bin deshalb zu einem Treffen gegangen.
Dank meiner eigenen rebellischen Ader bekam ich ein Ablehnungsgefühl, und erst Jahre später wurde mir klar, dass die Atmosphäre ziemlich sektenhaft war.
Im Nachhinein bin ich fast froh, dass mein innerer edgy-atheistischer Trotz mich davon abgehalten hat, da hineinzupassen.
Der ganze Text war wie ein großes Abenteuer.
Besonders unterhaltsam fand ich den ontologischen „Bedrohungs“-Teil von Cade Metz.
Aber am Ende gilt, um einen großen Weisen aus Chicago zu zitieren: Man sollte sich besser nicht in ein „-ismus“ verfangen.
Wichtig ist, sich selbst zu vertrauen, statt sich an eine Denkrichtung zu ketten.
Anspielung auf John Lennons „Ich glaube nicht an die Beatles, ich glaube nur an mich“.
Ob ich nun ein Walross bin oder was auch immer — am Ende muss ich trotzdem bei anderen mitfahren.
Ich finde interessant, dass du dich auf den Bedrohungsaspekt bei Cade Metz konzentrierst.
Rationalisten wischen Kritik oft einfach mit „Als man sie getroffen hat, waren sie doch ganz nette Leute“ beiseite.
Wenn Curtis Yarvin zu einem Vibecamp-Treffen kommt und freundlich auftritt, entstehen danach schnell Verteidiger seiner Person.
Solche Eindrucksurteile stehen in direktem Widerspruch zu einer rationalistischen Haltung und sind für mich ein typischer Beleg dafür, dass objektive Kritik ausgeblendet wird, sobald sich ein Innen und Außen der Gruppe gebildet hat.
Bei der Cade-Metz-Debatte kippt es irgendwann in ein Schema von „Wer nicht für uns ist, ist gegen uns“, und die eigentlichen Streitpunkte gehen verloren.
Beim Neoreaktionismus heißt es dann, man solle auch merkwürdigen Ideen zuhören, falls etwas Brauchbares dabei sei, aber selbst sind sie gegenüber Einwänden völlig wehrlos.
Am Ende merkt man, dass diese Bewegung vielleicht doch weniger auf Wahrheitssuche ausgerichtet ist, als sie glaubt, und stärker von Selbstgewissheit geprägt ist.
Ideologie ist am stärksten, wenn Menschen glauben, sie hätten keine Ideologie.
Ich mache mir ernsthaft Sorgen, dass Rationalists einfach autofreie faschistische Anarchisten sein könnten.
Ein „-ismus“ ist nie gut.
Man sollte nicht an Denkrichtungen glauben, sondern an sich selbst.
Wobei das, je nach Blickwinkel, natürlich auch wieder verschiedene „-ismen“ wie Solipsismus oder Narzissmus hervorbringen kann.
Die Ablehnung, die Rationalists erfahren, wirkt auf mich stärker als durch die Realität gerechtfertigt.
Drei Gründe, über die ich nachgedacht habe:
Menschen hassen es, ausgeschlossen zu sein.
Wenn jemand Ansichten ausspricht, die von den eigenen abweichen, löst das leicht Abwehr aus.
Und genau aus denselben Gründen wurden Nerds historisch immer wieder ausgegrenzt.
Die Rationalist Community ist überhaupt nicht exklusiv.
Man kann sich einfach selbst zum Rationalist erklären, „epistemic status“ in den Blog schreiben und ist sofort dabei.
Es ist keine Atmosphäre, in der man von Zugehörigkeit ausgeschlossen würde; eher liegt das Problem dieser Community darin, dass sie Vielfalt behauptet, in Wirklichkeit aber sehr gleichförmig in ihren Meinungen ist.
Wenn eine Person eine neue Behauptung aufstellt, wird sie oft sehr schnell von allen als Tatsache übernommen.
Ein Beispiel ist die These, dass Spuren von Lithium Fettleibigkeit verursachen, die sich sogar mit Fördergeldern von Astral Codex Ten verbreitete, obwohl Fachleute von Anfang an auf Fehlinterpretationen der Studie, Missbrauch von Statistik und das Ignorieren wichtigerer Variablen hingewiesen haben.
Das Problem ist nicht bloß Meinungsverschiedenheit, sondern die sehr häufige Tendenz, tatsächliche Fachkenntnis zu ignorieren und nur mit „ersten Prinzipien“ zu argumentieren, wobei widersprüchliche Evidenz übersehen wird.
Ein weiterer wichtiger Grund ist, dass Rationalists eine internetbasierte Gruppe sind und ihr gesamter Ruf online geformt wird.
Das Internet selbst neigt dazu, Diskussionen generell in eine negative Richtung zu ziehen, was diesen Effekt verstärkt.
Ihre Behauptung, „ASI alignment wird schwierig sein“, lässt sich erst im Nachhinein beweisen.
Im Moment rufen sie immer wieder „Der Wolf kommt“, aber die Belege bleiben unklar.
Wenn der Wolf tatsächlich auftaucht, ist es womöglich schon zu spät, etwas zu tun — dadurch verlieren sie unfreiwillig Vertrauen und ziehen Ablehnung auf sich.
Hacker News urteilt über Rationalität extrem streng.
Wenn man sich zum Beispiel Threads über Mr. Beast anschaut, sind die Top-Kommentare trotz seiner Kontroversen alle recht nachsichtig.
Scott Aaronson hingegen ist theoretisch jemand, den die Community sehr hoch schätzt, aber sobald das Gespräch auf Rationalität kommt, wird er weniger nachsichtig behandelt als Mr. Beast.
(Beispiel-Link zu Kommentaren über Mr. Beast)
Du hast den Ausdruck „vibe based“ benutzt, aber eigentlich ist das eine Schlussfolgerung aus mehreren empirischen Beobachtungen.
Als ich in Yudkowskys Buch auf die Beschreibung eines „Quantenphysikers, der im Internet fast immer richtige Diskussionen führt“ stieß, dachte ich nur: „Ah, diese Person würde perfekt in die Rationalist Community passen.“
In Wirklichkeit würde jemand, der wirklich so spricht, schon allein dadurch wie eine fiktive Figur wirken.
Wenn so ein Charakter tatsächlich existiert, wirkt die Atmosphäre nur noch eigenartiger.
Selbst der Titel fühlt sich an wie eine Filmszene, in der eine Figur in die Kamera blickt und cool wirken will.
Ehrlich gesagt würde ich vermutlich ähnlich reagieren, wenn ich Scott Aaronson in freier Wildbahn begegnen würde.
Er ist einfach so klug, und ich habe noch nie jemanden gesehen, der Quantum Computing so klar erklärt.
Wenn man gleich am Anfang aufgehört hat zu lesen, was soll dann ein Kommentar dazu überhaupt bedeuten?
Genau diese Haltung ist doch die Art oberflächlicher Abwertung, die die HN-Richtlinien verbieten.
In einem Besuchsbericht wurde offen gesagt, die Community habe sektenhaft gewirkt.
Als ich diese Beschreibung „es fühlte sich sektenhaft an“ gelesen habe, konnte ich das sehr gut nachvollziehen.
Sowohl die Rationalist Community als auch die Rust-Community werden auf HN auf interessante Weise behandelt.
Weil Rationalist und Rationalism oft verwechselt werden, sollte man verstehen, dass Rationality — besonders Rationality im LessWrong-Stil — nicht dasselbe ist wie der traditionelle philosophische Rationalismus.
Die Rationalist Community folgt einer empiristischen Tradition, und auch die Bezeichnung selbst soll genau diese Unterscheidung markieren.
Weil die Wörter so ähnlich sind, funktioniert diese Unterscheidung in der Praxis allerdings oft nicht gut.
Bei Lightcone, LessWrong usw. bleibt für mich immer noch unklar, was diese Community konkret eigentlich tut.