Ich glaube, ich bin jetzt Rationalist
(scottaaronson.blog)- Scott Aaronson meint nach seiner Teilnahme an LessOnline in Berkeley, dass er die Identität als Rationalist, von der er lange Abstand gehalten hatte, nun annehmen kann
- Was von der Veranstaltung am stärksten blieb, waren weniger die offiziellen Sessions als die kleinen Gespräche, die überall in Lighthaven stattfanden; Teilnehmenden wurde sogar geraten, Sessions auszulassen und stattdessen tiefgehende Gespräche zu führen
- Die größte Distanz hatte früher die Fixierung darauf geschaffen, dass KI bald übermenschlich mächtig werden könnte; nach den jüngsten empirischen Veränderungen bei KI hat er seine Gegenposition jedoch zurückgezogen und widmet auch der AI-Alignment-Forschung Zeit
- Es gab auch kulturelle Unterschiede, eine sektenartige Atmosphäre und die Angst vor Spott von außen, doch bei LessOnline sah er direkt Teilnehmende mit Ehepartnern und Kindern, offene Debatten und eine erneuerte Führungsgeneration
- Er will seiner eigenen Erfahrung stärker vertrauen als externer Kritik und nimmt die Rationalisten-Community als eine seiner intellektuellen Gemeinschaften an, ohne seine bisherigen Identitäten und Überzeugungen aufzugeben
Menschen und Orte bei LessOnline
- Scott Aaronson nahm an LessOnline teil und traf dort Menschen, die er seit Langem kennt, darunter Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin und Carl Feynman
- Auch Joe Carlsmith, Jacob Falkovich und Daniel Reeves, die er bisher nur online kannte, traf er persönlich
- Die Veranstaltung fand in Lighthaven in der Nähe der Telegraph Avenue in Berkeley statt; beschrieben wird der Ort als Geflecht aus Gängen, Konferenzräumen, Unterkünften, Gärten und Ranken
- Bei LessOnline in diesem Jahr leitete Aaronson zwei Veranstaltungen
- Ein Gespräch mit Nate Soares über die Orthogonality Thesis
- Ein AMA zu Quantencomputing und theoretischer Informatik
Die Gesprächsräume waren größer als die Sessions
- Am stärksten in Erinnerung blieben ihm weniger die offiziellen Sessions als die Hunderte parallelen Gespräche, die von morgens bis abends auf dem gesamten Gelände stattfanden
- In der Eröffnungssession wurden die Teilnehmenden aufgefordert, möglichst viele Sessions auszulassen und stattdessen intensive Gespräche in kleinen Gruppen zu führen
- Begründet wurde das damit, dass diese Form besser sei und die Sessionräume ohnehin zu klein seien
- Selbst der Weg zwischen Gebäuden konnte Stunden dauern; er beschreibt es so, dass Menschen, die sein Namensschild sahen, etwa alle fünf Fuß eine Frage stellten
- In einem Gespräch mit Scott Alexander sagte Aaronson, er glaube, nun bereit zu sein, Rationalist zu werden; Alexander antwortete, er sei schon vor zehn Jahren, korrigiert: vor zwanzig Jahren, eingetreten
Intellektuelle Konflikte mit den Rationalisten
- Nachdem er sich als Rationalist bezeichnet hatte, war das Erste, was er tat, eine heftige Debatte mit Scott Alexander, Joe Carlsmith und anderen über seinen Essay von vor zwölf Jahren, Ghost in the Quantum Turing Machine
- Aaronsons Argument ist, dass die Irreversibilität und Vergänglichkeit biologischen Lebens im Gegensatz zur Kopierbarkeit und Rückspulbarkeit digitaler Computerprogramme steht
- Er meint, dieser Unterschied könne mit mikroskopischen Details im Anfangszustand des Universums, dem No-Cloning-Theorem der Quantenmechanik und chaotischer Verstärkung in der Gehirnaktivität zusammenhängen
- Solche Faktoren könnten, wenn es um Fragen wie freien Willen und Bewusstsein geht, Hinweise auf tiefere Schichten der Welt sein
- Diese Debatte war auch ein Versuch, den größten Konfliktpunkt zwischen dem Konsens der Rationalisten und seinen eigenen Überzeugungen offenzulegen
Warum er sich bisher nicht Rationalist genannt hatte
- Aaronson stellt klar, dass sich seine bisherigen Identitäten nicht geändert haben
- Informatiker
- Mitglied der akademischen Welt
- Wähler, der durchgehend für die Demokraten stimmt
- liberaler Zionist
- Jude
- Der erste Grund war, dass es ihm vor etwa 15 Jahren merkwürdig erschien, wie sehr Rationalisten von der Frage besessen waren, ob KI bald übermenschlich mächtig werden und die Grundbedingungen des Lebens auf der Erde verändern könnte
- Die späteren empirischen Entwicklungen erschütterten seine Gegenposition
- Er meint, der größte Irrtum der Rationalisten in Bezug auf KI sei gewesen, zu unterschätzen, wie schnell die Revolution stattfinden würde
- Sie hätten überschätzt, wie viele neue Ideen nötig seien; tatsächlich seien mehr Compute und Trainingsdaten die wichtigsten Faktoren gewesen
- Heute verwendet auch Aaronson einen Teil seiner Zeit auf AI Alignment und führte bei LessOnline auch Forschungsmeetings mit Kollegen durch
Kulturelle Distanz und Wandel
- Der zweite Grund waren Unterschiede in Lebensstil und Kultur
- Er hatte den Eindruck, dass Rationalisten vor allem Menschen in ihren Zwanzigern seien, die in verschiedenen eigenen Organisationen in Berkeley und San Francisco arbeiten
- Er sah dort eine Kultur, die mit Gruppenhäusern, sexuellen Vorlieben, Gender-Identitäten, Fetischen und teils auch Psychedelika verbunden war
- Aaronson stellt sich selbst als jemanden dar, der von dieser Kultur entfernt ist
- heterosexuell
- in einer monogamen Beziehung
- Professor mittleren Alters mit Tenure
- verheiratet mit einer Partnerin im selben Beruf
- Vater zweier Kinder, die normale Schulen besuchen
- Mit der Zeit hätten viele Rationalisten geheiratet, Kinder bekommen oder beides
- Auch die vielen Kleinkinder, die über den Lighthaven-Campus liefen, blieben ihm eindrücklich in Erinnerung
- Einige seien von explizit pronatalistischen Ideen oder von Bryan Caplans Selfish Reasons to Have More Kids überzeugt worden, andere hätten einfach einem lange bestehenden menschlichen Impuls gefolgt
- Eine Parenting-Session bei LessOnline behandelte die Frage, wie man Kinder unabhängig und eigenständig, zugleich aber sozialisiert und technikaffin erzieht, ohne dass sie süchtig nach iPad-Spielen werden
- Wahl einer Schule, an der sie schnell Mathematik lernen können
- Wege, langweilige Schulerfahrungen zu vermeiden
- Wie viel vom eigenen Leben Eltern für das „Enrichment“ ihrer Kinder opfern sollten
- Wie stark man Judith Rich Harris’ These vom abnehmenden Ertrag elterlicher Anstrengungen vertrauen sollte
Sektenbedenken und was er tatsächlich sah
- Der dritte Grund war, dass die Rationalisten teilweise eine sektenartige Atmosphäre ausstrahlten, mit Eliezer Yudkowsky als Guru
- Eliezer schreibe in Gleichnissen und Koans und lehre, dass das Schicksal des Lebens auf der Erde auf dem Spiel stehe und denjenigen, die das verstehen, die Last zufalle, die Zukunft zu führen
- Was er in Lighthaven sah, ähnelte jedoch eher einer Gemeinschaft, die an etwas glaubt, wie die Beatniks, die Bloomsbury Group oder die frühe Royal Society
- Auch wenn Eliezer auftauchte, wurde er wie alle anderen zum Gegenstand von Debatten
- Die Führung sei in erheblichem Maße an eine neue Generation übergegangen
- Nate Soares und Zvi Mowshowitz fanden neue Wege, über KI-Risiken zu sprechen
- Scott Alexander schreibt seit zehn Jahren den Blog, der zum intellektuellen Zentrum der Community geworden ist
- Kelsey Piper, Jacob Falkovich, Aella und andere erweiterten den Rationalismus in Richtungen, die von Beteiligung an Mainstream-Politik bis zu ganz anderen Feldern reichen
- Er räumt allerdings ein, dass es schwer sei, es nicht als „cringe“ zu empfinden, zu KI-generierten Popsongs über Bayes’ theorem und Tarskis Wahrheitsdefinition zu tanzen
Direkte Erfahrung statt Spott von außen
- Sein tiefstes Zögern war die Angst, akademische Kollegen oder zufällige Menschen im Internet könnten ihn auslachen, wenn er sich als Rationalist bekennt
- Er sagt, er habe lange nach einer Möglichkeit gesucht, die Anziehungskraft dieser Community so rational zu erklären, dass der Spott verstumme
- Vor fünf Jahren habe er wegen der Angriffe in Cade Metz’ Artikel in der New York Times, in RationalWiki, SneerClub und anderswo das Gefühl gehabt, die Rationalisten-Community könne zusammenbrechen
- Die Community, die er bei LessOnline sah, florierte hingegen stärker denn je
- ein realer Campus
- hervorragende Autoren zu verschiedensten Themen
- Menschen, für die sich dieser Ort wie der Ort anfühlt, an dem sie sein sollten
- eine Gemeinschaft, in der es sogar Kinder gibt
Reaktionen auf politische und geschlechtsbezogene Vorwürfe
- Zu dem Vorwurf, die Rationalisten stünden rechtsextremen Monarchisten wie Curtis Yarvin nahe, verweist Aaronson auf das Yarvin-Profil im New Yorker
- Die politisch am weitesten rechts stehende Session, die er bei LessOnline sah, war eine mit Kelsey Piper und aktuellen sowie ehemaligen Kongressmitarbeitern
- Thema war die Aussicht, dass moderate Demokraten eine massentaugliche Pro-Abundance-Agenda vorlegen und MAGA schlagen könnten
- Zum Vorwurf, Rationalisten seien Incels, nennt er als Beispiel eine Session von Jacob Falkovich, in der es vor allem um Dating-Ängste männlicher Nerd-Teilnehmer ging und weibliche Rationalistinnen ihre Perspektiven beisteuerten
- Für Menschen in Beziehungen gab es außerdem eine Session zu Beziehungskonflikten von Gretta Duleba, Eliezers Partnerin und ehemaliger Paarberaterin
Ein unveränderter Mensch, eine neu angenommene Gemeinschaft
- Aaronson sagt, er werde dem, was er selbst gesehen habe, mehr glauben als den Anschuldigungen der Spötter gegenüber Rationalisten
- Selbst wenn man ihm sage, er habe seine Maske fallen lassen, sei unter der Maske derselbe Mensch wie zuvor
- Er beschreibt sich weiterhin als jemanden, der die Busy-Beaver-Funktion und BQP/qpoly mag und die Aufklärung stark unterstützt
- In seiner Familie, unter akademischen Kollegen, in der Rationalisten-Community und unter seinen Bloglesern habe er Menschen gefunden, die das wollen, was er anzubieten hat
1 Kommentare
Hacker-News-Kommentare
Nach der Lektüre dieses Textes habe ich tiefer darüber nachgedacht, warum mir diese ganze Bewegung so unangenehm ist
Es gibt eine inhärente Spannung zwischen der Haltung, Dinge rational betrachten zu wollen, und der Haltung, aus First Principles heraus zu schlussfolgern; besonders störend ist der absolutistische Tonfall in weiten Teilen der Community. Man sieht kaum die Bescheidenheit im Sinne von: „So sehe ich das, aber es könnte Perspektiven geben, die ich übersehen habe, und ich könnte falschliegen.“ Sie wirken wie Menschen, denen es peinlich wäre, zu einem Thema keine Meinung zu haben oder „Ich weiß es nicht“ zu sagen
Vor der KI-Ära war das einigermaßen erträglich, aber danach zeigte diese Überhitzung, bei der sie überzeugt waren, die Welt gehe unter, keinerlei Demut gegenüber der Möglichkeit, dass wir die Implikationen von KI vielleicht noch nicht vollständig verstehen. Vielleicht entwickelt sich KI ja in eine weit gemäßigtere und langweiligere Richtung als erwartet
Dabei übersehen sie, dass eine Schlussfolgerung höchstens akademischen Wert hat, wenn die Ausgangsbedingungen stark künstlich sind. Man könnte das „sich den Kopf in den eigenen Hintern stecken“ nennen. Das Problem ist, dass solche Leute eine absolute Überlegenheit ausstrahlen, weil sie ja „nur Logik“ verwendet hätten und deshalb nicht falschliegen könnten. Viele geraten als Teenager oder in ihren Zwanzigern in so etwas hinein, aber normalerweise gibt es jemanden, der ihnen eins auf den Hinterkopf gibt und sagt, sie sollen damit aufhören. Mit genug Geld und Internet kann man solchen Bremsen ausweichen und sich in sein eigenes Zimmer zurückziehen
Sind das nicht die Leute, die den Trend geprägt haben, Blogposts mit Formulierungen wie epistemic status: mostly speculation zu versehen? Sie schreiben auch über die Risiken von Overconfidence, messen nach, wie falsch ihre Prognosen waren, und pflegen Seiten wie „Liste der Dinge, bei denen ich falschlag“
Es gibt reale Risiken wie algorithmische Verzerrung, Policy Laundering, Energiekosten und die beschleunigte Konzentration von Reichtum. Außerdem führt diese Strömung zum sogenannten Longtermism, der den Nutzen herabsetzt, heutige reale Probleme zu lösen, und sich stattdessen ausschließlich darauf konzentriert, hypothetische Probleme zu lösen, von denen man annimmt, dass sie irgendwann alles andere bedeutungslos machen
Er ist voller Zweifel und Selbstprüfung, und er führt öffentlich eine Liste seiner eigenen Fehler: https://www.astralcodexten.com/p/mistakes
Mein einziger Berührungspunkt mit der „Rationalisten-Community“ ist dieses Blog, aber dort bekomme ich eher den genau gegenteiligen Eindruck von Selbstüberschätzung
Ich verstehe, dass es Spaß gemacht haben muss, sich von Stanford-Frauen sagen zu lassen: „Du bist ein immer richtiger supergenialer Quantenphysiker-Mathematiker.“ Trotzdem: Bitte wahrt doch ein wenig Würde und denkt auch an die guten Dinge, die man im ländlichen Indiana mit Dreck unter den Fingernägeln tun kann
Logik ist ein großartiges Werkzeug, das uns von den griechischen Philosophen bis zu Computer-Gates geführt hat
Die Schwierigkeit des reinen Rationalismus liegt darin, die ersten Prinzipien, von denen das Denken ausgeht, zu überprüfen. Wenn die Prinzipien falsch sind oder unterwegs Komplexität übersehen wird, kann Logik Menschen an völlig falsche Orte führen
Als Beispiel für fehlende erste Prinzipien kann man Aristotle sehen. Einer der größten Logiker der Geschichte kam zu vielen falschen Schlussfolgerungen
Ein Beispiel für übersehene Komplexität ist, dass die natürliche Selektion nicht aus Denken in ersten Prinzipien hervorging, sondern aus empirischer Analyse. Theoretisch wäre Ersteres vielleicht möglich gewesen, aber es war zu komplex [1]
Das soll Logik nicht herabsetzen, sondern heißt, dass Antworten immer von vorläufiger Demut begleitet sein sollten. Trotzdem bin ich ein großer Fan von Scott Aaronson
[0] https://www.wired.com/story/aristotle-was-wrong-very-wrong-b...
[1] https://www.jstor.org/stable/2400494
Bayessche Wahrscheinlichkeit erweist sich als die einzige Art, die Boolean logic, die Aristotle nicht hatte, auf kontinuierliche reelle Wahrscheinlichkeiten zu erweitern. Dass sie sich selbst „Rationalisten“ nennen, scheint am Ideal des „rationalen Bayesschen Akteurs“ aus der Ökonomie zu liegen
Allerdings haben sie das Motto: „Man kann nicht einfach über der gemeinsamen bedingten Wahrscheinlichkeitsverteilung des Universums folgern.“ Das heißt: AIXI ist nicht berechenbar, und selbst AIXI kann nur über berechenbaren Wahrscheinlichkeitsverteilungen folgern
Unter idealsten Bedingungen ist beides dasselbe. Die Logik hat sich in Modelltheorie, die sich damit befasst, was wahr ist, und Beweistheorie, die sich damit befasst, was beweisbar ist, aufgeteilt. Ein großer Teil des heutigen Rationalismus wirkt wie losgerissene Beweistheorie. Viele Leute täten gut daran, Kants "The Critique of Pure Reason" zu lesen
In komplexen Systemen kann Wahres unbeweisbar sein, und vieles Beweisbare kann nicht wahr sein. Deshalb ist es wichtig, das Urteilsvermögen ebenso zu schärfen wie das Schlussfolgern und nicht nur reasoning, sondern auch reckoning zu üben. Ich denke dabei an das Gefühl, den „Klang der Wahrheit“ zu hören, aber da das nicht falsifizierbar ist, sollte man skeptisch bleiben, selbst wenn man ein solches Gefühl bei sich selbst glaubt. Es ist nur ein Wegweiser zu tieferer Untersuchung, nicht das Endziel
Viele Menschen verirren sich durch Denken. Denken ist verführerisch. Man sollte öfter sagen, dass Denken nur ein bewusstes Hindernis auf dem Weg zur unbewussten Vollendung ist
Seine Gemeinschaft scheute empirische Forschung in der Biologie nicht. Auch sie kamen in vielen Fragen zu falschen Schlussfolgerungen, aber man sollte eher den Späteren vorwerfen, dass sie diese nicht infrage stellten
Logik ist ein Werkzeug, kein „magisches Fenster, durch das man absolute Wahrheit betrachtet“. Werkzeuge können für manche Aufgaben gut und für andere schlecht sein
Wir müssen einen Kult der Provisional Humility gründen. Wir müssen den pH-Wert erhöhen
Ich lese gerade Yudkowskys Rationality: from AI to zombies
Weil es eine Sammlung von Blogposts ist, wiederholt sich vieles stark; beim ersten Versuch habe ich nach etwa 50 Kapiteln aufgegeben, aber inzwischen interessiert mich das Thema mehr, und ich lese es mit deutlich mehr Vergnügen
Für Leute, die sich nicht in seine Texte vertieft haben oder wegen des kultartigen Äußeren abgeschreckt wurden: Er hat wirklich etwas erfasst. Es gibt viele praktische Ideen, die im Alltagsdenken ziemlich nützlich sind, etwa „Belief in Belief“, „Emergence“ und „Generalizing from fiction“
Zum Beispiel habe ich viele rein semantische Debatten erlebt. Fälle, in denen es so aussieht, als sei man sich über etwas uneinig, beide Seiten aber in Wirklichkeit nicht auf dasselbe Phänomen zeigen. Die Quelle der Uneinigkeit ist, dass dieselben Wörter für unterschiedliche, aber verwandte „Objekte“ benutzt werden. Das klingt offensichtlich, ist aber von der Sorte, die man meist erst im Nachhinein erkennt; jetzt fühle ich mich viel besser darauf vorbereitet, es in Echtzeit zu bemerken. Einen Versuch ist es wert
Aber die in der Literatur beschriebenen Denkwerkzeuge sind wertvoll, wenn man einen sehr wichtigen Hinweis hinzufügt: In dem Moment, in dem man denkt „Ich bin Rationalist, also liege ich eher richtig als diese Person“, ist man als Rationalist gescheitert
Das ist ein Fehler, den man wirklich leicht macht. Um die Werkzeuge effektiv zu nutzen, muss man demütiger werden als zuvor; sonst wird man zu einem unausstehlichen Menschen, der sich nicht überzeugen lässt. Wenn man öfter „Tatsächlich habe ich recht“ sagt als „Wow, ich könnte mich irren“, ist man als Rationalist gescheitert
Ich sage nicht, dass das hier der Fall ist, aber diese Themen werden seit Jahrtausenden diskutiert, also sollte man zumindest überrascht sein, bevor man annimmt, Yudkowsky habe Neuland betreten
https://hpmor.com/
Ich habe nie schlecht über Scott Aaronson gedacht, und wann immer ich zufällig auf seine Texte und Arbeiten stieß, war ich oft beeindruckt.
Aber als ich in diesem Text las, wie diese Leute sich in ihrer eigenen „Galt's Gultch“ versammeln, dachte ich: „Ah, jetzt ist er zum Nashorn geworden.“
https://en.wikipedia.org/wiki/Rhinoceros_(play)
Um einen schlechten Witz zu machen: Was ist der Unterschied zwischen einem „rationalist“ und einem „rationalizer“? Nur die Anreize.
Deshalb ist es ein bisschen lustig, dass er nicht wusste, dass er selbst Rationalist ist, bis Scott Siskind es ihm sagte.
Nach Bauchgefühl beurteilt bekommen die Rationalists offenbar mehr Häme ab, als sie verdienen.
Wenn man darüber nachdenkt, gibt es drei Gründe. Erstens sind sie eine Community, also gibt es eine Ingroup, und wer nicht dazugehört, ist per Definition Teil der Outgroup. Menschen mögen es nicht, die Outgroup anderer zu sein.
Zweitens haben sie ungewöhnliche Meinungen und äußern sie öffentlich. Menschen neigen dazu, Leute nicht zu mögen, die Ansichten äußern, die von den eigenen abweichen.
Drittens sind sie Nerds. Die Gründe, aus denen Nerds historisch gemobbt oder ausgegrenzt wurden, treffen vermutlich auch auf sie zu.
Die Kritik entsteht nicht, weil irgendein toller Club Leute nicht hineinlässt.
Das Problem ist vielmehr, dass sie zwar davon reden, häretische Ideen und vielfältige Perspektiven zu akzeptieren, bei vielen Themen aber erstaunlich geschlossen auftreten. Von außen lässt sich leicht beobachten, wie ein rationalistischer Blogger zu einem Thema den Samen pflanzt und andere es dann als Tatsache übernehmen.
Vor ein paar Jahren schrieb ein rationalistischer Blogger einen langen Text darüber, dass Spurenmengen von Lithium im Wasser Fettleibigkeit verursachten, und erhielt dafür sogar finanzielle Unterstützung von Astral Codex Ten. Obwohl echte Fachleute von Anfang an Fehler bei der Interpretation der Studien, statistischen Missbrauch und das Ignorieren wichtigerer Faktoren aufzeigten, wurde das jahrelang in der Rationalisten-Community als eine Art Beleg herumgereicht.
Das Problem sind nicht abweichende Meinungen, sondern dass sie sehr häufig Themen mit einer unbeholfenen First-Principles-Bewertung behandeln, dabei echte Expertise ignorieren und widersprechende Evidenz ausblenden.
Daher sind auch diejenigen, die sie bewerten, vor allem im Internet, und Internet-Diskurse fließen im Allgemeinen in eine eher fade negative Richtung. Ironischerweise ist dieser Kommentar selbst ein gemäßigtes Beispiel dafür.
Offen gesagt: Es ist nicht erlaubt, auch nur ein bisschen klug zu sein, ohne sich zugleich so zu verhalten wie „ach, keine Ursache“. Diese Klugheit muss einem anderen Zweck dienen, etwa der Medizin oder der Buchhaltung. Eine interessante Tatsache aus einem Statistik-Kurs: Der durchschnittliche CPA hat einen etwa 5 Punkte höheren IQ als der durchschnittliche Arzt.
Natürlich ist das bis zu einem gewissen Grad gerechtfertigt, weil immer die Gefahr besteht, in den eigenen Hintern zu stürzen und darin zu verschwinden. Zugleich hält diese Haltung viele Menschen unter dummen Managern und Idioten fest, die ohne den geringsten Zweifel voranmarschieren.
Wenn man sich diesen Thread[1] über die umstrittene Figur Mr. Beast ansieht, fällt auf, dass die Top-Kommentare alle ziemlich großzügig sind. Es ist ziemlich lustig, diese Diskussion mit den Kommentaren zu diesem Artikel zu vergleichen.
Scott Aaronson, der theoretisch jemand sein sollte, den HN sehr mögen müsste — jemand, der enorm viel über Quantenmechanik weiß und als sehr freundlich und klug gilt — sagt nur, dass er Rationalität mag, und wird trotzdem weniger nachsichtig behandelt als Mr. Beast. Ist das nicht seltsam?
[1]: https://news.ycombinator.com/item?id=41549649
Das nützlichste Buch zu Themen rund um Rationalism mit großem R dürfte Elizabeth Sandifers „Neoreaction, A Basilisk: Essays on and Around the Alt-Right“ [1] sein.
Nominell geht es um die Alt-Right, tatsächlich aber sehr viel stärker um die Rationalist-Community mit großem R und die Personen, die die heute in der US-Politik dominierende neoreaktionäre Bewegung großgezogen haben. Es ist vermutlich das beste Buch, um zu verstehen, wie man von der politischen und intellektuellen Position des Jahres 2010 bis hierher gekommen ist.
https://www.goodreads.com/book/show/41198053-neoreaction-a-b...
Allerdings steht Chivers uns eher wohlwollend gegenüber; wenn einem also das eine Buch gefällt, dürfte einem das andere wahrscheinlich nicht gefallen.
Das passt auch nicht zum Grundsatz, Hacker News nicht als politisches und ideologisches Schlachtfeld zu benutzen. Zudem stützt sich diese Schmähung auf Schuld durch Assoziation, was viele grundsätzlich als unfair ansehen würden, und schon bei oberflächlicher Betrachtung passt es nicht besonders gut.
Andere Perspektiven sollte man zumindest kurz zur Kenntnis nehmen. „Reliable Sources: How Wikipedia Admin David Gerard Launders His Grudges Into the Public Record“ https://www.tracingwoodgrains.com/p/reliable-sources-how-wik... enthält eine lange Erläuterung dazu, wie Sandifer, eine enge Verbündete Gerards, mit rationalism befasst war, sowie zur Voreingenommenheit der von ihr zitierten Arbeiten.
Das ist genau die Argumentationsweise, die rationalists angeblich ablehnen, taucht aber immer wieder auf, sobald eine für die eigene Community unbequeme Behauptung geäußert wird. Kommentare, die Inhalte wegen des Autors ignorieren oder Behauptungen nicht anerkennen, weil sie sich wie „Schmähung“ anfühlen, räumen damit ein, dass sie nicht in der Lage sind, eine Behauptung nach ihren eigenen Verdiensten zu beurteilen.
Wer nicht in persönliche Angriffe ausweichen, sondern sich mit dem eigentlichen Thema befassen will, sollte lesen, was Scott Alexander selbst darüber geschrieben hat, warum er sich so oft mit neoreaktionären Themen beschäftigt: https://www.reddit.com/r/SneerClub/comments/lm36nk/comment/g...
Nach einigen Zitaten steigen die Blogaufrufe und die Zahl neuer Follower ungefähr um das Fünffache, wenn er über Reaction oder gender schreibt, und Follower seien wichtig, weil sie die Fähigkeit erhöhen, wichtige Ideen zu verbreiten und mit wichtigen Leuten in Kontakt zu kommen; es gebe also persönliche Gründe. Außerdem sagt er, er wolle die guten Teile des reactionary thought verbreiten.
Er sehe sich selbst als ziemlich klug und als jemanden, der den Durchblick hat, lerne aber von Reactionaries ständig neue und wichtige Dinge über Kriminalität, die Geschichte des Zweiten Weltkriegs und HBD. HBD steht hier für „human biodiversity“, den bevorzugten Begriff der Alt-Right für eine Einteilung von Menschen nach Rassen mit Fokus auf Rassismus, insbesondere auf die relative Intelligenz verschiedener Rassen. Es ist auch ein auffällig wiederkehrendes Thema in Scott Alexanders Arbeit. Er hat sogar einen Blogpost geschrieben, der seinen Followern verschlüsselt signalisiert, dass er es öffentlich zwar bestreitet, privat aber wohl für sehr zutreffend hält.
Das Ironische daran ist, dass die Rationalist-Community aus Leuten bestand, die nicht aufmerksam genug waren, um zu bemerken, dass „sich als Rationalist zu identifizieren“ im Allgemeinen keine rationale Entscheidung ist.
Wenn es einen Link gibt, der mich davon überzeugen könnte, dass die Rationalist-Community nicht einfach nur ein Haufen heißer Luft ist, würde ich ihn wirklich gern sehen.
Ich habe das erste Drittel von HPMOR gelesen, fand den Text aber nicht besonders gut; wichtiger noch: Er hat mir nicht durch hochdimensionale rationalistische Denkweise die „Augen geöffnet“. Mitgenommen habe ich etwa: „Ja, die ursprünglichen HP-Geschichten hatten viele Widersprüche und Dummheiten, und wenn die Figuren wirklich klug wären, wäre es wohl eine andere Geschichte.“
Ich habe auch ziemlich viele Essays von EY und Beiträge auf LessWrong gelesen und versucht, die Ideen zu finden, die einem den Verstand zertrümmern sollen. „Die Karte ist nicht das Gebiet“ ist selbstverständlich; bei „Aktualisiere deine Überzeugungen anhand der Evidenz“ weiß ich, abgesehen von Religion, nicht, wer widersprechen würde; „Menschen sind voreingenommen, also sollten sie das überwinden“ ist ebenfalls offensichtlich; und „Triff Entscheidungen passend zur Evidenz und zum gewünschten Ergebnis“ ist als Rat zwar nett.
Diese ganze Philosophie scheint sich auf einer halben Seite Notizen zusammenfassen zu lassen, und die meisten würden wohl nicken und sagen: „Stimmt.“
Genauso sind die Strategien der Rationalists zur Wissenssuche nicht erschütternd, sondern einfach rational. Sie bieten ein Regelbündel, dem man folgen kann, um in der Welt um sich herum wirksamer zu handeln.
Der Teil des Rationalismus, der über eine halbe Seite Notizen hinausgeht, besteht meist aus den verschiedenen nachgelagerten Schlussfolgerungen, die sich aus diesen rationalen erkenntnistheoretischen Regeln ergeben.
Zum Beispiel gibt es Leute, die starke Meinungen dazu äußern, was Effective Altruism tatsächlich tut; https://www.givewell.org/charities/top-charities findet man mit einer einzigen Google-Suche. Trotzdem verspüren sie offenbar nicht das Bedürfnis, das zu prüfen, bevor sie starke Meinungen posten.
Der Top-Kommentar sagt, die Rationality-Community versuche, „von First Principles aus zu argumentieren“, tatsächlich ist eher das Gegenteil der Fall. Ein anderer Kommentar verlinkt einen Text von Scott Alexander und behauptet, Scott habe etwas vorhergesagt und sei falsch gelegen; im verlinkten Text sagt Scott aber, er gebe diesem Ereignis eine Wahrscheinlichkeit von 30 %. Er hielt also die Wahrscheinlichkeit, dass es nicht passiert, für 70 %. Wieder ein anderer Kommentar verteidigt das als „völlig rationalen, aber kritischen Kommentar“.
HN ist klüger als der Großteil des Internets, und auch die Diskussionsnormen liegen über dem Durchschnitt, aber selbst hier scheinen die Leute kaum Interesse daran zu haben, in einer Sache tatsächlich weniger falsch zu liegen. Und das sogar bei Dingen, die sich relativ leicht überprüfen lassen.
Die Kernidee ist, eine Community zu schaffen, in der diese Art tatsächlich funktioniert: einen Ort, an dem Evidenz hochgewählt wird und unbegründete Vorwürfe heruntergewählt werden, wenn sie sich als falsch herausstellen – Normen, die im Großen und Ganzen greifen.
Dazu kommt die Idee, Überzeugungen tatsächlich mit Zahlen als Wahrscheinlichkeiten auszudrücken. Deshalb kann EY nicht aufhören, über Bayes' Theorem zu reden. In der Praxis machen Menschen das tatsächlich.
Das war wirklich ein gewaltiger Brocken. Besonders gut gefiel mir Cade Metz als existenzielle Bedrohung.
Aber am Ende denke ich, dass der große Prophet von Chicago das Ganze treffend erfasst hat, als er sagte:
„Ich denke, -ismen sind nicht gut. Menschen sollten nicht an -ismen glauben, sondern an sich selbst. Um John Lennon zu zitieren: ‚Ich glaube nicht an die Beatles. Ich glaube nur an mich selbst.‘ Guter Punkt. Schließlich war er ein Walross. Ich könnte auch ein Walross sein. Trotzdem werde ich mir weiterhin von anderen eine Mitfahrgelegenheit besorgen müssen.“
Das ist ein wirklich seltsames Meme. Curtis Yarvin ging zu „Vibecamp“, einem Rationalist-Treffen, war nett zu ein paar bekannten Twitter-Rationalists, und jetzt verteidigen sie ihn auf Twitter mit Feuereifer. Das ganze Argument lautet: „Ich habe ihn getroffen, er war nett.“
Es ist erstaunlich, wie der rationalistische Teil ihrer Philosophie aus dem Fenster fliegt, sobald die Linien zwischen Ingroup und Outgroup gezogen werden. Cade Metz ins Spiel zu bringen ist ein altes Signal, weil es die Sache effektiv in einen Kampf „gehört er zu uns oder nicht?“ verwandelt und dabei völlig ignoriert, welche möglicherweise berechtigten Punkte Cade Metz gehabt haben könnte.
Wenn sie danach sagen, man solle im Umgang mit Neoreaktionären über den Ekel hinausgehen und sich auf die guten Teile ihrer Argumente konzentrieren, denke ich, dass diese ganze Bewegung vielleicht doch nicht so sehr der Wahrheitssuche gewidmet ist, wie sie selbst glaubt.
Je nach Blickwinkel sind das mehrere, etwa Solipsismus oder Narzissmus.
Ich war einmal an einer Frau interessiert, die tief in effective altruism/rationalism steckte.
Ich ging ein paar Mal mit zu Treffen, aber der Rebell in mir mochte das nicht. Erst Jahre später wurde mir klar, wie sektenartig sich das Ganze angefühlt hatte, und ich bin in gewissem Maße froh, dass meine scharfkantige atheistische Widerspenstigkeit stärker war als mein Sexualtrieb und mich davor bewahrte, in diesen Haufen hineingezogen zu werden.