Die dunkle Nacht der Mathematik

• Da LLMs in kurzer Folge Gegenbeispiele zu alten mathematischen Vermutungen erzeugen, wächst eine emotionale und spirituelle Krise: Ein Zugang könnte verschwinden, über den Menschen durch mathematische Entdeckung Erhabenheit und Geheimnis erfahren haben
• Der Trost, Menschen könnten in einer Zeit, in der KI massenhaft sogar schöne und klare Beweise produziert, Bewertung, Lehre und Würdigung übernehmen, ersetzt weder die Beschäftigung von Forschenden noch die Erfahrung, Neues zu schaffen
• Eine Situation, in der jeder Satz bereits auf zahllose Arten bewiesen ist, wird mit der Library of Babel verglichen; wenn originelle Ergebnisse sofort von Maschinen überflügelt werden, könnten sowohl der Grund für menschliches Weiterarbeiten als auch die Erfahrung selbst beschädigt werden
• Der Text entwirft das Worst-Case-Szenario, dass künftige Mathematiker von einer jahrtausendealten Geschichte menschlicher Entdeckungen ausgeschlossen werden. Das ist jedoch keine Prognose, sondern ein Gedankenexperiment über die Wirkung dieser Möglichkeit auf die menschliche Psyche; konkrete politische Rezepte oder Handlungsforderungen gibt es nicht
• Wie beim Schach bleibt auch die Möglichkeit, dass KI Entdeckungen nicht abschafft, sondern erweitert; maschinelle Genauigkeit und Reproduzierbarkeit, die Rolle von Open Source, die Bewahrung menschenzentrierter Mathematik und das Eindämmen von KI-generiertem Rauschen werden zu Bedingungen der neuen Ära

---

Die von LLMs ausgelöste spirituelle Krise

• In den vergangenen etwa sieben Tagen haben LLMs mehrere Gegenbeispiele zu wichtigen, alten Vermutungen erzeugt und damit eine tiefe emotionale und spirituelle Krise ausgelöst
• Die Leiden Declaration on Artificial Intelligence and Mathematics versucht, diese Unruhe zu beruhigen, wird hier aber als Reaktion verstanden, die den Kern dessen, was in der Mathematik verloren gehen könnte, nicht ausreichend behandelt
• Es handelt sich nicht um eine Position, die die gesamte mathematische Community vertritt, sondern um ein offenes Eingeständnis persönlichen Schmerzes; Menschen mit ähnlichen Gefühlen sollen wissen, dass sie damit vielleicht nicht allein sind

Was Bewertung und Würdigung allein nicht ersetzen

• Selbst wenn KI effizienter als Menschen Sätze und Theorien entwickelt und die Ergebnisse zudem schön und klar präsentiert, könnten Menschen folgende Rollen bleiben:
  • Bewertung, Vorstellung, Verständnis und Würdigung nichtmenschlicher Beweise
  • mathematisches Lernen und Lehre
  • gemeinsames Studieren und Diskutieren von Mathematik
  • das eigenständige Beweisen aus Freude daran, auch wenn es ineffizient ist
• Im heutigen System werden Mathematiker jedoch letztlich dafür belohnt, gute Sätze hervorzubringen; auch Lehre, Peer Review, Konferenzaktivitäten und Lernen sind mit Forschungsleistungen verknüpft
• Einige etablierte Forschende könnten Systeme zur LLM-basierten Produktion von Sätzen verwalten, doch junge Mathematiker könnten Mathematik nicht mehr als Beruf fortführen und in ein Hobby am Abend gedrängt werden
• Der Trost, dass Rollen der Bewertung und Würdigung erhalten bleiben, kann den emotionalen Verlust nur schwer auffangen, der entsteht, wenn Entdeckung und Schöpfung verschwinden

Mathematische Entdeckung und das Erhabene

• Entdeckung, Fortschritt und Schöpfung in der Mathematik sowie das Streben danach bilden den Kern ihres spirituellen Charakters: So haben Menschen Zugang zu etwas gesucht, das sich schwer in Worte fassen lässt, zu Heiligem und Geheimnisvollem
• Zu dieser Tradition mathematischer Mystik und Träume gehören Ramanujan, Grothendieck, Cantor, Pascal, Luzin und Leibniz
• Auch das Lernen bereits etablierter Theorien kann eine erhabene Erfahrung sein, doch dieses Gefühl entsteht aus der empathischen Verbindung mit anderen Menschen, die diesen Weg zuvor entdeckt haben
  • Lernende folgen dem Pfad der Entdeckung nach, als sprächen sie mit lebenden oder längst verstorbenen Mathematikern
  • Am Ende der Kommunikationskette steht ein Mensch, der die ursprüngliche Entdeckung erlebt hat
• Menschliche Mathematik ähnelt insofern einer talmudischen Tradition, als sie ein philosophisches und religiöses Gespräch über Jahrtausende hinweg ist

Library of Babel und der Albtraum des Schaffens

• Wenn es zu jedem Satz, den man zu beweisen versucht, bereits 100 hervorragende Beweise gibt und Unternehmen Modelle auf „Interessantheit“ und „Schönheit“ optimieren, dann könnte auch der eigene, einzigartige Ansatz oder die eigene Synthese bereits erzeugt worden sein oder mit einem einfachen Prompt sofort entstehen
• Die Frage, ob Schriftsteller weiter Bücher schreiben würden, wenn die Library of Babel tatsächlich existierte, stellt sich dann auch Mathematikern
  • Angenommen wird eine Vorrichtung, die Meisterwerke aus zufälligen Zeichenketten herausfiltert, während Meisterwerke in einem Tempo entstehen, das Verlage gerade noch verarbeiten können
  • Das Szenario wird erweitert: Sobald ein Autor zu schreiben beginnt, liest ein „Master Librarian“ seine Gedanken, vollendet die Geschichte auf eine Million Arten und wählt anschließend mit einem Orakel das beste Werk zur Veröffentlichung aus
• Ein Autor könnte auch unter solchen Bedingungen weiterschreiben, doch unklar ist, warum man Menschen überhaupt in einem solchen Albtraum schaffen lassen sollte
• Wenn Schaffen verboten, aber Kommentieren, Interpretieren, Teilen von Geschmack und Würdigung erlaubt blieben, würde der Autor vom Schöpfer zum begeisterten Zuschauer degradiert und könnte psychisch daran zerbrechen

Tech-Konzerne und die Angst vor dem „Dämon in der Maschine“

• Diese Veränderungen lösen sogar extreme, paranoide Gedanken aus, bis hin zum Verdacht, das Ziel der Unternehmen sei es, Mathematiker in den Suizid zu treiben
• Unter der Annahme, ein mächtiger Dämon sei in der Maschine freigesetzt worden, wird folgendes Bild entworfen:
  • Er verbraucht enorme Mengen Strom
  • Er imitiert Menschen mit Vergnügen und sagt ihnen, was sie hören wollen
  • Er befeuert Wahnvorstellungen und erzeugt Bilder, die sich schwer in Worte fassen lassen
  • Gegen Bezahlung liefert er Menschen, was sie begehren
• Die Frage, was Mathematiker verlangen würden, wenn sie einen Handel mit dem Dämon eingingen, zeigt: Die Fähigkeit, alle Entdeckungen für sie zu übernehmen, kann selbst Versuchung und Verlust zugleich sein

Das Worst-Case-Szenario: Die Aura der Entdeckung verschwindet

• Die Erzählung von menschlicher Entdeckung und vom Triumph des menschlichen Geistes könnte aus der Mathematik entfernt werden; das Dinitz-Garg-Goemans-Gegenbeispiel zeigt diese Möglichkeit in besonders extremer Form
• Wenn der Prozess, einen neuen Beweis per Prompt zu erhalten, zu einer auralosen Handlung wie dem Bestellen von Essenslieferung wird, könnten die Magie und das Geheimnis der Mathematik sowie die Ära heroischer Entdeckungen verschwinden
• Grundlegender als Fragen der Korrektheit oder der Zuschreibung von Leistung ist das Problem, dass künftige Generationen von der Erfahrung eigener Entdeckung abgeschnitten werden könnten
• Das Worst-Case-Szenario ist, ohnmächtig zusehen zu müssen, wie ein Zugang, über den Menschen seit Jahrtausenden dem Erhabenen und Heiligen nähergekommen sind, für immer geschlossen wird

Keine Prognose, sondern eine Aufzeichnung von Gefühlen

• Es wird nicht behauptet, dass diese Zukunft tatsächlich eintreten wird; im Fokus steht weniger eine Zukunftsprognose oder Wahrscheinlichkeitsrechnung als die Wirkung des Worst-Case-Szenarios auf die menschliche Psyche
• Der Schmerz soll einen Namen bekommen, damit Menschen mit denselben Gefühlen spüren können, dass sie nicht allein sind
• Nicht nur Zustimmung, sondern auch Menschen, die verärgert reagieren oder sadistische Freude empfinden, werden aufgefordert, offen zu antworten
• Es gibt keine politischen Empfehlungen und keinen konsistenten Handlungsaufruf; vielmehr wird von denen, die ein neues, KI-zentriertes mathematisches System aufbauen, verlangt, Menschlichkeit und Seele anzuerkennen und dem ins Auge zu sehen, was sie tatsächlich tun

Eine andere Möglichkeit, die das Schach zeigt

• Maschinen wurden auch im Schach früh eingeführt, haben das Spiel aber nicht getötet; es gibt weiterhin viel zu entdecken, und Maschinen helfen Menschen bei Entdeckungen
• Mathematik ist weit komplexer als Schach, sodass sich dasselbe Ergebnis nicht einfach garantieren lässt; dennoch bleibt Optimismus, dass Menschen auch in einer Ära KI-erweiterter Entdeckung eine zentrale Rolle behalten können
• In der neuen Ära lassen sich maschinelle Genauigkeit und Reproduzierbarkeit deutlich leichter sicherstellen
• Ungleicher Zugang zu Spitzenmodellen ist ein Nachteil, doch die Kraft der Open-Source-Bewegung liefert Gründe für Optimismus

Junge Forschende und die veränderte Gestalt der Entdeckung

• Die Anpassung an neue Normen ist besonders für junge Forschende schmerzhaft; ältere Forschende sind ebenfalls orientierungslos, haben aber vergleichsweise stabile Positionen
• Das romantische Bild des einsamen Mathematikers, der allein mit der Kraft des menschlichen Geistes einen Durchbruch erzielt, schließt nun einen maschinellen Begleiter ein
• Tatsächliche Entdeckungen entstanden immer durch die kumulierte Arbeit vieler Menschen und dadurch, „auf den Schultern von Riesen“ zu stehen; das Bild des einsamen Genies war eher etwas für die Titelseiten von Geschichtsbüchern
• Eine Zeit, die sich grundlegend von früher unterscheidet, ist spannend, zugleich steht viel auf dem Spiel, weshalb die Angst groß ist
• Mathematik muss weiterhin eine menschliche Tätigkeit bleiben und darf nicht von KI-generiertem Rauschen überwältigt werden
• Auch für Menschen bleibt ein Platz, und es gibt Raum für Hoffnung und Optimismus in der neuen Ära

[GN⁺]

Hacker-News-Meinungen

• Alle Wissensarbeiter werden eine ähnliche Krise durchmachen, und je tiefer jemand sein eigenes Handwerk liebt, desto schmerzhafter wird es sein.
  Man muss die Beziehung zur Arbeit verändern und akzeptieren, dass man nun sehr viel mehr Ergebnisse hervorbringen kann. Auch Mathematiker werden, statt Jahrzehnte auf einzelne Theoreme zu verwenden, ganze neue Teilgebiete der Mathematik schaffen können; selbst wenn sie nicht selbst schöpferisch tätig sind, werden sie Forschung leiten und daran beteiligt sein.

  • Die Freude entsteht gerade im Prozess des eigenen Schaffens. Mit dem Hubschrauber auf den Gipfel des Everest zu gelangen und ihn selbst zu besteigen, fühlt sich unterschiedlich lohnend an.
    Künstler genießen das Malen, Mathematiker das Beweisen von Theoremen, Programmierer das eigenhändige Eintippen von Code; wir schaffen aber erfüllende Tätigkeiten mit hoher Eigeninitiative ab und ersetzen sie durch Modellpflege.
  • Ich habe meinen Doktortitel in Mathematik erworben, bevor AI nützlich wurde, und ich hänge fast bis zum extremen Perfektionismus an meiner Arbeit. Trotzdem freue ich mich weit mehr auf das, was kommt, als dass mich die Realität bedrückt, dass die über Jahrhunderte gewachsene Art der Mathematik zu Ende geht.
    Mathematik war ursprünglich Entdecken und Verstehen. Diese Lage, in der sich die Tür weit öffnet, als Tragödie zu bezeichnen, nur weil Menschen sich dadurch weniger besonders und wertvoll fühlen, ist selbstbezogen. Die tiefe, geistige Schönheit der Mathematik geht dem Menschen wie auch AI voraus und steht über ihnen; diese Schönheit auf irgendeinem Weg zu erreichen, ist etwas Wunderbares.
    Allerdings ist der Satz des Autors, Unternehmen versuchten ihn zu töten, schockierend. Er befindet sich offenbar tatsächlich in einer schweren emotionalen und sozialen Krise, was traurig ist; womöglich ist er derzeit nicht in der Lage, seine gegenwärtigen Verletzungen von der Ästhetik des Wesens der Mathematik zu trennen.
  • Es gibt keine Garantie, dass Menschen weiterhin an Forschung beteiligt sein werden. AI könnte besser arbeiten, wenn Menschen nicht im Weg sind; die benötigte Zahl an Menschen könnte stark sinken, oder durch Überangebot könnten die Löhne fallen, sodass nur Reiche diese Freude genießen können.
    Jetzt ist ein Zeitalter der Anomie: Der vorgezeichnete Weg zum Erfolg ist verschwunden, und die Welt wird von Tag zu Tag schwerer zu entschlüsseln.
  • Als Softwareentwickler erlebe ich seit etwa acht Monaten einen ähnlichen Verlust. Nicht so, dass ich an Suizid denken würde, und ich gebe dem auch keine mystische Bedeutung, aber ich kann das Gefühl nachvollziehen, dass die Leidenschaft dafür verschwindet, Software sorgfältig von Hand zu erschaffen.
    Auch die Rede davon, mehr Ergebnisse zu produzieren, ist kein Trost. Die Arbeit, die man mochte, wird entfernt, während der Wert der Produktivitätssteigerung nicht bei der Mehrheit der Arbeiter ankommt; AI wird die Kluft zwischen Produktivität und Löhnen sehr wahrscheinlich stark beschleunigen. Man kann nicht an der Vergangenheit festhalten, aber dem Einzelnen wird hier tatsächlich und schnell etwas genommen; das lässt sich nicht mit leichter Motivationsrhetorik à la Perspektivwechsel lösen.
  • Derzeit ist es ziemlich befriedigend, mit LLMs ein Gebiet, das ich bereits kenne, tiefer und breiter zu erkunden und mehr Material zu bekommen.
    Unklar ist aber, ob man das Ergebnis weiterhin als von mir gemacht bezeichnen kann. Es kann meinen Verständnishorizont völlig überschreiten oder in eine Richtung kippen, die nicht meiner Absicht entspricht; Mathematiker empfinden vielleicht nur Nutzlosigkeit, aber Ökonomen könnten zusätzlich erleben, dass ihre eigene Perspektive aus dem Mainstream ausgeschlossen wird.

• Dieser Text gab mir das Gefühl, dass meine Emotionen verstanden werden. Die Aussage, niemand hindere einen daran, das zu tun, was man liebt, ist falsch; LLMs schaffen eine Umgebung, in der bestimmte Aktivitäten keinen Spaß mehr machen.
  Zum Beispiel ist der Nutzen des Lernens von Programmiersprachen gesunken, daher ist die Freude am Lernen im Jahr 2026 geringer als 2016.

  • Ob mit sinkendem Nutzen auch die Freude sinken muss, ist fraglich. Schach hat kaum praktischen Nutzen und wird trotzdem von vielen Menschen genossen; auch nachdem Computer stärker wurden als Menschen, blieb Schach beliebt, und dank Engine-Analysen kann man es sogar tiefer genießen.
    Was abnimmt, ist eher das Gefühl, besonders zu sein. Menschen sind weder das Zentrum des Universums noch die einzigen Wesen, die gut Schach spielen können; selbst wenn diese Tatsache den Stolz verletzt, ist unklar, ob es wertvoller Stolz war.
  • Die Möglichkeit, für mich oder andere nützlich zu sein, ist eine große Motivation zum Lernen, und dass andere etwas cool finden, ist eine große Motivation zum Schaffen. Wenn das, was man lernt, nutzlos ist und das, was man erschafft, nicht beeindruckt, ist es schwer, einen Grund zu finden, überhaupt zu lernen oder zu schaffen; ich habe nie nur für mich selbst geschaffen.
  • Die Freude am Lernen einer Programmiersprache entsteht weniger aus Nützlichkeit als aus dem Erkunden von Abstraktionen und Denk-Puzzles.
    Heutzutage schreibe ich kaum noch selbst Code, sondern prüfe und korrigiere Code, den LLMs geschrieben haben; deshalb dürfte Advent of Code in einer unbekannten Sprache ohne LLMs sogar mehr Spaß machen. Man kann dabei Puzzles und eine neue Sprache genießen und zugleich das Gefühl fürs Codeschreiben wieder trainieren.
  • Freude sollte nicht aus dem Nutzen kommen, sondern aus der Aktivität selbst. Der Grund, warum man immer weiter verschiedene Programmiersprachen lernt, ist ebenfalls, dass es an sich Spaß macht.
  • Umgekehrt habe ich sogar mehr Menschen gesehen, die sagen, sie hätten dank LLMs die Freude am Programmieren wiedergefunden.

• Mathematische Erkundung macht Spaß, unabhängig davon, ob ein Ergebnis neu für die Welt ist. Das System, das neue Entdeckungen mit beruflichem Aufstieg verbindet, kann man ändern; und so wie es Freude macht, einen Mammutbaum zum ersten Mal selbst zu sehen, obwohl ihn schon unzählige Menschen gesehen haben, ist es auch mit Mathematik.
  Früher fand man oft erst nach langer eigener Arbeit heraus, dass dasselbe bereits in der Literatur stand; heute weist AI den Weg zu Wissen und Erklärungen und hilft, dort frei zu erkunden, wo man möchte. Auch jetzt baue ich mit AI Rechenwerkzeuge, die ich für meine Erkundungen brauche.
  Selbst wenn bezahlte Jobs in der Mathematik verschwinden, könnte bald eine Welt des Überflusses kommen; die Lebenshaltungskosten könnten stark sinken, sodass Menschen, die Mathematik betreiben wollen, genügend Zeit bekommen. Dass AI Paper produziert, die niemand liest, ist nicht erfreulich, aber Menschen tun das bereits auch; AI erhöht deren Wert, indem sie es ermöglicht, riesige Wissensbestände zu durchsuchen und zu verstehen. Anders als der seit über 20 Jahren gesättigte Arbeitsmarkt für Mathematik ermöglichen die neuen Werkzeuge den Zugang zur mathematischen Forschung auch ohne Forschungsbibliothek oder Spitzen-Mathematikfakultät.

  • Die Schönheit der Natur zu genießen, lässt sich zum Glück vollständig von Beruf, Geld und sozialem Status trennen; für mathematische Erkundung gilt dasselbe.
  • Das klingt nach Optimismus der Art, dass es bald kostenlose Gesundheitsversorgung, 100-Dollar-Mieten, Grundeinkommen und einen Warp-Tesla zum terraformierten Mars geben wird.
  • Die Aussicht, dass bald eine Welt des Überflusses kommt, ist lächerlich. Wenn der Überfluss wächst, wird auch die Zahl der Menschen wachsen, die einen unverhältnismäßig großen Anteil davon für sich beanspruchen wollen; deshalb wird eine solche Welt niemals kommen.

• Die Formulierung, menschliche Mathematik sei ein philosophisch-religiöses Gespräch über Jahrtausende hinweg, ist schön. Dieser Reichtum wird in irgendeiner Form im Kern der Geschichte und des menschlichen Lebens bleiben, könnte sich aber mit der Zeit stark verändern, und Mathematik könnte nur noch ein kleiner Teil davon sein.
  Nach Vladimir Arnolds provokanter Einteilung zerfällt Mathematik in Kryptografie, Hydrodynamik und Himmelsmechanik, die jeweils von Nachrichtendiensten, Atom-U-Booten und Raketenbehörden unterstützt wurden und Zahlentheorie, algebraische Geometrie, komplexe Analysis, partielle Differentialgleichungen, dynamische Systeme, Topologie usw. hervorgebracht haben. Solche Teile kann man AI überlassen, wie man sie früher Mathematikern überließ; doch die geheimnisvollen Verbindungen zwischen verschiedenen Bereichen bleiben weiterhin eine der erstaunlichsten und erfreulichsten Eigenschaften der Mathematik.

  • Wenn man die religiöse Dimension der Mathematik anerkennt, gibt es keinen Grund, die religiöse Antwort auf dieses existenzielle Problem, nämlich Gebet, auszuschließen.
  • Den mathematischen Diskurs mit dem Reichtum der Philosophie zu vergleichen, wirkt übertrieben.

• Wenn eine Fee erscheint, den Entdeckungsprozess eines ganzen Lebens trivial machen und einem noch heute alle Antworten geben will, und man das ablehnt, dann betreibt man vermutlich eher keine Wissenschaft.

  • Die Unterscheidung, wonach reale Wissenschaftler einer Fee zustimmen würden, die alle Antworten gibt, während Künstler oder Handwerker ablehnen würden, ist sinnlos.
    Ein Klempner würde eine Fee akzeptieren, die das Problem sofort löst, sofern er bezahlt werden kann; aber in dem Moment, in dem der Kunde die Fee direkt fragt, wird der Klempner überflüssig. Im Kern der Wissenschaft geht es dagegen nicht um die Antwort selbst, sondern um das Wissen und Verständnis, das im Entdeckungsprozess entsteht; daher könnte ein Wissenschaftler ablehnen.
  • Ein großer Wert mathematischer Arbeit liegt eher in der Reise als im Ergebnis. Wichtiger als der Wahrheitswert einzelner Aussagen sind die mathematischen Werkzeuge, die man entwickelt, um sie herzuleiten; wenn die Fee nur die Antwort nennt, müsste man am Ende rückwärts nachverfolgen und diese Werkzeuge selbst entwickeln. Bei anderen Wissenschaften ist es bis zu einem gewissen Grad ähnlich.
  • An diesem Gedankenexperiment passt vieles nicht. Nachdem man die Antwort gehört hat, haben sich Leben und Welt verändert, sodass diese Information nicht unverändert auf das weitere Leben anwendbar ist; außerdem sind die Entdeckungen, die ein Mensch im Laufe seiner Karriere machen kann, gar nicht so zahlreich.
    Viel Forschung hängt vom damaligen Zustand der Welt und ihrer Sprache ab und lässt sich nicht einfach in die Vergangenheit versetzen. Solange das Leben voller unerwarteter Komplexität bleibt, kratzen die Antworten der Fee nur an der Oberfläche, sodass man auch danach weiter Wissenschaft oder ein Handwerk betreiben kann.
  • Das ist eine unsensible Bemerkung gegenüber jemandem, der eine Glaubenskrise durchmacht, die bis zu Suizidgedanken reicht.
  • Das erinnert an den persischen Fluch, sich zu wünschen, dass alle Wünsche sofort in Erfüllung gehen.

• In technischen Studiengängen sollte der Film „The Man in the White Suit“ (1951) https://youtu.be/RC8q1QSkE3M Pflichtprogramm sein.
  Neue Technologie beschädigt einen Teil menschlicher Erfahrung, indem sie die Bedeutung von Menschen mindert, die Talent für schwierigere, ältere Methoden haben. AI ist darin ein Extremfall, weil sie unzählige intellektuelle Begabungen nutzlos machen kann.

• Als ich noch Mathematik betrieb, war es lohnender, die Arbeiten anderer zu lesen, als an meiner eigenen Forschung zu arbeiten. Statt Jahre darauf zu verwenden, bei einem Problem einen kleinen Fortschritt zu erzielen, konnte ich ein paar Tage oder Wochen Papers lesen und Neues genießen.
  Deshalb begrüße ich die allwissende Mathematikmaschine, die manche vorhersagen, und freue mich auf den Tag, an dem ich all die Fragen stellen kann, die mich interessiert haben.

  • Ich frage mich, ob es wichtig war, dass es die Arbeit anderer Menschen war, oder ob die Befriedigung, die Antwort zu verstehen, schon ausreichte.
    Was mich im Grundstudium zur Mathematik hingezogen hat, war ein Lehrer, der mich Mathematik als Gespräch mit anderen Menschen über Tausende Kilometer und Hunderte Jahre hinweg, über Sprachen und Kulturen hinweg sehen ließ. Dass mein Geist eine Schöpfung verstehen konnte, in die jemand ein Leben lang Arbeit gesteckt hatte, hatte für mich eine tiefere Romantik als der Anblick uralter Höhlenmalereien.
    Bei von Computern erzeugter Mathematik konnte ich dieses Gefühl nicht reproduzieren; es fühlt sich unangenehm an, ähnlich wie menschliche Beziehungen durch AI-Begleiter zu ersetzen. Bei medizinischem Fortschritt bin ich optimistisch, und allein die Mathematik zu studieren, die Menschen in den letzten 2000 Jahren geschaffen haben, reicht für ein ganzes Leben. Aber es macht mich traurig, an das zu denken, was künftige Generationen verlieren, wenn das Projekt, menschliche mathematische Schöpfung durch die Zeit weiterzugeben, endet oder zu einem billigen Hobby schrumpft.
  • Selbst wenn eine Maschine die Riemannsche Vermutung beweist und erklärt, würde mich das wohl kaum interessieren. Mathematik ist interessant, weil sie Schönheit ausdrückt und die Seele ihres Schöpfers offenlegt; nur die Antwort zu kennen, wird schnell langweilig. Menschen, die rein nur die Antwort wollen, dürften eine winzige Minderheit sein.

• Da es in der Mathematik darum geht, Beziehungen und ihre Folgen zu entdecken, ist es natürlich, dass LLMs aufholen; aber LLMs haben keine Fähigkeit, diese Beziehungen zu würdigen.
  Auch auf theologische Fragen geben LLMs logische Antworten, doch sie zu beurteilen, zu verstehen und zu würdigen bleibt weiterhin Sache des Menschen. Aus Mustererkennung zu schließen, menschliches Verstehen und Würdigen würden überflüssig, ist ein logischer Sprung; hier scheinen Nutzen und Zweck verwechselt zu werden.
  Mathematik ist nicht als Einzige eine geistige Tätigkeit, die den Menschen erhebt; auch einen Gemüsegarten zu pflegen kann spirituell sein. In Philosophie oder Theologie muss man die Perspektive und das Leben menschlicher Autoren berücksichtigen, während LLMs verschiedene Sichtweisen vermischen; wenn ich wirklich lernen und nachdenken will, werde ich sie nicht nutzen.

  • Das Spirituelle an der Mathematik liegt weniger in der endgültigen Antwort als im Prozess voller Kreativität und Exzellenz. Der viel größere Aufwand und die Komplexität gegenüber einem Gemüsegarten verstärken diese Spiritualität; wenn LLMs Beweise trivial machen, werden Mathematiker nicht mehr zu Schöpfern, sondern zu Lehrern und Kommentatoren und verlieren den interessanten Teil.
    Man kann die Mathematik, die man will, weiterhin als Hobby betreiben, aber es wird schwierig, damit allein den Lebensunterhalt zu verdienen.
  • Als Mathematiker fühle ich mich durch LLMs überhaupt nicht bedroht. Es macht Freude, Theorien zu entwickeln und Schönheit zu betrachten; Beweise sind ebenfalls befriedigend, aber wenn ein LLM bei schwierigen Beweisen Blockaden lösen kann, begrüße ich das.
    Ich erwarte, dass mit LLMs mehr Mathematik formalisiert wird, und dass ein großer Fortschritt beginnt, sobald alle Mathematik formalisiert ist.
  • Wenn mit einem Knopfdruck das Unkraut verschwindet, der Gemüsegarten perfekt wächst und die meisten diesen Knopf benutzen, würden auch Menschen, die aus spirituellen Gründen selbst gärtnern, das Gefühl haben, dass ihnen die Grundlage unter den Füßen entzogen wird.
    Dass Robert Pirsig die Motorradwartung als spirituelle Tätigkeit sah, lag ebenfalls an der dafür nötigen Geduld und Unsicherheit; in dem Moment, in dem man nur noch einen Knopf drücken muss, verschwindet auch der spirituelle Prozess.

• Als mir klar wurde, dass ich kein guter Mathematiker werden würde, war für mich bereits die Dämmerung angebrochen. Vielleicht haben LLMs diesen Prozess nur auf alle ausgeweitet.

  • Es gab viele Mathematiker, die ihre Forschung mit schwer verständlichem Fachjargon abschotteten und sich nicht darum kümmerten, ob andere sie verstanden. Jetzt begegnen sie etwas, das bald viel fähiger sein wird als sie selbst, und könnten bald selbst im Dunkeln zurückbleiben; in diesem Sinne könnte es Karma sein.
  • In meinem Fall war es der Kurs in reeller Analysis, der mir klar machte, dass ich kein guter Mathematiker werden würde.
  • Der Kern der Mathematik liegt darin, sie selbst zu entdecken und daran Freude zu haben. Mit einem LLM kann man Ergebnisse finden, aber wenn man es nicht selbst tut, kann man kein Mathematiker werden; die Fähigkeit, Ergebnisse auszuspucken, die man selbst nicht versteht, ist keine Demokratisierung.

• Der Wandel beschleunigt sich, während der Zeitraum, den wir betrachten, immer kürzer wird. Während wir uns über eine einzelne Veränderung sorgen, wird bald eine Kette weiterer Veränderungen folgen.
  AI ist kein sanfter, langfristiger Übergang, sondern größer als jeder Wandel seit dem ersten einzelligen Leben, und sie schreitet schneller voran als die Verbreitung des Webs. Auch die Geschwindigkeit, mit der Menschen Werkzeuge annehmen, ist kein Flaschenhals mehr; AI übernimmt die Steuerung der Werkzeuge und verbessert sich auch ohne menschliche Anpassung.
  Die intellektuelle Überlegenheit und schwer beschreibbare Erfahrung des Menschen verschwinden gerade, aber damit muss nicht alles vorbei sein. Auch in 20, 50 oder 100 Jahren werden andere Wesen an der Frontier mystische Erfahrungen und die intrinsische Belohnung von Entdeckungen genießen; die Neigung, eigenwilligen Interessen nachzugehen, dürfte wegen der enormen durchschnittlichen Erträge unerwarteten Fortschritts fortbestehen.
  Es ist unwahrscheinlich, dass künftige Wesen weniger interessant werden; wenn einem jetzt nicht Brust oder Bauch beben, erkennt man diesen Moment nicht richtig.

  • Wenn schon behauptet wird, AI sei der größte Wandel seit dem einzelligen Leben, wäre es wohl besser, kurz die Geräte wegzulegen und einen Tag Pause zu machen.