- Generative KI verändert Lehre und Forschung in den Geisteswissenschaften bereits; sie nur als Hype oder als etwas zu Verbietendes zu behandeln, dürfte kaum dauerhaft funktionieren
- Die Übersetzungs-, Klassifizierungs- und Sprachverarbeitungsfähigkeiten von LLMs berühren geisteswissenschaftliches Wissen direkt, und wie beim Schmeichelproblem von GPT-4o werden sprachliche, kulturelle und rhetorische Urteile auch für die Verbesserung von KI-Systemen wichtiger
- Auch nichttechnische Geisteswissenschaftler können mithilfe von KI maßgeschneiderte Forschungs- und Lehrwerkzeuge bauen; ein Apotheker-Simulator aus dem 17. Jahrhundert und Young Darwin zeigen zugleich die Möglichkeiten und die Schwierigkeit, Halluzinationen zu kontrollieren
- Chatbots wie ChatGPT erschweren die Bewertung studentischer Texte und erhöhen das Risiko, dass Studierende intellektuelle Anstrengung überspringen und die Erfahrung konzentrierten Denkens verlieren
- Wenn Lehrende nicht selbst KI-basierte Aufgaben und Werkzeuge entwerfen, könnten kommerzielle KI-Lernwerkzeuge, die die maßgeschneiderte Lehrer-Schüler-Beziehung schwächen, den Bildungsalltag füllen
Warum KI in den Geisteswissenschaften schwer zu ignorieren ist
- D. Graham Burnett kritisiert in einem Beitrag im New Yorker die Haltung von Universitäten, KI nur über Verbotsrichtlinien zu behandeln oder einfach an den bisherigen Arbeitsweisen festzuhalten
- Ein als Entwurf formuliertes Anti-KI-Regelwerk eines universitären Fachbereichs hätte wörtlich ausgelegt sogar Aufgaben verhindern können, in denen KI im Mittelpunkt steht; es wurde später überarbeitet
- Eine externe Begutachtung empfahl, dass ein Geschichtsinstitut dringend auf die bevorstehende KI-Disruption in Lehre und Forschung reagieren müsse, doch die Reaktion fiel kühl aus
- Der Kernpunkt ist nicht, dass generative KI ihrem Wesen nach gut sei, sondern dass sie die Geisteswissenschaften bereits verändert und sich daher schwer als bloßer Hype abtun oder ignorieren lässt
Geisteswissenschaftliche Fähigkeiten werden für KI-Forschung selbst wichtig
- LLMs sind wie „Taschenrechner für Wörter“ stark in Übersetzung, Abgleich und Klassifikation und beginnen, Bereiche wie Paläografie, Data Mining und die Übersetzung alter Sprachen zu beeinflussen
- In den vergangenen Jahren sind geisteswissenschaftliche Fähigkeiten nicht nur für die Nutzung von KI wichtig geworden, sondern auch für die KI-Forschung selbst
- Die erste Maßnahme, mit der OpenAI die merkwürdige Schmeichelneigung von GPT-4o korrigieren wollte, war kein neuer Code, sondern ein System-Prompt in Form neuer englischer Sätze
- Simon Willison analysierte die von OpenAI umgesetzte Änderung des System-Prompts
- Als weiterer Faktor wurde die Priorisierung von Nutzerfeedback über den „thumbs up“-Button genannt; auch das hängt damit zusammen, wie Sprache Verhalten beeinflusst, sowie mit kulturellen Unterschieden, Rhetorik, Genre und Ton
- Wenn in den 1950er-Jahren ein IBM-Mainframe oder in den 1850er-Jahren eine Dampfmaschine ausfiel, mussten Reparaturverantwortliche nicht unbedingt über Sprache, Kultur und Technikphilosophie nachdenken; KI-Systeme können sich jedoch tatsächlich so verhalten, als seien sie kaputt, wenn solche Überlegungen fehlen
Forschungs- und Lehrwerkzeuge, die nichttechnische Geisteswissenschaftler selbst bauen
- Generative KI ermöglicht es auch nichttechnischen Nutzern in den Geisteswissenschaften, selbst Code zu schreiben
- Eine neue Generation von Historikern könnte es als selbstverständlich ansehen, maßgeschneiderte Forschungs- und Lehrwerkzeuge nahezu kostenlos zu erstellen und zu verbreiten
- Der erste Versuch war ein kostenlos spielbarer Apotheker-Simulator aus dem 17. Jahrhundert
- Studierende spielen Maria de Lima, eine halb fiktionale Apothekerin im Mexiko-Stadt der 1680er-Jahre
- Sie müssen reale frühneuzeitliche medizinische Rezepte lesen und nutzen, um Patienten zu behandeln, die auf tatsächlichen historischen Personen basieren
- Es gab Bugs und Usability-Probleme, und das Problem LLM-generierter Halluzinationen, die von der historischen Realität abwichen, zeigte sich schnell
- In einem Spieldurchlauf wurde Maria Schiffsärztin auf einem Handelsschiff nach England, traf in London Isaac Newton und wurde von ihm zum Tee eingeladen
- Der zweite Versuch, Young Darwin, ist ein Spiel, in dem man als junger Darwin im Jahr 1835 auf den Galápagos-Inseln Finken und Proben sammelt
- Ein Geländebewegungssystem, das auf den realen Landschaften aus Darwins Voyage of the Beagle basiert, sorgt dafür, dass die KI bei wörtlich belegten Grundlagen bleibt
- Es ist schwierig, die Inseln zu verlassen, und die Tiere und Geländeformen, denen man begegnet, stammen direkt aus Darwins tatsächlichen Texten, wodurch die Halluzinationstendenz sinkt
- Ein robusteres Logging-System macht es nützlich, später eine Bewertungsebene anzuschließen und es in eine echte Aufgabe zu überführen
- Das Lerndesign sieht vor, dass Studierende zunächst Darwins Texte lesen und dann durch Entscheidungen im Spiel zeigen, was sie gelernt haben
- Um voranzukommen, müssen sie die tatsächliche Erkenntnistheorie und das Wissen eines Naturforschers des 19. Jahrhunderts verkörpern
- Diese Aktivität ersetzt Essays im Unterricht und persönliche Diskussionen nicht, sondern ergänzt sie
Die Realität, dass geisteswissenschaftliche Fähigkeiten schwerer zu lehren sind
- KI-Chatbots erschüttern zentrale Elemente des Bildungssystems, und Lehrende, Studierende, Politiker sowie Frontier-AI-Labore müssen dieses Problem ernsthaft behandeln
- Wegen ChatGPT und konkurrierenden Tools ist die Bewertung studentischer Texte schwieriger geworden; da immer mehr maschinell erzeugte Essays eingereicht werden, müssen Aufgaben und Unterrichtspläne neu gestaltet werden
- Langfristig trifft der größere Schaden die Studierenden
- LLMs laufen Gefahr, Anstrengung in der Hochschulbildung zu einer optionalen Komponente zu machen
- Studierende, die nie erlebt haben, beim Schreiben festzustecken, werden auch schwer die Versunkenheit erfahren, die entsteht, wenn man diesen Punkt überwindet
- Wer nicht stundenlang vergeblich in einer Bibliothek gesucht hat, kann kaum grundsätzlich verstehen, wofür eine Bibliothek ein Raum ist
- Ein Artikel im New York Magazine erfasst das Problem der ChatGPT-Nutzung treffend
- Ein Columbia-Student sagte, „die meisten College-Aufgaben seien irrelevant, mit KI hackbar und hätten ihn nicht interessiert“
- Auf die Frage, warum er an eine Ivy-League-Universität gegangen sei, antwortete er: „weil es der beste Ort ist, um einen Mitgründer und eine Ehefrau zu finden“
- Eine solche Haltung schwächt die Freude am Lehren und die Bedeutung der Bildungserfahrung
Potenzial von KI-Aufgaben und Sorgen über Ungleichheit
- In Burnetts Kurs diskutierten Studierende mit ChatGPT den Begriff Aufmerksamkeit (attention), bearbeiteten anschließend die Ergebnisse und reichten sie ein; er nahm dies als intensive Bildungserfahrung wahr
- Sprachmodelle sind neue Bildungswerkzeuge, deren Auswirkungen noch unklar sind; deshalb sollten Lehrende, die für das Lernen selbst brennen, sich jetzt aktiv einbringen
- Die größte Sorge ist, dass LLMs die Polarisierung der Ergebnisse geisteswissenschaftlicher Bildung weiter verstärken könnten
- Die Princeton-Studierenden, die Burnett unterrichtete, scheinen sehr reflektiert und kreativ auf die Aufgabe reagiert zu haben
- Ob Schülerinnen und Schüler in Sozialkunde an finanziell schlecht ausgestatteten öffentlichen High Schools auf die gleiche Weise reagieren würden, muss anders beurteilt werden
- Lehrende sollten lernen, KI-basierte Aufgaben und Werkzeuge selbst zu entwickeln und zu verbreiten, passend zu der Art von Unterricht, die sie anstreben
- Dieses Problembewusstsein bildete die Grundlage eines NEH grant, den er gemeinsam mit Pranav Anand und Zac Zimmer von der UCSC erhielt
- Der Zuschuss wurde im Januar 2025 bewilligt, aber im vergangenen Monat von der Trump-Regierung/DOGE gestrichen
- Die geplante Arbeit läuft weiter
1 Kommentare
Hacker-News-Meinungen
Es gibt ein tiefer liegendes Bildungsproblem, das über Jahrzehnte entstanden ist. Schüler und Studierende wurden darauf trainiert, Schule und Arbeit als endlose Abfolge von Zielen zu betrachten, die erreicht werden müssen; das Endziel war Beschäftigung.
Doch heute lässt sich kaum noch mit Sicherheit sagen, welche Jobs in 5 bis 10 Jahren noch übrig sein werden. Wenn es eine Ausnahme gibt, dann vielleicht qualifizierte Handwerks- und Facharbeiterberufe; solche Programme sind aber schon vor langer Zeit größtenteils aus den Schulen verschwunden.
Wenn Studierende ihre Aufgaben mit AI einfach abhaken, statt selbst zu lesen, durchzuhalten und zu lernen, ist es schwer, allein den Studierenden die Schuld zu geben, angesichts des Bildungs- und Karrieresystems, das wir geschaffen haben. Dieses Problem ist nicht über Nacht entstanden, und es ist auch kein reines AI-Problem.
Unsere Bildung belohnt nicht Verständnis, Wissen oder Intelligenz, sondern einzig Noten. Eine einzelne Zahl namens GPA lässt sich leichter als alles andere gamifizieren und ist vom Middle-School-Alter bis zur Uni zum wichtigsten Maßstab geworden, der die gesamte akademische Zukunft bestimmt.
Viele Berufe, die es in 5 bis 10 Jahren noch geben wird, lassen sich ziemlich gut vorhersagen. Die unbequeme Wahrheit ist allerdings, dass viele hochbezahlte Jobs in der New Economy das Kriterium eines seit Langem bestehenden Berufs nicht erfüllen.
Folgt man diesem Kriterium, kann man also schwer vorhersehbare, lukrative Chancen verpassen; und wenn man leicht neidisch wird, sobald Freunde plötzlich viel Geld verdienen, machen solche Berufe einen womöglich nicht glücklich.
Sie haben AP-Kurse belegt, gute GPAs, gute Schulen besucht, „Programmieren gelernt“ und sogar 200.000 Dollar Studienschulden angehäuft, nur um am Ende festzustellen, dass der versprochene Job nicht existiert.
Gleichzeitig hören sie, es gebe „einen riesigen Mangel an Entwicklern“, und sehen dann, dass für dieselben Jobs Arbeitskräfte aus dem Ausland eingestellt werden. Wie sollen junge Menschen diesem System noch vertrauen?
Wer in so einer Lage etwa als Stahlarbeiter eine Umschulung machen und Programmieren lernen wollen würde? Erst recht, wenn sogar die Nerds, die Programmieren gelernt haben, düstere Ergebnisse erleben.
Der erste Kommentar zu dem Artikel ist mir aufgefallen:
„Ich bin Masterstudent der Philosophie an der SFSU und unterrichte kritisches Denken. In diesem Semester habe ich den gesamten Kurs umgestaltet: Statt Plato zu behandeln, fühlt er sich eher an wie ein Hindernisparcours zusammen mit AI, und den Studierenden gefällt es.“
Es wäre interessant, Studierende selbst „Aufgaben, die ihre Kommilitonen nicht mit ChatGPT erledigen können“ entwerfen zu lassen.
Vor etwa 10 Jahren habe ich auf einem BarCamp an einem Team-Quiz teilgenommen, das bewusst schwer mit Google zu lösen war: Man sah etwa nur die Umrisse einer Insel und musste „Welche Insel ist das?“ beantworten. Das hat großen Spaß gemacht, und ChatGPT-sichere Aufgaben zu entwerfen fühlt sich nach einer ähnlichen intellektuellen Herausforderung an.
Jede Woche muss man schwierige Übungsaufgaben lösen; aber einen bestimmten Anteil zu schaffen ist nur der Anfang und die Voraussetzung, um überhaupt zur eigentlichen mündlichen oder schriftlichen Prüfung zugelassen zu werden.
Wie viele Professoren sagen, besteht der fast einzige Zweck der Quote an schwierigen Übungsaufgaben darin, zu verhindern, dass unvorbereitete Studierende zur Prüfung antreten und sich selbst schaden.
Betrug mit ChatGPT und Ähnlichem ist bei den Übungsaufgaben verboten, wird aber normalerweise nicht besonders streng verfolgt. Wer es trotzdem tut, ist für die anstehende Prüfung nicht vorbereitet, fällt am Ende durch, und das wissen die Studierenden in der Regel auch.
An deutschen Universitäten gilt man nach in der Regel drei Fehlversuchen in derselben Prüfung als „endgültig nicht bestanden“, was mitunter bedeutet, dass man denselben Studiengang an keiner deutschen Universität mehr weiterstudieren darf.
Ich weiß, dass ich nicht der Normalfall bin, aber der Trend, textbasierte Aufgaben zu vermeiden, macht barrierefreie Bildung noch unmöglicher. Es sieht so aus, als stünden wir vor einer neuen Generation digitaler Spaltung.
„Je mehr Autorität des Lehrers man an die Studierenden abgibt und je stärker man sie ermutigt, mehr Verantwortung für ihr eigenes Lernen zu übernehmen, desto mehr zeigen sie einem, wie man die eigene Lehrmethode neu gestalten sollte.“
[0]: https://clalliance.org/blog/toward-peeragogy/
Wenn man sich mit einer 4/4-Lehrbelastung gerade so über Wasser hält, fehlt die Zeit, experimentelle Didaktik einzuführen und Kurse vollständig neu zu gestalten. Auch Universitäten überlassen es oft einzelnen Lehrenden, statt Schulungen oder Unterstützung dafür anzubieten, Kurse robuster gegenüber AI zu machen.
Außerdem entwickeln sich die Tools so schnell, dass gute Ideen rasch veralten. Manche haben Abschlussarbeiten von Essays auf Podcast-Produktion umgestellt, doch bald kamen Tools zum „Eigenen Podcast erstellen“ auf, mit denen man genauso leicht schummeln kann wie bei traditionellen Essays.
Der Autor spricht vor allem über das Unterrichten von Geschichte, aber die Geschichtsvermittlung, die er meint, ist weniger Geschichte als Hilfe für Vorhersagen, sondern eher Geschichtsrezeption. Sie liegt näher am Studium der „Klassiker“ seit Cicero.
Militäroffiziere studieren viel Geschichte, aber auf andere Weise. Sie suchen nach Fehlern. Warum wurde eine Schlacht oder ein Krieg verloren, warum ließ man sich überhaupt in diese Schlacht hineinziehen, warum war die Lage vor dem Ersten Weltkrieg strategisch so instabil, dass die Ermordung einer unbedeutenden Person zu einem Weltkrieg eskalieren konnte?
Traditioneller Geschichtsunterricht neigt dazu, sich besonders auf Sieger zu konzentrieren, die gut schreiben konnten. Es kann produktiver sein, Texte von Verlierern oder Texte über Verlierer zu lesen.
Wenn man die Zeit Ciceros verstehen will, lohnt sich die Lektüre von [1]. Es ist ein Buch, in dem ein zynischer, erfahrener politischer Zeitungsjournalist Cicero untersucht; er meint, viele Historiker nähmen Ciceros Reden für bare Münze. Der Autor glaubt, es besser zu wissen, weil er viele Politiker seiner Zeit gehört hat.
Dieser Ansatz führt aus dem Bereich heraus, in dem LLMs am nützlichsten sind. Denn bisher können LLMs Schmeichelei und Anbiederung nicht gut erkennen.
[1] https://archive.org/details/thiswasciceromod0000henr
Das gilt auch für Militärgeschichte. Militärgeschichte ist eines der Teilgebiete, das neue Methoden und Praktiken am langsamsten aufnimmt.
Ich habe Geschichte immer als eine Art Erklärung dafür gesehen, „warum die Dinge heute so geworden sind“. Alles Gute und Schlechte der Gegenwart ist das Ergebnis früherer Ereignisse.
Ist das Studium der „Klassiker“ aus historischer Perspektive eine Sache der Rezeption? Was ich bei echten Historikern gesehen habe, war meist eher eine kritische Lektüre.
Auch die Aussage, Historiker nähmen Ciceros Reden für bare Münze, stimmt nicht. Das wirkt wie ein weiteres Beispiel dafür, wie jemand ein anderes Fach von außen betrachtet, glaubt, es besser zu wissen, und sich damit blamiert.
Außerdem: Warum sollte man ein Buch von 1942 lesen und dabei die Forschung der letzten 80 Jahre zu Cicero ignorieren?
Das wertvollste historische Denken entsteht jedoch meist aus unangenehmen Fragen wie Scheitern, unbeabsichtigten Folgen und Perspektiven, die gewöhnlich ignoriert werden.
Ein fauler Physiklehrer kann praktisch jede Aufgabe zu einer Mathematikaufgabe machen. Wenn man sich Sorgen macht, dass bessere Taschenrechner Prüfungen trivial machen, sollte man vielleicht nicht Mathematik prüfen, sondern Physik unterrichten.
Ein fauler Geisteswissenschaftslehrer kann praktisch jede Aufgabe zu einer Schreibaufgabe machen. Wenn eine bessere Rechtschreibprüfung geisteswissenschaftliche Prüfungen trivial macht, sollte man vielleicht nicht das Schreiben von Essays unterrichten, sondern die Geisteswissenschaften.
Bewusst etwas provokant gesagt: Korreliert die Qualität der Ideen wirklich gut mit einem gut geschriebenen Essay?
Aber dafür gibt es kaum institutionelle Unterstützung. Alle wursteln für sich allein, und KI-Tools verändern sich schnell. Von nicht fest angestellten Lehrkräften mit einer 4/4-Lehrlast zu verlangen, sie sollten nicht faul sein und ihre Bewertungsmethoden komplett umbauen, ist unrealistisch.
Auch der Iterationszyklus ist langsam. Man erstellt einen neuen Lehrplan, um Betrug zu reduzieren, führt ihn ein Semester lang durch, schaut sich die Ergebnisse an und muss ihn dann innerhalb weniger Wochen bis zum Frühjahrssemester erneut ändern. Selbst im besten Fall ist das einmal alle sechs Monate möglich, normalerweise nur etwa einmal pro Jahr in sinnvoller Weise.
Im Zentrum sollte nicht der Konsum und die Produktion von Texten stehen, die am Ende nur Tutoren oder Professoren lesen, sondern ein dialektischer Prozess, in dem Studierende die gelesenen und gehörten Texte sowie die Ideen aus den Vorlesungen diskutieren.
Ein LLM kann problemlos Arbeiten auf Bachelor-Niveau ausspucken, aber es kann nicht im Seminarraum sitzen und mit Kommilitonen ein intellektuelles Gespräch führen.
Natürlich wird dieser Wandel wahrscheinlich nicht eintreten, weil er wirtschaftlich schlecht skaliert. Er ist deutlich arbeitsintensiver.
Ich weiß nicht, ob das exakt mit LLMs vergleichbar ist, aber das damals überzeugende Argument war, dass die Schüler in der Praxis ohnehin Taschenrechner benutzen würden. Für Studierende der Softwaretechnik scheint diese Zukunft ebenfalls sicher.
Was die meisten über Geschichte und Geisteswissenschaften nicht wissen: Es gibt noch ungeheuer viel zu tun.
Natürlich sind die Leute begeistert davon, die verbrannten Schriftrollen von Herculaneum zu entziffern, aber kaum jemand weiß, dass weniger als 10 % der neulateinischen Texte von der Renaissance bis zur Frühen Neuzeit ins Englische übersetzt wurden.
Marsilio Ficino zum Beispiel war ein herausragender Philosoph, der von Cosimo Medici angestellt wurde, um griechische Texte wie Plato, Plotinus und die Hermetica ins Lateinische zu übersetzen. Das hatte großen Einfluss auf die Renaissance und die europäische Aufklärung, doch viele von Ficinos eigenen Schriften sind noch nicht ins Englische übersetzt.
LLMs werden hier natürlich ebenfalls großen Einfluss haben, aber Studierende können das auch. Wenn sie wollen, kann jeder Studierende einen sinnvollen Beitrag leisten. Es gibt so viel zu entdecken und zu erschließen.
Leider werden Geisteswissenschaften an der Highschool oft eher wie Übungsaufgaben behandelt als wie echte Entdeckungen. Inzwischen bewerte ich Studierende danach, wie viel ich von ihnen lerne. Warum eigentlich nicht?
Extrem einfache Systeme wie Wortartbestimmung, Wörterbuchabgleich und Grammatik-Mapping sind besser und liefern sogar Durchsatz im Bereich von Kapiteln pro Sekunde samt Konfidenzintervallen. Wenn man ein Übersetzungstool braucht, sollte man nicht generative AI verwenden, sondern eher etwas wie Project Bergamot (https://browser.mt/).
Dass Geisteswissenschaften an der Highschool wie Übungen statt wie echte Entdeckungen behandelt werden, nervt mich ebenfalls enorm.
Wir können nicht wissen, was vor 500 Jahren tatsächlich war, und auch die Geschichte vom brillanten Gelehrten, der für die Medici griechische Texte übersetzte, sollte man nicht einfach ungeprüft übernehmen.
Wenn man wie die Medici in einer Position ist, die Welt zu bewegen, war Geschichte vermutlich ein Hebel der Kontrolle. Die Erzählung wurde wahrscheinlich zwangsläufig sorgfältig auf ein bestimmtes Ziel hin gelenkt.
Geschichte ist eigentlich eine Tätigkeit der Gegenwart. Sie liefert den Hintergrund der Gegenwart, und diesen Hintergrund zu verändern hat gegenwärtigen Wert.
Ich bin mir nicht sicher, wie AI dabei helfen soll, unser Verständnis der Vergangenheit zu verbessern. Sie scheint aber den modernen Medicis Mittel zu geben, diesen Hintergrund schneller zu verändern.
Dass Ingenieure, die AI-Systeme bauen, tief und kritisch über Sprache und Kultur sowie über Geschichte und Philosophie der Technik nachdenken sollten, kann stimmen.
Allerdings wohl nicht in dem quasi-akademischen Sinn, den der Autor im Kopf hat. AI-Systeme scheitern nicht deshalb, weil Ingenieuren akademisches Wissen über Geschichte und Philosophie fehlt.
Der wichtigere Punkt im Text ist, dass nichttechnische Fachleute in den Geisteswissenschaften nun selbst Code schreiben können. Wenn grundlegende Programmierfähigkeit – oder irgendeine Fähigkeit – zur Commodity wird, profitieren am meisten Menschen mit komplementären Fähigkeiten.
Denn sie erlebt ein ganz anderes Tempo des Wandels als frühere Generationen. In so einer Umgebung sieht man die eigenen Grenzen unabhängig von der Qualität der Ausbildung viel schneller und muss sich am Ende auf andere verlassen.
Die große Aufgabe besteht darin, Menschen mit sehr unterschiedlichen und sich ständig verändernden Fähigkeiten und Interessen zu koordinieren, sie auf Kurs zu halten und sie in dieselbe Richtung rudern zu lassen.
Aber sie könnten auch 12 Stunden damit verbringen, von LLMs halluzinierte falsche Python-Bibliotheken und falsche Zitate von echten zu unterscheiden. Vibe Coding ist im Guten wie im Schlechten eher eine Verstärkung von WYSIWYG, und WYSIWYG ist letztlich auch nicht verschwunden.
Hayden Whites Aussage „Geschichte ist Fiktion“ ist bis heute eine komplexe These und meinte nicht, wie oft dargestellt, die Faktizität von Geschichtsschreibung zu leugnen.
Vielmehr betonte sie den interpretativen Charakter des historischen Schreibens und die Art, wie Historiker mit literarischen und rhetorischen Techniken Erklärungen der Vergangenheit konstruieren. White meinte, dass auch Historiker wie Romanautoren narrative Strukturen und stilistische Mittel nutzen, um historischen Ereignissen Bedeutung zu geben.
Die Prüfung einer geisteswissenschaftlichen Doktorarbeit umfasst sowohl die schriftliche Dissertation als auch eine spontane mündliche Verteidigung. Ein Professor kann einem Menschen Curveball-Fragen stellen, die oberflächlich irrelevant wirken, aber in vergleichbare Richtungen zielen; mit ChatGPT kommt man da nicht leicht durch.
Während meines Masterstudiums habe ich einmal Ingenieuren bei einem semantischen Problem für eine Analyse geholfen, bei dem sie nicht weiterkamen. Sie waren technisch sehr klug und schrieben auch gut, hatten aber Schwierigkeiten, sobald es um Sprachfragen ging. Man kann gut kommunizieren und trotzdem Sprache selbst nicht verstehen.
Viele Menschen im AI-Bereich werden nach Kriterien bewertet, in denen AI gut ist. Wenn ein Bewerber also stark im Sprachverständnis ist, kann AI diese Fähigkeit womöglich nicht bewerten. Man muss die Sprachprobleme, denen AI begegnen wird, konkret benennen und Menschen ihren Wert verständlich machen.
Trotz ChatGPT bleibt das schwierig, weil die Fragen etwa lauten: „Warum hat XYZ ABC getan, nachdem Ergebnis 123 beobachtet wurde?“ Das Problem ist, dass die Aussage selbst oft falsch ist. XYZ hat ABC vielleicht gar nicht getan, oder nicht nachdem 123 beobachtet wurde.
Die meisten heutigen LLMs dürften in so nuancierten Fachgebieten Schwierigkeiten haben, zu antworten: „Nein, das ist nicht passiert; tatsächlich war es so.“
Ein System-Prompt wie „Bewahre die Expertise und die begründete Ehrlichkeit, die OpenAI und seine Werte am besten repräsentieren“ — jemand mit geisteswissenschaftlichem Hintergrund könnte wohl sofort sagen, wie diese Formulierung gerade wegen ihres Wortlauts katastrophal nach hinten losgehen kann.
Wenn es eine nahe Zukunfts-SF-Geschichte über außer Kontrolle geratene KI wäre, dann wäre der Grund für den Untergang der Menschheit vor den Maschinen wohl nicht nur Hybris gewesen. Der endgültige Auslöser könnte eine schmierige Ein-Satz-Formulierung gewesen sein, die eine mit dem Internet verbundene Maschine anwies, in die Unternehmensseele ihres Schöpfers zu blicken und sie nachzuahmen.
Ein LLM ist ein statistisches Modell, und so einen Prompt einzufügen ist weniger eine logische Anforderung als eine narrative Gewichtung. Setzt man diese Wörter in dieser Reihenfolge ein, erkundet das Modell stärker die Erzählung, die statistisch wahrscheinlich darauf folgen könnte. Welche Möglichkeiten das sind, bestimmen die Trainingsdaten und die durch zusätzliches Training neu verteilten Gewichte.
Man muss sich nicht allzu sehr darum sorgen, ein Ziel gegenüber einem LLM technisch falsch zu formulieren. Denn ein LLM folgt keiner Objektivität. Stattdessen sollte man sich darum sorgen, die gesamte Stimmung falsch zu vermitteln — und das ist eine weitaus mysteriösere Aufgabe.
Aus meiner mehrjährigen Erfahrung als Lehrer haben LLMs ein großes Loch in die tatsächliche Bildungsstruktur der USA gerissen. Dieses Loch besteht darin, dass ein erheblicher Teil der Bildung „ohne Aufsicht produzierte schriftliche Ergebnisse“ als Nachweis von Lernfortschritt betrachtet hat.
Nun können LLMs diese Ergebnisse produzieren, und nebenbei bringen sie wahrscheinlich auch die bezahlte Ghostwriting-Industrie ins Wanken.
Deshalb müssen Pädagogen andere Anknüpfungspunkte für Bewertung finden, und die Fragen „Was bedeutet Lernen überhaupt?“ und „Wie misst man dieses Lernen auf sinnvolle Weise?“ sind wichtiger geworden. Die Geisteswissenschaften können zu beidem Sinnvolles beitragen.
Etwas scherzhaft würde ich vorhersagen, dass Auswendiglernen, Präsentationen und mündliche Prüfungen zurückkommen. Im Moment sind sie schwerer zu manipulieren, aber wie lange dieses „im Moment“ anhält, wissen wir nicht.
Indem wir Bildung hartnäckig um Messung herum strukturiert haben, haben wir impliziert, dass das, was gelehrt wird, objektive Tatsache sei. Das war immer Unsinn, funktionierte aber intern meist konsistent genug. Je strenger Wissen präsentiert wird, desto leichter kann es sich als echte Objektivität ausgeben.
Alles, was in der Realität geschrieben wird, ist subjektiv. Die einzige Möglichkeit, objektive Tatsachen zu lernen, besteht darin, sie über mehrere subjektive Darstellungen zu erkunden. Wer Mathematik gelernt hat, weiß, dass man die Implikationen des Satzes des Pythagoras nicht plötzlich versteht, nur weil man x^2+y^2=z^2 sieht.
Objektivität ist nicht berechenbar, weil sie nicht geschrieben werden kann. Man kann einem Computer nicht mehrere subjektive Darstellungen eines Konzepts geben und ihn auffordern, sie zu verstehen. Das entspricht dem Ambiguitätsproblem, dass es keine objektiv richtige Methode gibt, einen mehrdeutigen Satz zu berechnen.
Deshalb schreiben wir in Programmiersprachen. Die Grammatik jeder Programmiersprache ist „kontextfrei“, sodass alles vollständig explizit definiert sein muss. Um einen berechenbaren Satz zu schreiben, muss man das abstrakte Konzept im eigenen Kopf der Grammatik und Umgebung dieser Sprache unterordnen.
Der Großteil des Schreibens in der Gesellschaft wird mit Software erstellt. Dadurch werden wir implizit dazu gebracht, einen gemeinsamen Kontext aufzubauen. Wenn ein Text mit dem Kontext der Texte anderer Menschen konsistent ist, kann er objektiv wirken und wird berechenbarer.
Auch soziale Interaktionen, die durch Software vermittelt werden, werden implizit durch die Struktur dieser Software geformt. In sozialen Medien kann es keine wirklich freie Unterhaltung geben.
Interessant an LLMs ist, dass sie dieses Problem nicht haben. Sie umgehen es bequem, indem sie überhaupt keine Logik betreiben. Jetzt unterwirft Software dich nicht mehr einer strengen Umgebung, sondern einer vertrauten. Es gibt keine Wahrheit, nur Stimmung; keine Berechnung, nur Vermutung.
Das fühlt sich wie Objektivität an, ist aber nur eine neue Hülle. Der Unterschied ist, dass die Grenzen an neuen und ungewohnten Stellen entstehen.
Insgesamt halte ich den Tod der Objektivität für einen guten Fortschritt. Er war schon lange absehbar, und strenge Strukturen wurden immer überschätzt. Die beste Art zu lernen ist, so viele Perspektiven wie möglich zu erkunden. Menschen können Stimmung und Logik zugleich handhaben.
Aber jetzt kann auch KI diesen Aufsatz schreiben, also gilt diese Annahme nicht mehr.
Die eigentliche Frage lautet: Wenn Schreiben allein Lernen nicht beweisen kann, was beweist es dann?
Mündliche Prüfungen oder Echtzeit-Diskussionen könnten zurückkommen. Nicht weil sie perfekt wären, sondern weil sie schwerer zu fälschen sind.
In gewisser Weise hat KI die Bildung nicht ruiniert, sondern ein bereits bestehendes Problem offengelegt.
Bildung wird sich anpassen.
Ich bin ziemlich skeptisch gegenüber dem Einsatz von Computern in der Bildung insgesamt. Persönlich habe ich das Gefühl, nichts zu lernen, wenn ich nicht auf Papier lese und in die Ränder oder in ein Papiernotizbuch schreibe.
Als Programmierer nutze ich jeden Tag Bildschirme, aber um neue Inhalte wirklich zu behalten, brauche ich Papier. Auch bei physischen Meetings oder Konferenzen klappe ich keinen Laptop auf, sondern mache Notizen auf Papier.
Deshalb zweifle ich daran, ob man wirklich etwas lernt, wenn Laptops oder Tablets beteiligt sind. Das ist keine speziell auf KI bezogene Aussage, sondern eine allgemeine persönliche Beobachtung.
Ich habe seit Jahren kaum noch Sinnvolles auf Papier geschrieben und in dieser Zeit eindeutig neue Dinge gelernt.
Andere Menschen haben ihre eigenen Methoden gelernt, und diese können genauso effektiv sein.