CS-Student entdeckt nach 2.000 Jahren das erste Wort in einer ungeöffneten Herculaneum-Schriftrolle

• Die durch den Ausbruch des Vesuvs im Jahr 79 n. Chr. verkohlten Herculaneum-Schriftrollen waren so fragil, dass sie beim Öffnen zerbrechen würden. Doch CT-Scans und Machine Learning haben gezeigt, dass sich die Schrift im Inneren möglicherweise dennoch lesen lässt.
• Der Teilnehmer der Vesuvius Challenge Luke Farritor fand in einer ungeöffneten Schriftrolle ein vollständiges Wort und erhielt dafür den $40,000 First Letters Prize.
• Das entdeckte Wort ist die antike Schreibung ΠΟΡΦΥΡΑϹ, in moderner Umschrift „porphyras“, und bedeutet „lila“. Kontext und Wortgrenzen lassen sich derzeit jedoch noch nicht sicher bestimmen.
• Casey Handmers Entdeckung des crackle pattern führte zu Verbesserungen in den Modellen von Luke und Youssef Nader; Youssef erhielt für ein schärferes unabhängiges Ergebnis aus demselben Bereich den $10,000 2. Preis.
• Durch den Zusammenschluss von offenem Wettbewerb, Open-Source-Tools und Segmentierungsarbeit rückt der $700,000 Grand Prize als realistisches Ziel näher.

---

Das erste Wort aus einer Schriftrolle, die 2.000 Jahre lang nicht geöffnet werden konnte

• Die Herculaneum-Papyri sind antike Schriftrollen aus der Bibliothek einer privaten Villa nahe Pompeji, die beim Ausbruch des Vesuvs im Jahr 79 n. Chr. verschüttet und verkohlt wurden.
• Diese Bibliothek ist die einzige aus der Antike, die bis heute erhalten geblieben ist, und lag rund 2.000 Jahre lang unter 20 m vulkanischem Schlamm begraben.
• Zwar wurden die Rollen im 18. Jahrhundert ausgegraben, doch sie waren so empfindlich, dass sie bei falscher Handhabung zu Staub zerfallen konnten, weshalb ein physisches Entrollen zum Lesen kaum möglich war.
• Luke Farritor wurde im August 2023 zum ersten Menschen, der in einer ungeöffneten Schriftrolle ein vollständiges Wort sah, und erhielt dafür den $40,000 First Letters Prize.
  • Für diesen Preis müssen in einem 4cm² großen Bereich der Schriftrolle mindestens 10 Zeichen gefunden werden.
• Auch Youssef Nader entdeckte im selben Bereich unabhängig dasselbe Wort und erhielt mit einem klareren Ergebnis den $10,000 2. Preis.
• Der veröffentlichte Code ist auf GitHub bei Luke und Youssef verfügbar.

CT-Scans, Ground-Truth-Daten und der Ausgangspunkt der Vesuvius Challenge

• 2019 erstellte Professor Brent Seales vom EduceLab der University of Kentucky mithilfe eines Teilchenbeschleunigers Aufnahmen von Herculaneum-Schriftrollen und erzeugte 3D-CT-Scans mit einer Auflösung von bis zu 4µm.
• Das Forschungsteam scannte auch abgelöste Fragmente, auf denen noch sichtbare Tinte erhalten war, und dokumentierte sie fotografisch, um einen Ground-Truth-Datensatz aufzubauen.
• Stephen Parsons arbeitete daran, in den CT-Scans dieser Fragmente mithilfe von Machine Learning Tinte zu erkennen, und erzielte bei den abgelösten Fragmenten Erfolge.
• Nat Friedman und Daniel Gross starteten die Vesuvius Challenge, um diesen Fortschritt zu beschleunigen.
  • Im März 2023 eröffneten sie einen öffentlichen Wettbewerb.
  • Neben dem $700,000 Grand Prize gibt es mehrere kleinere Preise für die Entwicklung von Open-Source-Tools und -Techniken.
• Ab dem Frühsommer stieß ein Segmentierungsteam dazu, das die 3D-Struktur der Schriftrollen kartierte. Bis Juli hatten sie Hunderte cm² Papyrus segmentiert und virtuell entrollt.

Das von Casey Handmer gefundene Tintensignal

• Casey Handmer betrachtete Anfang August 2023 lange die CT-Scan-Segmente und entdeckte dabei ein tintenähnliches crackle pattern.
• Stephen Parsons hatte zuvor an abgelösten Fragmenten direkte Hinweise auf Tinte gesehen, doch im Inneren ungeöffneter Schriftrollen war dies bislang nicht bestätigt worden.
• Casey wurde damit zum ersten Menschen seit 2.000 Jahren, der in einer ungeöffneten Schriftrolle Tinte und Buchstaben fand.
• Diese Entdeckung wurde direkt zum Ausgangspunkt sowohl für Lukes Modell als auch für Youssefs Ansatz, und Casey erhielt den $10,000 First Ink Prize.

Luke Farritors Modell und „porphyras“

• Luke Farritor ist Student und Sommerpraktikant bei SpaceX Starbase und wurde durch Dwarkesh Patels Interview mit Nat Friedman auf die Vesuvius Challenge aufmerksam.
• Nachdem er auf Discord die Diskussion über Caseys crackle pattern gesehen hatte, nutzte er seine Abende und Nächte, um ein Machine-Learning-Modell zu trainieren, das dieses Muster lernt.
• Mit jeder neu entdeckten crackle-Struktur verbesserte sich das Modell, und das verbesserte Modell machte wiederum noch mehr crackle sichtbar — ein iterativer Kreislauf entstand.
• Das Modell fand einige Dutzend Tintenstriche und einzelne vollständige Buchstaben, die dann als Label-Daten für das Training verwendet wurden.
• Mit der Zeit machte das Modell sogar crackle-Spuren sichtbar, die mit dem bloßen Auge nicht erkennbar waren, und diese Spuren wurden zu Hinweisen auf Buchstaben und Wörter.
• In Lukes erster Einreichung war ΠΟΡΦΥΡΑϹ, also „porphyras“, schwach zu erkennen.
• Als Professor Brent Seales dieses Bild Papyrologen zeigte, lasen sie trotz der blassen Buchstaben sofort „porphyras“.
• Nach technischer Prüfung wurde ein neues Bild an ein Gremium von Papyrologen geschickt, das unabhängig und einstimmig 13 Zeichen annotierte.
  • Die Sicherheit wurde in über 80 %, 50–80 % und unter 50 % unterteilt.
• „porphyras“ bedeutet „lila“ und ist in antiken Texten ein sehr seltenes Wort.
• Ein Papyrologe meinte, wegen des fehlenden Kontexts könne nicht ausgeschlossen werden, dass es sich um das Substantiv „purpurner Farbstoff oder purpurner Stoff“, um das Adjektiv „lila“ oder um andere Wortgrenzen handle.
• Da damalige Texte keine Leerzeichen verwendeten, ist die Bestimmung von Wortgrenzen zusätzlich erschwert.

Youssef Naders unabhängiger Ansatz

• Youssef Nader ist ein ägyptischer Biobotics-Doktorand in Berlin und wurde durch die Ergebnisse von Casey und Luke dazu angeregt, eine andere Methode auszuprobieren.
• Zunächst prüfte er die Gewinnerlösungen des Kaggle Ink Detection prize.
  • Dieser Wettbewerb konzentrierte sich darauf, Stephen Parsons’ auf Fragmenten basierenden Machine-Learning-Ansatz zur Tintendetektion zu verbessern.
• Youssef übertrug sein Modell mit unüberwachtem Pretraining auf den Daten der Schriftrollen und anschließendem Finetuning auf Basis von Fragment-Labels auf die Schriftrollen.
• Nachdem er mit der Idee eines „Ink Detection Followup Prize“ einen kleinen Preis gewonnen hatte, konzentrierte er sich auf denselben Bereich, als Lukes erste Ergebnisse auf X und Discord geteilt wurden.
• Mit einem aus dem Kaggle-Wettbewerb abgeleiteten Modell fand er einige Buchstaben; im Unterschied zu Casey suchte er crackle nicht manuell.
• Formen, die wie Buchstaben aussahen, annotierte er als Label-Daten und erweiterte dies iterativ mit pseudo-labeling.
• Das endgültige Modell wurde nur mit inneren Schriftrollen-Segmenten trainiert und sicherte ihm damit den 2. Platz beim First Letters Prize.
• Die Papyrologen hatten bei Youssefs Ergebnis einen stärkeren Konsens über die Buchstaben und prüften zusätzlich die möglichen Wörter „ανυοντα / ANYONTA“ oberhalb sowie „ομοιων / OMOIωN“ darunter.
• Falls diese Wörter korrekt sind, könnte die betreffende Papyrusrolle einen vollständig neuen Text enthalten, der der modernen Welt bislang unbekannt ist.

Die Verbindungskette aus offenem Wettbewerb und Open Source

• Weil die Beiträge vieler Menschen direkt miteinander verknüpft zum Fund führten, ist dies ein Beispiel dafür, dass competition + open source und eine gestufte Preisstruktur tatsächlich funktionieren.
• Youssef nutzte Modelle aus dem Kaggle-Wettbewerb und wurde von Lukes Ergebnis inspiriert, denselben Bereich zu untersuchen.
• Lukes Suche nach crackle ging direkt aus Caseys Arbeit hervor.
• Casey konnte viele Papyrusblätter untersuchen, weil das Segmentierungsteam bereits Hunderte cm² kartiert hatte.
• Das Segmentierungsteam konnte große Bereiche kartieren dank Tools, die Teilnehmer der Segmentation Tooling Prizes entwickelt hatten.
  • Dazu gehörte die Arbeit von Julian Schilliger, Chuck, Yao Hsiao und weiteren Teilnehmern.
• Diese Verbesserungen bauten wiederum auf bestehenden Open-Source-Tools des Teams von Brent Seales auf.
  • Grundlage war unter anderem die Arbeit von Seth Parker, Stephen Parsons und weiteren Beteiligten.
• Der bisherige Verlauf zeigt, dass fast jedes Element der Wettbewerbsorganisation eine load-bearing Rolle spielte und der Fortschritt fragiler und zufälliger gewesen sein könnte, als es im Rückblick erscheint.

Die nächsten Schritte zum $700,000 Grand Prize

• Das Segmentierungsteam und die Teilnehmer machen weiterhin Fortschritte, und Youssefs Modell erzeugte vor wenigen Tagen ein neues, klareres und größeres Bild.
• In diesem neuen Bild sind 4,5 Textspalten deutlich zu erkennen, getrennt durch Leerraum.
• Es sind mehr Buchstaben sichtbar, doch nicht alle lassen sich sofort lesen; das Papyrus-Team untersucht sie weiter.
• Die Vesuvius Challenge sieht in diesem Fortschritt einen Schritt, der den $700,000 Grand Prize zu einem erreichbaren Ziel macht.
• Interessierte können über die Discord-Community, den Substack-Newsletter und den X-Account einsteigen und mit Daten, Tutorials, Arbeiten der Preisträger und Community-Tools loslegen.
• Das Ziel ist es, das Wissen in Hunderten Schriftrollen zu erschließen, die Menge antiker Literatur zu verdoppeln und die Möglichkeit zu eröffnen, sogar Tausende noch nicht ausgegrabene Schriftrollen zu lesen.

[GN⁺]

Meinungen auf Hacker News

• Die Buchstaben wurden entdeckt, indem man in Papyrusfragmenten aus CT-Scans nach Riss-Texturen suchte, die wie griechische Buchstabenformen aussahen, und diese als Trainingsdaten annotierte.
  Allerdings sind solche Riss-Texturen auf den meisten Papyri mit bloßem Auge nicht zu erkennen; wahrscheinlich sieht man sie nur dort so, wo die Tinte sehr dick aufgetragen wurde.
  Auf dem Elektronenmikroskop-Bild https://scrollprize.org/img/tutorials/sem.png sind die Texturunterschiede deutlich besser zu sehen, besonders an den Rändern, wo die Tinte verdrängt wurde.
  Erstaunlich ist, dass die Risse erst nach dem Kaggle-Wettbewerb zur Tintenerkennung entdeckt wurden. Auch Casey Handmer suchte unter https://caseyhandmer.wordpress.com/2023/08/05/reading-ancien... nach „rissiger Lehm“- bzw. „Schuppen“-Texturen, die bekannter Buchstabentinte entsprechen, schrieb aber, dass dies nur bei etwa 10 % der bekannten Buchstaben der Fall gewesen sei.
  Die neuen Bilder sind viel besser als erwartet, aber bislang ist es nur ein kleines Areal; ich bin daher weiterhin pessimistisch, ob man mehr als ein paar merkwürdige Sätze lesen können wird.

  • Als ich kurz an der Challenge teilnahm, verfolgte ich einen ähnlichen Ansatz, nahm aber nicht an, die Risse selbst zu finden, sondern dass dieser „Riss“-Effekt ein Datenschnitt durch mehrere Spalten im Pergament ist und die Tintenda­ten auf dieser gekrümmten und gerissenen Mannigfaltigkeit liegen.
    Nicht alle Buchstaben werden für das menschliche Auge klar sichtbar sein, aber die Scanbilder haben sehr viele Schichten; wenn man durch die Bilder blättert, beginnen Muster erst mit der Zeit hervorzutreten.
    Ich schrieb Code, der Bildblöcke „ausrichtet“ und die Riss-Textur abflacht, indem jede Pixelspalte nach oben und unten bilinear interpoliert wird, um, soweit ich mich erinnere, den Gesamtvarianzverlust zu minimieren.
    Danach wollte ich ein 2D-Convolutional Neural Network verwenden, das auf die „abgeflachten“ Bilder optimiert ist; beim Querschnitt der Schriftrolle schien es lokal konsistente zusammengedrückte Bereiche wie bei Holz zu geben, sodass Interpolation möglicherweise ausreichen könnte.
    Deshalb war ich nicht besonders einverstanden damit, für dieses Problem 3D-Convolutions zu verwenden. Aufgetragene und getrocknete Tinte dürfte einem halbwegs vorhersagbaren Muster folgen, das mit 2D-Convolutions erkennbar ist, und die gewünschte Invarianz lässt sich vorher leichter strukturell einbauen.
    Falls Interesse am Code besteht, kann ich ihn heraussuchen und teilen.

• Auch Nats Ankündigung auf Twitter ist sehenswert: https://twitter.com/natfriedman/status/1712470683207532906
  700.000 Dollar sind lebensveränderndes Geld, da ist die Versuchung groß, alles stehen und liegen zu lassen und sich wie ein Mönch, der mit modernem Machine Learning nach antiker Erkenntnis sucht, ganz darin zu vertiefen.
  Witzig ist auch, dass die Schriftrolle einfach nur eine Wäscheliste sein könnte.

  • Wenn diese Methode skalierbar wird, gibt es danach über 600 Schriftrollen, die gelesen werden könnten.
    Außerdem heißt es: „Die Ausgrabung ist nicht abgeschlossen, und viele Historiker glauben, dass noch Tausende weitere Schriftrollen unter der Erde liegen“: https://scrollprize.org
  • Oder es könnte eine Kundenbeschwerde sein: https://www.thearchaeologist.org/blog/complaint-tablet-to-ea...
  • Vermutlich ist es eher keine Wäscheliste. Man scheint mit den Schriftrollen begonnen zu haben, die von außen lesbar waren, und diese sind als Requisiten der griechischen stoischen Philosophie bekannt.
    Eine Wäscheliste hätte man wohl nicht auf teuren Papyrus geschrieben, sondern auf wiederverwendbare Wachstafeln.
  • Wahrscheinlich handelt es sich um einen Hinweis auf den Kaiser. Purpurner Stoff war extrem selten und teuer und die Farbe, die Kaiser trugen.
    Später wurde es sogar mit dem Tod bestraft, wenn jemand außerhalb der Kaiserfamilie Purpur trug; ob das zur Zeit des Vesuvausbruchs schon so war, weiß ich nicht, aber Wikipedia sagt, Caligula könnte jemanden getötet haben, weil er Purpur trug.
  • Etwa die Hälfte der 700.000 Dollar dürfte wohl für Steuern draufgehen.

• Ich kann nur dringend empfehlen, in die klassische Literatur einzusteigen. Sie ist wirklich erstaunlich und übersteigt die Vorstellungskraft; ich hatte in der Ausbildung ein wenig damit zu tun, aber erst vor Kurzem erkannt, wie großartig sie ist.
  Für Einsteiger empfehle ich Iamblichus’ Life of Pythagoras, Apuleius of Numenias The Golden Ass (Übersetzung von Robert Graves), Plutarchs Life of Alexander, Xenophons Education of Cyrus und Platons Parmenides.
  SHWEP.net war ebenfalls sehr hilfreich, weil es viele Klassiker sanft, aber gründlich erschließt; es hat eine vergleichsweise esoterische Ausrichtung, was mir ebenfalls gefällt.

  • Es wäre schön, wenn du etwas genauer erklären könntest, warum du sie so erstaunlich und vorstellungssprengend findest.
    Ich habe mich ein paar Mal an klassischer Literatur versucht, fand sie aber immer schwer zu lesen und hatte wenig Motivation, bis zum Ende durchzuhalten; ich frage mich, ob mir bei diesem Genre etwas entgeht.
  • Life of Pythagoras hatte großen Einfluss auf mein Leben. Es hat mich sehr inspiriert, wie Pythagoras sich zu 100 % der Wahrheitssuche verschrieb, demütig um die Welt reiste, um Wissen, Praxis und Techniken zu sammeln, vieles ausprobierte und dann einen großen Teil seines Lebens dem Lehren widmete.
    Pythagoras war vielleicht der größte Philosoph der Geschichte. Ich empfehle auch, seinen geistigen Nachfolger Archytas zu lesen; seine Gedanken zu Mathematik, Mechanik, Musik, Lernen und Philosophie sind erstaunlich.
  • Als Einstieg in Platon würde ich Parmenides nicht empfehlen. Er gehört zu den schwierigsten seiner Dialoge.
    Als besten Einstieg in Platon würde ich Alcibiades empfehlen. Er ist leicht genug, um ihn mit Vergnügen zu lesen, zugleich aber tief und profund: https://www.gutenberg.org/ebooks/1676
  • Der Umfang des Korpus könnte nun explosionsartig wachsen. Dem Artikel zufolge könnte diese Papyrusrolle, wenn diese Wörter wirklich das sind, wofür wir sie halten, völlig neue Texte enthalten, die die moderne Welt noch nie gesehen hat.
  • Ich frage mich, ob es eine deutsche Ausgabe von Life of Pythagoras gibt. Aus irgendeinem Grund kann ich keine finden; auf Amazon sehe ich nur ein Buch mit einer Rezension, die meint, es klinge nach maschineller Übersetzung.

• Ich habe kürzlich ein hervorragendes YouTube-Video zu diesem Thema gesehen: https://www.youtube.com/watch?v=Z_L1oN8y7Bs
  Der Titel lautet „Herculaneum scrolls: A 20-year journey to read the unreadable“, und es behandelt ein wenig, mit welcher Technik das gelungen ist.
  Die Scans gab es schon seit zehn Jahren, aber um Papier und die Tinte darauf zu unterscheiden, brauchte es Machine-Learning-Training; vor 20 Jahren war das bei einem anderen Satz von Schriftrollen aus Material mit stärkerem Kontrast bereits möglich.
  Deep Learning entschlüsselt Datensätze, die zuvor als mit Algorithmen unlösbar galten.

  • Diese Erklärung ist ziemlich irreführend. Der eigentliche Durchbruch bestand darin, per Sichtprüfung Muster zu finden und diese als bessere Trainingsdaten zu verwenden.
    Bislang scheint man auch nicht viele Buchstaben gefunden zu haben, die mit bloßem Auge zu schwer zu erkennen wären.
    Es ist interessant, im Original nachzulesen, wie sich manuelle Annotationen, die von der Modellausgabe geleitet werden, und das erneute Trainieren des Modells mit zusätzlichen Daten wiederholen.
    Wenn man von Anfang an nur mit vorhandenen Ground-Truth-Daten Deep Learning laufen ließ und nicht wusste, auf welche Merkmale das Modell achten sollte, funktionierte es praktisch kaum.
    Außerdem ist auch das virtuelle Entrollen der Schriftrollen derzeit größtenteils Handarbeit und sehr arbeitsintensiv.
  • Das ist sehr missverständlich. Die Entdeckung selbst wurde nicht durch Deep Learning gemacht, sondern durch manuelle Suche.
    Derzeit versucht man, dass ein Deep-Learning-Modell die Arbeit übernimmt, die hier Menschen geleistet haben, aber es ist noch nicht gelungen, tatsächlich Buchstaben zu finden.

• Das ist ein bisschen so, als würde man im 21. Jahrhundert die Öffnung des Grabes von Tutanchamun miterleben.
  Es ist unglaublich erstaunlich, dass es mittelfristig eine realistische Möglichkeit gibt, neue übersetzte Werke bei Amazon kaufen zu können, die seit Tausenden von Jahren niemand gelesen hat.

• Wirklich großartig. Ich bin gespannt, was wir daraus lernen werden.
  Nebenbei: Das Foto „Professor Seales und Team beim Scannen im Teilchenbeschleuniger“ sieht aus wie eine Szene aus einer TV-Serie. So nach dem Motto: „Wenn wir dem Computer nur oft genug ‚enhance‘ sagen, können wir es lesen.“

• Das dürfte einer der extremsten Fälle von Datenrettung sein, die ich je gesehen habe.
  Ich frage mich, ob es in 2000 Jahren so etwas geben wird wie „erste Datei, die auf der Platter einer weggeworfenen Festplatte gefunden wurde“.

  • „Spot-Roboter durchwühlt auf einer Mülldeponie Abfallbehälter und findet 100.000 Bitcoin auf einer weggeworfenen Festplatte“
  • Diese Geschichte kommt mir vage in den Sinn: https://en.wikipedia.org/wiki/MS_Fnd_in_a_Lbry#:~:text=MS%20...

• Die ersten 30 Minuten dieses Interviews erklären sehr gut, was gerade passiert. Wirklich spannend.
  https://youtu.be/qcvMjoJdck4?si=RL1WnAAj4loS1D2s

• Die Formulierung „ex-JPL startup founder and polymath“ finde ich interessant.
  Für meine Vielseitigkeit habe ich noch nie so ein Lob bekommen; bei mir hieß es nur „Generalist“ und „nach sorgfältiger Prüfung haben wir entschieden, Ihr Bewerbungsverfahren nicht fortzuführen“.

  • Echte Universalgelehrte scheinen es normalerweise zu vermeiden, so genannt zu werden.
    Selbst wenn sie sich entscheiden, anerkannt zu werden, habe ich erlebt, wie sie wegen der unverzeihlichen Sünde, „nicht berühmt genug“ zu sein, beiseitegeschoben wurden.

• https://scrollprize.org/ erklärt die ursprüngliche Herausforderung.
  Andere Arbeiten hatten gezeigt, dass virtuelles Entrollen auf Basis von CT-Scans möglich ist, aber bei diesen Schriftrollen war die Tinte in CT-/Röntgenaufnahmen nicht deutlich sichtbar, sodass man auf feinere Strukturveränderungen zurückgreifen musste.
  Es ist nicht klar, ob sich die Papierstruktur verändert hat oder ob die eigentliche Tinte sichtbar ist, nur eben schwächer.