1 Punkte von GN⁺ 2024-10-11 | 1 Kommentare | Auf WhatsApp teilen
  • Arnaldur beschreibt diese Website als sein Zuhause im Internet und stellt sich als Computer Scientist vor
  • Derzeit arbeitet er als Berater für Softwareentwicklung und ist per E-Mail erreichbar
  • Auf der Website kann man einige von Arnaldur verfasste Artikel lesen
  • Die Website wurde selbst mit SolidStart erstellt und statisch gerendert
  • Für Deployment und Styling werden AWS·SST·matcha.css verwendet; irgendwo auf der Website ist ein Easter Egg versteckt

Arnaldur und Kontakt

  • Arnaldur stellt sich als Computer Scientist vor
  • Diese Website dient als Arnaldurs Zuhause im Internet
  • Auf der Website gibt es einige lesbare Artikel
  • Derzeit arbeitet er als Berater für Softwareentwicklung
  • Als Kontaktadresse gibt er die E-Mail a.arnaldur+be@gmail.com an

Umsetzung der Website

  • Die Website wurde von Grund auf mit SolidStart erstellt
  • Die Website wird per statischem Rendering bereitgestellt
  • Das Hosting läuft auf AWS, unterstützt durch SST
  • Als Styling-Grundlage wird matcha.css verwendet
  • Irgendwo auf der Website ist ein Easter Egg versteckt

1 Kommentare

 
GN⁺ 2024-10-11
Hacker-News-Kommentare
  • Statt zu denken, dass eine Kugel in hohen Dimensionen „spitz wird“, ist es besser, sie so zu sehen, dass der Würfel selbst spitz wird
    Wie der Artikel sagt, ist eine Kugel per Definition immer vollkommen symmetrisch
    Ein Würfel dagegen wird eher zu einer Art Stachelkörper, bei dem sich die Ecken immer weiter vom Ursprung entfernen, nämlich um die Quadratwurzel der Dimension, während die Mittelpunkte jeder Fläche weiterhin genau bei ±1 bleiben
    Auch die 2^N umgebenden Kugeln entfernen sich vom Ursprung, aber ihr Radius bleibt 1/2, sodass man sich leicht vorstellen kann, wie die mittlere Kugel immer mehr Raum bekommt und schließlich aus dem spitz gewordenen Würfel herauswächst
    • In einer anderen Art, über hochdimensionale Kugeln nachzudenken, ist Spitzheit tatsächlich eine passende Visualisierung
      Wenn man zum Beispiel eine Hyperebene bei 90 % der Strecke vom Mittelpunkt der Kugel bis zum Rand setzt und betrachtet, wie viel Prozent des Gesamtvolumens „außerhalb“ dieser Ebene liegen, wird dieses Volumen in hohen Dimensionen vernachlässigbar klein
      Wenn die Dimension wirklich groß wird, schneidet selbst ein Schnitt relativ nahe am Zentrum nur ein sehr kleines Volumen ab, und die nächstliegende Form in unserer 3D-Welt wäre eine Art Stachel
      Dass eine hochdimensionale Kugel nicht spitz ist, zeigt sich in ihrer Symmetrie und Glattheit
      Um also Intuition für hochdimensionale Kugeln zu entwickeln, muss man sie zugleich als symmetrisch, glatt und spitz betrachten
      Und wenn man dann noch fünf weitere unmögliche Dinge denkt, kann man frühstücken
    • Genau das ist der Punkt: Die Ecke eines Quadrats nimmt in der entsprechenden Region der Ebene 1/4 ein, die Ecke eines Würfels 1/8, und die Ecke eines n-dimensionalen Hyperwürfels nur 1/(2^n) des Raums
      Aber jede Kante, Fläche oder Hyperfläche teilt die Ebene, den Raum oder den n-dimensionalen Raum einfach in zwei Hälften
  • In gewissem Sinn ist in einem euklidischen n-dimensionalen Raum die Kugel ein natürlicheres Objekt als der Würfel
    Sobald man einen Distanzbegriff einführt, wird der Würfel zu einem künstlichen Konstrukt
    In einem einfachen Produktraum ist er allerdings ein natürliches Element
    • Das sagt auch der Originaltext direkt nach dem Hamming-Zitat
      „Daher ist es besser, eine n-dimensionale Kugel nicht als spitz zu betrachten, sondern eher so, dass der umgebende Raum schneller wächst als die Kugel.“
  • Das ist ein wirklich gutes Beispiel für den Fluch der Dimensionalität
    https://en.m.wikipedia.org/wiki/Curse_of_dimensionality
    • Es ist interessant, wie sich das mit den LLM-Skalierungsgesetzen verbinden lässt
  • Ich weiß nicht, warum ich angenommen hatte, dass es in diesem Artikel einfach um zwei Formen gehen würde, die topologisch n-Kugeln sind
    Also um die Situation, in der jede an eine von zwei Halbkugeln der Grenze irgendeiner n-Kugel anliegt und sich sonst nicht überschneidet
    In 3D wäre das so ähnlich, als nähme man eine Kugel und zwei verschiedenfarbige Klumpen Knete und drückte jede Knetmasse auf die Hälfte der Kugeloberfläche, wobei beide Knetklumpen topologisch jeweils 3-Kugeln bleiben
    Ich bin mir eigentlich nicht einmal sicher, ob es dazu überhaupt etwas Interessantes zu sagen gibt
  • Eindrucksvoll und nützlich
    Jetzt ist es Zeit, mein Embedding neu zu erstellen, damit ich diese rote n-dimensionale Kugel mit meinen neuen n-dimensionalen Händen greifen kann
  • Wer andere HN-Diskussionen zu diesem Phänomen sehen möchte, kann sich frühere Einreichungen zu demselben Thema ansehen
    Dort gibt es zwar keine coolen Animationen, aber der Artikel ist 14 Jahre alt
    https://news.ycombinator.com/item?id=12998899
    https://news.ycombinator.com/item?id=3995615
    Und dann gibt es noch einen Beitrag vom 29. Oktober 2010
    https://news.ycombinator.com/item?id=1846682
  • Es ist schwer, diese Kugeln im Kopf herumzurollen
    Gibt es mehr Visualisierungen von Zwischenstufen, die einem helfen könnten, zu dieser Intuition zu gelangen?
    Der Artikel ist großartig, aber ich möchte diese verwirklichte Absurdität, bei der beim Blick auf eine vollständig diagonal aufgefaltete 10-dimensionale Struktur in einem 3D-Querschnitt der grüne Kasten der roten Kugel verdeckt wird, schnell mit anderen teilen
    • Das Seltsame ist nicht die rote Kugel, sondern der Hyperwürfel
      Die blauen Kugeln so anzuordnen, dass sie den Hyperwürfel berühren, ist ein künstliches Konstrukt, und nur in niedrigen Dimensionen sieht es so aus, als würden sie die rote Kugel „umschließen“
      Unsere Intuition versagt, weil wir das Problem falsch betrachten
      Wir denken: „Die rote Kugel muss im Würfel eingeschlossen sein“, aber in n Dimensionen gibt es dafür keine geometrische Grundlage
  • Man kann wirklich sagen, dass mir die Animation komplett das Gehirn zerlegt hat
    • Die Stellen mit der Trigonometrie hatten einige ziemlich harte Momente
  • Numberphile hat dazu vor einiger Zeit ein Video veröffentlicht
    https://youtu.be/mceaM2_zQd8?si=0xcOAoF-Bn1Z8nrO