Silurian (YC S24) startet – Technologie zur Simulation der Erde

 (news.ycombinator.com)
1 Punkte von GN⁺ 2024-09-17 | 1 Kommentare | Auf WhatsApp teilen

  • Wir sind Jayesh, Cris und Nikhil und Teil des Silurian-Teams. Silurian entwickelt ein Foundation Model zur Simulation der Erde und beginnt mit Wettervorhersagen. Unsere jüngsten Ergebnisse zur Hurrikan-Vorhersage lassen sich hier visualisieren

  • Welchen Wert hätte es, wenn man Wettervorhersagen einen Tag früher kennen könnte? Traditionelle Vorhersagesysteme verbessern ihre Vorhersagegenauigkeit etwa alle zehn Jahre um einen zusätzlichen Tag. Doch dank GPUs und moderner Deep-Learning-Techniken hat sich dieses Tempo in den letzten Jahren beschleunigt

  • Seit 2022 wird bei NVIDIA, Google DeepMind, Huawei, Microsoft und anderen intensiv an Deep-Learning-Systemen für Wettervorhersagen geforscht. Diese Modelle enthalten kaum explizite Physik und lernen Vorhersagen ausschließlich aus Daten. Überraschenderweise liefert dieser Ansatz bessere Vorhersagen als traditionelle Simulationen der Atmosphärenphysik

  • Jayesh und Cris haben dieses Potenzial aus erster Hand erlebt, als sie jeweils Microsofts Projekte ClimaX und Aurora leiteten. Die von ihnen entwickelten Foundation Models verbesserten die Vorhersagen des ECMWF, das als Goldstandard der Wettervorhersage gilt, obwohl nur ein sehr kleiner Teil der verfügbaren Trainingsdaten genutzt wurde. Silurians Ziel ist es, diese Modelle maximal zu skalieren und an die Grenzen physikalischer Vorhersagen zu treiben. Letztlich soll damit jede wetterbeeinflusste Infrastruktur modelliert werden – von Energienetzen über Landwirtschaft, Logistik und Verteidigung bis hin zur gesamten Erde

  • In diesem Sommer haben wir mit GFT (Generative Forecasting Transformer) ein Frontier-Modell mit 1.5B Parametern entwickelt. Es simuliert das globale Wetter bis zu 14 Tage im Voraus bei einer Auflösung von rund 11 km. Obwohl historische Aufzeichnungen nur begrenzt Daten zu extremen Wetterereignissen enthalten, zeigt GFT bei der Vorhersage von Hurrikanbahnen im Jahr 2024 sehr starke Ergebnisse. Unsere Hurrikan-Prognosen sind hier zu sehen. Für die Visualisierung verwenden wir das Open-Source-Wettertool cambecc/earth

  • Wir freuen uns sehr über den Launch auf HN und würden gern euer Feedback hören

Zusammenfassung von GN⁺

  • Silurian ist ein Unternehmen, das Foundation Models zur Simulation der Erde entwickelt und mit Wettervorhersagen beginnt
  • Durch Fortschritte im Deep Learning hat sich die Genauigkeit von Wettervorhersagen in den letzten Jahren deutlich verbessert
  • Trotz begrenzter Daten zu Extremwetter erzielt Silurians GFT-Modell starke Vorhersageergebnisse
  • Die Technologie hat das Potenzial für Anwendungen in Energienetzen, Landwirtschaft, Logistik und weiterer Infrastruktur
  • Ähnliche Projekte gibt es unter anderem von NVIDIA und Google DeepMind im Bereich Deep Learning für Wettervorhersagen

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-09-17
Hacker-News-Kommentare

  • Ich freue mich, dass Ensemble-Vorhersagen für tropische Wirbelstürme möglich werden

    • Enttäuschend, dass das ML-Modell mit dem HRES-Modell des ECMWF verglichen wird
    • HRES ist keine optimale Schätzung des durchschnittlichen Wetters, sondern eine einzelne Realisierung eines möglichen Wetters
    • NeuralGCM steht im WeatherBench-Leaderboard weit oben
    • Ich würde die Leistung der Modelle gern auf WeatherBench vergleichen

  • Ein Modell ohne eingebaute Physik liefert allein auf Basis von Daten bessere Vorhersagen

    • Das NLP-Sprichwort „Jedes Mal, wenn man einen Linguisten entlässt, steigt die Leistung“ scheint auch auf Physiker zuzutreffen

  • Silurian baut ein Grundlagenmodell auf, das die Erde simuliert

    • Falls es erfolgreich ist, frage ich mich, was sie darüber hinaus noch simulieren möchten

  • Ich bin begeistert vom kommerziellen Potenzial von ClimaX

    • Ich frage mich, ob sich bestimmte Branchen wegen des kommerziellen Potenzials gemeldet haben (z. B. Rohstoffexploration)

  • Als Non-Profit baue ich ein ähnliches Modell für Landflächen

    • Ich würde gern dabei helfen, die Landmaske durch ein Land-Embedding zu ersetzen
    • Das würde beim Downscaling regionaler Effekte sehr helfen

  • Ich frage mich, worin der Unterschied zu GraphCast liegt, das Google letztes Jahr veröffentlicht hat

  • Wettermodelle verwirren mich

    • Ich frage mich, ob ML-Methoden numerisch stabiler sind als physikbasierte Simulationen
    • Ich frage mich, wie sie sich hinsichtlich des Rechenaufwands vergleichen
    • Ich habe in der Vergangenheit Modelle von FORTRAN nach Verilog konvertiert

  • Ich frage mich, ob man diesen Ansatz auf unvorhersagbare Erdbeben angewendet hat

  • Dieser Ansatz scheint ein weiteres Beispiel für „The Bitter Lesson“ zu sein

  • Ich frage mich, was in Zukunft noch simuliert werden soll

    • Ich habe in San Francisco eine Demo gebaut, mit der man Objekte in natürlicher Sprache suchen kann
    • Ich habe Clay-Embeddings ausprobiert, aber sie schnitten schlechter ab als mit CLIP feinabgestimmte OSM-Caption-Embeddings