Das Manhattan-Projekt und das Apollo-Programm waren, auf heutige Werte umgerechnet, überraschend "günstig" finanziert. Das Budget für die Mondlandung in den 1960er-Jahren lag ungefähr auf dem Niveau der jüngsten Aktienrückkäufe von Apple.
Sowohl das Manhattan-Projekt als auch das Apollo-Programm machten jeweils 0,4 % des damaligen BIP aus. Bei einem heutigen US-BIP von 27 Billionen US-Dollar entspricht das etwa 108 Mrd. US-Dollar. Meta hat davon noch nicht einmal ein Drittel in GPUs gesteckt.
Die enorme Komplexität moderner GPUs, CPUs und SoCs sollte uns nicht abschrecken. Im Vergleich zur Herstellung eines 3-nm-Chips mit 3 Milliarden Transistoren war das Manhattan-Projekt zwar bahnbrechend, aber vom Umfang her nicht so groß.
Ich frage mich, warum Meta trotz solcher Investitionen OpenAI noch nicht überholt hat. Wie schafft OpenAI es, eine so starke Leistung zu erzielen?
Ich bin immer wieder beeindruckt von der Qualität und dem Können der Werke, die vor den 1960er-Jahren entstanden sind. Ich weiß nicht, was der grundlegende Grund dafür ist, dass unsere moderne Gesellschaft seither verschwenderischer, langsamer, teurer und weniger ehrgeizig geworden ist, aber es wäre schön, wenn wir dazu zurückkehren könnten.
Ich frage mich, ob Meta offenlegt, wie stark diese GPUs im internen Betrieb eingesetzt werden und welche Kosteneinsparungseffekte daraus resultieren. Neben dem enttäuschenden „Meta AI“-Chatbot gibt es vermutlich viele Bereiche, in denen sich der Einsatz von H100 lohnt, etwa Content-Recommender, Missbrauchsprävention und Optimierung der Netzwerkkapazität.
Das Manhattan-Projekt hatte meines Erachtens eine bessere Rendite pro eingesetztem Aufwand.
Das ist vor allem dem Einfluss von geschlossenen Ökosystemen (walled gardens) und dem Wert von geistigem Eigentum zuzurechnen. Wenn das Rechtssystem sich dahingehend ändert, dass IP/Daten nicht mehr geschützt werden können, werden nächstes Jahr viele Leute Klone oder modifizierte Kopien von Facebook bauen. Ebenso viele werden NVIDIAs GPU-Designs übernehmen und verändern. Durch den Wettbewerb würden Preis und Gewinnspanne fast auf Null fallen.
Ich frage mich, wie wahrscheinlich es ist, dass wir innerhalb der nächsten zehn Jahre mit einem GPU-Paket im Wert von einer Million Dollar dieselbe Leistung erzielen können, dank Moore's Law. Mit dieser Summe könnte man beinahe einen GPU-Hersteller übernehmen.
Das wirkt nicht ganz so beeindruckend, wie es klingt, da das reale (inflationsbereinigte) US-BIP seit 1945 fast um das 9-Fache gestiegen ist.
1 Kommentare
Hacker News Kommentar