- In einem neu veröffentlichten Paper heißt es, dass er schneller und effizienter als Nvidia sei
- Nvidia hält derzeit 90 % des KI-Markts, doch Google entwickelt seit 2016 eigene TPUs
- Seit 2020 nutzt Google mehr als 4.000 TPUs und hat sie in den vergangenen 50 Tagen für das PaLM-Modell eingesetzt
- TPU v4 ist 1,2- bis 1,7-mal schneller als Nvidia A100 und verbraucht 1,3- bis 1,9-mal weniger Strom
- Ein Vergleich mit Nvidias aktuellem H100 fehlt jedoch (im MLPerf-3.0-Benchmark ist H100 gegenüber A100 viermal so leistungsstark)
3 Kommentare
Sie haben nichts neu vorgestellt.
TPU v4 wurde bereits 2021 vorgestellt und war sogar öffentlich über die Cloud verfügbar. 1
Diese Nachricht bezieht sich darauf, dass sie nach mehreren Jahren Betrieb ein zusammenfassendes Rückblick-Paper veröffentlicht haben, haha.
Auch zum Vergleich mit dem H100 hieß es, dass sie noch innerhalb dieses Jahres etwas Entsprechendes deployen werden.
Ah, das war eine etwas verwirrende Nachricht. seufz
Hehe, ich habe nach anderen News gesucht und gesehen, dass die Artikel so geschrieben sind, als wäre das gerade erst neu veröffentlicht worden. Da kann man leicht durcheinanderkommen.
Im Paper wird aber wiederholt erwähnt, dass es sich um ein retrospektives Paper handelt (das soll wohl Teil ihrer Kultur sein).