Eindrücke vom Tesla AI Day
(facebook.com)<p>1. In der KI lassen sich die 2010er und die 2020er Jahre klar voneinander trennen. Mit dem Einsatz von GPUs begann eine neue Ära der KI<br />
2. Deep Learning sah zwar vielversprechend aus, aber es gab keine praktikable Methode, es zu trainieren. Dann hat man Goldfische (=GPUs) eingefangen und trainieren lassen, und plötzlich funktionierte etwas. Aber Goldfische bleiben Goldfische<br />
3. Da dumme Goldfische ohnehin keine Lösung sind, machen wir sie eben schlauer. Hier kommt OpenAI ins Spiel<br />
→ Wenn ein dummer Goldfisch nicht reicht, fangen wir zehntausend Goldfische, nähen ihre Köpfe zusammen und machen daraus etwas so groß wie ein Delfinkopf<br />
→ Und das Ding lernt unglaublich gut. Wenn der Kopf klüger wird, versteht er auch ungenau formulierte Dinge erstaunlich präzise <br />
→ Mit einer einzigen Lernmethode namens Transformer alles vereinigt<br />
4. Das Problem ist, dass es alles andere als einfach ist, Goldfischköpfe zusammenzusetzen. Selbst Nvidia hat das noch nicht vollständig gelöst<br />
5. Der entscheidende Wettbewerbsvorteil in der KI ist aktuell nicht das Modell<br />
→ Das Geld, um zehntausend Goldfische zu kaufen (eine aktuelle A100 kostet 10.000 Dollar, also kosten 10.000 Stück allein an GPUs rund 100 Milliarden Won)<br />
→ Die Technik, um diese zusammengesetzten Goldfischköpfe wie einen einzigen Delfinkopf zu behandeln <br />
→ Die Daten, mit denen diese zehntausend Goldfische trainiert werden sollen<br />
6. Letztlich ist die Zeit vorbei, in der einzelne KI-Unternehmen ein paar Goldfische zusammensammeln und mit Trainingsmethoden herumprobieren konnten<br />
→ Google war bislang der Einzige, der neue Fischköpfe bauen, sie verbinden und sie wie einen Delfin laufen lassen konnte<br />
7. Genau das hat Tesla heute gezeigt<br />
→ Die Nvidia-Goldfische taugen nicht besonders, also haben wir neue schwarze Fische gebaut<br />
→ Wir haben viele Anschlüsse eingebaut, damit sie sich leicht verbinden lassen, und auch den Kopf gut überarbeitet <br />
→ Und jetzt können wir damit sogar Roboter steuern!<br />
<br />
Ein unterhaltsam erklärter Text, daher lohnt sich ein Blick ins Original auf jeden Fall</p>
5 Kommentare