Interessanterweise haben Karpathy und Sutskever OpenAI nun beide verlassen
OpenAI scheint inzwischen um Sam Altman und Greg Brockman herum zu laufen
Von den vieren waren Karpathy und Sutskever für mich die beeindruckendsten, und ich hoffe, dass sie auch künftig Großes leisten
Die sechs führenden Wissenschaftler sind schon vor langer Zeit gegangen, und OpenAI ist inzwischen zu einem Unternehmen geworden, das von Marketing-, Business-, Software- und Produktisierungsleuten geführt wird
Wenn die nächste Welle von Deep-Learning-Innovationen die Welt überrollt, wird Microsoft sich wohl holen, was übrig bleibt
Sie werden viel Geld verdienen, aber wenn sie das Verlorene nicht ersetzen können, sehe ich keine Zukunft
Karpathy ist weiterhin eine Größe im Bereich Machine Learning/AI und einer der wenigen Menschen, denen es sich auf Twitter/X dauerhaft zu folgen lohnt
Ich finde auch, dass Dario nicht genug Anerkennung bekommt
Ich mag Karpathy wirklich sehr
Er wirkt wie ein klassischer vielseitig gebildeter Gelehrter und Lehrer
Das Szenario, das ich vor Augen habe: Man hat den Widerstand des Safety-Teams übergangen, um vor Google IO ein neues Modell zu veröffentlichen
Auch die sogenannte Superalignment scheint damit zu verschwinden
Ilya, Jan Leike, William Saunders und Leopold Aschenbrenner gehen alle
Er ist der Autor von „Bad universal priors and notions of optimality“ und hat für Hutters MIRI-Programm etwas Ähnliches getan wie Gödel für Hilberts Programm
Immer wenn ich rund um die University of Toronto spazieren gehe, denke ich oft daran, wie Ilya vor etwa zehn Jahren im Büro neben Alex versuchte, etwas herauszufinden
Es ist kaum zu glauben, dass diese neue AI-Welle dort begonnen hat
Ilya, Karpathy, Jimmy Ba und viele andere waren genau zur richtigen Zeit dort, als Hinton dort war
Die University of Toronto war damals wirklich unglaublich
Aus dieser Gruppe kam auch eine Version des GPU-basierten Bitcoin-Minings
Um 2014 herum entstand auch Ethereum in der Nähe, und ich erinnere mich an frühe Ethereum-Treffen mit Vitalik in der Gegend um Queen und Spadina
Aber wie jemand anderes sagte: Obwohl wir dort Personen wie Geoffrey Hinton, den Vater des Deep Learning, sowie Ilya und Vitalik hatten, haben wir daraus praktisch kaum Nutzen gezogen
Allerdings hat keiner von ihnen in Toronto ein AI-Unternehmen gegründet
Als Kanadier finde ich es enttäuschend, wie ineffizient wir darin sind, erfolgreiche Unternehmen aufzubauen
Nach diesem Absetzungsversuch schien es fast unvermeidlich, und vermutlich wurden nur noch die Details seines Austritts abgestimmt
Aber ausgerechnet am Tag nach der Ankündigung neuer Funktionen?
„Bring das nächste große Feature bis zum Launch, dann lassen wir dich im Guten gehen“ könnte Teil der früheren Vereinbarung gewesen sein
Wenn man bedenkt, dass er in Interviews gesagt hat, für die nächste Stufe des Verständnisses brauche es End-to-End-Multimodal-Learning, würde ich sagen, Omni war seine Arbeit
Er dürfte schon eine Weile darüber nachgedacht haben, und als mit dem Launch das Interesse an ihm wuchs, wurde ihm vielleicht eine Entscheidung abverlangt
Es könnte auch ein kluger Schachzug sein
Rund um Google IO platzierte sich OpenAI in den Nachrichten und zog Aufmerksamkeit von Google ab, und weil sie gerade eine große Ankündigung gemacht hatten, wird der Schock der negativen Nachricht etwas abgemildert
Wenn die Nachricht über den Weggang nach der Ankündigung neuer Funktionen kommt, achten die Leute vergleichsweise weniger darauf als zu einem anderen Zeitpunkt
Ich habe erst jetzt erfahren, dass Jakub Pachocki meret war [1]
Ich hatte das überhaupt nicht miteinander in Verbindung gebracht
[1] https://codeforces.com/profile/meret
Es ist das übliche Schicksal idealistischer Menschen, die Großartiges schaffen und dann in Machtkämpfen vom Management fallen gelassen werden
Wie oft hat sich so etwas schon wiederholt?
Wie oft? Das ist die Grundlage des erfolgreichsten Wirtschaftsmodells der Menschheit
Einige werden vielleicht nicht fallen gelassen, aber gegenüber einem ahnungslosen Chef mit einem Millionen-Dollar-Lächeln, der mit Unwissenden und Leuten mit Milliarden-Dollar-Geldbeuteln zu tun hat, bekommen sie nie annähernd die Anerkennung, die sie verdienen
Trotzdem sollten wir Gott oder der Natur dafür danken, dass es in unserer Spezies Menschen gibt, die Dinge verstehen und erschaffen können
Die Menschen, die man für eine Revolution braucht, sind nicht dieselben wie die, die man nach der Revolution braucht
„Dafür sorgen, dass allgemeine AI allen zugutekommt“ ist das neue Don’t Be Evil
„Wir wollen AI in eure Hände legen“
Damit wir sie behalten?
Nein! Wie kommst du überhaupt auf diese Idee, du Schurke …
OpenAI heißt, dass man durch dicke Gummihandschuhe und Plexiglas hindurch die Hand ausstreckt und um noch einen Schuss AI bettelt
Ich verstehe nicht, warum Wechsel von Technikern behandelt werden wie Kaderänderungen bei Major-League-Sportteams
Sind diese „nur dem Namen nach bekannten“ Influencer klug? Natürlich
Aber Klugheit ist nicht so selten
Diese Leute sind wie die meisten hier Techniker und hatten eher Glück bei Karriererichtung und Spezialisierung, statt außergewöhnlich viel klüger zu sein
Sie sind keine Business-Genies, sondern Menschen, die Rollen innehatten
Beeinflussen Führungswechsel ein Geschäft? In gewissem Maß sicher, aber vermutlich nur etwa 5 % dessen, was man aus dem gossiphaften Hype um AI-Persönlichkeiten erwarten würde
Jetzt reicht es
Schauen wir auf die Technologie und auf die tatsächliche Arbeit
Die Zahl der Menschen, die beruflich davon betroffen sind, wenn diese Leute ihren Arbeitgeber wechseln, liegt viel näher bei 0 als bei 50 %
Nein, das sind menschen, die ein Unternehmen definieren, und solche Positionen sind viel weniger austauschbar und oft selbst geschaffene Rollen
Ist das nächste Ziel Meta?
In den AI-Bereich fließt dort viel Geld, es gibt reichlich Rechenressourcen, und er könnte vermutlich forschen, woran er will
Eher nicht
Allein die internen Machtspiele reichen aus, um die meisten Menschen in den Wahnsinn zu treiben
Es kann nicht unwichtig sein, dass Menschen gehen, die die letzten zehn Jahre der bahnbrechenden Arbeit gewidmet haben
Zu glauben, dass ihr Glück anhalten wird und dass diese Abgänge kein Zeichen für den Niedergang von OpenAI sind, ist ein Fehler
Vielleicht ist es besser, den Ruf zu Geld zu machen, solange er noch etwas wert ist
Es scheint wahrscheinlicher, dass andere Teams neue Wege eröffnen werden
1 Kommentare
Meinungen auf Hacker News
Interessanterweise haben Karpathy und Sutskever OpenAI nun beide verlassen
OpenAI scheint inzwischen um Sam Altman und Greg Brockman herum zu laufen
Von den vieren waren Karpathy und Sutskever für mich die beeindruckendsten, und ich hoffe, dass sie auch künftig Großes leisten
Wenn die nächste Welle von Deep-Learning-Innovationen die Welt überrollt, wird Microsoft sich wohl holen, was übrig bleibt
Sie werden viel Geld verdienen, aber wenn sie das Verlorene nicht ersetzen können, sehe ich keine Zukunft
Er wirkt wie ein klassischer vielseitig gebildeter Gelehrter und Lehrer
Jan Leike hat ebenfalls angekündigt, dass er geht https://twitter.com/janleike/status/1790603862132596961
Ilya, Jan Leike, William Saunders und Leopold Aschenbrenner gehen alle
Immer wenn ich rund um die University of Toronto spazieren gehe, denke ich oft daran, wie Ilya vor etwa zehn Jahren im Büro neben Alex versuchte, etwas herauszufinden
Es ist kaum zu glauben, dass diese neue AI-Welle dort begonnen hat
Ilya, Karpathy, Jimmy Ba und viele andere waren genau zur richtigen Zeit dort, als Hinton dort war
Aus dieser Gruppe kam auch eine Version des GPU-basierten Bitcoin-Minings
Um 2014 herum entstand auch Ethereum in der Nähe, und ich erinnere mich an frühe Ethereum-Treffen mit Vitalik in der Gegend um Queen und Spadina
Aber wie jemand anderes sagte: Obwohl wir dort Personen wie Geoffrey Hinton, den Vater des Deep Learning, sowie Ilya und Vitalik hatten, haben wir daraus praktisch kaum Nutzen gezogen
Als Kanadier finde ich es enttäuschend, wie ineffizient wir darin sind, erfolgreiche Unternehmen aufzubauen
Nach diesem Absetzungsversuch schien es fast unvermeidlich, und vermutlich wurden nur noch die Details seines Austritts abgestimmt
Aber ausgerechnet am Tag nach der Ankündigung neuer Funktionen?
Rund um Google IO platzierte sich OpenAI in den Nachrichten und zog Aufmerksamkeit von Google ab, und weil sie gerade eine große Ankündigung gemacht hatten, wird der Schock der negativen Nachricht etwas abgemildert
Jakub Pachocki ist großartig
Bei polnischen Algorithmus-Wettbewerben war er unter den Top 20
https://oi.edu.pl/contestants/Jakub%20Pachocki/
Ich hatte das überhaupt nicht miteinander in Verbindung gebracht
[1] https://codeforces.com/profile/meret
Es ist das übliche Schicksal idealistischer Menschen, die Großartiges schaffen und dann in Machtkämpfen vom Management fallen gelassen werden
Wie oft hat sich so etwas schon wiederholt?
Einige werden vielleicht nicht fallen gelassen, aber gegenüber einem ahnungslosen Chef mit einem Millionen-Dollar-Lächeln, der mit Unwissenden und Leuten mit Milliarden-Dollar-Geldbeuteln zu tun hat, bekommen sie nie annähernd die Anerkennung, die sie verdienen
Trotzdem sollten wir Gott oder der Natur dafür danken, dass es in unserer Spezies Menschen gibt, die Dinge verstehen und erschaffen können
„Dafür sorgen, dass allgemeine AI allen zugutekommt“ ist das neue Don’t Be Evil
Damit wir sie behalten?
Nein! Wie kommst du überhaupt auf diese Idee, du Schurke …
OpenAI heißt, dass man durch dicke Gummihandschuhe und Plexiglas hindurch die Hand ausstreckt und um noch einen Schuss AI bettelt
Ich verstehe nicht, warum Wechsel von Technikern behandelt werden wie Kaderänderungen bei Major-League-Sportteams
Sind diese „nur dem Namen nach bekannten“ Influencer klug? Natürlich
Aber Klugheit ist nicht so selten
Diese Leute sind wie die meisten hier Techniker und hatten eher Glück bei Karriererichtung und Spezialisierung, statt außergewöhnlich viel klüger zu sein
Sie sind keine Business-Genies, sondern Menschen, die Rollen innehatten
Beeinflussen Führungswechsel ein Geschäft? In gewissem Maß sicher, aber vermutlich nur etwa 5 % dessen, was man aus dem gossiphaften Hype um AI-Persönlichkeiten erwarten würde
Jetzt reicht es
Schauen wir auf die Technologie und auf die tatsächliche Arbeit
Die Zahl der Menschen, die beruflich davon betroffen sind, wenn diese Leute ihren Arbeitgeber wechseln, liegt viel näher bei 0 als bei 50 %
Ist das nächste Ziel Meta?
In den AI-Bereich fließt dort viel Geld, es gibt reichlich Rechenressourcen, und er könnte vermutlich forschen, woran er will
Allein die internen Machtspiele reichen aus, um die meisten Menschen in den Wahnsinn zu treiben
Es kann nicht unwichtig sein, dass Menschen gehen, die die letzten zehn Jahre der bahnbrechenden Arbeit gewidmet haben
Zu glauben, dass ihr Glück anhalten wird und dass diese Abgänge kein Zeichen für den Niedergang von OpenAI sind, ist ein Fehler
Vielleicht ist es besser, den Ruf zu Geld zu machen, solange er noch etwas wert ist
Es scheint wahrscheinlicher, dass andere Teams neue Wege eröffnen werden