- Safe Superintelligence (SSI), das neu mitgegründete Unternehmen des ehemaligen OpenAI-Chefwissenschaftlers Ilya Sutskever, hat 1 Milliarde US-Dollar eingesammelt, um bei der Entwicklung sicherer KI-Systeme zu helfen, die die menschlichen Fähigkeiten weit übertreffen
- SSI hat derzeit 10 Mitarbeitende und plant, die Mittel zu nutzen, um Rechenkapazität zu sichern und Spitzenkräfte einzustellen
- Der Fokus liegt auf dem Aufbau eines kleinen, vertrauenswürdigen Teams aus Forschenden und Ingenieur:innen in Palo Alto, Kalifornien, und Tel Aviv, Israel
- Das Unternehmen nannte keine Bewertung, doch laut mit der Angelegenheit vertrauten Quellen wurde es mit 5 Milliarden US-Dollar bewertet
- Die Finanzierungsrunde zeigt, dass einige Investor:innen weiterhin bereit sind, mutige Wetten auf außergewöhnliche Talente mit Fokus auf grundlegende KI-Forschung einzugehen
- Zu den Investor:innen gehören führende Venture-Capital-Firmen wie Andreessen Horowitz, Sequoia Capital, DST Global und SV Angel
- Ebenfalls beteiligt waren die von Nat Friedman geführte Investmentpartnerschaft NFDG sowie SSIs CEO Daniel Gross
- KI-Sicherheit ist ein heiß diskutiertes Thema, da befürchtet wird, dass KI gegen die Interessen der Menschheit handeln oder sogar ihr Aussterben verursachen könnte
- Ein Gesetzesvorhaben in Kalifornien treibt Sicherheitsregulierungen für Unternehmen voran und spaltet die Branche
- OpenAI und Google sind dagegen, Anthropic und Elon Musks xAI unterstützen es
- Sutskever gilt als einer der einflussreichsten Technologen im KI-Bereich
- Im Juni gründete er SSI gemeinsam mit Daniel Gross und Daniel Levy
- Sutskever ist Chief Scientist, Levy ebenfalls Chief Scientist, und Gross ist für Rechenkapazität und Fundraising zuständig
New Mountain
- Sutskever sagte, er habe das neue Unternehmen gegründet, „weil ich einen Berg gefunden habe, der sich ein wenig von dem unterscheidet, woran ich gearbeitet habe“
- Als Mitglied des Vorstands der gemeinnützigen Muttergesellschaft von OpenAI stimmte er im vergangenen Jahr dafür, OpenAI-CEO Sam Altman wegen eines „Kommunikationsabbruchs“ zu entlassen
- Wenige Tage später nahm er die Entscheidung zurück und unterzeichnete zusammen mit fast allen OpenAI-Beschäftigten einen Brief, der Altmans Rückkehr und den Rücktritt des Vorstands forderte
- Der Vorfall führte jedoch dazu, dass seine Rolle reduziert wurde, er aus dem Vorstand entfernt wurde und das Unternehmen im Mai verließ
- Nach Sutskevers Abgang löste das Unternehmen das „Superalignment“-Team auf, das sicherstellen sollte, dass KI mit menschlichen Werten übereinstimmt, um sich auf den Tag vorzubereiten, an dem KI die menschliche Intelligenz übertrifft
- Anders als die ungewöhnliche Unternehmensstruktur von OpenAI, die aus Sicherheitsgründen eingeführt wurde, aber Altmans Absetzung ermöglichte, hat SSI eine gewöhnliche gewinnorientierte Struktur
- SSI konzentriert sich derzeit stark darauf, Menschen einzustellen, die zur Unternehmenskultur passen
- Kandidat:innen werden gezielt darauf geprüft, ob sie „einen guten Charakter“ haben, und statt Zeugnisse und Branchenerfahrung überzubewerten, sucht SSI nach Menschen mit außergewöhnlichen Fähigkeiten
- „Es begeistert uns, Menschen zu finden, die sich für die Arbeit interessieren, aber nicht für das Drumherum oder übertriebene Selbstdarstellung“, fügte Gross hinzu
- SSI plant, mit Cloud-Anbietern und Chipherstellern zusammenzuarbeiten, um den Bedarf an Rechenleistung zu decken, hat aber noch nicht entschieden, mit welchen Unternehmen
- KI-Startups arbeiten häufig mit Unternehmen wie Microsoft oder Nvidia zusammen, um ihren Infrastrukturbedarf zu decken
- Sutskever war ein früher Unterstützer der Skalierungshypothese, wonach sich die Leistung von KI-Modellen mit gewaltigen Mengen an Rechenkapazität verbessert
- Diese Idee und ihre Umsetzung lösten eine Welle von KI-Investitionen in Chips, Rechenzentren und Energie aus und schufen die Grundlage für Durchbrüche wie ChatGPT
- Er sagte, dass er Skalierung anders angehen werde als bei seinem früheren Arbeitgeber, teilte jedoch keine Details mit
- „Alle reden nur über die Skalierungshypothese. Niemand fragt, was wir eigentlich skalieren“, sagte er
-
„Manche Menschen arbeiten einfach sehr lange und können denselben Weg nur schneller gehen. Das ist nicht unser Stil. Aber wenn man etwas anderes macht, kann man etwas Besonderes schaffen.“
Meinung von GN⁺
- Diese Investition zeigt die Bedeutung grundlegender KI-Forschung und den Wert von Talenten. Obwohl viele KI-Startups Schwierigkeiten haben, große Finanzierungsrunden zu stemmen, erhielt SSI dank der anerkannten Fähigkeiten seiner Gründer eine hohe Investition
- Das Thema KI-Sicherheit rückt durch die rasante Entwicklung generativer KI wie ChatGPT immer stärker in den Fokus. Eine übermäßige Regulierung der KI-Entwicklung im Namen der Sicherheit könnte jedoch Innovation bremsen, weshalb ein ausgewogener Ansatz nötig ist
- SSI hat angekündigt, eine vom bisherigen Ansatz abweichende Skalierungsstrategie zu verfolgen. Konkrete Details wurden jedoch nicht genannt, sodass spannend bleibt, wie sich das entwickelt. Erwartet werden neue Wege bei der Entwicklung von KI-Modellen
- Der Konflikt zwischen Sutskever und OpenAI ist bedauerlich, doch es scheint nun eine neue Plattform zu geben, auf der sein Talent und seine Vision genutzt werden können. Es bleibt zu beobachten, welchen Einfluss SSI künftig auf die KI-Entwicklung haben wird
- Obwohl SSI noch ein junges Startup ist, ist seine Strategie zur Talentgewinnung interessant. Fähigkeiten und Werte höher zu gewichten als Abschlüsse oder Lebensläufe ist grundsätzlich sinnvoll. Ob dieser Ansatz im intensiven Wettbewerb um KI-Talente erfolgreich sein wird, bleibt jedoch offen
3 Kommentare
Haha, der Mann der 100 Millionen Dollar!!!
Nur zwei Monate nach der Gründung eine Finanzierung von 1,3 Billionen Won .. der Markt ist beängstigend.
Ilya Sutskever verlässt OpenAI und gründet Safe Superintelligence Inc.
Hacker-News-Kommentare
Ich frage mich, wie Unternehmen, in die im AI-Bereich investiert wurde, Gewinne erzielen werden
Als CFO würde ich mich fragen, wie man $1B an Bargeld kurz- und mittelfristig verwaltet
Finanzierung wie bei OpenAI, aber SSI wird kein einziges Produkt veröffentlichen, bis Superintelligenz erreicht ist
Eine Investition von $1,000,000,000 könnte die sichere Vision von SafeAI verzerren
Die Finanzierung durch a16z könnte ein Signal sein, dass das Feld nicht mehr so heiß ist
Viele Leute gehen davon aus, dass sehr große LLMs das Ziel sind
Sam Bankman-Fried hat Kapital zu einem höheren Multiple eingesammelt
Ich bin nicht sicher, ob AGI gebaut werden kann
Ich verstehe nicht, warum "sichere" AI so viel Geld einsammeln kann
Dies ist eines der Beispiele, das sehr schnell eine Bewertung von über einer Milliarde Dollar erreicht hat