1 Punkte von carnoxen 2023-08-23 | Noch keine Kommentare. | Auf WhatsApp teilen

KI funktioniert in zwei Schritten: dem Training, bei dem anhand bereitgestellter Daten Parameter angepasst werden, und der Inferenz, bei der auf Basis der erzeugten Parameter Probleme gelöst werden. Bislang wurde KI im Wesentlichen nur unter Forschenden eingesetzt, doch mit dem Aufkommen von ChatGPT ist inzwischen auch die breite Öffentlichkeit mit KI vertraut.

Die Leistung dieser KI wird stark von Hardware wie GPU und NPU beeinflusst. Unter den Unternehmen, die solche Hardware herstellen, hält NVIDIA einen überwältigenden Anteil, insbesondere im Bereich Training. Auf der Inferenzseite ist die Schwierigkeit hingegen geringer als beim Training, weshalb zunehmend Unternehmen auftreten, die NVIDIA herausfordern. In diesem Umfeld hat Rebellions den Fehdehandschuh aufgenommen.

Das Unternehmen, das großen Wert auf Talente legt, wurde von vier Direktoren gegründet, die Master- oder Doktortitel im KI-Bereich besitzen. Zunächst entwarf es Chips für die Anforderungen von Finanzunternehmen und weitete den Bereich später bis zur Entwicklung von KI-Inferenzchips aus.

Die vom Unternehmen entwickelten Produkte sind die folgenden.

Das auf die Finanzbranche spezialisierte ION ist das erste Produkt des Unternehmens und wurde durch die Erfahrung des CEO Park Seong-hyeon und des CTO Oh Jin-wook im Chipdesign ermöglicht. Es kann Ganzzahl- und Fließkommaformate gleichzeitig verarbeiten, die ISA frei anpassen und verschiedene Deep-Learning-bezogene Algorithmen unterstützen. Außerdem soll es eine hohe Energieeffizienz (TOPS/Watt) bieten und den Aufbau von Ultra Low Latency (ULL)-Servern ermöglichen.

Das danach veröffentlichte ATOM ist ein Chip, der für KI-Inferenz entwickelt wurde. Für schnellere Inferenz wurden Speicher und eine Funktion zur Kommunikation zwischen den Kernen innerhalb des Chips (network on chip, NoC) ergänzt, die ION noch nicht hatte. Dadurch erreichte es bei der Leistung des BERT-Modells im MLPerf-Benchmark einen deutlichen Vorsprung vor Qualcomm.

Das Unternehmen entwickelte nicht nur Hardware, sondern auch einen Compiler für KI-Chips. Dieser basiert auf dem Open-Source-Projekt Apache TVM und enthält auch Funktionen mit Blick auf Cloud-Umgebungen.

Das Unternehmen scheint große Rechenzentrumsbetreiber als Kunden ins Auge gefasst zu haben. Anders als Notebooks oder Smartphones, die starken Einschränkungen unterliegen, können Rechenzentren jede Art von Workload aufnehmen und Systeme leicht anpassen. Zudem wächst der Markt für Rechenzentren und KI-Inferenz, sodass das Unternehmen ihn umso gezielter adressieren sollte.

Für ION gibt es bislang noch keine Vertragsmeldungen, doch ATOM wird seit 2023 kontinuierlich an KT geliefert. Hinzu kommen enorme Investitionen von Kakao und der Regierung, sodass ich das Gefühl habe, dass dem Unternehmen auch künftig noch größere Fortschritte bevorstehen.

Noch keine Kommentare.

Noch keine Kommentare.