HN vorgestellt: Virtuelle GPU-Verbindung über TCP

• Einführung in Thunder Compute

  • Thunder Compute ist ein GPU-Cloud-Service, mit dem Nutzer GPUs flexibel genau dann verwenden können, wenn sie benötigt werden.
  • Kann auf Thunder Compute ohne Änderungen am bestehenden Code ausgeführt werden.
  • Ein einfacher Wechsel von CPU zu GPU ist mit nur einem Befehl möglich.

• Wichtige Merkmale

  • Skalierbarkeit: Die Nutzung kann sofort angepasst werden, und es wird nur das berechnet, was tatsächlich genutzt wird.
  • Flexibilität: GPUs können mit nur einem Befehl gewechselt werden, ohne die Instanz zu verlassen.
  • Einfachheit: Bestehender Code kann ohne Änderungen ausgeführt werden.
  • Serverless: Keine Sorgen um Konfiguration, Quotas oder Reservierungen.

• Kostensenkung

  • Thunder Compute berechnet keine Kosten für ungenutzte GPU-Zeit.
  • Bietet Entwicklern direkten GPU-Zugriff, um schnell zu skalieren.
  • Während GPUs bei anderen Cloud-Anbietern im Durchschnitt nur zu 15 % ausgelastet sind, erreicht Thunder Compute eine mehr als 5-fach höhere Auslastung.

• Vorteile für Entwickler und Unternehmen

  • Entwickler: Können Hochleistungs-GPU-Cluster nutzen, ohne Rücksprache mit der IT-Abteilung halten zu müssen.
  • Unternehmen: Können ihr Cloud-Budget senken, indem ungenutzte GPU-Zeit vermieden wird.

• Verwendung

  • Code ausführen: Mit der Thunder Compute CLI lässt sich bestehender GPU-Code ohne Konfiguration ausführen.
  • GPU-Matching: Anfragen werden automatisch einer GPU zugeordnet, sodass keine Gedanken an die Instanzkonfiguration nötig sind.
  • Sicherheitsverarbeitung: Thunder speichert keine Daten und verwendet Ende-zu-Ende-Verschlüsselung für sämtliche Datenübertragungen.
  • Kostensenkung: Thunder teilt GPUs gemeinsam und erreicht dadurch eine mehr als 5-fach höhere Auslastung als andere Cloud-Plattformen, was die Kosten senkt.

• Kontakt

  • Bei Fragen oder für Demo-Anfragen kann das Team kontaktiert werden.

• Zusammenfassung von GN⁺

  • Thunder Compute ist ein flexibler und skalierbarer GPU-Cloud-Service, der sowohl Entwicklern als auch Unternehmen Kostensenkungen und eine hohe Auslastung bietet.
  • GPUs lassen sich ohne Änderungen am bestehenden Code einfach nutzen, was für Entwickler ein großer Vorteil ist.
  • Da keine Kosten für ungenutzte GPU-Zeit berechnet werden, ist der Dienst vorteilhaft für die Budgetplanung.
  • Ähnliche Dienste mit vergleichbaren Funktionen sind unter anderem die GPU-Instanzen von AWS EC2 und Google Cloud.