17 Punkte von xguru 2022-03-28 | 3 Kommentare | Auf WhatsApp teilen

Fragen und Antworten aus HN

  • Betrieb von Tausenden CPU-Kernen und Hunderten verschiedener Daten-Pipelines, die monatlich Petabytes an Daten mit Nix verarbeiten
  • WhatsApp lief vor der Übernahme durch Facebook auf Bare-Metal-Servern mit FreeBSD. BEAM und der Anwendungscode wurden per rsync verteilt
  • Grooveshark bewältigte 45 Mio. MAU mit nur wenigen physischen Servern. nginx + PHP + MySQL + memcached + ein in Go geschriebener Echtzeit-Messaging-Server
  • 2010 lief das Analysesystem von MySpace auf 14 EC2-Instanzen, und auch der Streaming-Dienst von ESPN bewältigte Millionen gleichzeitiger Zugriffe nur mit VMs. Sogar eine Website mit 45 Mio. Besuchern pro Monat lief auf einer einzelnen EC2-Instanz
    → K8s + Docker sind deutlich schwergewichtiger, als allgemein angenommen wird
  • Fly.io bietet seinen Kunden Container an, nutzt in der eigenen Infrastruktur aber nicht viele Container (abgesehen von API-Servern für Kunden usw.)
  • The Guardian nutzt Hunderte von EC2-Instanzen, auf denen EC2-Images installiert werden, die aus offiziellen Images erstellt wurden (bereits aufgebaut, bevor Docker de facto zum Standard wurde). Eine Migration zu Docker wurde erwogen, aber da der Stack auf der JVM basiert, gibt es keinen großen Vorteil durch Docker.
  • Rund 200 Server werden auf Bare Metal mit Ansible verwaltet. Images werden per PXE-Boot verwaltet. Mit einem angepassten Arch-Linux-Image und einigen Skripten funktioniert das seit 20 Jahren gut
  • Stack Overflow nutzte bis 2016 keine Container
  • Einsatz von FreeBSD Jails und einem leichtgewichtigen Orchestrierungs-Tool, das in Rust geschrieben wurde. Es werden Hunderte von 64-Core-Ryzen-Maschinen betrieben; im Vergleich zum Betrieb bei Amazon kostet das nur etwa ein Sechstel und bietet deutlich bessere Leistung

3 Kommentare

 
tribela 2022-03-30

Ich nutze Docker zwar der einfacheren Verwaltung wegen, aber Kubernetes ist in den meisten Fällen Overkill. Selbst wenn man mehrere Nodes betreibt, lässt sich das meiste meiner Ansicht nach schon auf dem Niveau von Docker Swarm abdecken.

 
alstjr7375 2022-03-28

Das ist ein Beitrag, den ich kürzlich auf HN gesehen habe.
Es geht um Tipps, wie man Kubernetes mit hoher Performance betreibt.
https://medium.com/pinterest-engineering/…

 
ifmkl 2022-03-28

Was als groß angelegt gilt, hängt zwar vom Maßstab ab, aber HPC wurde ohnehin meist auf Bare Metal betrieben ..
In meinem früheren Job haben wir den Umfang von 50 Racks in 42U-Größe als HPC aufgebaut und betrieben.
Es war eher ein Betriebsproblem. Wenn ein Problem auftrat, musste man bisher nur in der vorhandenen HW, dem OS, der Grid Engine und den User-Skripten suchen
– warum sollte man den Suchbereich noch bis auf Container ausweiten ...