IBMs vom Gehirn inspirierter NorthPole-Chip steigert Geschwindigkeit und Effizienz von KI deutlich

• Weniger Zugriff auf externen Speicher erhöht die Rechenleistung und spart Energie
• Speicher und Verarbeitung werden gemeinsam bereitgestellt (groß angelegte Integration von Computing und Speicher)
• Besteht aus 256 Kernen; jede Core-Einheit enthält ihren eigenen Speicher und entschärft so den Von-Neumann-Flaschenhals
• Die Kerne sind über ein Netzwerk miteinander verbunden, das von den White-Matter-Verbindungen zwischen dem menschlichen Großhirnkortex (human cerebral cortex) inspiriert ist
• Übertraf in Standard-Benchmarktests zur Bilderkennung bestehende KI-Maschinen mit deutlichem Abstand
• Verbraucht zudem nur ein Fünftel der Energie modernster KI-Chips, obwohl kein aktueller, stark miniaturisierter Fertigungsprozess verwendet wird
  • Mit einem modernen Fertigungsprozess wäre die Effizienz 25-mal höher als beim aktuellen Design
• Die 224 MB RAM von NorthPole reichen jedoch nicht für große Sprachmodelle wie jene aus, die von Chatbots wie ChatGPT verwendet werden und selbst in den am stärksten komprimierten Versionen mehrere Tausend Megabyte an Daten benötigen
• Der Chip kann nur vorprogrammierte neuronale Netze ausführen, die zuvor auf einem separaten Computer „trainiert“ werden müssen
• Die Autoren der Studie argumentieren, dass die NorthPole-Architektur für latenzkritische Anwendungen wie autonomes Fahren nützlich sein könnte

[cosine20]

Wenn man Nutzung und Leistung betrachtet, wirkt es ein wenig wie ein FPGA.