MTIA v1: Metas KI-Inferenzbeschleuniger der ersten Generation

• GPUs sind nicht optimal für die Ausführung von Metas DLRM (Deep Learning Recommendation Model)
• Daher wurde der Meta Training and Inference Accelerator (MTIA) als ASIC entwickelt, der für Empfehlungen geeignet ist
• Er wurde im Hinblick auf die Anforderungen der nächsten Generation von Empfehlungsmodellen gemeinsam entwickelt und in PyTorch integriert, um ein vollständig optimiertes Ranking-System aufzubauen
• TSMC-7-Nanometer-Prozess, 800 MHz, 102,4 TOPS @ INT8, 51,2 TFLOPS @ FP16, 25 W