Intel kündigt Aurora genAI an, ein generatives KI-Modell für die Wissenschaft mit 1 Billion (1T) Parametern

• Soll auf dem Aurora-Supercomputer mit 2 Exaflops laufen, der gegen Ende dieses Jahres in Betrieb gehen soll
• Soll mit allgemeinem Text sowie wissenschaftlichen Dokumenten/Daten/Code trainiert werden und ist ein generatives Modell, das sich ausschließlich auf wissenschaftliche Zwecke konzentriert
• Einsatz in wissenschaftlichen Anwendungen wie Systembiologie, Krebsforschung, Klimawissenschaft, Polymerchemie und Materialien sowie Kosmologie
• Basiert auf Megatron und DeepSpeed

[xguru]

MS und Nvidia stellen mit MegaTron-NLG 530B das weltweit größte Sprachmodell vor
DeepSpeed - die von MS veröffentlichte Optimierungsbibliothek für Deep Learning