NVIDIA今日宣布与微软展开多年合作计划,将共同打造全球最强大人工智能(AI)超级计算机之一,结合Microsoft Azure先进超级运算基础设施,以及NVIDIA的GPU、网络技术和完整的AI软件堆栈支持这台AI超级计算机,协助企业训练、部署和扩展AI,包括最先进大型模型。
NVIDIA表示,本次合作运用Azure具扩展性的虚拟机执行实例,推动研究并进一步加快推动生成式AI(generative AI)进展。生成式AI是迅速崛起的AI领域,像是Megatron Turing NLG 530B这类基础模型,是无监督、自我学习算法的基础,创造新文本、程序代码、数字图片、视频或音频。
Microsoft Azure针对AI优化调整的虚拟机执行实例构建于NVIDIA最先进的数据中心GPU,是第一个采用NVIDIA Quantum-2 400Gb/s InfiniBand网络技术的公有云执行实例。客户可在单一集群部署数千个GPU,训练最庞大的大型语言模型、大规模创建最复杂的推荐系统,以及大规模运用产生式AI。
不仅如此,双方也合作将微软的DeepSpeed深度学习优化软件调整到最佳状态。微软的DeepSpeed将利用NVIDIA H100 Transformer引擎加快执行采用Transformer模型的速度,用于大型语言模型、生成式AI和计算机程序代码编写等广泛应用。这项技术将8位元浮点精度功能用于DeepSpeed,以大幅加快采用Transformer模型的AI运算速度,传输量是16位元运算的两倍。
NVIDIA企业运算部门副总裁Manuvir Das表示,AI技术进步加上产业采用脚步不断加快,基础模型的突破性发展促进研究潮、培育更多创业公司,并开发新企业应用。双方合作将为研究人员及企业提供最先进AI基础设施和软件。
(首图来源:NVIDIA)