咨询热线:

4001616691

新闻中心

当前位置:首页 >> 新闻中心

Blackwell测试成就显著:每项均成AI训练性能新里程碑


NVIDIA的Blackwell平台在首次参与MLPerf Training 4.1行业基准测试中,就在所有工作负载上取得了令人瞩目的成绩,特别是在大语言模型(LLM)基准测试中,每块GPU的性能提高了2.2倍,包括Llama 2 70B微调和GPT-3 175B预训练。这一突破性成果彰显了Blackwell架构在提高生成式AI训练性能方面的显著优势。

与此同时,NVIDIA提交的Hopper平台测试结果也继续保持了规模级的记录。在GPT-3 175B基准测试中,使用11,616块Hopper GPU,再次刷新了性能记录。此外,经过持续的软件开发,Hopper的每块GPU训练性能比上次提交该基准测试时提高了1.3倍,展现了NVIDIA在优化AI训练性能方面的持续努力。

Blackwell平台通过引入新的核函数和更高性能的内存,实现了更高的计算吞吐量和更快的处理速度,使得在更少的GPU上就能运行GPT-3 175B基准测试,同时保持出色的每块GPU性能。例如,仅使用64块Blackwell GPU就能运行GPT-3 LLM基准测试,而使用Hopper则需要256块GPU。

IT网络与英伟达

此外,NVIDIA在MLPerf Inference 4.1推理测试中,Blackwell的LLM推理性能也比Hopper高出4倍。这一成果再次证明了Blackwell架构在AI推理方面的卓越性能。

NVIDIA的合作伙伴也在最新一轮MLPerf测试中提交了令人印象深刻的测试结果,这体现了NVIDIA与全球系统制造商和云服务提供商的紧密合作。NVIDIA认为,行业标准的基准测试和基准测试最佳实践对于AI计算至关重要,有助于企业跟上最新的AI计算创新步伐,并做出明智的平台投资决策。

随着NVIDIA持续优化加速计算平台,其MLPerf测试结果将不断提升,为合作伙伴和客户带来更强大的算力,并从平台投资中获得更高的回报。

  • 咨询热线
  • 4001616691