极进Extreme合作伙伴——中科新远网络解决方案提供商

新闻中心

Blackwell引领潮流:MLPerf测试展现前所未有的训练性能巅峰

阅览 : 6
更新时间 : 2024-12-06

Blackwell测试成就显著:每项均成AI训练性能新里程碑


NVIDIA的Blackwell平台在首次参与MLPerf Training 4.1行业基准测试中,就在所有工作负载上取得了令人瞩目的成绩,特别是在大语言模型(LLM)基准测试中,每块GPU的性能提高了2.2倍,包括Llama 2 70B微调和GPT-3 175B预训练。这一突破性成果彰显了Blackwell架构在提高生成式AI训练性能方面的显著优势。

与此同时,NVIDIA提交的Hopper平台测试结果也继续保持了规模级的记录。在GPT-3 175B基准测试中,使用11,616块Hopper GPU,再次刷新了性能记录。此外,经过持续的软件开发,Hopper的每块GPU训练性能比上次提交该基准测试时提高了1.3倍,展现了NVIDIA在优化AI训练性能方面的持续努力。

Blackwell平台通过引入新的核函数和更高性能的内存,实现了更高的计算吞吐量和更快的处理速度,使得在更少的GPU上就能运行GPT-3 175B基准测试,同时保持出色的每块GPU性能。例如,仅使用64块Blackwell GPU就能运行GPT-3 LLM基准测试,而使用Hopper则需要256块GPU。

IT网络与英伟达

此外,NVIDIA在MLPerf Inference 4.1推理测试中,Blackwell的LLM推理性能也比Hopper高出4倍。这一成果再次证明了Blackwell架构在AI推理方面的卓越性能。

NVIDIA的合作伙伴也在最新一轮MLPerf测试中提交了令人印象深刻的测试结果,这体现了NVIDIA与全球系统制造商和云服务提供商的紧密合作。NVIDIA认为,行业标准的基准测试和基准测试最佳实践对于AI计算至关重要,有助于企业跟上最新的AI计算创新步伐,并做出明智的平台投资决策。

随着NVIDIA持续优化加速计算平台,其MLPerf测试结果将不断提升,为合作伙伴和客户带来更强大的算力,并从平台投资中获得更高的回报。

相关文章
训推一体机:AI时代的全能选手
训推一体机:AI时代的全能选手
2025-07-16
迈络思MELLANOX、ARUBA、极进、优科等知名品牌的代理商中科新远,提供交换机、网卡、线···
NVIDIA 合作伙伴借助 AI 超级计算加速实现量子突破
NVIDIA 合作伙伴借助 AI 超级计算加速实现量子突破
2025-07-15
迈络思的精英合作伙伴——中科新远,是一家领先的核心人工智能产品及整体解决方案提供···
构建生成式 AI OpenUSD 应用,呈现准确品牌的营销视觉效果
构建生成式 AI OpenUSD 应用,呈现准确品牌的营销视觉效果
2025-07-14
作为迈络思Elite合作伙伴,中科新远致力于提供迈络思代理商服务,推广迈络思交换机、迈···
NVIDIA OptiX 着色器绑定表优化实现高效光线追踪
NVIDIA OptiX 着色器绑定表优化实现高效光线追踪
2025-07-11
迈络思的精英合作伙伴——中科新远,是一家领先的核心人工智能产品及整体解决方案提供···