NVIDIA HOPPER GPU在ML基准测试中的前身

基准标准与现实世界的使用并不相同,但是他们可以很好地了解即将发生的事情,而Nvidia的Hopper GPU性能令人印象深刻。

  • 在脸书上分享
  • 分享到Twitter
  • 分享LinkedIn
  • 分享Reddit
  • 通过电子邮件分享
  • 打印资源
虚拟大脑 /数字思维 /人工智能 /机器学习 /神经网络

NVIDIA已发布了即将发行的GPU的料斗生成的性能数据,最初的基准非常巨大。

该指标基于MLPERF推理v2.1,这是一种行业标准标准的基准,可使用机器学习模型针对新数据来分析推断任务的性能。

NVIDIA声称其基于料斗的H100张量GPU的性能比以前的A100 Ampere GPU高4.5倍。(阅读有关霍珀的更多信息:NVIDIA推出了专为AI数据中心设计的新GPU体系结构雷竞技电脑网站)仅一代人来说,这是一个了不起的跳跃。为了进行比较,CPU基准通常从一代到另一代的基准增长了5%至10%。

但是,NVIDIA的表现飞跃带有警告。450%的提升基于单个基准。总共有六个基准运行。其他基准测试的改进或低于两倍。尽管如此,一代人的表现加倍还是令人印象深刻的。

最高收益来了Bert-Large基准测量了由Google开发并在Google搜索引擎中使用的BERT AI模型的自然语言处理。恩维迪亚说,伯特表现飞跃是霍珀的变压器引擎这是专门为加速训练变压器模型而设计的。

Ampere并不是唯一一项被击落的Nvidia技术。该公司还基于基于安培的机器人和边缘系统的安培SOC以及替换Jetson Agx Xavier处理器的SOC进行了基准测试。在这些测试中,Orin的速度比Xavier快5倍,而平均能源效率提高了2倍。

但是我还没有写Ampere A100 ob告。得益于NVIDIA的AI软件的改进,它说Ampere的MLPERF数字自A100两年前首次获得基准测试以来,Ampere的MLPERF数字已提高了6倍。

Orin现在可用。霍珀(Hopper)于3月首次推出,将于今年晚些时候到期。

加入网络世界社区有个足球雷竞技appFacebookLinkedIn评论最重要的主题。

版权所有©2022 IDG ComRaybet2munications,Inc。