英伟达加速了面向物联网、超大规模数据中心的人工智能发展雷竞技电脑网站

英伟达的TensorRT 3优化和编译复杂的网络,以获得最佳的人工智能推断性能。

英伟达加速了面向物联网、超大规模数据中心的人工智能发展雷竞技电脑网站
思想库

可以肯定地说,物联网(IoT)时代已经到来,因为我们生活在一个事物以前所未有的速度连接的世界。汽车、摄像机、停车计时器、建筑设施以及人们能想到的任何东西都与互联网相连,产生了大量的数据。

问题是如何解释这些数据并理解其含义?显然,试图手动处理这么多数据是行不通的,这就是为什么大多数网络规模的公司都采用人工智能(AI)作为一种方式,以创建可以利用数据的新服务。这包括语音识别、自然语言处理、实时翻译、预测服务和上下文推荐。每个主要的云提供商和许多大型企业都在进行人工智能计划。

+也在网络世界:有个足球雷竞技app英伟达(Nvidia)的图形处理器(gpu)驱动的自动驾驶汽车能够自动观察和驾驶+

然而,许多数据中心并没有配备雷竞技电脑网站足够的处理能力进行人工智能推断。对于那些不熟悉人工智能的不同阶段的人来说,训练是从现有的一组数据中教授人工智能新的能力。推理是将学习应用到新的数据集。Facebook的图像识别和亚马逊的推荐引擎都是很好的推理例子。

本周,在中国举行的GPU技术大会(GTC)上,英伟达(Nvidia)宣布了TensorRT 3,承诺改善性能并降低推理成本。TensorRT 3采用非常复杂的网络,并对它们进行优化和编译,以获得人工智能推理的最佳性能。下图显示了它作为AI的“中间件”,所以数据可以通过任何框架运行并发送到任何GPU。回想一下我在这篇文章中解释的原因对于AI应用来说,gpu比cpu要好得多.根据应用程序的类型和所需的处理能力,Nvidia拥有广泛的gpu。

英伟达张量rt 英伟达

与其他GPU供应商不同的是,英伟达的策略不仅仅是优秀的芯片。相反,它采用一种架构方法,将软件、开发工具和硬件组合为端到端解决方案。

在他的主题演讲中,首席执行官Jensen Huang展示了一些数据,在Nvidia gpu上运行的TensorRT 3的翻译性能是基于cpu的系统的150倍,图像性能是基于cpu的系统的40倍,这将为客户节省大量的资金,并提供更好的服务质量。我没有办法证明或否定这些数字,但我怀疑它们是准确的,因为没有其他供应商拥有高性能编译器、运行时引擎和GPU优化的组合。

其他Nvidia公告

  • DeepStream SDK了。它提供实时的低延迟视频分析。视频推理已经成为智慧城市的重要组成部分,但也被用于娱乐、零售和其他行业。
  • 升级到CUDA,英伟达的加速计算软件平台。第9版现在针对新的特斯拉V100 GPU加速器进行了优化,这是最高端的GPU,非常适合人工智能、高性能计算和图形密集型应用,如虚拟现实。
  • 华为、浪潮和联想使用英伟达的HGX参考架构,提供基于伏特的系统。服务器制造商将获得HGX数据中心架构和设计指南的早期访问权。雷竞技电脑网站HGX架构与微软和Facebook今天使用的架构相同,这意味着亚太地区的组织可以访问与领先的网络规模云提供商相同的基于gpu的服务器。

世界正在快速变化,我相信市场领导者将由拥有最多数据和解释这些数据的技术的组织来定义。其核心是基于gpu的机器学习和人工智能,因为这些系统做事情的速度比人快得多。

加入网络世界社区有个足球雷竞技app脸谱网LinkedIn对自己最关心的话题发表评论。

版权所有©2017 IDG ComRaybet2munications, Inc.

SD-WAN买家指南:向供应商(和您自己)提出的关键问题