Nvidia公司改进其对数据中心的性能和效率的间距与新的服务器平台，HGX-2，旨在利用16个特斯拉V100张量核心GPU的能力，以满足这两个AI和高性能需求计算（HPC）的工作负载。
数据中心服务器制造商联想、Supermicro、Wiwynn和QCT表示，他们将在今年年底前推出HGX-2系统。HGX-2系统的一些最大客户很可能是超大规模的供应商，因此，富士康、英业达、广达和纬创也有望制造使用云数据中心新平台的服务器，这就不足为奇了。雷竞技电脑网站
所述HGX-2是使用经由NVSwitch互连结构链接Tesla GPU的两颗GPU踢脚板建造。所述HGX-2踢脚板处理每个8个处理器，用于总共16个图形处理器。该HGX-1，一年前宣布，只能处理8个GPU。
英伟达将HGX-2描述为服务器制造商构建可针对不同任务进行调整的系统的“基石”。这是一个同一系统平台上Nvidia的自己，即将到来的DGX-2基于。这里的消息是，该公司正在与一个参考架构一起，使系统能够在今年年底造船提供给服务器制造商的平台。
Nvidia公司CEO詹森黄在台湾公司的GPU技术大会上宣布星期三。
Nvidia公司
Nvidia的HGX-2服务器平台是一个构建块围绕其制造商可以装配调谐到不同的AI和高性能计算需求的系统。
Nvidia称两个月前在其高科技会议的圣何塞迭代的DGX-2，有望成为第一个基于HGX-2系统的船，将能够提供计算能力两千万亿次 - 性能通常与相关数以百计的集群服务器。DGX-2系统为$ 399,000开始。
英伟达表示，HGX-2测试系统在ResNet-50测试基准测试中达到了创纪录的AI训练速度，达到了每秒15500张图像，并可以取代多达300台仅使用cpu的服务器，这些服务器总共要花费数百万美元。
基本上是建立神经网络模型 - - 机器学习应用的GPU已经在训练数据集，发现了一个利基。GPU的大规模并行架构使它们特别适合于AI的培训。
HGX-2的卖点是，它可以配置为AI培训和推理:将神经网络应用到现实生活中。HGX-2还针对用于科学计算、图像和视频渲染以及仿真的高性能计算应用。
“我们相信未来的计算需要一个统一的平台，”群产品营销经理AI帕雷什Kharya说，加速NVIDIA的计算。“什么是真正的独特之HGX-2是其多倍计算能力。”
Kharya所述平台允许使用高达FP64高精度计算（64位或双精度浮点运算），用于科学计算和模拟，同时还提供FP16（16位或半精度浮点算术）和INT8（8位整数运算）为AI工作负载。
每个HGX-2基板的主机6个NVSwitches是完全无阻塞18个端口，使得每一个端口可与在满NVLink速度的任何其他端口进行通信交换机，Nvidia称。NVlink是NVIDIA自己的互连技术，它已授权给IBM。
Nvidia公司
Nvidia的基于HGX-2 gpu系统的拓扑结构允许所有16个V100张量核心gpu同时完全连接。
在每个HGX-2平台两个护壁板经由48个NVLink端口进行通信。拓扑允许所有16分的GPU（8上的每个基板）同时与任何其他GPU以每秒300GB的全NVLink速率进行通信，Nvidia称。
“我们打破了很多经典的界限有了这个系统，” Kharya说。“我们推什么单个系统可以在电源的10千瓦做到的极限。”
Nvidia还宣布将提供8种GPU加速服务器平台，每一种都使用双至强处理器作为cpu，但GPU核数不同，针对不同的AI和HPC需求配置不同。在高端领域，英伟达的HGX-T2基于HGX-2，配备了16台特斯拉V100 gpu，并为培训giant multilevel进行了优化机器学习神经网络。在低端市场，英伟达提供的SCX-E1配备了两个特斯拉V100 gpu，融合了PCIE互连技术;该系统的功耗为1200瓦，主要用于入门级的高性能计算。
在英伟达的命名法中，HGX-T系统用于人工智能培训，HGX-I系统用于人工智能推断，SCX系统用于高性能计算和科学计算。
NVIDIA已经为旨在AI工作负载的GPU在市场上牢牢把握，但注定要面对日益激烈的竞争。英特尔在2016年买了深学习启动Nervana系统，并且现在完成它调用了哪些工作英特尔Nervana神经网络处理器（NNP）。此外，像Xylinx这样的FPGA制造商也提供了相关服务不断更强大的FPGA（现场可编程门阵列）正在抢购AI推理。
虽然FPGA中缺乏强力的性能与功耗的GPU为AI培训，竞争，他们可以通过编程来处理一个神经网络的每一级，一旦它的建成，与适用于层的至少精度 - 一个理想的灵活性推理。