机器学习拯救企业服务器业务

Nvidia服务器制造者DellEMC、HPE、IBM和超微信NvidiaTeslaV100GPU.问题在于,设计机器学习服务器能抑制企业服务器采购流失吗? 公司转向PaS、IaS和云服务最近引入硬化工业服务器IoT可能显示服务器制造者正在寻找垂直市场增长

将企业工作量移到亚马逊、谷歌、IBM和其他托管基础可点用资源可扩增性、云级操作效率和安全性只是三大原因谷歌有90名工程师从事安全工作,

上季度除戴尔外 企业服务器公司收入下降服务器业务增长但企业段不增长云公司从中购取不多取而代之的是,购买按规格搭建的组件并建设最优化基础设施以完成24X7庞大任务竞争者-谷歌、脸书、IBM公司和其他云公司-协作工程和通过打开计算工程由脸书创建云公司直接从服务器制造者供应链购买前四分位下降显示这是一个难以逆向的长期趋势

IDC

企业机器学习市场还很年轻 但这些服务器会提供高边际带GPU提供强势服务器优化企业创新者机器学习工作量将有利可图提前获取市场份额很重要,因为行业成熟

Nvidia取英特尔书页

Nvidia是机器学习和AI英特尔并用Volta架构,它沿袭英特尔游戏本中的一页Intel在PC和服务器平台上赢得主导权,方法包括开发开放标准以连接存储器和硬盘等其他评论制作者,发布参考规范引导系统制作者,如Dell、Lenovo和许多小制造商设计系统优化个人计算机和服务器使用案例的价格和性能

取向Volta架构白皮书完全Nvidia方法,但用法不同:神经网络神经网络应用计算资源解决机器学习线性代数问题神经网络计算强度高,因为它们需要多次更新数以百万计参数以尽量减少误差并生成精确模型更新基本大矩阵乘法运算

机器学习和人工智能有多种类型,但大多数应用机学习受监督监督意味着用标签数据集培训机器学习模型,例如大句并翻译为另一种语言输入神经网络培训或创建从一种语言翻译为另一种语言模型模型达到理想精度后,可部署为推理模型,推理模型基于统计精度概率唯一训练神经网络大数据集的方法就是要么给他们很多时间或多GPU并行操作并分享许多存储器

机器学习是一种经验科学工程师需要多迭才能学习训练神经网络理解新使用案例即使是经验最丰富的机器学习专家也无法确定培训模型需要5值或5千值向量表示大量实验为新使用案例创建模型并优化与ROI匹配计算预算

Snap聊天Hussein Mehanna曾告诉我, 当他在脸书引导核心机学习团队时, “长训练时间会杀死工程师”, 意指等待训练跑完成,有时持续数周中断进度解决关键问题并挫败工程师试图解决问题

多数机学习模型从学术界启动,如自然语言或图像识别,并得到了Google、脸书、IBM和微软等大型人员配备齐全的研究和工程团队的进一步研究。问题解析匹配公司使用案例、搜索排名、图像和对象识别等通常开源企业可使用,但可能不适用于企业使用案例企业机器学习专家和数据科学家必须从零开始研究并迭代构建新的高精度模型

NvidiaVolta架构

Volta架构包含超计算机使用的许多特征,以加速计算优化原CPUs和GPUs、存储器和互连带宽度

• Volta架构使用流多处理器优化深学习并调控混合计算并行线程微调同步合作改善并行处理连通L1数据缓存和共享内存大大提高性能并简化编程
• 高速连接高带宽多GPU系统间更多连接提高可缩和并行性
• 内存子系统提供900GB/sec峰值内存带宽使用三星HBM2内存快速内存
• 多进程服务提高性能、隔离度和多计算应用程序共享GPU服务质量
• 多GPU应用中获取数据接近GPU执行指令速度性能统一存储地址翻译服务向最常访问处理器迁移存储页,提高处理器共享内存范围效率

Nvidia向企业服务器伙伴提供设计架构,供企业投资机器学习使用高技能数据科学家和机器学习专家大全, 机器学习可解决的战略问题, 以及不使用谷歌或亚马逊现收现付服务的理由。