软件更新AI基准和新网络芯片

AI和机器学习系统正与数以亿计的数据集合作,这意味着速度和进料比任何时候都重要两项新公告加固点并目标加速AI数据运动
serf3.0中Nvidia刚发布新性能数H100计算HopperGPU自然Hoper超越前身A100Amere产品 时间对火车测量 软件优化提高性能
MLPerf运行数以千计模型和工作量,设计模拟现实世界使用工作量包括图像分类(ResNet50v1.5)、自然语言处理(BERT大全)、语音识别(RNN-T)、医学成像(3DU-Net)、对象检测(RetinaNet)和建议(DLRM)。
Nvidia首次发布H100测试结果使用MLPerf2.1基准H100比A100快4.5倍使用新MLPerf3.0基准,公司H100日志改进范围从7%到54%不等,MLPerf3.0vsMLPerf2.1Nvidia表示MLPerf3.0下医学成像模型快30%
应当指出Nvidia运行基准,而不是独立的第三方Nvidia不是唯一经销商运行基准包括英特尔在内的数十名其他人自行制定基准,并有可能看到性能增益
网络芯片AI
二次公告来自EnfabricaCorp.,它从隐式模式发布类芯片,称为加速计算Fabric处理器Enfabrica表示芯片专为AI、机器学习、HPC和模拟数据库设计,以提高可扩展性、性能和总拥有成本
Enfabrica于2020年创建,工程师来自Broadcom、Google、Cisco、AWS和IntelACF解决方案从底层开发解决加速计算问题,即逐分钟增加数据密集度
公司称,这些设备提供可缩放、流传、多波段/秒数据移动GPUs、CPUs、加速器、存储器和联网设备Enfabrica表示,处理器消除顶层网络开关、服务器NICs、PCIe开关和CPU控件DRAM等级并优化瓶颈
ACF通过现有GPU网络提供50倍DRAM扩展计算Express链接高速网络共享服务器物理存储
Enfabrica尚未确定发布日期,但表示近期内将更新