AWS称新亚马逊EC2M7g和R7g实例提供25%性能优于s上一代实例
亚马逊网络服务公司宣布提供新亚马逊EC2M7g和R7g实例,这是新一代内存密集应用实例,并运行亚马逊定制 Arm处理器,即Graviton3
第二次提供AWSGraviton3实例此前曾宣布今年5月计算密集工作量的具体实例
m7g和R7g实例比六代实例高25%性能峰值部分出自DL5内存的采用,该内存带宽比DL4高达50%但也从新的Graviton3芯片中 获得相当大的性能增益
亚马逊称,与Graviton2实例相比,新M7g和R7g实例提供高25%计算性能,近似浮点性能二倍,密码性能二倍,机学习快速推理三次
m7g实例用于应用服务器、微服务机和中型数据存储器等通用工作量m7g实例从带存储器4GiB和网络带宽12.5Gbps到带存储器256GiB和网带宽30GbpsGiB比字节不同测量存储法1GB表示存储量1GB,但实际上表示0.93GB为了避免混淆提高精度, 1GiB表示0.93GB,
R7g实例调控内存密集工作,如模拟数据库和缓存,实时大数据解析R7g实例比例从1vCPU和8GB内存12.5Gbps网络带宽到64vCPUs512GB存储和30gbps网络带宽
新AWSAI合伙
AWS还宣布扩大伙伴关系启动HugingFace向AWS客户提供更多AI工具包括Hugingface语言生成工具构建自定义应用以完成文本归纳、回答问题、代码生成、图像生成和写作文章和文章等任务
AWS自定义加速器运行大语言和视觉模型和推理亚马逊索求Tenium实例提供50%较低的成本对火车可比GPU实例
huging脸模型AWS可用三种方式使用:SageMaker跳启动工具AWS构建部署机语言模型工具Huging脸AWS深学习容器或教程部署客户模型AWS教程或AWS推理
