元计划世界最快超级计算机AI

脸书母公司Meta表示正在搭建世界最大AI超级计算机,

新机称研究超级计算机,内装16 000NvidiaA100GPS和4 000AMDEPYCRome7742处理器NvidiaDGX-A100节点,8GPU芯片和2Epyc微处理器Meta预期今年完工

RSC部分搭建760DGX-A100系统部署元研究者已经开始使用RSC培训大型自然语言处理模型和计算机视觉研究模型,目标是最终培训模型并有数万亿参数,据Meta称

Meta开发出我们认为世界最快超级计算机RSC为AI研究超级Cluster命名,今年晚些时候完成正为元体建设经验需要巨大的计算电量(五大运算/二大!) RSC将启动新AI模型,从数万亿例子学习,理解数以百计语言等多语法。”CEOMark Zuckerberg用电子邮件表示

RSC预期在混合精度处理中达到5ExaFLOPS峰值PF16和FP32,正在与HPC系统专家PenguinCell

Meta不透露系统位置

RSC将帮助MetaAI研究人员建新优AI模型,数以百计语言工作无缝分析文本、图像和视频并发开发新增强现实工具Kevin Lee技术程序管理员Shubho Sengupta和Meta软件工程师Shubho Sengupta都写道博客文章.

i系统能实时向大群人翻译语音, 每人讲一种不同的语言, 让他们可以无缝协作研究项目或并发AR游戏,

除所有处理电量外,RSC还拥有175兆字节纯存储闪存器,46兆字节缓存器和10兆字节纯存储器

RSC估计比Meta前研究集群快九倍,该集群由Nvidia老一代V100GPUs22,000组成,比当前AI系统快20倍Meta不计划退伍旧系统

公司专注于建立学习模型,实现面向内容的自动化任务以训练数万亿多参数模型 数据组大比特大, 目标是用臂环绕平台上生成的所有内容

藉此帮助推进研究执行下游任务, 诸如识别平台上有害内容, 并研究嵌入式AI和多式AI帮助提高用户对应用圈的经验Lee和Sengupta写道:这是第一次性能、可靠性、安全性和隐私问题以如此规模解决。