专家说,随着对基因化AI技术需求增加,芯片短缺不是开发定制硅的主要原因
as需求基因化AI云服务提供商如微软、谷歌和AWS大语言模型OpenAI等提供商据报都考虑开发自定义AI工作量芯片
假设其中一些公司-OpenAI和微软-努力开发自定义芯片处理自定义AI工作量芯片短缺以头条为主前数周
OpenAI传说想收购公司 推进芯片设计微软据报正与AMD合作制作定制芯片代号Athena
Google和AWS都开发出自己的I工作芯片,形式为GoogleTensor处理单元和AWS训练芯片和推理芯片
是什么因素驱动这些公司制作自己的芯片分析家和专家认为,答案围绕处理染色AI查询的成本和目前可用芯片效率,主要是图形处理单元NvidiaA100和H100GPS目前支配AI芯片市场
GPU可能不是基因化AI工作量最高效处理器,
GPUs是通用设备,碰巧高效率矩阵反转,AI基本数学,TechInsights副总裁Dan Hutcheson指出
极贵运行并优化处理器架构, 解决成本问题, Hutcheson表示 。
特纳表示使用自定义硅可允许微软和OpenAI等公司削减电耗并改进计算互连或内存存访问量,从而降低查询成本
OpenAI每天约花694 444美元或36美分查询操作研究公司Sema解析报告.
Turner表示:「AI工作量不完全需要GPUs,
Turner说,定制硅的其他长处包括控制芯片访问和专门设计LLMs提高查询速度元素
开发定制芯片并不容易
部分分析师类比自定义硅与苹果生成芯片设备策略Apple从通用处理器切换自定义硅以改善设备性能,
NvidiaGPU目前极受欢迎,if you really wantsscript, you need a芯片优化处理或专用自定义AI等函数,O'Donnell解释
专家表示开发定制芯片对公司都不容易
高投资、长设计开发生命周期、复杂供应链问题、人才稀疏、足以证明支出合理性以及对整个过程缺乏理解等数大挑战阻碍定制芯片开发工作,
对任何刚从零开始进程的公司来说,它可能至少需要二到二半年时间,O'Donnell说,补充道,芯片设计人才稀缺是延迟的主要因素。
支持O'Donnell观点的范例有大技术公司获取创业开发自定义芯片或与拥有空间专门知识的公司结为伙伴AWS在2015年获取以色列Annapurna实验室开发自定义芯片Google与Broadcom合作制作AI芯片
芯片短缺可能不是OpenAI或微软的主要问题
OpenAI据说想获取创业芯片支持AI工作量,专家认为计划可能不与芯片短缺相关联,而更多地支持LLMs推理工作量,因为微软常在应用中添加AI特征并签名客户提供自定义AI服务
Omdia主分析员Alexander Harrowell表示:「显而易见点是他们有一些需求没有人服务,依据CEO Sam Altman的评论, GPT-4不大可能进一步推广,缩放LLM比推算模型需要更多的计算功率推理过程使用训练有素LLM生成更精确预测或结果
分析家表示获取大芯片设计师可能不是OpenAI正确决策,
OpenAI可以尝试从市场募集钱财, 今年早些时候与微软交易基本导致半公司售出100亿美元选项, 其中部分未说明比例为非现金Azure信用项-不是滚动现金公司搬家,Harrowell说 。
取而代之聊天GPT制造者可以研究获取新企业使用AI加速器,Turner补充道,
支持推理工作量的可能目标可能是硅谷公司,如Groq公司、Esperanto技术公司、Storent公司和NeuReality公司,Harrowell说,并补充说SambaNova公司如果OpenAI愿意也可以成为可能获取目标丢弃NvidiaGPUs并自定义云式方法
