C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索
查看: 1429|回复: 21

一年囤了近50万颗GPU [复制链接]

军衔等级:

亚星游戏官网-yaxin222  大元帅

注册:2007-12-101705
发表于 2024-12-20 10:09:11 |显示全部楼层

12月18日,据英国《金融时报》报道,OpenAI的最大投资者MicroSoft,购买了其主要竞争对手Meta两倍数量的英伟达GPU芯片,达48.5万颗。



市场调研机构Omdia最新数据表明,MicroSoft今年购入了48.5万颗英伟达的“Hopper”芯片,这使得MicroSoft的芯片储备在打造下一代人工智能(AI)的竞赛中占据了优势。英伟达在美国的第二大客户Meta仅仅购买了22.4万颗“Hopper”芯片,而MicroSoft也同样领先于其在云计算领域的对手AMAZON和GOOGLE,据预测,它们分别购买了约19.6万颗与16.9万颗“Hopper”芯片。



这两年来,科技巨头已经在数据中心上投入了数百亿美金用于运行英伟达的最新芯片。自MicroSoft投资130亿美金(约合人民币949亿)的OpenAI推出ChatGPT以来,各个科技巨头包括并不限于GOOGLE、Anthropic、xAI、字节、Tencent等,都在投资以争夺下一代人工智能的主导地位。



MicroSoft是美国大型科技企业中在建设数据中心基础设施方面最为积极的企业之一,其数据中心基础设施不仅用于运行自己的Copilot等AI服务,还通过Azure云计算向客户出租算力,目前Azure被用于训练OpenAI最新的o1模型。



Omdia估计,字节跳动和Tencent今年分别订购了约23万片英伟达的芯片,包括“Hopper”的低功率版本H20。尽管有着出口限制,字节跳动和Tencent仍然成为了英伟达今年最大客户之二。



据Omdia预测,2024年全球科技企业将在服务器上投入约2290亿美金(约合人民币1.67万亿),其中MicroSoft支出310亿美金(约合2262亿人民币),AMAZON支出260亿美金(约合人民币1897亿)。目前,包括初创企业xAI和英伟达支撑的CoreWeave在内的前10大数据中心基础设施买家,占全球计算能力投资总额的60%。



Omdia的云和数据中心研究主管Vlad Galabov表示“英伟达GPU占据了相当高的市场份额。”



2024年,服务器的支出中约有43%流向了英伟达。



自人工智能投资热潮以来,英伟达最先进的GPU一直供不应求,这些芯片已成为硅谷最热门的商品。今年,大型科技企业争相组装越来越多的英伟达GPU集群。目前,英伟达的新一代Backwell架构GPU已经也开始交付。尽管因为环境因素,势头已经有所减缓,英伟达的市值还是飙升至逾3万亿美金。



不过,分析师称,Meta、AMAZON和GOOGLE正在加大对自有定制AI芯片的投入来替代英伟达的芯片。GOOGLE已经花了十年时间开发TPU,而Meta去年推出了第一代Meta Training和Inference Accelerator芯片。两家企业各自部署了约150万片自家芯片。AMAZON今年在为云计算客户投资开发Trainium和Inferentia芯片,并部署了约130万片。本月,该企业表示计划使用数十万片其最新款Trainium芯片,为OpenAI竞争对手Anthropic建立一个新的集群,以训练下一代人工智能模型。



相比之下,虽然MicroSoft(微软)在打造与英伟达(Nvidia)竞争的人工智能加速器方面要早得多,但在今年仅安装了约20万颗MicroSoft定制的Maia芯片。MicroSoftAzure全球基础设施高级总监Alistair Speirs称,使用英伟达的芯片仍然需要MicroSoft在自己的技术上进行大量投资,以向客户提供“独特”的服务。



2024年,MicroSoft对英伟达芯片订单数量是其在2023年的三倍多,尽管当时英伟达已经为了应对ChatGPT的爆红在加紧生产“Hopper”芯片。



“良好的数据中心基础设施是非常复杂的、资本密集型的项目,”Speirs称,“它们需要数年的规划。因此,对大家的增长进行适度的预测并预留一定的缓冲区是很重要的。”



虽然英伟达仍主导着AI芯片市场,但其位于硅谷的竞争对手AMD已经取得了进展。Omdia称,今年Meta购买了17.3万颗AMD的MI300芯片,而MicroSoft购买了9.6万颗。


举报本楼

本帖有 21 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-12-21 23:58 , Processed in 0.460122 second(s), 17 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图