您当前的位置:首页 > 电脑百科 > 站长技术 > 服务器

暴涨 20倍!AI服务器价格涨疯了

时间:2023-05-17 14:44:35  来源:中国基金报  作者:

来源:e公司

AI人工智能)大模型发展热潮影响,市场算力需求大增,AI服务器作为算力基础设施之一,由于具备图形渲染和海量数据的并行运算等优势,能够快速准确地处理大量数据,市场价值逐渐凸显,近来市场需求大增,外加AI服务器核心零部件GPU(图像处理器、加速芯片)芯片持续紧缺、GPU价格不断上涨等,近期AI服务器价格大涨。

有企业向证券时报·e公司记者透露,其去年6月购买的AI服务器不足一年价格涨了近20倍。同期,GPU价格也不断上涨,例如A100GPU市场单价已达15万元,两个月前为10万元,涨幅50%,而A800价格涨幅相对更小,价格在9.5万元左右,上月价格为8.9万元左右。

“AI服务器价格这几年一直变化较大,主要因其配置在不断提升,同时其核心零部件GPU全球主要厂家英伟达、AMD在GPU方面的产能有限,市场GPU供应持续紧缺,预计未来AI服务器价格仍将保持上涨趋势。”IDC中国研究经理索引对证券时报·e公司记者表示。

值得一提的是,上游高端GPU芯片持续缺货等,一定程度上还影响了企业AI服务器出货量,进而影响到相关服务器上市公司短期业绩。不过,长远来看,AI服务器获业界一致看好,相关上市公司也正加码布局。

AI大模型大热

“去年6月我们公司购买了8台AI服务器,它的基础配置为8颗英伟达A100GPU,存储是80G,当时购买价格为8万元/台,今年3月已经涨到130万元/台,现在大约160万元/台,不到一年涨了近20倍。”近日,东莞松山湖一家检测企业相关负责人告诉证券时报·e公司记者。

“不仅是这款AI服务器涨价,基本上所有与英伟达相关的AI服务器都在涨价,后悔买少了。”前述负责人说。

无独有偶,某服务器ODM企业相关人士告诉记者,从5月份开始该公司A100卡也有15%涨幅,整体AI服务器为10%左右的涨幅。

事实上,今年以来,市场频传AI服务器价格大涨。

前不久,一个关于服务器大幅涨价的“小作文”也广泛流传。据说,某厂家3月的AI服务器售价大概是75万~85万元,4月均价直接上修到了85万~100万元。

究其原因,市场需求大增是AI服务器价格大涨的主因。

据了解,ChatGPT火热后,全球各大科技企业都在积极拥抱AIGC(生成式AI),纷纷发力AI大模型。据不完全统计,自3月16日百度率先公布“文心一言”以来,国内已有超过30项大模型产品亮相。

然而,AI大模型的实现,需要海量数据和强大算力来支撑训练和推理过程,华为预估2030年相比2020年,AI爆发带来的算力需求将增长500倍。

AI服务器作为算力基础设施单元服务器的一种类型,由于普遍采用CPU(中央处理器)、GPU等组合的异构式架构,相较通用服务器具备图形渲染和海量数据的并行运算等优势,能够快速准确地处理大量数据,可以满足大模型所需强大的算力需求,广泛应用于深度学习、高性能计算、搜索引擎、游戏等行业,其价值逐渐凸显。

“AI应用增加,推升算力需求,GPU服务器会增加,预期未来含有GPU的AI服务器需求将会持续增加,看好云端服务供应商(CSP)或AI服务器的成长性。”在近日举行的电话会议上,富士康集团董事长刘扬伟表示。

索引对记者表示,过去几年,加速计算服务器(加速计算服务器中90%为AI服务器)是拉动服务器市场增长的主要驱动力,2019年~2022年,整个服务器市场增量为100亿美元,其中50亿美元来自加速计算服务器市场增量,随着人工智能应用进入大模型时代,加速计算服务器市场预计仍将保持活力,其增速也预计大于通用服务器市场。

据IDC数据,2021年,全球AI服务器市场规模达156亿美元,同比增长39.1%,超过全球AI整体市场增长率22.5%。IDC预测,2025年全球AI服务器市场规模将达317.9亿美元,年复合增长率为19%。2021年中国AI服务器市场规模为53.9 亿美元,同比增长高达68.6%,预计2025年达到103.4亿美元,2021~2025年年复合增长率达17.7%。

市场格局方面,2021年上半年全球AI服务器市场中,浪潮信息以20%的市场份额位居第一,戴尔、惠普、联想、华为分别以14%、10%、6%、5%紧随其后,当前中国AI服务器企业在全球处于前列位置。

GPU持续紧缺

核心零部件GPU持续紧缺与价格大涨,也是导致AI服务器价格大涨的重要原因之一。

据了解,不同于高性能服务器、通用服务器,AI服务器除了2颗CPU外,一般还要配备4~8颗GPU,部分高配服务器甚至可以搭配16颗GPU,目前市场上主流的AI服务器一般配置2颗CPU加8颗GPU,因此AI服务器需求的提升,将直接成倍增加市场对GPU的需求,同时也提升了GPU、CPU等零部件在AI服务器中的成本占比。

有机构数据显示,AI服务器(训练)芯片组(CPU+GPU)成本占比达83%、AI服务器(推理)芯片组占比为50%。

值得一提的是,目前GPU市场主要由英伟达和AMD两家所占据,其中英伟达占据全球约八成市场份额,且英伟达GPU产能有限,持续紧缺,价格也不断上涨。

在面向中国市场方面,2022年8月,英伟达高端显卡A100/H100被美国宣布禁售,2022年11月,英伟达表示于2022年第三季度投产面向中国客户的A800(替代A100),今年3月,英伟达表示已研发出可向中国出货的H800(替代H100),目前国内企业可购买A800、H800、V100等型号英伟达GPU。

“服务器厂商(包括国内)很少会采用国产GPU,绝大多数会选用英伟达和AMD公司的GPU,但现在根本很难买到这两家公司的GPU,哪怕是被美国禁供后A100、H100的替代品A800、H800都一直供不应求。”一位服务器行业分析师对记者表示。

5月15日,记者从一家英伟达终端商家了解到,目前英伟达A100单价为15万元,两个月前为10万元,涨幅50%,另外A800目前单价约为9.5万元,上月单价为8.9万元。

“A100都已经禁售了,以后也不会有货了,我现在的货是在禁售前买的一点尾货,卖完就没有了,别说涨价,或者是不是全新,有货就很好了。”这位商家对记者表示,“A100还会涨,8月份估计要涨到20万每颗”。

另有代理商透露,英伟达A100价格从去年12月开始上涨,截至今年4月上半月,5个月价格累计涨幅达到37.5%;同期A800价格累计涨幅达20%。

由于一个AI服务器往往搭载数颗GPU,因此AI服务器的价格涨幅往往高于零部件价格涨幅。

行业媒体集微网报道,由于算力需求的增加,即使是涨价后市场对于英伟达顶级芯片的需求并未减少,这导致英伟达GPU交货周期也被拉长,之前拿货周期大约为一个月,现在基本都需要三个月或更长,甚至部分新订单“可能要到12月才能交付”。而为了应对增加的订单量,英伟达也向台积电追加预订1万片先进封装产能,以满足AI顶级规格芯片的生产。另外,国内可用于训练AI大模型的A100大约有4万~5万个,供应相当吃紧,一些云服务厂商已严格限制内部使用这些先进芯片,以将其保留至需要强力运算的任务。

服务器出货量受牵制

GPU的持续紧缺等,甚至已影响服务器行业出货量。

“现在英伟达GPU严重缺货,服务器厂商缺少核心零部件,一定程度上影响了相关企业的出货量。”一位券商分析师告诉记者。

相关情况从上市公司一季报也能窥见一斑。

浪潮信息今年一季度营收94亿元,同比下降45.59%,净利润2.1亿元,同比下降37%,浪潮信息表示,营业收入下滑主要系客户需求节奏较上年同期发生变化,本期发货需求减少所致。

据了解,英伟达是浪潮信息最大的供应商,浪潮信息此前几乎所有GPU芯片都从英伟达采购,2021年,英伟达占浪潮信息采购额的23.83%。

今年3月,美国将包括浪潮信息在内的中国28家企业最新列入美国实体清单,根据美国商务部规定,被列入实体清单的企业,必须取得美国政府的授权,才能获得美国产品和技术。

同行来看,工业富联一季度营收达1058.88亿元,同比增长0.79%,净利润31.28亿元,同比下降3.91%,但毛利率同比提升0.6个百分点至7.4%。

工业富联内部人士向证券时报·e公司记者表示,期内工业富联AI服务器已应用于ChatGPT,AI大模型技术的持续火热为工业富联改善毛利率提供了空间,公司还正加速提升AI服务器及高效运算(HPC)产品的占比和研发速度。

据了解,工业富联的云计算服务器出货量持续维持全球第一,2017年,工业富联联合英伟达、微软推出了全世界第一台AI服务器HGX1,ChatGPT使用的服务器就是HGX1,目前该款服务器已迭代至第四代。

富士康集团董事长刘扬伟也表示,去年富士康光是服务器的营收就达到1.1万亿新台币,其中AI服务器的营收大约占20%,ChatGPT带动的需求虽然强大,富士康会受惠于相关基础建设的需求,但也需要一段时间的沉淀才能成为稳定的业务。

值得一提的是,在芯片供应方面,工业富联深度绑定英伟达,供应不受限制。

中兴通讯总裁徐子阳也表示,在AI领域,中兴通讯未来将重点投入三个产品方向:一是新一代智算中心基础设施产品,全面支持大模型训练和推理,包括高性能AI服务器、高性能交换机、DPU等,计划今年底推出会支持大带宽的ChatGPT的GPU服务器;二是下一代数字星云解决方案,利用生成式AI技术,在办公智能化、运营智能化等领域展开研究;三是新一代AI加速芯片、模型轻量化技术,可大幅降低大模型推理成本。

此外,闻泰科技也透露,正在预研面向超大规模数据中心的训练和推理服务器,去年第四季度,闻泰科技服务器产品开始出货,当年基数相对较低。

除AI服务器外,在东数西算、数字经济等趋势下,各科技企业还一致看好整个服务器、存储相关行业。

工业富联指出,算力需求的增长不仅带动AI服务器的出货增长,也会带动整个超算系统架构的升级,包括中央处理器单元、运算加速器、高效能存储器、更高的带宽等。此外,算力的指数级增长会带来巨大的能耗,工业富联提前布局了数据中心液冷及沉浸式散热产品,HGX4就采用了水冷和气冷两种散热技术,绿色产品在算力需求增长的未来,重要性会更为凸显。

中兴通讯高级副总裁、政企业务总裁朱永涛对记者表示,新一轮数字经济浪潮带来的市场机会确定,今年中兴通讯将加强对服务器和存储的资源投入。

索引表示,2009年,中国本土供应商在全球的出货占比只有1%左右,到2022年这个数字变成了25%,如果加上台湾几家ODM给互联网的直接供货,这个占比已经超过60%,中国本土服务器供应商在全球正扮演越来越重要的角色。

此外,亦有券商研究员提示,我国服务器生产商面临核心零部件供应风险,同时服务器行业的经营发展状况与国家整体宏观经济发展密切相关。



Tags:AI服务器   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
暴涨 20倍!AI服务器价格涨疯了
来源:e公司受AI(人工智能)大模型发展热潮影响,市场算力需求大增,AI服务器作为算力基础设施之一,由于具备图形渲染和海量数据的并行运算等优势,能够快速准确地处理大量数据,市场价值...【详细内容】
2023-05-17  Search: AI服务器  点击:(414)  评论:(0)  加入收藏
人工智能AI服务器配置需求
我是艾西,今天聊聊很火的话题人工智能AI。大家从网络上应该了解了不少关于使用人工智能的便捷之处,包括一些科幻电影里面都有展示不少让人想要的功能,那么搭建人工智能AI的系统...【详细内容】
2023-04-05  Search: AI服务器  点击:(246)  评论:(0)  加入收藏
AI服务器又双叒叕爆发了,定制化能省10%TCO?
近日,国际数据公司(IDC)发布了最新的《人工智能基础架构市场(2019下半年)跟踪》报告。报告中显示,2019年人工智能基础架构市场规模达到20.9亿美元,同比增长58.7%。其中GPU服务器占...【详细内容】
2020-05-18  Search: AI服务器  点击:(517)  评论:(0)  加入收藏
9亿!中国移动最大规模AI服务器采购
近日,中国移动公布2020年至2021年人工智能服务器产品集中采购中标候选人公示。中国移动积极布局人工智能,成立了中国移动研究院人工智能和智慧运营研发中心,开展了核心算法的应...【详细内容】
2020-05-11  Search: AI服务器  点击:(303)  评论:(0)  加入收藏
IDC:浪潮/华为/曙光占据中国AI服务器市场74%份额
5月11日,国际数据公司(IDC)发布了最新的《人工智能基础架构市场(2019下半年)跟踪》报告。根据报告显示,2019年人工智能基础架构市场规模达到20.9亿美元,同比增长58.7%。其中GPU服务...【详细内容】
2020-05-11  Search: AI服务器  点击:(339)  评论:(0)  加入收藏
中国AI服务器霸主诞生,独占50.8%份额,华为仅为18.4%
众所周知,这几年AI大火,手机芯片要带AI,电脑CPU也要带AI,此外还有专业的AI芯片推出等等,反正什么东西,不和AI挂钩似乎都不是高科技了。而服务器厂商们也趁机推出了AI服务器,那么所...【详细内容】
2020-05-08  Search: AI服务器  点击:(525)  评论:(0)  加入收藏
▌简易百科推荐
为什么Nginx被称为“反向”代理呢?
Nginx(发音为"engine-x")是一款高性能、轻量级的开源Web服务器软件,也可用作反向代理服务器、负载均衡器和HTTP缓存。Nginx之所以有被称为“反向”代理,是因为它充当客户端设备...【详细内容】
2024-02-01  coderidea  微信公众号  Tags:Nginx   点击:(60)  评论:(0)  加入收藏
哪种服务器操作系统更好呢?
在当今的IT世界中,服务器操作系统扮演着至关重要的角色。它们是确保服务器能够高效、安全地运行的关键因素。然而,对于许多人来说,服务器操作系统的种类和特点可能是一个复杂的...【详细内容】
2024-01-30    简易百科  Tags:操作系统   点击:(76)  评论:(0)  加入收藏
什么是VPS服务器
VPS服务器是一种虚拟化技术,它将一台物理服务器划分为多个虚拟的独立服务器,每个虚拟服务器都可以拥有自己的操作系统、运行环境、应用程序等。这种技术使得每个虚拟服务器可...【详细内容】
2024-01-30    简易百科  Tags:VPS服务器   点击:(70)  评论:(0)  加入收藏
VPS服务器下载速度慢?这五招帮你提速
VPS服务器下载速度慢可能会让用户感到沮丧,尤其是对于需要大量下载和上传数据的用户。幸运的是,有一些方法可以帮助您提高VPS服务器的下载速度,使您的在线体验更加顺畅。在本文...【详细内容】
2024-01-30  IDC行业观察者    Tags:VPS服务器   点击:(57)  评论:(0)  加入收藏
美国VPS和英国VPS:地理位置对服务器性能的影响
在今天的数字时代,VPS已成为在线业务和网站托管的关键组成部分。然而,选择合适的VPS主机服务时,地理位置通常被忽视,尽管它对服务器性能有着重要的影响。本文将探讨美国VPS和英...【详细内容】
2024-01-26  IDC行业观察者    Tags:服务器   点击:(55)  评论:(0)  加入收藏
如何判断服务器所需带宽:基于业务需求和流量模式的关键考量
在选择服务器时,带宽是一个重要的考虑因素。带宽的大小直接影响到网站的加载速度和用户的访问体验。那么,如何判断服务器需要多大的带宽呢?本文将为你揭示这一关键问题的答案...【详细内容】
2024-01-26  源库科技    Tags:服务器   点击:(74)  评论:(0)  加入收藏
服务器内存空间及IO操作原理解析
服务器的内存空间分为内核空间和用户空间,而我们编写的程序通常在用户空间中运行。在进行读写操作时,我们直接操作的是用户缓冲区,而用户缓冲区的内容来自于内核缓冲区。这种内...【详细内容】
2024-01-23  王建立    Tags:服务器   点击:(44)  评论:(0)  加入收藏
如何在Java环境中安装Nginx?
1. 下载Nginx:首先,前往Nginx官方网站(https://nginx.org/en/download.html)下载新版本的Nginx。选择适合您操作系统的版本,通常有Windows、Linux和Mac等不同操作系统的版本可供...【详细内容】
2024-01-22  敲代码的小动    Tags:Nginx   点击:(61)  评论:(0)  加入收藏
服务器证书和SSL证书有啥区别?
在互联网经济时代,随着越来越多的信息以及合作都是从企业官网开始的,因此绝大多数企业都会为自己的网站配置SSL证书,以提高安全性。在接触SSL证书时,也有很多人称之为服务器证书...【详细内容】
2024-01-10  安信SSL证书    Tags:服务器证书   点击:(65)  评论:(0)  加入收藏
宝塔面板怎样部署java项目?
宝塔面板怎样部署java项目?在使用宝塔面板部署Java项目之前,需要确保已经安装了Java Development Kit (JDK)。接下来,将介绍如何使用宝塔面板来部署Java项目的步骤。步骤一:安装...【详细内容】
2024-01-09  西部数码    Tags:宝塔面板   点击:(112)  评论:(0)  加入收藏
站内最新
站内热门
站内头条