您当前的位置:首页 > 新闻资讯 > 科技

AI带动算力需求激增,数据中心也迎来变革新机会

时间:2023-07-02 11:12:22  来源:界面新闻  作者:

AI大模型成为风口,全球算力供不应求。

据广发证券测算,国内AI大模型在训练与推理阶段或产生相当于1.1万台至3.8万台高端AI服务器的算力需求。以GPU产品售价10万元、AI加速卡价值量占服务器整机约70%计算,则对应126亿元至434亿元增量AI服务器市场规模。

在订单需求激增的情况下,如何部署节能技术并兼顾算效、能耗、成本,成为考验数据中心建设与运营者的关键。在服务器及IT系统解决方案提供商宁畅主办的媒体沟通会上,宁畅公司总裁秦晓宁和业内专家共同探讨了此事。

中国建筑标准设计研究院数据中心工程部主任吴晓晖表示,数据中心降低能耗和成本的的关键,除了合理选址之外,还可以提高能效和优化用能。

吴晓晖以一个PUE是2的数据中心案例具体讲了能耗构成:最大的能耗是IT设备,占50%,另外的25%+10%是数据中心的制冷系统,10%+3%是供能系统,包括UPS、变压器等。从能耗构成来看,制冷系统是压缩潜力最大的。

据了解,数据中心最早的制冷方式是空调方案,历经房间空调、背板空调、行级空调几个阶段,制冷模式从房间大面积吹到把空调做到机柜中间,再到现在把空调做到芯片上。因为芯片是最大的制热源,制冷手段越来越接近热源,制冷效率也越来越高。

但不管是用风热空调压缩机还是用机组空调,都是用电制冷,需要耗费大量能源。随着数据中心的需求激增,更加节能的室外自然冷却技术被更大范围的应用,其中两个代表性的技术是液冷和蒸发冷却技术,这让数据中心迎来降低能耗的新机遇,但真正让液冷等技术落地并不容易。

宁畅总裁秦晓宁表示,当前80-90%的数据中心依然采用风冷散热,尽管数据中心节能政策频出,液冷投入成本下降,但液冷升级中仍存在着多重困难。主要包括技术难题包含三个方面:

一是技术难,风转液冷首先要考验包括复杂部件液冷适配、漏液可靠性等在内的综合技术。

二是建设久,液冷升级涉及楼体、空间改造等多个环节,周期长,产业链协同性较弱。

三是成本高,用户倾向于关注初期建设成本,往往忽略了液冷释放的性能带来的业务效益与节能效果。

秦晓宁表示,大模型火了之后,5月GPU服务器用量增长38%,大模型带来GPU的功耗是400-700,一个通用机柜功耗需要达到8kW~10kW。如果一个通用计算机柜功耗已经达到了10kW,机房就必须改造。

吴晓晖表示,无论是从节能方面来看,还是服务器机柜功率密度越来越高的趋势看,数据中心适合于液冷置换。

目前国内数据中心冷却液技术处在初期发展阶段,但因为数据中心需求快速增长,已到了爆发的前夜。



Tags:算力   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
KIMI爆火,背后的算力产业链公司有哪些?
在人工智能领域,KIMI作为月之暗面科技有限公司开发的AI助手,已经成为市场上的一股不可忽视的力量。然而,随着KIMI用户量的激增,其背后的算力供应链也受到了前所未有的关注。近日...【详细内容】
2024-03-25  Search: 算力  点击:(20)  评论:(0)  加入收藏
英伟达“算力核弹”强在哪里?
训练万亿参数级别的大模型,需要多大规模的算力?在今日凌晨进行的Nvidia GTC 2024主旨演讲中,英伟达创始人兼首席执行官黄仁勋在现场做了一道数学题。以OpenAI最先进的1.8万亿参...【详细内容】
2024-03-20  Search: 算力  点击:(16)  评论:(0)  加入收藏
央企将发力AI算力建设,相关领域有望率先受益
截至发稿,铜牛信息、高新发展、宁夏建材等5股涨停,国投智能、中科曙光、润泽科技等多股涨超6%。2月22日,算力概念开盘活跃,截至发稿,铜牛信息、高新发展、宁夏建材等5股涨停,国投...【详细内容】
2024-02-22  Search: 算力  点击:(31)  评论:(0)  加入收藏
Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
这是近两天最火的网络梗图。左图是OpenAI CEO 奥尔特曼(Sam Altman),图右是百万粉丝卖 AI 课程的清华博士李一舟。事实上,100多个小时之前,美国OpenAI公司发布的 AI 视频生成模型...【详细内容】
2024-02-20  Search: 算力  点击:(28)  评论:(0)  加入收藏
大模型成长进入关键期,探究AI背后的算力战争
文 | 元宇宙新声,作者 | 贾桂鹏距离大模型横空出世已经过去一年有余,在AI大模型的浪潮下,各大科技企业争先恐后地推出了自家的大模型产品。与此同时,各行业企业也对大模型保持着...【详细内容】
2024-01-31  Search: 算力  点击:(76)  评论:(0)  加入收藏
五部门重磅发布,AI算力产业变革将至?
2023年12月27日早盘,算力题材冲高,云创数据涨超14%,智微智能涨停,奥飞数据涨近8%,立昂技术涨超4%。截至2023年12月27日 09:52,AI人工智能ETF(512930.SH)上涨0.55%,成分股中国软件(6...【详细内容】
2023-12-27  Search: 算力  点击:(54)  评论:(0)  加入收藏
虚拟现实技术发展按下“加速键” 人工智能算力需求快速增长
去年,国内外众多互联网企业纷纷布局虚拟现实技术,各种与之配套的可穿戴设备也是赚足了眼球。这一切,都让虚拟现实技术一下子成为从科技界、资本圈到街头巷尾热议的话题。那么,虚...【详细内容】
2023-12-27  Search: 算力  点击:(85)  评论:(0)  加入收藏
智能算力进阶C位,揭秘人工智能产业背后的“冰山一角”
前几年,在IDC领域,市场谈及最多的还是数据中心,随着人工智能产业的成熟,特别是今年以来大模型的爆发,智算中心逐步替代了数据中心进入大众视野,成为市场热议的关键词,智能算力的热...【详细内容】
2023-12-22  Search: 算力  点击:(115)  评论:(0)  加入收藏
爆发式增长!澎湃算力“算”出生产力
我国算力总规模达到每秒1.97万亿亿次浮点运算,位居全球第二!算力规模近5年年均增速近30%!即将过去的2023年是我国算力产业爆发式增长的一年。这一年,各级政策频出为算力高质量发...【详细内容】
2023-12-19  Search: 算力  点击:(105)  评论:(0)  加入收藏
AI算力芯片,AMD终于站起来了
作者 | David Moadel、张津京计算芯片未来可能不是英伟达的专长,AMD也要来了。12月7日,AMD在美国加州圣何塞举办的Advancing AI大会上正式揭晓了两款旗舰级AI芯片产品,分别为In...【详细内容】
2023-12-14  Search: 算力  点击:(120)  评论:(0)  加入收藏
▌简易百科推荐
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11    上海证券报  Tags:英特尔   点击:(2)  评论:(0)  加入收藏
AI“复活”亲人成生意,哪些红线待划定?
提供一张照片、一段10多秒的音频,即可让逝者在视频中“活”过来——AI“复活”亲人成生意,哪些红线待划定?本报记者 陶稳《工人日报》(2024年04月11日 06版)阅读提示...【详细内容】
2024-04-11    工人日报  Tags:AI   点击:(2)  评论:(0)  加入收藏
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(8)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(9)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(2)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(5)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07    IT之家  Tags:OpenAI   点击:(7)  评论:(0)  加入收藏
量子计算会和经典计算一样融入人们的日常生活
作为2024中国网络媒体论坛打造的创新活动之一,“技术赋能·八点见”创新项目发布会于3月30日晚在云南昆明举行。活动现场,本源量子计算科技(合肥)股份有限公司(以下简称“...【详细内容】
2024-04-03    人民网  Tags:量子计算   点击:(8)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
  • · AI“复活”亲人成生意,哪些红线待划定?
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · 国家数据局局长刘烈宏:充分发挥数据要素价值 培育新质生产力
  • · 谷歌Chrome巨变:第三方Cookie的终结将重塑互联网格局
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条