您当前的位置:首页 > 新闻资讯 > 科技

AI大模型被算力需求包围啦

时间:2023-11-10 10:08:06  来源:金融界  作者:

前言:AIGC大模型时代算力供需失衡导致光通信、算力租赁等概念走红,光通信产业链核心零部件光芯片市场国产替代空间广阔,国内科研团队近期实现重大突破,虽未实现商业化落地,但体现了国内科研团队的研发实力,打开了国产芯片的估值天花板。科创100ETF(588190)布局国内半导体、医药等国产替代长期逻辑有望演绎的赛道,从资本市场助力科创板中小企业突破“卡脖子”技术难关,当前市场环境下配置价值凸显,值得持续关注。

大模型时代,算力供需失衡加剧

二、算力需求催生光通信、算力租赁等概念大热

三、算力需求长期指向国产芯片替代空间广阔

、大模型时代,算力供需失衡加剧

近期算力相关的光通信、算力租赁等概念市场关注度重回巅峰,无论之后预期能否落地,至少验证了小盘成长风格的占优,使市场对相关赛道的利好消息格外敏感。回顾2023年年初以来的AIGC行情,GPU为驱动AI技术发展以及应用落地的关键引擎,大模型训练、微调、推理催生大量AI算力需求,这也带来了国内外AI上游算力板块的高景气度。

为什么大模型训练会催生AI需求呢?简单理解,人工智能可以视为人脑仿生发明,大模型训练的参数与人脑中的神经元作用类似,对大脑而言,神经元数量多到一定程度,能执行任务的复杂程度达到一定水平,“意识”出现;对AI大模型而言,参数躲到一定程度,架构复杂到一定程度,“智慧”涌现。

AI大模型被算力需求包围啦

图:近年来超大模型预训练模型参数增长趋势

(信息来源:《Large Language Models: A New Moore’s Law?》、西部证券

就AI大模型迭代路径来看,这一规律也得到显现。大模型训练规模与参数量、数据量及训练轮数等紧密相关,且模型能力与训练规模关系并非线性,即大家平时学习新事物时的“一万小时定律”可能在AI大模型学习时也有所体现。当模型训练规模在一定范围内时,“万事开头难”,模型能力并未随着训练规模的提升而提高;当模型训练规模超过某临界值后,模型效果显著提升,“智慧”出现。

2018年的GPT-1模型只有12层,约1.2亿个参数,需要5GB训练数据;

2019年的GPT-2模型有48层,约15亿参数,需要40GB训练数据;

2020年的GPT-3模型有96层,参数在百亿到千亿量级,需要45TB训练数据;

2022年的GPT-3.5/ChatGPT模型有96层,参数达千亿量级,已能进行内容创作等复杂任务,点燃全球资本市场热情;

2023年的GPT-4参数可能突破万亿级。(信息来源:西部证券)

大模型复杂程度的提升带来神经网络训练及推理需求的高企,其中涉及大量的矩阵运算和卷积运算,具有强并行运算和浮点计算能力的GPU逐步成为计算主力军,也成为市场衡量算力需求的“单位”。据相关论文介绍,GPT-3需要使用1024张A100 GPU训练34天;GPT-4需要使用约2.5万个A100 GPU训练90-100天。也就是说,GPT-3迭代到GPT-4,参数规模增大10倍,对应训练计算量增加至少60倍。且模型参数量的增加与所需的GPU数量之间,也是非线性关系。(信息来源:《Efficient Large-Scale Language Model Training on GPU Clusters Using Megatron-LM》、浙商证券)

对算力市场规模进行量化,据TrendForce集邦咨询,2023年搭载GPU等算力核心零部件的AI服务器出货量近120万台,年同比增长38.4%,2022-2026年AI服务器出货量年复合增长率有望达到22%,其中AI芯片2023年出货量将成长46%。我国大模型竞争开启背景下,智能算力规模增长潜力巨大,据IDC测算,2021-2026年我国智能算力规模的年复合增长率达52.3%。

AI大模型被算力需求包围啦

图:我国智能算力规模预测(单位:EFLOPS)

(信息来源:IDC、东吴证券)

二、算力需求催生光通信、算力租赁等概念大热

有的小伙伴可能会疑惑,算力需求这么旺盛,扩充AI服务器、GPU等核心算力零部件的供给不就行了?然而,GPU的制作工艺非常复杂,头部厂商寥寥,供不应求程度达到极致。因此,产能扩张非一日之功,而AI中游大模型布局训练、下游应用需求旺盛,催生了很多过渡性质或修补性质的算力相关概念大热,其中就包括光通信和算力租赁。

光通信

算力主要取决于GPU的计算速度,但实际应用中GPU的利用率通常只能达到10%-30%,利用率不高的原因就在于通信。前文提到,AI模型参数和训练用数据量大,为缩短训练时间,同时需要多个GPU、多台服务器进行计算,再对计算结果进行汇总。GPU的并行计算架构对通信(即数据传输)提出更高要求。

光通信是利用光信号进行信息传输的通信方式,由于光子的基础特性具有高速、大容量、低损耗、抗干扰能力强的优势,能够大幅提升算力的利用效率,从而在一定程度上缓解算力供给不足的困境。光模块作为光通信中的核心器件,功能是实现光电转换,发送端把电信号转换为光信号,通过光缆传送后,接收端再把光信号转换为电信号。由于数据终端使用01电信号,所以光电转换是光通信的必要环节,对应光模块也是必需品。(信息来源:东北证券)

AI大模型被算力需求包围啦

图:全球光模块市场及数据流量增长情况

(信息来源:LigntCounting、IDC、华泰证券)

因此,光模块市场规模是衡量光通信产业景气度的有效指标。据LightCounting数据,2022年全球光模块市场规模122亿美元,伴随数据流量快速增长,云计算、AI发展将接力4G、5G建设需求持续拉升光模块市场规模。光通信及其产业链零部件厂商概念的走热实际指向算力供需失衡的现实。

算力租赁

同样关注度极高的算力租赁更好理解,顾名思义就是对算力进行出租,是通过云计算服务商租用计算资源的模式。算力使用者无需投入大量资金购买计算设备,却可以使用高效稳定的计算服务,并根据实际使用情况支付相应费用。使用者通过租赁计算资源,可以快速地启动项目,减少相应成本。

AI算力租赁业务的商业本质是为了实现算力资源配置效率的最优化。据浙商证券测算,如果只比较服务器采购成本与租金成本,AI算力租赁并没有性价比;但将服务器等待、调试、运维成本和软件研发试错成本考虑在内后,AI算力租赁业务具有了显著的性价比。简单来说,AI算力租不如买,但是首先买不到、其次时间等不起、最后买到了知道怎么稳定使用还需要花费额外时间精力。算力租赁业务走红的背后也是算力的供不应求。(信息来源:东吴证券)

三、算力需求长期指向国产芯片替代空间广阔

光芯片和电芯片是光模块核心组成部分。据《中国光通信器件行业全景图谱》和亿渡数据,光芯片和电芯片在光模块成本中占比分别达50%和18%,是最主要的成本来源。光芯片是实现光电转换的基础元件,包括实现电光转换的激光器芯片和光电转换的探测器芯片,其性能直接绝对光模块传输效率。电芯片主要对复杂的数字信号进行处理。

AI大模型被算力需求包围啦

图:光模块成本构成

(信息来源:OFWEEK、亿渡数据、华泰证券)

光芯片国产替代空间广阔。据ICC统计,数据中心市场光模块企业开始逐步使用国产厂商中低端25G光芯片,25G光芯片国产化率约为20%。但25G以上中高端光芯片的国产化率仅为5%,多依赖进口,未来伴随国产厂商技术的进一步提升,高速率光芯片进口替代有望持续推进。

国内科研团队实现重大突破,打开国产芯片远景空间。11月3日,国内某高校研究团队突破传统芯片物理瓶颈,创造性提出光电融合的全新计算框架,研制出国际首个全模拟光电智能计算芯片,经试验,该芯片在智能视觉目标识别任务方面的算力可达目前高性能商用芯片的3000余倍,超高性能芯片研发全新思路打开。(信息来源:华泰证券)

AIGC大模型时代算力供需失衡导致光通信、算力租赁等概念走红,光通信产业链核心零部件光芯片市场国产替代空间广阔,国内科研团队近期实现重大突破,虽未实现商业化落地,但体现了国内科研团队的研发实力,打开了国产芯片的估值天花板。科创100ETF(588190)布局国内半导体、医药等国产替代长期逻辑有望演绎的赛道,从资本市场助力科创板中小企业突破“卡脖子”技术难关,当前市场环境下配置价值凸显,值得持续关注。

风险提示

尊敬的投资者:投资有风险,投资需谨慎。公开募集证券投资基金(以下简称“基金”)是一种长期投资工具,其主要功能是分散投资,降低投资单一证券所带来的个别风险。基金不同于银行储蓄等能够提供固定收益预期的金融工具,当您购买基金产品时,既可能按持有份额分享基金投资所产生的收益,也可能承担基金投资所带来的损失。

您在做出投资决策之前,请仔细阅读基金合同、基金招募说明书和基金产品资料概要等产品法律文件和本风险揭示书,充分认识基金的风险收益特征和产品特性,认真考虑基金存在的各项风险因素,并根据自身的投资目的、投资期限、投资经验、资产状况等因素充分考虑自身的风险承受能力,在了解产品情况及销售适当性意见的基础上,理性判断并谨慎做出投资决策。根据有关法律法规,银华基金管理股份有限公司做出如下风险揭示:

一、依据投资对象的不同,基金分为股票基金、混合基金、债券基金、货币市场基金、基金中基金、商品基金等不同类型,您投资不同类型的基金将获得不同的收益预期,也将承担不同程度的风险。一般来说,基金的收益预期越高,您承担的风险也越大。

二、基金在投资运作过程中可能面临各种风险,既包括市场风险,也包括基金自身的管理风险、技术风险和合规风险等。巨额赎回风险是开放式基金所特有的一种风险,即当单个开放日基金的净赎回申请超过基金总份额的一定比例(开放式基金为百分之十,定期开放基金为百分之二十,中国证监会规定的特殊产品除外)时,您将可能无法及时赎回申请的全部基金份额,或您赎回的款项可能延缓支付。

三、您应当充分了解基金定期定额投资和零存整取等储蓄方式的区别。定期定额投资是引导投资者进行长期投资、平均投资成本的一种简单易行的投资方式,但并不能规避基金投资所固有的风险,不能保证投资者获得收益,也不是替代储蓄的等效理财方式。

四、特殊类型产品风险揭示:请投资者关注标的指数波动的风险以及ETF(交易型开放式基金)投资的特有风险。

五、基金管理人承诺以诚实信用、勤勉尽责的原则管理和运用基金资产,但不保证基金一定盈利,也不保证最低收益。基金的过往业绩及其净值高低并不预示其未来业绩表现,基金管理人管理的其他基金的业绩并不构成对基金业绩表现的保证。银华基金管理股份有限公司提醒您基金投资的“买者自负”原则,在做出投资决策后,基金运营状况与基金净值变化引致的投资风险,由您自行负担。基金管理人、基金托管人、基金销售机构及相关机构不对基金投资收益做出任何承诺或保证。

六、以上基金由银华基金依照有关法律法规及约定申请募集,并经中国证券监督管理委员会(以下简称“中国证监会”)许可注册。基金的基金合同、基金招募说明书和基金产品资料概要已通过中国证监会基金电子披露网站【http://eid.csrc.gov.cn/fund/】和基金管理人网站【www.yhfund.com.cn】进行了公开披露。中国证监会对基金的注册,并不表明其对基金的投资价值、市场前景和收益作出实质性判断或保证,也不表明投资于基金没有风险。



Tags:AI大模型   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
超长文本是AI大模型的能力突破口吗?
◎记者 刘怡鹤近日,能“一口气读完20万字小说”的AI大模型应用Kimi再次为国内AI产业添了一把火。业内认为,国产大模型能力提升或成今年国内AI领域最核心的主线。超长上下文是...【详细内容】
2024-03-26  Search: AI大模型  点击:(8)  评论:(0)  加入收藏
AI大模型之争远未落幕
吕归亚自2022年年底OpenAI发布聊天机器人ChatGPT3.0后,各大科技公司纷纷跟进推出各自的产品。经历了一年多高速推进且“万众瞩目”的发展后, ChatGPT依旧是行业内的标杆级存在...【详细内容】
2024-03-20  Search: AI大模型  点击:(19)  评论:(0)  加入收藏
多模态AI大模型赋能移动机器人!受益上市公司梳理
财联社3月3日讯(编辑 若宇)移动机器人赛道近期关注度逐步上升。GTC 2024将于3月18至21日在加州圣何塞会议中心举行,英伟达计划发布机器人领域最新突破成果。英伟达大概率是通过...【详细内容】
2024-03-04  Search: AI大模型  点击:(36)  评论:(0)  加入收藏
新一批国产AI大模型通过备案
快科技1月30日消息,据媒体报道,新一批的国产AI大模型通过了备案许可,其中小米的小爱同学AI助手位居其中。据了解,此次共有13家企业14个AI大模型通过备案,是获批数量最大的一次,也...【详细内容】
2024-01-30  Search: AI大模型  点击:(57)  评论:(0)  加入收藏
解读AI大模型
AI大模型AI大模型,即大型人工智能模型,是近年来人工智能领域的重要进展。它通过在大规模数据集上进行训练,能够适应一系列下游任务,具有广泛的普适应用支撑能力。相比于小模型,AI...【详细内容】
2024-01-05  Search: AI大模型  点击:(205)  评论:(0)  加入收藏
群雄逐鹿AI大模型 狂飙之后如何商业化
◎记者 罗茂林年初爆火的《狂飙》,剧名正暗合了AI大模型的这一年。2月ChatGPT“带火”OpenAI时,行业还预测国内追赶尚需时日;但转眼的5月,一场声势浩大的“百模大战”便拉开帷幕...【详细内容】
2023-12-26  Search: AI大模型  点击:(61)  评论:(0)  加入收藏
AI大模型赋能的“数字地图”来了,可覆盖99%城乡道路
越来越“聪明”的导航来了。近日,高德地图宣布旗下基于北斗卫星导航系统、深度学习模型、惯性导航、泛在信号等前沿技术研发的车道级导航服务,截至目前已支持在国内99%以上的...【详细内容】
2023-12-12  Search: AI大模型  点击:(63)  评论:(0)  加入收藏
中国AI大模型,应该如何商业化?
文|产业家,作者|斗斗,编辑|皮爷如今,大模型的商业化问题再次被摆在台面上。一个事实是,当下的大模型训练需要强大的算力支撑,尤其是参数量大的模型,花费极大。比如OpenAI的语言模型GP...【详细内容】
2023-12-08  Search: AI大模型  点击:(199)  评论:(0)  加入收藏
谷歌AI大模型Gemini亮相:擅长复杂学科推理,能懂编程语言PK GPT-4
美国科技巨头谷歌今日宣布推出人工智能模型Gemini,并针对三种不同的尺寸优化了 Gemini 1.0:Gemini Ultra——谷歌最大、最有能力的模型,适用于高度复杂的任务。Gemin...【详细内容】
2023-12-08  Search: AI大模型  点击:(149)  评论:(0)  加入收藏
厂商争相布局,AI大模型加速在手机落地
中新社北京11月24日电 (记者 刘育英)中国多家手机厂商已在手机中部署AI大模型,或推出AI手机。接受采访的多位专家表示,AI大模型在手机中落地的路径更加清晰,但仍存在部分难点。...【详细内容】
2023-11-27  Search: AI大模型  点击:(72)  评论:(0)  加入收藏
▌简易百科推荐
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(7)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(7)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(0)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(3)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07    IT之家  Tags:OpenAI   点击:(5)  评论:(0)  加入收藏
量子计算会和经典计算一样融入人们的日常生活
作为2024中国网络媒体论坛打造的创新活动之一,“技术赋能·八点见”创新项目发布会于3月30日晚在云南昆明举行。活动现场,本源量子计算科技(合肥)股份有限公司(以下简称“...【详细内容】
2024-04-03    人民网  Tags:量子计算   点击:(8)  评论:(0)  加入收藏
ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
新智元报道编辑:编辑部【新智元导读】OpenAI这份愚人节礼物,实在是太大了:今天起,ChatGPT不用注册,可以直接使用。用户狂欢,竞品颤抖,我们仿佛已经听到,谷歌搜索引擎这位巨人轰然倒...【详细内容】
2024-04-02    新智元  Tags:ChatGPT   点击:(8)  评论:(0)  加入收藏
谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
IT之家 4 月 2 日消息,根据华尔街日报报道,谷歌为了结追溯到 2020 年的集体诉讼案,近日同意删除通过 Chrome 浏览器“无痕(Incognito)模式”下收集的用户数据。这起诉讼原告认为,...【详细内容】
2024-04-02    IT之家  Tags:Chrome   点击:(7)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · 国家数据局局长刘烈宏:充分发挥数据要素价值 培育新质生产力
  • · 谷歌Chrome巨变:第三方Cookie的终结将重塑互联网格局
  • · 百度+苹果,“AI手机元年”真的来了?
  • · 百度AI“咬”了一口苹果 大模型商用有戏了?
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条