您当前的位置:首页 > 资讯 > 科技

最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付

时间:2023-11-14 10:42:27  来源:澎湃新闻  作者:
最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付

  AI芯片H100的热度还没过,芯片巨头英伟达(Nasdaq:NVDA)又打出一张新王牌——H100的升级版。

  当地时间11月13日,英伟达正式宣布,在目前最强AI(人工智能)芯片H100的基础上进行一次大升级,发布新一代H200芯片。H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互兼容,在推理速度上几乎达到了H100的两倍。H200预计将于明年二季度开始交付,英伟达尚未公布其价格。

  英伟达还透露,下一代Blackwell B100 GPU也将在2024年推出,性能已经“望不到头”。

最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付英伟达预计在2024年推出H200和B100两款芯片。来源:英伟达官网

  与作为前辈的A100和H100相比,H200最大的变化就是内存。搭载“世界上最快的内存”HBM3e技术的H200在性能上得到了直接提升,141GB的内存几乎是A100和H100最高80GB内存的2倍,4.8TB每秒的带宽则达到了A100的2.4倍,也显著高于H100 3.35TB每秒的带宽。

  英伟达表示,根据使用Meta的70B大模型Llama 2进行的测试,H200的输出速度几乎是H100的两倍。基于与H100相同的Hopper架构,H200将具有H100的一切功能,例如可以用来加速基于Transformer架构搭建的深度学习模型的Transformer Engine功能。

  根据官方发布的图片,H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍,在高性能计算HPC方面的速度更是达到了双核x86 CPU的110倍。

最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付来源:英伟达官网

  英伟达加速计算总经理兼副总裁伊恩·巴克 (Ian Buck)表示:“要利用生成式AI和高性能计算HPC来构建智能,需要利用大容量、超高速的GPU内存来高速快速地处理大量数据。英伟达H200将为业界领先的端到端AI超级计算平台进一步加速,以解决一些世界上最重要的挑战。”

  从今年年初起,英伟达股价已经上涨了超230%,截至11月14日,公司总市值达到1.2万亿美元。当天,英伟达股价在H200发布后一度涨超490美元,全日收于486.2美元,涨0.59%,盘后涨0.3%,股价实现九连涨。

  美国知名经济评论员吉姆·克雷默(Jim Cramer)表示,英伟达最新的高端芯片可能会为其股价提供推动力,帮助其在生成式AI热潮中进一步上涨。

  此前,根据瑞杰金融(Raymond James)统计的数据,H100芯片的价格已经到达了25000美元到40000美元之间,而一个AI训练过程需要数千个这样的芯片协同工作。在当下的AI热潮中,这也使得H100成为了硅谷最抢手的“硬通货”。

  科技网站The Verge表示,最关键的问题在于英伟达能否为市场提供足够的H200,或者它们是否会像H100一样在供应量上受到限制。而对于这点,英伟达并没有给出明确的答案,只表示公司正在与“全球系统制造商和云服务提供商”合作来供应这些芯片,亚马逊、谷歌、微软和甲骨文等云服务商将是明年二季度首批使用H200的公司之一。

  另外,英伟达竞争对手AMD已经在英伟达之前抢先推出了最新AI芯片MI300X,高达192GB的HBM3内存,5.2TB/秒带宽。此前,AMD表示,公司正在今年第三季度向客户提供样品,产量将在第四季增加。预计AMD将在北京时间12月7日凌晨举办的“Advancing AI”特别活动上正式发布MI300X GPU。

  值得一提的是,此前有消息称,英伟达已开发出针对中国市场的最新改良版系列芯片——HGX H20、L20 PCle和L2 PCle。知情人士称这三款芯片由H100改良而来,英伟达最快或将于本月16号之后公布。澎湃新闻记者采访了多位产业链人士,均证实英伟达改良版芯片属实。英伟达官方尚未对此作出评论。

  今年10月17日, 美国商务部工业和安全局(BIS)发布了针对芯片的出口管制新规,尤其是对高算力的AI芯片进行了更严格的管控。其中一个很重要的新规定就是调整了先进计算芯片受限的标准,设置了新的“性能密度阈值”来作为参数。

  10月31日,中国贸促会新闻发言人张鑫表示,美方新发布的对华半导体出口管制规则,进一步加严了人工智能相关芯片、半导体制造设备对华出口的限制,并将多家中国实体列入出口管制“实体清单”。美国这些措施严重违反了市场经济原则和国际经贸规则,加剧了全球半导体供应链撕裂与碎片化风险。美国自2022年下半年开始实施的对华芯片出口禁令正在深刻改变全球供需,造成2023年芯片供应失衡,影响了世界芯片产业格局,损害了包括中国企业在内的各国企业的利益。

  英伟达将于美国时间11月21日盘后发布2023财年第三财季财报。根据美国投资研究公司Zacks Investment Research的数据,预计调整后的每股收益(EPS)将达到3.01美元,去年同期为0.34美元。



Tags:英伟达   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除。
▌相关推荐
最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付
  AI芯片H100的热度还没过,芯片巨头英伟达(Nasdaq:NVDA)又打出一张新王牌——H100的升级版。  当地时间11月13日,英伟达正式宣布,在目前最强AI(人工智能)芯片H100的基...【详细内容】
2023-11-14  Tags: 英伟达  点击:(0)  评论:(0)  加入收藏
英伟达禁令之后,中国AI计算何去何从?
10月17日,美国加强了面向中国市场的AI芯片禁令。其中明确将性能、密度作为出口管制标准,将单芯片超过300teraflops算力,以及性能密度超过每平方毫米370 gigaflops的芯片都纳入...【详细内容】
2023-11-03  Tags: 英伟达  点击:(17)  评论:(0)  加入收藏
英伟达据称正设计基于Arm架构的PC芯片 最早或在2025年开始销售
据媒体援引消息人士报道,英伟达已开始设计基于Arm架构的中央处理器(CPU),这将对英特尔构成重大挑战。受此影响影响,周一美股收盘,英伟达涨近4%,英特尔跌3%。知情人士称,英伟达已悄悄...【详细内容】
2023-10-24  Tags: 英伟达  点击:(35)  评论:(0)  加入收藏
用GPT-4训练机器人,英伟达最新Agent开源:任务越复杂越拿手
英伟达Eureka在超过80%的任务中都超越人类专家,让机器人平均性能提升到50%以上。训练机器人,AI比人类更拿手!英伟达最新AI AgentEureka ,用GPT-4生成奖励函数,结果教会机器人完成...【详细内容】
2023-10-23  Tags: 英伟达  点击:(30)  评论:(0)  加入收藏
全美国的“骗子”,都在哄抢英伟达
原文来源:硬AI作者:赵颖图片来源:由无界 AI‌ 生成2022年4月,一家名为Applied Sciences的仙股公司在纳斯达克上市,它将自己包装成一家给比特币矿工们提供云托管服务的公司,并...【详细内容】
2023-09-06  Tags: 英伟达  点击:(35)  评论:(0)  加入收藏
AI缺芯,英伟达卖断货
文/孙鹏越编辑/大风8月8日,全球计算机业内最重要的圆桌会议,世界计算机图形学会议SIGGRAPH正式召开。NVIDIA创始人兼CEO黄仁勋出席,并带来了新一代英伟达超级AI芯片GH200。黄仁...【详细内容】
2023-08-11  Tags: 英伟达  点击:(53)  评论:(0)  加入收藏
英伟达又放大招!黄仁勋称AI的iPhone时刻已经到来
8月8日晚,英伟达创始人兼CEO黄仁勋在计算机图形界顶级会议SIGGRAPH上发表主题演讲,并且宣布推出新一代GH200 Grace Hopper超级芯片及相应平台。黄仁勋在演讲中甚至说到,“生成...【详细内容】
2023-08-09  Tags: 英伟达  点击:(26)  评论:(0)  加入收藏
黄仁勋的野心:英伟达纵横AI软硬件全栈式布局
南方财经全媒体记者江月 上海报道 北京时间8月8日晚间,英伟达创始人兼首席执行官黄仁勋在SIGGRAPH年会上发表了主题演讲。SIGGRAPH 由 ACM SIGGRAPH(计算机协会计算机图形图像...【详细内容】
2023-08-09  Tags: 英伟达  点击:(20)  评论:(0)  加入收藏
英伟达最强AI超算再升级,CEO黄仁勋:大模型运行成本将大幅降低
腾讯科技讯 8月9日消息,美国当地时间周二晚间,英伟达创始人兼首席执行官黄仁勋在2023年度计算机图形学大会(SIGGRAPH)上发表演讲,讨论该公司最新的人工智能和3D图形领域的创新。...【详细内容】
2023-08-09  Tags: 英伟达  点击:(65)  评论:(0)  加入收藏
生成式AI添利器!英伟达推出超级芯片GH200 Grace,内存增3.5倍、带宽增三倍
GH200 Grace芯片搭载全球首款HBM3e处理器,可通过英伟达的NVLink技术连接其他GH200芯片,计划明年二季度投产。依托该芯片的GH200 Grace Hopper平台通过双芯片配置将内存容量提...【详细内容】
2023-08-09  Tags: 英伟达  点击:(43)  评论:(0)  加入收藏
▌简易百科推荐
最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付
  AI芯片H100的热度还没过,芯片巨头英伟达(Nasdaq:NVDA)又打出一张新王牌——H100的升级版。  当地时间11月13日,英伟达正式宣布,在目前最强AI(人工智能)芯片H100的基...【详细内容】
2023-11-14    澎湃新闻  Tags:英伟达   点击:(0)  评论:(0)  加入收藏
AI向端侧靠近!AI手机正处爆发前夜
浙商证券指出,多家科技巨头“盯上”各类端侧AI应用,已竞相布局,AI PC已接近产业落地的转折点,到2027年60%的PC将具备人工智能功能。AI手机有望成为个人智能助理,为手机行业带来创...【详细内容】
2023-11-13    华尔街见闻  Tags:AI   点击:(9)  评论:(0)  加入收藏
谷歌提出6条通用人工智能分级,ChatGPT只在初级
【导读】谷歌DeepMind创始人Shane Legg带领的研究团队发表了一篇关于AGI时间表的论文。他指出,LLM已经是AGI雏形,提出了6条定义AGI的标准。而且根据AI能力,他们提出了5个AGI的...【详细内容】
2023-11-13    新智元  Tags:人工智能   点击:(3)  评论:(0)  加入收藏
人工智能带动工作方式全新变革 办公场景进入“极富想象力”时代
清晨8点,在你开着自动驾驶汽车前去上班的路上,智慧办公系统根据你的日程使用习惯,提前预约了最喜欢的无人打扰办公工位,并在手机端口提出了位置指引。9点,你通过人脸识别无障碍...【详细内容】
2023-11-13    北京青年报  Tags:人工智能   点击:(5)  评论:(0)  加入收藏
OpenAI这波更新会让更多创企走投无路吗?我们汇总了全球从业者的看法
OpenAI的首届全球开发者大会“OpenAI DevDay”发布了新产品GPT-4 Turbo、个人定制版ChatGPT、助手API以及应用商店GPT Store等,引起了业界广泛关注。业内人士认为,这些产品可...【详细内容】
2023-11-13  华尔街见闻    Tags:OpenAI   点击:(6)  评论:(0)  加入收藏
如何拥抱崭新的“AI+”时代
近日,ChatGPT的缔造者、美国人工智能公司OpenAI召开首届开发者大会,发布了重磅更新。升级后的GPT效率更高、功能更强大,每个用户都可自定义专属GPT助手,同时还大幅度降价。新模...【详细内容】
2023-11-13    经济日报  Tags:AI+   点击:(6)  评论:(0)  加入收藏
AI视觉进入“大模型时代”不仅“看得见”还“看得懂”
AI视觉进入“大模型时代”不仅“看得见”还“看得懂”智慧安防领域需求旺盛 更强调个人隐私权保护第十九届中国国际社会公共安全博览会现场。智慧安防更注重隐私保护。近日,...【详细内容】
2023-11-13    广州日报  Tags:AI视觉   点击:(8)  评论:(0)  加入收藏
Google洽谈投资独角兽Character.AI
通过对Character.AI的投资,谷歌将加深与该公司的合作关系,进一步扩展了在人工智能领域的投资布局。为了对抗Open AI和微软在AI领域的挑战,谷歌正不断的将明星AI初创公司收入自...【详细内容】
2023-11-11    华尔街见闻  Tags:Google   点击:(3)  评论:(0)  加入收藏
消息称Meta与腾讯达成初步协议,将在中国销售VR头显
2023年11月10日消息,近日,据外媒报道,Meta 已与腾讯达成初步协议,将在中国大陆销售其新的低价版 VR 头显。知情人士表示,新协议将使腾讯成为 Meta 头显在中国大陆的独家销售商,为...【详细内容】
2023-11-10    驱动中国  Tags:Meta   点击:(4)  评论:(0)  加入收藏
AI大模型被算力需求包围啦
前言:AIGC大模型时代算力供需失衡导致光通信、算力租赁等概念走红,光通信产业链核心零部件光芯片市场国产替代空间广阔,国内科研团队近期实现重大突破,虽未实现商业化落地,但体现...【详细内容】
2023-11-10    金融界  Tags:AI大模型   点击:(4)  评论:(0)  加入收藏
站内最新
站内热门
相关头条
  • · 最强AI芯片升级!英伟达H200登场:推理速度翻倍,明年二季度交付
  • · 亚马逊与Meta罕见“结盟”:Instagram和Facebook可一键直达亚马逊购物网
  • · 科幻作家江波对谈脑机接口专家李远宁:从科幻到现实,脑机接口如何连接AI与人类智慧?
  • · AI应用“龙头”浮现:Adobe!
  • · OpenAI被曝“在憋大招”:构建ChatGPT应用成本暴降95%
  • · 星链会“砸死人”?SpaceX驳斥美政府:荒谬、不合理......
  • · 7.7亿参数,超越5400亿PaLM!UW谷歌提出「分步蒸馏」,只需80%训练数据
  • · 狂飙300天,6500亿的 OpenAI 渴望独步全球
  • · Meta正式推出聊天机器人
  • · ChatGPT再迎重磅升级:终于能“联网”了 不再局限于旧数据
  • · 机器人同传来了!Spotify推AI语音翻译功能,马斯克惊叹
  • · OpenAI年入10亿美元,大模型商业化走到哪一步了?
  • · 微软秋季发布会:Windows的AI时代从下周开始 Office也将在11月跟进
  • · 断网也能用AI的电脑来了!英特热新一代架构首款AI芯片年底问世
  • · GPT-5来了?OpenAI被曝加急训练多模态大模型Gobi,一举狙杀谷歌Gimini!
  • · 寻找外星人重大突破:NASA发现“超级地球”,或有人居住
  • · AI监管立法在望?美参院峰会召集大佬热议,马斯克、盖茨、扎克伯格、黄仁勋齐聚
  • · 阿里云通义千问宣布向全社会开放,近期将开源更大参数规模大模型
  • · 蚂蚁发布金融大模型:两大应用产品支小宝2.0、支小助将在完成备案后上线
  • · 腾讯正式发布混元大语言模型 参数规模超千亿
  • 站内头条