您当前的位置:首页 > 财经百科 > 公司

颠覆GPU、打倒英伟达!深扒12家AI芯片独角兽

时间:2024-01-16 09:48:37  来源:华尔街见闻  作者:

谁将成为屠龙者?

2024开年,去年大涨的科技股一片惨跌,但引领AI浪潮的总龙头英伟达依然势头不减。

没有哪家芯片公司不眼红英伟达的地位,随着AI产业的蛋糕越做越大,硬件赛道也肉眼可见得拥挤起来。大量初创公司正试图流向英伟达GPU的预算里分一杯羹。

媒体汇总了目前处于竞争最前线的12家公司。这些初创企业平均历史只有五年,融资额度最高的已有7.2亿美元,它们都是英伟达的有力挑战者。

Cerebras

成立时间:2015

应用领域:训练

Cerebras以制造巨型芯片闻名。由Gary Lauterbach和Andrew Feldman联合创立。两人还曾经联合创办专注于超高密度计算机服务器业务的公司Seammicro,在2012年被AMD(146.56, -1.46, -0.99%)以高达3.57亿美元的价格收购。 

Cerebras的主要产品是可用于AI训练的超级计算机芯片和系统,专为超级计算任务而构建,此类芯片的大小约为普通GPU的56倍。

Cerebras的客户集中于国防、学术实验室等机构。旗舰产品CS-2超算系统已经部署在美国能源部阿贡国家实验室、匹兹堡超算中心、爱丁堡大学超算中心等地。

不过,虽然已经获得高达7亿美元的融资,但受制于英伟达GPU和CUDA生态的主导地位,Cerebras在争取商业客户方面面临着艰巨的挑战。

1月份,公司宣布将与美国顶尖医疗机构梅奥诊所合作,梅奥诊所将使用Cerebras的计算芯片和软件,以数十年的匿名医疗记录和数据为基础,开发专有AI模型。

据报道,一些模型将能够读写文本,比如为新病人总结病历中最重要的部分。其他模型可以分析复杂的医学图片或分析基因组数据。

Cerebras首席执行官Andrew Feldman称,这是一项为期数年、价值“数百万美元”的协议。

d-Matrix

成立时间: 2019

应用领域:推理

创办于2019年的d-Matrix正在开发一种专用芯片和软件,用于运行机器学习模型,公司的芯片可以处理和内存结合在一起,而处理和内存通常是芯片上独立和不同的组件。

d-Matrix的芯片产生的热量更少,因此需要的冷却也更少,因此比主流的GPU和CPU芯片更具成本效益。公司CEO表示,许多公司都希望利用大模型设计AI应用,成本非常重要。

d-Matrix选择专注于推理,即运行AI模型,而非训练。公司认为,随着时间的推移,模型会越来越大,运行成本也会越来越高。公司已有客户在测试其芯片和软件,并计划在24年上半年将投入商用。

Etched

成立时间:2023

应用领域:推理

Etched由两位哈佛辍学生Gavin Uberti和Chris Zhu于去年6月创立,公司计划生产一款名为Sohu的AI推理加速芯片,推理性能为H100的10倍。公司成立不久后估值即达到3400万美元。

据报道,在制作工艺上,Sohu采用将变压器架构直接刻芯片核心的革命性方法。因此性能可以达到前所未有的高度,与传统GPU相比,Sohu在模拟中运行大模型的速度要快140倍。Sohu还支持通过树搜索更好地编码,能够并行比较数百个响应,同时还能进行多重推测解码(Multicast speculative decoding),可以实时生成新的内容。

Etched的博客称,这种架构将允许以无与伦比的效率运行万亿参数模型。该系统只有一个内核,可容纳完全开源的软件堆栈,可扩展至100T参数模型。

Extropic

成立时间:2022

应用领域:推理&训练

Extropic是这几家初创公司里最神秘的那个。公司创始人出身谷歌(144.24, 0.57, 0.40%)专注前沿技术探索的“登月工厂”部门“X”。据介绍,Extropic专注于量子计算,同时计划开发一款专门用于运行大模型的芯片,但目前仍未有任何关于具体产品的细节曝出。

去年年底,公司刚刚完成1410万美元的种子轮融资。

根据公司的新闻稿,随着生成式人工智能的兴起,世界对可扩展、高成本效益和高效计算的需求急剧增加,Extropic希望在未来,让计算机把熵作为一种资产加以利用,通过编程自我学习,并以前所未有的效率运行:

Extropic的计算范式建立在热力学原理之上,旨在将生成式人工智能与世界的基本物理学无缝融合。我们的目标是将生成式人工智能最终嵌入物理过程,突破物理定律在空间、时间和能量方面规定的效率极限。

Groq

成立时间:2016

应用领域:推理

Graphcore成立于2016年,总部位于英国布里斯托尔。公司主要产品的智能处理单元(LPU),且聚焦于大模型推理。

公司产品最大的特点就是极快的生成速度,可以确保流畅的终端体验。在消费类AIGC应用中,用户对速度要求很高,而Groq LPU搭配开源模型Meta Llama 2 70B可以实现每秒生成300个单词,在7分钟内就能生成与莎士比亚的《哈姆雷特》相同数量的单词,这比普通人的打字速度快75倍。

Groq联合创始人兼首席执行官Jonathan Ross认为,对于在产品中使用人工智能的公司来说,推理成本正在成为一个问题,因为随着使用这些产品的客户数量增加,运行模型的成本也在迅速增加。与英伟达GPU相比,Groq LPU集群将为大模型推理提供更高的吞吐量、更低的延迟和更低的成本。

此外,受制于HBM3和CoWoS封装的产能,英伟达GPU目前的产能无法完全满足客户需求,而Groq LPU的独特之处在于,它不依赖于三星或海力士的HBM,也不依赖于台积电(101.24, 0.02, 0.02%)的CoWoS封装技术,因此不会面临类似英伟达那样的产能瓶颈。

Lightmatter

成立时间:2017

应用领域:训练&推理

Lightmatter利用激光器发出的光在芯片和服务器群之间传输数据,公司由麻省理工学院的学生利用该校的专利技术创立。

据公司联合创始人兼首席执行官Nicholas Harris介绍,与英伟达、AMD和英特尔(47.12, -0.52, -1.09%)等通过线缆传输数据的芯片厂商相比,Lightmatter的产品可以让数据中心的能耗成本降低约80%。

MatX

成立时间:2022

应用领域:未公布

MatX由前谷歌员工创办,首席执行官Reiner Pope为谷歌Pathways大模型的开发者之一,首席技术官Mike Gunter则是谷歌TPU的研发人员之一。

MatX正在开发用于文本应用的LLM专用芯片。公司表示,与英伟达GPU硬件相比,其自研芯片的运行速度更快,成本更低,可支持包括图像生成在内的多种人工智能应用。

MatX称,公司已经得到几家风险投资公司的支持,但未披露具体的资金,还称已得到“著名大模型开发商的大力支持”,但也未披露具体公司。

Modular

成立时间:2022

应用领域::推理;今年开始涉足训练

Modular专注于打造用于训练和运行大模型的开发平台和编码语言,用户可在该平台上使用各类AI工具,包括谷歌开源软件TensorFlow和Meta的开源软件PyTorch。

公司认为,AI开发如今面临受到过于复杂和分散的技术基础设施的阻碍,Modulal的使命是消除大规模构建和维护AI系统的复杂性。

构建和运行人工智能应用程序需要大量的计算能力,为控制成本,一家公司可能会使用不同类型的AI芯片,但这些芯片的软件往往互不兼容。尤其是,英伟达用于编写机器学习应用程序的Cuda软件只能在自家芯片上运行,这基本上将开发者锁定在其GPU上。Cuda的用户粘性极强,有报道称,一家计算机视觉初创公司花了两年时间才得以改用非英伟达芯片。

Modular希望通过开发一种Cuda替代方案来改变这种状况,解决不同芯片的软件兼容性问题,让使用非英伟达芯片变得更容易。

Rain AI

成立时间:2017

应用领域:推理&微调

传统GPU的训练和推理过程需要消耗产生高昂成本,这部分成本部分源于这些芯片在从内存和处理部件传输数据时产生的热量,因此,GPU需要持续冷却,从而增加了数据中心的电力成本。

而Rain AI的NPU芯片可以模拟人类的生物大脑,将内存和处理功能结合在一起,不仅在计算速度和能效方面表现出色,还可以根据周围环境实时定制或微调人工智能模型。不过公司目前还没有生产出成品。

据媒体报道,一份2019年签订的意向书显示,OpenAI计划斥资5100万美元购买Rain AI NPU芯片,这些芯片将被用于GPT模型的训练和部署。

Sima.ai

成立时间:2018

应用领域:推理

Sima.ai专注于为边缘计算设备开发硬件和软件,应用于飞机、无人机、汽车和医疗设备等场景,而非数据中心。

公司创始人Krishna Rangasayee曾在芯片制造商赛灵思(Xilinx)工作近二十年。此前,在接受媒体采访时,他表示,许多行业由于种种原因无法使用基于云的AI服务,Sima.ai将专注于服务那些去中心化的边缘计算设备。

例如,自动驾驶汽车需要即时做出决策,只有内置的AI才能满足其对延迟的苛刻要求。而在医疗保健等行业,公司可能不希望将敏感数据发送到云端,而希望将其保存在设备中。

2023年6月,Sima.ai表示已开始量产其第一代边缘人工智能芯片。公司表示,正在与制造业、汽车和航空等领域的50多家客户合作。

Tenstorrent

成立时间:2016

应用领域:训练&推理

Tenstorrent由三位前AMD员工创办,总部位于加拿大多伦多。

Tenstorrent以异构和Chiplet设计的形式来开发RISC-V和AI芯片。目前已经开发出基于12nm工艺的Grayskull和Wormhole两款芯片,FP8算力高达328TFlops。公司的目标是把价格压到类似性能GPU的1/5到1/10。

2021年,Tenstorrent还推出了DevCloud,可以让AI开发人员无需购买硬件即可运行大模型。

不过,最近几年,也许是感受到了英伟达等硬件厂商的压力,Tenstorrent将重心转移到了技术许可和服务领域。

Tiny Corp

成立时间:2022

应用领域:训练&推理

Tiny Corp由自动驾驶初创公司Comma AI的创始人和前首席执行官George Hotz创办,其产品将以名为tinygrad的开源深度学习工具打造,据悉可帮助开发人员加快训练和运行大语言模型。

Hotz认为,tinygrad可以成为Pytorch(源自Meta的深度学习产品)的“有力竞争者”。但目前他还没有透露关于产品的具体细节。

风险提示及免责条款

市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。



Tags:独角兽   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除。
▌相关推荐
颠覆GPU、打倒英伟达!深扒12家AI芯片独角兽
谁将成为屠龙者?2024开年,去年大涨的科技股一片惨跌,但引领AI浪潮的总龙头英伟达依然势头不减。没有哪家芯片公司不眼红英伟达的地位,随着AI产业的蛋糕越做越大,硬件赛道也肉眼可...【详细内容】
2024-01-16  Tags: 独角兽  点击:(0)  评论:(0)  加入收藏
复盘2023,北美独角兽群体之死
那些跌落神坛的独角兽。作者 |Amelie 来源|硅兔赛跑本文作者观点,不构成投资建议不管你舍不舍得,2023已走到了尾声。在这一年,很多事情看似不可思议,但就如宿命般迎来了它的结...【详细内容】
2023-12-26  Tags: 独角兽  点击:(12)  评论:(0)  加入收藏
2023年,AI行业新晋10家独角兽
“首席投资官”旗下新媒体平台,原“中国私募股权投资”每日分享PE/VC行业最权威新闻资讯来源:IT桔子(ID:itjuzi521)作者:吴梅梅摄影:Bob君这10家独角兽中,AIGC占了近一半。今年的 AI...【详细内容】
2023-12-14  Tags: 独角兽  点击:(21)  评论:(0)  加入收藏
Google洽谈投资独角兽Character.AI
通过对Character.AI的投资,谷歌将加深与该公司的合作关系,进一步扩展了在人工智能领域的投资布局。为了对抗Open AI和微软在AI领域的挑战,谷歌正不断的将明星AI初创公司收入自...【详细内容】
2023-11-11  Tags: 独角兽  点击:(85)  评论:(0)  加入收藏
北京重磅发布,“独角兽10条”是什么?
2023-09-14  Tags: 独角兽  点击:(46)  评论:(0)  加入收藏
330亿!超级独角兽诞生:用户破2.5亿
铅笔道作者丨惜文8月13日,钉钉总裁叶军宣布:钉钉从阿里云脱胎,成为一个独立公司。由此,钉钉在阿里的位置被改写。今年3月,阿里组织变革,架构调整为“1+6+N”。此次调整后,钉钉的位...【详细内容】
2023-08-17  Tags: 独角兽  点击:(61)  评论:(0)  加入收藏
第一批AIGC独角兽开始裁员了
白交 西风 发自 凹非寺  量子位 | 公众号 QbitAI  AIGC创业投融资火爆推进,一则裁员公告却从天而降引爆关注:  公告来自首批AIGC明星独角兽Jasper。  早在ChatGPT爆火...【详细内容】
2023-07-23  Tags: 独角兽  点击:(59)  评论:(0)  加入收藏
英伟达黄仁勋狂投AI,个个都是独角兽
就在刚刚过去的6月,Inflection AI、Cohere、Runway等多家AI独角兽企业官宣了新一轮募资的成果,英伟达的身影均在其中。去年年底至今,全世界掀起了AI投资的狂潮,作为AI芯片市场的...【详细内容】
2023-07-04  Tags: 独角兽  点击:(99)  评论:(0)  加入收藏
总估值超10000亿,上海最强独角兽榜单
具体企业名单(数据来自胡润研究院2023独角兽榜单):从企业估值来看,在上海66家独角兽中,63.6%的企业估值达百亿。其中最高的是小红书,估值高达1000亿,位居上海第一;估值达690亿的得物...【详细内容】
2023-07-01  Tags: 独角兽  点击:(69)  评论:(0)  加入收藏
除了OpenAI,全球还有这12家生成式AI独角兽值得关注
13家生成式AI公司成为独角兽的平均时间仅为3.6年  作者丨巴里  来源丨创业邦  2023年第一季度,全球科技行业不少公司因资金短缺陷入困境,出现了一波大规模的裁员潮。据...【详细内容】
2023-05-25  Tags: 独角兽  点击:(260)  评论:(0)  加入收藏
▌简易百科推荐
颠覆GPU、打倒英伟达!深扒12家AI芯片独角兽
谁将成为屠龙者?2024开年,去年大涨的科技股一片惨跌,但引领AI浪潮的总龙头英伟达依然势头不减。没有哪家芯片公司不眼红英伟达的地位,随着AI产业的蛋糕越做越大,硬件赛道也肉眼可...【详细内容】
2024-01-16    华尔街见闻  Tags:独角兽   点击:(0)  评论:(0)  加入收藏
HMD与诺基亚难逃“七年之痒”,手机圈再无诺基亚
诺基亚要从手机圈消失了?日前有消息显示,过去数年间一直持有诺基亚手机品牌的HMD Global,正在为此前宣布的“自有品牌转型计划”做准备,该公司正在逐步推进“去诺基亚化”,预计今...【详细内容】
2024-01-11    三易生活  Tags:诺基亚   点击:(10)  评论:(0)  加入收藏
微软究竟是干什么的?你真的了解吗?看完涨知识了!
微软是一家全球领先的科技巨头,成立于1975年,总部位于美国华盛顿州的雷德蒙德。微软的发展历程充满了创新和变革,从最初的个人电脑操作系统到如今的云计算、人工智能和其他多元...【详细内容】
2024-01-09  千秋文化    Tags:微软   点击:(3)  评论:(0)  加入收藏
曾经辉煌的安利为何突然消失?背后的真相令人震惊!
曾经的行业龙头,首批进入中国市场的外国保健品制造商——安利却在互联网经济的大潮下逐渐消沉,乃至被人彻底遗忘。安利自从1959年在美国密歇根州亚达城创建以来,一直...【详细内容】
2024-01-06  芦雨历史故事    Tags:安利   点击:(2)  评论:(0)  加入收藏
当蚂蚁不再姓“马”
暂缓的上市进程或有望重新走上轨道。文|《中国企业家》记者 邓双琳蚂蚁集团也许好事将近。近日,中国人民银行官网公布的《非银行支付机构重大事项变更许可信息公示(截至2023年1...【详细内容】
2024-01-02    中国企业家  Tags:蚂蚁   点击:(11)  评论:(0)  加入收藏
一图看懂支付宝“无实际控制人”背后的股权变更
2024-01-01    界面新闻  Tags:支付宝   点击:(12)  评论:(0)  加入收藏
收购动视暴雪 微软为何如此执着游戏
微软收购动视暴雪案有了新进展。根据此前微软的公告,动视暴雪首席执行官鲍比·考迪克(Bobby Kotick)于当地时间2023年12月29日正式离职。今后动视暴雪的管理层将改由微软...【详细内容】
2024-01-01    经济观察报  Tags:微软   点击:(19)  评论:(0)  加入收藏
央行同意支付宝 (中国) 变更为无实际控制人
据央行官网消息,近日,央行发布银许准予决字[2023]第189号文,同意支付宝 (中国) 网络技术有限公司变更为无实际控制人。天眼查显示,支付宝(中国)网络技术有限公司(曾用名:浙江支付宝...【详细内容】
2023-12-30    每日经济新闻  Tags:支付宝   点击:(10)  评论:(0)  加入收藏
一众周姓黄金,凭什么周大福遥遥领先?
在全球奢侈品排行榜上,一个熟悉的中国名字闪耀着独特的光芒——周大福。这个品牌不仅仅是珠宝的代名词,更是中国珠宝行业走向世界的先锋。周大福的故事,就像它所销售...【详细内容】
2023-12-27  财经社交    Tags:周大福   点击:(31)  评论:(0)  加入收藏
“双减”落地两年半,这十家教育公司走出低谷
“双减”落地两年有余,“转型”依旧是教育公司的年度关键词。经历了行业风暴后的教育市场,经营模式、发展逻辑、乃至研发、运营、销售等各个生产环节均发生结构性改变。行业加...【详细内容】
2023-12-27    界面新闻  Tags:教育公司   点击:(22)  评论:(0)  加入收藏
站内最新
站内热门
站内头条