当前位置:主页 > 科技 > 自媒体 > “反英伟达联盟”背后,是AI的第三场战争(2)

“反英伟达联盟”背后,是AI的第三场战争(2)

2024-04-16 21:57:29来源:互联网

文章导读
人类社会正在悄然从互联网时代切换到算力网时代。 鲜有人感知到的是,时代转折序曲中,遇到的第一批实体障碍,除了GPU、HBM,还有交换机——此前市场鲜有关注的交换机,正在扼住AI算力...

算力网该如何理解?首先说以前互联网中网络设备的核心任务,是完成即时通信,所以交换机本质上是一个通信设备;而现在AI算力中心中网络设备的构建逻辑,在于集中力量办大事,即集合越来越强大的算力,交换机不再仅仅是通信设备,而变成了算力设备本身。

想必有很多人在这儿会持反对态度。不用着急,请继续看后面的解释。

众所周知,这一轮AI能够成功是大力出奇迹的工程学突破,背后的指导法则是“scaling law”,scaling law描述的模型性能与模型规模之间的幂律关系,这一法则表明,当模型的规模(例如参数数量、数据集大小和计算资源)增加时,模型的性能将得到提高。

换句话说,为了得到AI大模型智能的涌现,scaling law告诉你要不停的堆算力和数据。这也是为什么,在2024年3月初,黄仁勋斯坦福大学演讲时提到,在未来的10年里,英伟达会把深度学习的计算能力再提高100万倍。这并不是泡沫时期的大放卫星,而是AI智能涌现的必要条件。

算力要实现如此恐怖的提升幅度来满足scaling law,从硬件的角度来分析,路上有三堵墙:

1)算力墙:核心围绕GPU,也是大家在AI算力硬件中关注度最高的产品。破除算力墙最关键的技术手段是制程和芯片架构的升级。但制程带来的单芯片算力提升面对着黑洞般的AI需求,已显得苍白无力。毕竟现在的苹果最新的3nm的A17芯片,升级的效果已经微乎其微。实际上,英伟达的GPU,采用的只是4nm制程,甚至下一代产品B100,也不会升级到3nm。每一代际算力倍增可能已经是单芯片算力提升的极限了。

2)存储墙:核心围绕HBM。单芯片算力跟不上,可以靠HBM来大大缓解,在《AI国力战争:GPU是明线,HBM是暗线》一文中有详细讨论,可以移步于此。HBM反倒成为一个飞速进步的环节,海力士和美光最近股价飙升便是市场开始认知到这一方向的重要性。

3)通信墙:算力和HBM结合在一起解决单卡的问题,但单卡再强也远远跟不上下游的算力需求。进一步的解决方法是堆料,抛开复杂的技术名词,其实原理就是简单粗暴的大力出奇迹,把尽量多的优质的算力卡连起来组成算力集群,这与猎鹰火箭装27台发动机本质上是一个道理,其中的关键技术就在于数据中心的组网技术,因此,交换机的地位今时不同往日。

从最新的英伟达GB200计算集群网络架构中,我们能够非常清晰的看到多处堆料组网的技术:1)GPU卡与GPU卡之间,基于NVLink协议的卡间互联,这部分配套的switch芯片,由于遭英伟达垄断,没有太多产业链探讨的意义,因此不再展开。2)再往上一层,就是IB交换机,它连接起多个GPU卡群,构成一个全面的机柜Rack。3)多个机柜再通过交换机互联,形成强力的AI算力中心。后面两个环节,都离不开AI交换机的支持。

这种架构就能非常清晰的看到,为了突破通信墙打造强大的算力基座,交换机不仅仅是充当算力网络中的通信设备,而自身也变成算力设备的本身。正是这一产业链环节定义的变化,给了整个交换机产业链拔估值的基础。

在这一轮算力网革命中,交换机正式与GPU、HBM、先进封装、光模块一道,站到了产业链的C位。

“反英伟达联盟”背后,是AI的第三场战争

图:GB200计算集群网络架构,来源:英伟达官网,中金公司

2、初听不识曲中意,再听已是曲中人

其实,产业链的这一变化不是2024年英伟达通过GB200才向全世界摊牌的,最早的信号发端于5年前。

2019年,英伟达豪掷69亿美元,击败英特尔和微软收购了彼时绝大部分都还比较陌生的Mellanox。笔者当年也是不理解一个芯片厂玩什么交换机,只是觉得这对于财大气粗的英伟达来说,算一个不大不小的收购,自然也是没有仔细分析产业链上的协同效应。

但随着AI算力爆发,Mellanox的重要性飙升,成为英伟达IB交换机、Spectrum-X以太网交换的御用供应商,占据了AI网络设备中的最高份额。毫不夸张的说,现在Arista市值接近1000亿美元,Mellanox可以轻松给到3000亿美元,较当年看似极其溢价的69亿美元升值43倍,远超这5年英伟达的市值上涨幅度。

老黄当时就对这笔收购非常得意,曾说这是两家全球领先高性能计算公司的结合,早在5年前就已经把Mellanox放在与英伟达同等重要的位置上,回头来看不得不感叹老黄的眼光确实毒辣。

Mellanox,凭什么能跟英伟达平起平坐?Mellanox提供的主要产品是数据中心内的通信互联解决方案,而其中最为核心的又是基于IB协议开发的一些列网络设备产品,这儿有必要展开说一下IB协议。


免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 中国堡“变身”小锅牛肉,贾国龙难赚小钱

文|雪豹财经社 刘纾含 一心想做“中国麦当劳”的贾国龙开启了他的第九次创业实验,在北京...

2 “反英伟达联盟”背后,是AI的第三场战争

人类社会正在悄然从互联网时代切换到算力网时代。 鲜有人感知到的是,时代转折序曲中,遇...

3 保时捷真的遭小米汽车平替了?

文|BT财经T800 谁也没想到,遭网友戏称为“平民版保时捷”的小米SU7,上市即大卖。这款拥有...

4 段永平难隐于市

段永平 2001 年赴美,定居在加州附近。他自那时起远离业务一线,甚少回国,但中文互联网上...

5 自立门户的苹果员工惨被翻车,小型化AI设备危机四伏?

文| Metaverse元宇宙 孙浩南 大家还记得去年爆火的AI智能设备AI Pin吗?就是那个曾遭《时代》杂...

6 95后爸妈,流行“反向养娃”

想不到2024年,跟消费分级并行的,是宝爹妈们的“鸡娃”变化之路。 在小红书,#做不遭定义...

7 ZARA贵替,在抖音疯狂掘金

2024年,一匹黑马还在占领着抖音女装的高位。 根据飞瓜数据·抖音版,2024年3月抖音女装的第...

8 佛慈制药“啃老本”?

文|鳌头财经 宁晓敏 卓西峰 佛慈制药(002644.SZ)“一口气”发布了多则重要公告,反映出该公...

9 出海人卷向沙特:最具吸引力的蓝海,最难突破的市场

相信每一位中国出海人,近两年来都感受到了持续升温、如火如荼的沙特热潮。 从资源禀赋与...

10 锂电决战全球化

文| 24潮 “再不全球化(发展),就来不及了。” 大约七八个月前,锂电细分领域龙头企业某...

1 中国堡“变身”小锅牛肉,贾国龙难赚小钱

文|雪豹财经社 刘纾含 一心想做“中国麦当劳”的贾国龙开启了他的第九次创业实验,在北京...

2 “反英伟达联盟”背后,是AI的第三场战争

人类社会正在悄然从互联网时代切换到算力网时代。 鲜有人感知到的是,时代转折序曲中,遇...

3 保时捷真的遭小米汽车平替了?

文|BT财经T800 谁也没想到,遭网友戏称为“平民版保时捷”的小米SU7,上市即大卖。这款拥有...

4 段永平难隐于市

段永平 2001 年赴美,定居在加州附近。他自那时起远离业务一线,甚少回国,但中文互联网上...

5 自立门户的苹果员工惨被翻车,小型化AI设备危机四伏?

文| Metaverse元宇宙 孙浩南 大家还记得去年爆火的AI智能设备AI Pin吗?就是那个曾遭《时代》杂...

6 95后爸妈,流行“反向养娃”

想不到2024年,跟消费分级并行的,是宝爹妈们的“鸡娃”变化之路。 在小红书,#做不遭定义...

7 ZARA贵替,在抖音疯狂掘金

2024年,一匹黑马还在占领着抖音女装的高位。 根据飞瓜数据·抖音版,2024年3月抖音女装的第...

8 佛慈制药“啃老本”?

文|鳌头财经 宁晓敏 卓西峰 佛慈制药(002644.SZ)“一口气”发布了多则重要公告,反映出该公...

9 出海人卷向沙特:最具吸引力的蓝海,最难突破的市场

相信每一位中国出海人,近两年来都感受到了持续升温、如火如荼的沙特热潮。 从资源禀赋与...

10 锂电决战全球化

文| 24潮 “再不全球化(发展),就来不及了。” 大约七八个月前,锂电细分领域龙头企业某...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 网站地图