抓住生成式AI机会的英伟达完整出击,为大小挑战者设下新标杆。
随着人工智能革命席卷而来,英伟达的旗舰技术会议GTC已遭外界视为“全球AI风向标”,美国时间3月18日,英伟达CEO黄仁勋的开幕演说更是备受外界关注,在此次黄仁勋的主讲环节在美国圣何塞SAP中心举行。
在开场,黄仁勋以“这不是一场音乐会”进行调侃,称在科技业外,仍有来自全球价值百万亿美元的行业从业者出席了会议,他对此感到非常自豪。黄仁勋称,随着ChatGPT的问世,激发了大众对于AI的想象,各种创新应用和创业公司陆续诞生,一个全新的时代已经来临了。
英伟达市值仅2024年就增加了1万亿美元,使其一举成为标准普尔500指数中表现最好的股票,因此市场高度关注GTC相关消息。美股3月18日,英伟达收报884.55美元/股,涨0.7%。
“Blackwell”成为平台:GPU、DPU、NVLink全线更新市场最为关注,英伟达时隔两年发布全新“Blackwell”架构GPU(图形处理器)如约亮相。
Blackwell用于数据中心,针对当前火爆的AI大模型优化,训练、推理性能和能效均大幅提升,与英伟达Grace CPU、新一代网络芯片等产品一起,面向生成式AI共同组成全面解决方案。黄仁勋还特意称,Blackwell不只是芯片,而是一个全新的平台。至此英伟达从芯片走向了类似苹果的平台之路。
新GPU架构“Blackwell”得名于美国数学家David Harold Blackwell,基于该架构的GPU芯片B200采用台积电4NP制造工艺,英伟达称其可实现在十万亿级参数模型上的AI训练和实时LLM(大语言模型)推理。
B200由两个超大型Die(裸片)封装组合而成,内含超过2080亿个晶体管,是前一代800亿个晶体管的两倍以上,整块芯片还封装有192GB高速HBM3e显存。
在演讲中,英伟达CEO黄仁勋将Blackwell称为“推动新一轮工业革命的引擎”,并定义其为一个平台,基于Blackwell,衍生出GPU、AI超级芯片、服务器、大型计算集群、云服务等多套解决方案。
此前,英伟达发布了“Grace Hopper”超级芯片,随着Blackwell架构GPU发布,英伟达顺势推出“Grace Blackwell”GB200超级芯片,GB200由两个B200 GPU和Grace GPU相连。
英伟达表示,基于Blackwell的处理器,B200为人工智能公司提供了巨大的性能升级,其AI性能为每秒20千万亿次浮点运算,而此前最强的H100为每秒4千万亿次浮点运算,约是其5倍。该系统可以部署一个27万亿参数的模型。而目前据称OpenAI的GPT-4使用了约1.76万亿个参数来训练系统。
一般而言,在数据中心架构中,通用性更高的CPU负责数据的查询、存储;而GPU则更擅长并行计算,因此承担推理的任务。除了CPU、GPU本身带宽大小决定了传输速度,CPU与GPU间的数据传输还存在“带宽瓶颈”,这一瓶颈同样由NVLink连接协议方案所解决。
Blackwell GPU计算性能强劲,但面对大模型时代的GPU集群计算,如何解决芯片之间的数据传输问题已成为瓶颈。对此,英伟达同步推出新一代NVLink连接协议方案和NVSwitch芯片,组成X800系列交换机,大幅提高数据吞吐量至800Gb/s,用来处理GPU之间的数据传输,进一步增强GPU集群扩展性和计算能力。
英伟达还发布了GB200 NVL72,整合英伟达在数据中心硬件方案中GPU、DPU、NVLink等技术的最新成果,构成驱动大语言模型背后的引擎。
GB200 NVL72进入云端,成为云厂商计算实例,黄仁勋在演讲中还发布搭载B100 GPU的AI云服务DGX Cloud。通过与云厂商平台向用户提供能够训练生成式AI大模型,及其他AI应用的算力月租服务,该服务将首先上线亚马逊云、微软Azure和甲骨文云。
B200 GPU将于今年晚些时候推出,英伟达称,包括亚马逊云科技、戴尔科技、谷歌、Meta、微软、OpenAI、甲骨文、特斯拉和xAI将计划采用Blackwell产品。
人形机器人基础模型和Isaac机器人平台大更新英伟达过去针对机器人市场的Isaac 机器人平台也得到重大更新,包括发布了一款基于Thor芯片的新型人形机器人计算机Jetson Thor,以及一系列机器人预训练模型、库和参考硬件,在生成式AI基础模型和仿真工具,以及英伟达算力的支持下,进一步对人形机器人应用优化。
Jetson Thor提供每秒800万亿次8位浮点运算AI性能,可以运行GR00T等多模态生成式AI模型,并大大简化设计和集成工作。
英伟达称,正在为多家人形机器人公司开发一个综合AI平台,如1X Technologies、Agility Robotics、Apptronik、波士顿动力公司、Figure AI、傅利叶智能、Sanctuary AI、宇树科技和小鹏鹏行等。
在黄仁勋的主题演讲过程中,迪士尼生产的使用相关英伟达芯片的Orange和Green机器人也登上了舞台现场亮相。
“希望你们能注意到这并 不是一场演唱会, 而是一个开发者技术大会。” 面对现场的阵阵欢...
2 一文了解GTC:英伟达发布最强芯片B200,还有机器人通用大模型及抓住生成式AI机会的英伟达完整出击,为大小挑战者设下新标杆。 随着人工智能革命席卷而来...
3 快手:2023年快手电商投流客户数增长超35%3月26日,在2024磁力大会上,快手磁力引擎内循环与流量业务负责人孔慧分享电商经营方面相关...
4 库克现身北京三里屯苹果零售店,与《逆水寒》手游游戏开发者3月23日下午消息,苹果CEO库克现身北京三里屯苹果零售店,现场与网易《逆水寒》手游开发者...
5 深圳市嘉帝德科技有限公司销售抽检不合格产品(移动式电源插深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 深圳市嘉帝德...
6 深圳市星维通讯设备有限公司生产不合格的数字移动电话机案深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 深圳市星维通...
“希望你们能注意到这并 不是一场演唱会, 而是一个开发者技术大会。” 面对现场的阵阵欢...
2 一文了解GTC:英伟达发布最强芯片B200,还有机器人通用大模型及抓住生成式AI机会的英伟达完整出击,为大小挑战者设下新标杆。 随着人工智能革命席卷而来...
3 快手:2023年快手电商投流客户数增长超35%3月26日,在2024磁力大会上,快手磁力引擎内循环与流量业务负责人孔慧分享电商经营方面相关...
4 库克现身北京三里屯苹果零售店,与《逆水寒》手游游戏开发者3月23日下午消息,苹果CEO库克现身北京三里屯苹果零售店,现场与网易《逆水寒》手游开发者...
5 深圳市嘉帝德科技有限公司销售抽检不合格产品(移动式电源插深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 深圳市嘉帝德...
6 深圳市星维通讯设备有限公司生产不合格的数字移动电话机案深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 深圳市星维通...
7 铂瑞(深圳)科技有限公司销售经抽检不合格P061型电源适配器案深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 铂瑞(深圳)科...
8 新尚创实业(深圳)有限公司销售不合格的移动电源案深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 新尚创实业...
9 深圳市科湛科技有限公司销售抽检不合格的快充适配器案深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 深圳市科湛科...
10 深圳市水滴智能实业有限公司销售不合格的商品(移动电源)案深圳市市监局(深圳市知识产权局)(深圳市知识产权局)信用信息“双公示” 深圳市水滴智...
备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 网站地图