当前位置:主页 > 科技 > 自媒体 > 藏在AI背后的“吃电狂魔”

藏在AI背后的“吃电狂魔”

2024-04-10 16:53:29来源:互联网

文章导读
文|雪豹财经社 魏琳华 3月底,美国密歇根湖畔的一座已经关闭的核电站Holtec Palisades,获得来自美国能源部的15亿美元贷款担保,进入重启阶段。如果顺利通过监管环节,它将成为美国历史上...

文|雪豹财经社 魏琳华

3月底,美国密歇根湖畔的一座已经关闭的核电站Holtec Palisades,获得来自美国能源部的15亿美元贷款担保,进入重启阶段。如果顺利通过监管环节,它将成为美国历史上第一座重启的核电站。

美国能源部之所以重启核电发力,是出于对电能需求失衡的担忧。在制造业、电动汽车等行业的耗电需求上升之际,人工智能行业的快速发展,加速了美国电力危机的到来。

“人工智能本身不是问题,因为它可以帮助解决问题。”美国能源部长詹妮弗·格兰霍姆在接受Axiro采访时表示,但是,人工智能和数据中心对电力日益增长的需求,却成了实实在在的新问题。

小小应用,吃电狂魔

人工智能应用具体有多耗电?

荷兰科学家亚历克斯·德弗里斯在他的论文中,为对话机器人ChatGPT算了这样一笔账:

每当ChatGPT试图响应一次问题,它需要消耗2.9瓦时的电量。这是什么概念?响应10次的电量,可以支撑一个功率15W的LED灯泡工作2小时;响应100次,可以给智能手机充大约13次电。

一天内,ChatGPT平均需要处理约2亿个来自用户的对话请求,这意味着它单日消耗的电量就要超过564兆瓦时(1兆瓦时=1000千瓦时,564兆瓦时相当于56.4万度电)。以美国每个家庭每日平均耗电量换算,ChatGPT每天需要消耗掉1.7万个美国家庭一天的用电量。

由于模型参数、能耗处理等因素差异,不同AI模型的耗电量无法遭准确估算。于是,亚里克斯以英伟达推出的A100服务器作为测算对象,对整个人工智能行业可能产生的耗电量进行估算。

基于他的假设,到2027年,英伟达可能推出150万台A100服务器,其中95%将遭应用于AI行业。每一台DGX A100型号的服务器内置8张A100芯片,以1140万张A100芯片的耗电量进行估算,2027年,整个人工智能行业每年的耗电量将高达85~134太瓦时(1太瓦时=1×10 千瓦时)。

也就是说,到2027年,AI耗电量或将接近人口超过1000万的瑞典或1700万人口的荷兰一年的总用电量,相当于当前全球用电量的0.5%。

按照这个估算值,AI的耗电量或将比肩比特币挖矿。据剑桥大学计算,比特币挖矿一年耗电量大约是165.99太瓦时,接近人口一亿的埃及一年的用电量。

比特币挖矿如此耗电,是由它的工作方式决定。在比特币之父中本聪的设计中,比特币系统通过工作量证明(Proof-of-Work)的方式,让矿工们竞相计算出一个足够困难的哈希值(由数字+字母构成的字符串)来创建新的区块并获取奖励。这种竞争性的计算过程,需要消耗大量的电力和计算能力。

AI之所以如此能吃电,是因为大模型的训练和推理过程均需消耗大量电力。

大模型质量的关键在于数据、算力和顶尖人才,而高算力的背后,是靠着数万张芯片昼夜不停的运转支撑。

相比于平常安装在笔记本电脑上的CPU(中央处理器),融易新媒体消息,GPU(图形处理器)遭证明是更适合AI训练的硬件。如果把CPU看做一个处理单任务的元件,那么GPU的优势就是同时处理多个并发任务。虽然GPU起初并非为了处理AI需求而生,但同时处理多任务的特质,让它成为进入AI大模型训练场的门票。

和CPU相比,GPU可以处理多个并行任务  图源:英伟达官网

快的代价是更高的能量损耗。据估算,一张GPU比CPU的能耗高出10~15倍。在大模型训练过程中,需要多张GPU接连不断运转。大模型参数量和数据量越大,训练耗费的电量也越大。

以GPT-3的训练为例,斯坦福人工智能研究所发布的《2023年人工智能指数报告》显示,1750亿参数的GPT-3在训练阶段的耗电量高达1287兆瓦时。哈工大人工智能研究院院长刘劼打了个比方,相当于开车从地球到月球往返一次。

在完成训练后,AI在推理方面的耗电量又远超过训练耗费的电量。

每响应一个请求,大模型需要完成推理过程,找到最接近问题的解答。按照上述数据推算,GPT-3在训练阶段消耗的电量,甚至无法支撑ChatGPT运行3天。

在多模态大模型发展成为主流的情况下,在AI响应需求的推理过程中,耗电量还将进一步提升。据人工智能公司Hugging Face的研究,不仅多模态大模型耗电量远超过一般模型,涉及图像处理的模型也比纯文本处理更耗电。

究竟到不同任务,文本分类、标记和问答等简单任务相对低耗,千次推理仅需0.002~0.007千瓦时。而在响应多模态任务时,一次文本到图像生成耗能最高需要用到2.9千瓦时,相当于ChatGPT响应100次的耗电量。

巨头的AI梦,把电力缺口撕得更大

从训练15亿参数的GPT-2到训练1750亿参数的GPT-3,Open AI从十亿参数到千亿参数的跨越,仅用了一年时间。

大模型狂飙之际,越来越多的大型科技公司开始把AI和公司主营业务的融合提上日程。


免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 旅游季来了,民宿涨不动了

刚刚过去的清明小长假,不少游客在出行时发现,“民宿怎么没涨价?” 清明节前夕,有用户...

2 藏在AI背后的“吃电狂魔”

文|雪豹财经社 魏琳华 3月底,美国密歇根湖畔的一座已经关闭的核电站Holtec Palisades,获得来自...

3 界面·财经号优质稿件TOP20|2024年3月榜

界面号是界面新闻旗下的优质新媒体平台,拥有财经号、城市号、媒体号三大平台。 界面号致...

4 电厂 | 为抢特斯拉Model 3的订单,小米和智己拼了

在3月28日小米SU7发布后,上汽集团的公关部门在一次例会中组织学习小米汽车的营销方式,并...

5 自我调侃的“留子”们,开始拍短剧

文|新声pro 判官 自制短剧正在成为中国留学生圈子里的新风潮。 《多伦多留学公寓》,主打渣...

6 父母犯错,儿子“背锅”,40亿恒星科技“接班人”遭罚160万

6年前父母离婚时,恒星科技(002132.SZ)董事长谢晓博、副董事长兼总经理谢晓龙已经长大,并且...

7 谁是50万以内最好的车?小米打响“南北竞速赛”

小米汽车一炮而红,红的“铺天盖地”。短视频上,开着小米SU7出去的私家车秒变展车,“不...

8 清明档新纪录背后:你想吸引怎样的观众?

文| 悦幕中国电影观察 庞宏波 今年的清明档,以8.34亿再次刷新了影史清明档票房纪录,尤其是...

9 文艺片又赚到了

仅仅才过去一年,原本在短视频上失灵的文艺片“诈骗营销”,居然又行了。 刚刚过去的清明...

10 微盟十年,路漫长

3月28日盘后,微盟集团发布了2023财年业绩。过去一年,微盟营收22.82亿元,同比增长21.1%,两大...

1 旅游季来了,民宿涨不动了

刚刚过去的清明小长假,不少游客在出行时发现,“民宿怎么没涨价?” 清明节前夕,有用户...

2 藏在AI背后的“吃电狂魔”

文|雪豹财经社 魏琳华 3月底,美国密歇根湖畔的一座已经关闭的核电站Holtec Palisades,获得来自...

3 界面·财经号优质稿件TOP20|2024年3月榜

界面号是界面新闻旗下的优质新媒体平台,拥有财经号、城市号、媒体号三大平台。 界面号致...

4 电厂 | 为抢特斯拉Model 3的订单,小米和智己拼了

在3月28日小米SU7发布后,上汽集团的公关部门在一次例会中组织学习小米汽车的营销方式,并...

5 自我调侃的“留子”们,开始拍短剧

文|新声pro 判官 自制短剧正在成为中国留学生圈子里的新风潮。 《多伦多留学公寓》,主打渣...

6 父母犯错,儿子“背锅”,40亿恒星科技“接班人”遭罚160万

6年前父母离婚时,恒星科技(002132.SZ)董事长谢晓博、副董事长兼总经理谢晓龙已经长大,并且...

7 谁是50万以内最好的车?小米打响“南北竞速赛”

小米汽车一炮而红,红的“铺天盖地”。短视频上,开着小米SU7出去的私家车秒变展车,“不...

8 清明档新纪录背后:你想吸引怎样的观众?

文| 悦幕中国电影观察 庞宏波 今年的清明档,以8.34亿再次刷新了影史清明档票房纪录,尤其是...

9 文艺片又赚到了

仅仅才过去一年,原本在短视频上失灵的文艺片“诈骗营销”,居然又行了。 刚刚过去的清明...

10 微盟十年,路漫长

3月28日盘后,微盟集团发布了2023财年业绩。过去一年,微盟营收22.82亿元,同比增长21.1%,两大...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 网站地图