万维读者网 > 数码科技 > 正文  

AI训练一次,把我家这辈子的电都用完了

www.creaders.net | 2023-11-04 13:24:16  差评 | 0条评论 | 查看/发表评论

之前世超写过一篇 AI 有多耗水的稿子,说是谷歌数据中心去年一年就花掉了一个半西湖的水量。

除了耗水,可能很多人还忽略了一点,那就是 AI 在耗电这块也是一绝。

前两天阿里刚结束的云栖大会上,中国工程院院士、阿里云创始人王坚就打了这么一个比方——

过去一百年里,全球电动机消耗掉的电量就占到了总发电量的一半,而现在的大模型就相当于新时代的电机。

而这个新时代的 “ 电机 ” ,也是相当耗电。

现在,为了喂饱它这只电老虎,有些公司甚至准备搬出了 “ 核动力 ” 。

其实在业内,关于 AI 和能源之间的话题也是没有断过。

Huggingface 的科学家就专门测试过各个大模型的耗电量和碳排放,世超翻了翻这篇论文,也是直观地感受到了大模型耗电的疯狂。

AI训练一次,把我家这辈子的电都用完了

AI训练一次,把我家这辈子的电都用完了

先是 Huggingface 自家的 BLOOM 大模型,有 1760 亿参数,光是前期训练它,就得花掉 43.3 万度电,我换算了下,相当于国内 117 个家庭一年用掉的电量。

和它参数量相当的 GPT-3 ,耗电量就更不受控制,同样是前期训练,就要用掉 128.7 万度电,足足是前者的三倍。

甚至有人做过这样一个类比, OpenAI 每训练一次,就相当于 3000 辆特斯拉同时跑 32 公里。

AI训练一次,把我家这辈子的电都用完了

这还只是 AI 前期训练用的电,在后期使用过程中累积的耗电量才是大头。

一般来说,训练就是不断调整参数、重复训练,最后得到一个使用体验最好的模型,整个过程是有限度的。

后期的推理过程就不一样了,比如我们用 ChatGPT ,每问一次问题都相当于是一次推理请求。

现在 ChatGPT 的月活用户早已经破亿,它每天推理的频次的飙升可想而知。

更具体一点,拿自动驾驶来说,前期训练花费的能耗成本就只有两三成,剩下的七八成都是后期的推理消耗的。

AI训练一次,把我家这辈子的电都用完了

《晚点 LatePost 》之前也拿 ChatGPT 做了这么一个测算,按日均最高访问量 2.7 亿次来计算,假设每个人每次访问会问五个问题,一整个月下来光是推理消耗的电量就是 1872 万度。

总的来讲, AI 这几年来消耗的电力正在以指数级别增长,然而现在全球发电已经差不多已经趋于平缓。

照这个态势发展下去,估计再过几十年,光是 AI 的耗电量,就足以导致全球用电荒了。。。

来自 AMD ,红色表示 AI 能耗,绿色表示现有能源

AI训练一次,把我家这辈子的电都用完了

而之所以这么耗电,一方面和近几年来 AI 圈子内部搞起的军备竞赛不无关系。

国外在 OpenAI 之后,谷歌、 Meta 自家大模型的研发迭代也没停过。

国内卷得就更厉害,百度的文心一言、阿里的通义千问、腾讯的混元等等等等,参数一个赛一个高,这还只是大厂们的赛道,一些大模型初创企业更是海了去了。

AI训练一次,把我家这辈子的电都用完了

另一方面, AI 用掉这么多电,和它背后数据中心不无关系。

在数据中心,用电最多的地方就是 AI 服务器,因为要有大规模的计算,普通的服务器根本就不够用,还得用专属的 AI 服务器。

然鹅 AI 服务器,光是功率就比普通服务器高出了六七倍,普通服务器一般只需要两个 800W~1200W 的电源, AI 服务器,则要 4 颗 1800W 的高功率电源。

emmm 这不耗电都说不过去。。。

AI 的耗电,当然卷大模型的厂商比我们清楚得多,毕竟在他们那里可是真金白银的电费哗哗往外流。。。

所以在解决 AI 能耗的问题上,业内也是使出了浑身解数。

第一个办法是想办法提高 AI 芯片性能,性能上去了,耗电自然而然也就下去了。

AI训练一次,把我家这辈子的电都用完了

另外一个办法就简单粗暴了,既然耗电多导致电费高,那找个更便宜的能源不就行了。

就比如国内目前就在搞 “ 东数西算 ” 的工程,在西部清洁能源丰富的地区建立数据中心,用来处理东部的数据。

并且东部地区数据中心密集,工商业的平均电价大概在 0.676 元 / 度,而西部地区平均电价在 0.541 元 / 度,钱不就这么省下来了么。

AI训练一次,把我家这辈子的电都用完了

有些公司则又看准了核能赛道。

像 OpenAI 和微软都先后投资了核能发电,不过不是传统的核裂变发电方式,而是还在实验室阶段的核聚变。

早在 2015 年, OpenAI CEO 奥特曼就对核聚变发电感兴趣了,向一家核聚变初创企业 Helion 投资了 950 万美金, 2021 年,又给它豪掷了 3.75 亿美元。

AI训练一次,把我家这辈子的电都用完了

紧接着在今年 5 月份,在核聚变发电站还没着落的时候,微软就和 Helion 签订了购电协议,说要在 2030 年前实现负碳目标。

世超倒真有点好奇,这个 Helion 到底有什么魔力,在八字还没一撇的时候,让 OpenAI 和微软先后都在它身上下这么大的注。

不过这事吧,从它给微软的的承诺中就能窥探出一二。Helion 在那份购电协议中表示, 2028 年前上线的核聚变装置,在一年内会把发电功率提升到 50 兆瓦以上。

什么概念?相当于撑起 40000 户家庭的供电。

更重要的是,买核聚变发出来的电,还贼拉便宜,折合成人民币相当于 7 分钱一度电,这诱惑谁挡得住啊。

微软也没把所有鸡蛋放在一个篮子里,在下注核聚变发电的同时,他还看好了近几年发展起来的小型核反应堆( SMR )。

不久前,微软发了个招聘通知,说要找个 “ 核技术首席项目经理 ” ,来管SMR 这块的工作。

AI训练一次,把我家这辈子的电都用完了

和传统核电的大型反应堆比,理论上 SMR 这玩意儿体积更小,甚至可以在工厂里批量生产。

发电功率也是传统反应堆的三倍,并且 SMR 也不用担心损坏时释放放射性元素,因为它能在第一时间自动关闭系统。

同时 SMR 也更省钱,平均每 1000 度电下来就能省将近 100 美元。。。

当然,这些东西目前还是八字没那一撇, AI 耗电猛的现状,短时间内也很难会得到改变。

各种核聚变项目,世超也不好说它们到底能不能成。

但 AI 的发展,说不定会给核能来一记大助攻。

如果这个世界是一局电子游戏的话,说不定可控核聚变的科技树,正好就在 AI 之后呢。

   0


24小时新闻排行榜 更多>>
1 入户排查、强制报废!习总“以旧换新”始发
2 薪水砍一半!中国的公务员开始抢着退休了
3 俄乌战况4月21:整个战壕里都可以听到欢呼
4 快讯:北京副市长高朋被查
5 华裔大叔屋内藏2亿!FBI抄家,搬了2天2夜..

48小时新闻排行榜 更多>>
1 老习等不及了!传三中全会再次修宪
2 入户排查、强制报废!习总“以旧换新”始发
3 老美动“杀”心 叫习如何招架
4 薪水砍一半!中国的公务员开始抢着退休了
5 中国东奥女子8百接力金牌被取消
6 大批华人被逮捕!美国土安全部宣布“红钩计
7 俄乌战况4月21:整个战壕里都可以听到欢呼
8 曾是李先念的亲戚 他将被美国永久驱逐出
9 网友亲历: 产业转移出中国不知不觉快完成
10 机场厕所惊见弃婴 所有女乘客遭逼脱内裤
热门专题
1
以哈战争
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
乌克兰战争
8
李克强猝逝
13
台海风云
4
万维专栏
9
中国爆雷
14
战狼外交
5
美国大选
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 达唐:故宫博物院遭公开举报 万维网友来
2 现代战争目的:摧毁战争意志 施化
3 辛峰:特鲁多为什么不信加拿大 万维网友来
4 周傥:理性反省和重新认识乌克 万维网友来
5 川普就是美国的毛泽东 右撇子
6 美国为何选择这个时候公布中共 山蛟龙
7 乌克兰呀,你太让人失望了! 山蛟龙
8 解密: 千年之计“一盘大棋”崩 文庙
9 谁敢买中共国的电动车? 山蛟龙
10 警惕有人把民主党与共和党的关 karkar
一周博文回复排行榜 更多>>
1 川普就是美国的毛泽东 右撇子
2 警惕有人把民主党与共和党的关 karkar
3 亚洲的乌克兰其实不是台湾,而 随意生活
4 美国为何选择这个时候公布中共 山蛟龙
5 在言论管控大搞一言堂方面,中 爪四哥
6 乌克兰呀,你太让人失望了! 山蛟龙
7 一只小鸟的咏叹 木桩
8 海一代选民:多少人视民主党为 随意生活
9 台湾面临的三个选项 suoliweng
10 现代战争目的:摧毁战争意志 施化
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.