加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

如何让人工智能更节能

(2024-05-01 12:00:00)
分类: 军事与科技
如何让人工智能更节能
2024-04-24

据法国《回声报》网站4月9日报道,当前的人工智能(AI)运行方式非常耗能。业内正寻求更节能的算法和元件。

通过AI生成图片容易,但代价不菲。AI平台“抱抱脸”(Hugging Face)表示:“这些算法生成一幅图片,消耗的电力相当于一部智能手机充满电。”
企业尚未意识到AI在能源消耗上带来如此大的问题。
AI在环境影响方面令人吃惊:一块英伟达H100型GPU芯片,一年消耗的电力比一个中等规模的美国家庭都要多。
从2027年起,仅AI新增的服务器,一年消耗的电量就相当于荷兰或瑞典这样国家的总耗电量。
AI可以遏制全球变暖的说法站不住脚。最严谨的研究表明,数字技术总体上很难减少我们的碳足迹。
高耗能还影响两种技术:“边缘”AI和嵌入式AI。
在边缘设备上,如监测环境的摄像头或智能手机,AI应当尽可能减少耗能。

第一种方法是将AI运行分成两个阶段:训练和日常使用。后者就是“推理”。推理比训练带来的影响更大。
一次使用可能并不需要很多计算,但时常更新就不一样了。人们熟知的谷歌翻译每天要更新数十亿次。
过去,关于推理影响的相关数据不准确:2021年,元宇宙平台有三分之一的碳足迹来自云计算内部使用。2022年谷歌称60%的能耗与语言模型有关。
AI企业应更透明,找出一些共同的新方法评,估推理带来的影响。
目前,业内正在研发不需要那么多计算的AI新模型。重点是找到不需要那么多参数的算法,而不是一些新形式的AI。
比如生物AI模型,神经元刺激网络,就像人脑一样,“神经元”可以传递和接收随后的刺激。
其他一些努力也已有案例。比如一款新语言模型CroissantLLM,只需要13亿个参数【ChatGPT3.5的参数多达1800多亿个】。
新模型可以在一个只有8瓦电池的智能手机上运行,而大部分LLM(大型语言模型)要依靠耗电8千瓦的服务器。差距是1000倍!
新型的电子元器件和概率论AI,同样时段和同样的耗能,运算速度是英伟达Jeston芯片的6.4倍。
结合概率论和更优化的电子元器件,所用的数据和能源都更少。

第二种针对AI对环境影响的思路,瞄准的是最耗能的计算。数据计算在AI耗电中占比99%。
新的元器件,既能聚合数据也能存储数据,而以往,这两个功能是分开的。
研究人员正在测试一款有12.8万个记忆电阻器的芯片,可以实现运动识别或睡眠周期等AI功能。

还有一个社会经济方面的障碍,即人们所说的反弹效应:想减少AI能耗,就需要寻找更多办法。立法者应当给AI的使用圈定框架。

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有