加载中…让人工智能更节能
(2024-05-20 12:00:00)| 分类： 军事与科技 |
如何让人工智能更节能
通过AI生成图片容易，但代价不菲。
那些算法生成一幅图片，消耗的电力相当于一部智能手机充满电。
一块英伟达H100型GPU芯片，一年消耗的电力比一个中等规模的美国家庭都要多。
从2027年起，仅AI新增的服务器，一年消耗的电量就相当于荷兰或瑞典这样国家的总耗电量。
最严谨的研究表明，数字技术总体上很难减少我们的碳足迹。
AI减少耗能。
1.AI运行包括段：训练和日常使用。后者就是“推理”，比训练更耗能。
一次使用不需要很多计算，但时常更新就不一样了。人们熟知的谷歌翻译每天要更新数十亿次。
应找出一些共同的新方法，评估推理带来的影响。
要研发不需要那么多计算的AI新模型。一个不需要那么多参数的算法，比一些新形式的AI更重要。
比如生物AI模型，像人脑一样，“神经元”可以传递和接收随后的刺激。
一款新语言模型CroissantLLM，只需要13亿个参数【ChatGPT3.5的参数多达1800多亿个】。
新型的电子元器件和概率论AI，同样的耗能，运算速度是英伟达Jeston芯片的6.4倍。
2.瞄准的是最耗能的计算。数据计算在AI耗电中占比99%。
新的元器件，既能聚合数据也能存储数据，而以往，这两个功能是分开的。
一款有12.8万个记忆电阻器的芯片，可以实现运动识别或睡眠周期等AI功能。
喜欢
0
赠金笔