专栏名称: 电子工程专辑
电子工程专辑是中国创建较早的电子工程类网站,是《电子工程专辑》杂志的有力补充。专注为工程师提供最新技术及实用方法的专业平台。包括:16个热门技术栏目在内的,新品信息和新闻报道、专题报道以及厂商应用报告、行业重要新闻的信息速递。
目录
相关文章推荐
贵州日报  ·  李炳军主持召开外经贸企业座谈会 ·  14 小时前  
Python爱好者社区  ·  公司Rust团队全员被裁,只因把服务写得「太 ... ·  昨天  
51好读  ›  专栏  ›  电子工程专辑

人工智能电源和冷却催生预测狂潮

电子工程专辑  · 公众号  ·  · 2025-05-03 09:32

正文

请到「今天看啥」查看全文



  • 使用更好的冷却技术: 散热所需的电能本身就很重要;我看到的数字显示,它占数据中心总耗电量的25%到40%。有一些冷却技术可以降低能耗,但会增加新的复杂性。例如,基本的液冷技术是将冷却液或冷水循环到处理器芯片顶部的“冷板”上。这种直接对芯片的液体冷却比强制风冷更有效,因为液体比空气具有更高的导热性和热容量。甚至还有一种更激进的浸入式冷却方法,即把处理器板放置在冷却液大槽中。由于冷却剂的问题和实际应用中的明显挑战,这种技术仍处于早期阶段。这些方法都无法从根本上解决需要去除大量热量的问题。相反,它们的目标是将不需要的热量转移到一个被称为“远离”的神秘地方,在那里成为别人的问题。收集提取的热量可以实现部分回收和冷却投资回报,但这会带来新的问题和成本。


  • 为人工智能进行更智能的训练: 原则上,更好的训练策略可以减少电力和冷却需求。这可能包括在训练过程中仔细控制人工智能模型接收信息的种类和数量等方法。它还可以让人工智能训练删除冗余和低质量数据,从而产生一个更小的数据集,当用户向它提问时,它可以更轻松地筛选数据。


  • 放慢速度: 功耗与速度的关系并不是线性的,响应时间的轻微减慢会导致功耗的大幅下降。在麻省理工学院和美国东北大学的一项研究中(有很多研究!),研究人员发现,将Meta的一个人工智能装置的功耗降低22%到24%,人工智能响应查询的速度仅降低5%到8%。在某些情况下,这可能是一个可以接受的成本/效益权衡。


人工智能能耗和冷却的未来将会是怎样的?我当然无法预知,其他人也无法给出确定的答案。但有一点是毋庸置疑的:人工智能已经催生了一个子行业,专门致力于这些问题的建模,并撰写关于预测结果的技术和营销论文,有时还提供建议。这个行业几乎总是寻求更多的拨款或客户来支持进一步的研究。这比实际进行实现目标所需的软硬件艰难工程设计要容易得多。


(责编:Franklin)

热点文章









请到「今天看啥」查看全文