郑州聚澜智能科技有限公司官方网站

郑州聚澜智能科技有限公司
服务热线:

15137460293

新闻动态

INFORMATION

全国服务热线

15137460293

微软称保守假设下,典型 AI 查询耗水量少于 1 滴水

发布时间:2026-06-16

IT之家 6 月 16 日消息,微软昨日(6 月 15 日)发布博文,援引《Joule》研究指出,AI 在大规模部署下的能耗与用水量显著低于外界早前估计。

该研究认为在大规模推理场景下,外界对 AI 大语言模型的关注点,不应该只放在单个模型的训练 / 推理规模,更应该注重用户典型调用下的“每次查询”。

该研究指出一次常规典型 AI 调用,耗电 0.16 至 0.60 瓦时(watt-hours),约等于一台 40 瓦电脑运行 15 至 60 秒,或 1000 瓦微波炉工作 0.6 至 2 秒。相比此前文献和媒体报道,新研究的数据低至 1/4 到 1/20。

微软称保守假设下,典型 AI 查询耗水量少于 1 滴水_微软称保守假设下,典型 AI 查询耗水量少于 1 滴水_

水资源方面,保守估计下,典型查询的冷却用水为 0.0 至 0.067 毫升,中位数约相当于 1/100 茶匙,甚至少于 1 滴。微软还提到,随着零用水数据中心设计推广,这一数字还有继续下降的空间。IT之家附上相关截图如下:

微软称保守假设下,典型 AI 查询耗水量少于 1 滴水__微软称保守假设下,典型 AI 查询耗水量少于 1 滴水

微软指出规模越大,单位查询效率通常越高。大系统可同时处理更多请求,并在模型、调度、硬件多个层面叠加优化。就像大型航空公司更容易通过统一调度节省燃料,云平台也能把效率改进扩散到每一次推理。

在 10 亿次日查询场景下,基础耗电约 0.7 吉瓦时;若加入效率优化,可降至约 0.3 吉瓦时。即使 10% 请求属于代码生成、多步推理等长任务,整体能耗仍可比基线下降一半以上。

免责声明:本文为本网站出于传播商业信息之目的进行转载发布,不代表本网站的观点及立场。本文所涉文、图、音视频等资料之一切权力和法律责任归材料提供方所有和承担。本网站对此咨询文字、图片等所有信息的真实性不作任何保证或承诺,亦不构成任何购买、投资等建议,据此操作者风险自担。如有问题联系网站编辑进行删除处理,感谢支持。

ScreenShot_2026-01-26_165503_699.jpg

报名免费获取设计方案及报价
X郑州聚澜智能科技有限公司

截屏,微信识别二维码

微信号:15137460293

(点击微信号复制,添加好友)

  打开微信

微信号已复制,请打开微信添加咨询详情!