AI Agent的爆发式普及正在引发一场意想不到的算力危机——不是GPU,而是CPU。
8月7日,据科技媒体The Information报道,亚马逊云服务(AWS)高管今年5月召集工程师开会,传达了一个警示性信号:为确保旗下EC2云服务器业务未来能够满足所有客户需求,工程师必须尽一切可能节省算力资源。这一要求不仅涵盖AI芯片,也明确指向长期支撑互联网时代运转的传统CPU服务器。
报道称,这一内部动作折射出更广泛的行业趋势:随着越来越多的企业员工借助AI Agent开发软件,CPU需求正在急剧攀升,算力紧缺的压力已从GPU蔓延至整个计算基础设施。AI咨询机构Elendil Labs联合创始人兼董事总经理Jing Xie表示,他观察到客户的人均IT支出翻倍,直接原因正是AI Agent的大规模使用。
内部告急:工程师等待CPU资源从数小时延长至数天
据报道,知情人士透露,AWS已向各团队设定截止期限,要求在今年晚些时候削减计算资源占用。工程师们正在下线此前用于软件开发、如今已闲置的EC2虚拟服务器实例,以便将这部分算力重新分配给外部客户。
一名在AWS工作数年的工程师表示,过去只需数小时便能获取的CPU服务器资源,如今需要等待数天,这在其职业生涯中从未遇到过,并直言这种等待可能影响项目交付进度。
AWS方面对此回应称,即便面临"大量需求",公司仍能满足"绝大多数内外部客户的计算需求",并强调正与内部团队密切协作,确保EC2资源得到高效利用,"一如既往"。AWS同时表示,其给予员工的指导方针并未因当前的内存紧缺而发生改变。
不过,据报道,目前,外部客户所受影响相对有限。一位协助企业使用AWS的顾问表示,他尚未观察到客户通过合同承诺的CPU算力出现运营层面的短缺。
然而,AWS的"竞价实例"(Spot Instances)——即AWS以大幅折扣出售、但可在两分钟内收回的溢出服务器资源——近几个月来已愈发难以大批量获取。
分析认为,这一信号表明,AWS整体算力的供需缺口正在收窄,弹性空间已大幅压缩。对于依赖低成本竞价实例运行大规模工作负载的企业客户而言,这或许预示着云计算成本上行压力的到来。
AI Agent驱动CPU需求激增,算力缺口超出预期
此次CPU短缺的核心驱动力,是Agentic AI的快速普及。Jing Xie指出,AI Agent在运行过程中通常需要调用更多云计算资源,并由此产生对CPU的持续性需求。
"基本上,现在构建、生产和运行的大量工作,所需的CPU都比过去更多。"
即便在AI开发流程内部,CPU同样扮演着不可或缺的角色——例如,AI公司在为模型训练准备数据时,需要通过CPU从文档、图像和视频中读取原始数据。
芯片厂商的表态进一步印证了这一趋势。
英特尔CEO Lip-Bu Tan在今年4月的财报电话会议上披露,AI推理(即模型运行)中CPU与GPU的使用比例为1比4;而到7月,英特尔首席财务官David Zinsner表示这一比例已接近1比1。AMD和Arm的高管也发表了类似评论。
除CPU本身外,与CPU配套使用的内存芯片供应不足,以及数据中心物理空间的限制,也在共同加剧这场算力紧缺。
值得关注的是,算力的内外部分配平衡,已成为大型科技公司近两年面临的共同挑战。
据The Information此前报道,谷歌去年专门成立了一个由高级管理人员组成的委员会,负责在Google Cloud、DeepMind AI研究部门及消费者业务之间协调算力分配。即便如此,内部摩擦依然存在——谷歌明星AI研究员Noam Shazeer今年夏天早些时候因对算力获取感到不满而离职。
微软的经验则展示了另一面:算力管理效率的提升可以直接转化为营收增长。微软首席财务官Amy Hood在上月的财报电话会议上将Azure云服务的部分增长归因于CPU和GPU机群管理上的"效率提升"。
"当我们能够实现效率提升时,这些收益会被迅速货币化。"