Agent时代,CPU的价值该重估了
CPU与GPU趋近1∶1
量子位 | 公众号 QbitAI
CPU 的价值,在 Agent时代 ,真的需要被 重估 了。
因为Agent正在改变AI计算的配比——
从一颗CPU搭配四颗GPU(1:4),到现在的一颗CPU搭配一颗GPU(1:1)。
这便是芯片巨头 英特尔 刚刚在苏州举办的技术创新与产业生态大会(Intel Connection)中给出的判断——
随着AI开始调用工具、执行任务,CPU需要承担更多的调度、数据处理和执行工作,其在整套AI系统中的价值也需要重新衡量。
不仅如此,英特尔CEO 陈立武 在视频致辞中还坦言:
作为现代计算的基石,x86持续驱动计算向智能化应用发展。
而从昨天英特尔的股价暴涨12%来看,也从侧面印证了市场对于CPU在Agent时代重要性的认可。
既然趋势已然如此,那么CPU在整套系统中的价值,又该如何重新计算?
在回答价值如何被重估之前,我们且需要了解一下,为什么Agent时代CPU成了紧缺货。
其实英特尔数据中心事业部副总裁、中国区总经理 陈葆立 在今天的演讲中,就用我们每天都可能交给Agent的任务做了例子—— 整理新闻 。
在这个任务中,用户需要给Agent设定任务,每天早上8点,帮自己搜集前一天的AI新闻,并完成总结。
虽然我们下达的需求只有一句话,但其实Agent背后的工作量远没有看着那么简单。
因为它要上网找资料,拿回来的内容可能是网页,也可能是PDF报告或视频。各种格式的信息,需要先提取、处理,才能交给大模型分析。
在陈葆立看来, 这些预处理工作,恰恰有不少适合由CPU承担。
而且,一次模型调用往往还不够。Agent要拆解任务、调用工具,再根据结果决定下一步怎么做。前一步没完成,依赖它的后续工作就得等着。
对于这一点,中国工程院外籍院士、清华大学智能产业研究院(AIR)创始院长 张亚勤 ,在会上对Agent做解释的时候也有所提及:
它能围绕目标进行规划、行动、试错和迭代,直到完成任务。模型给出的回答,会成为后续行动的依据,行动结果又会进入下一轮处理。
这么一来,CPU需要处理的事情就多了。模型计算之外的执行、调度和数据处理,都得跟上Agent干活的节奏。
为了解释这种变化,陈葆立把数据中心简化成三个相互配合的部分:
除此之外,CPU的工作还会贯穿这些环节。加速计算需要数据预处理,存储系统需要数据调度,Agent执行任务也需要不同资源及时配合。
所以,一套系统里GPU性能再强,也得有数据及时送来、有后续任务接上。处理和搬运数据的环节出了瓶颈,昂贵的计算资源就可能闲着,整项任务的完成速度也会受影响。
这也是英特尔反复强调CPU的原因,Agent需要的计算量在增加,系统要有效利用这些算力,还得把执行和调度能力一起补上。
而落到 企业采购 这个层面上,问题也就更具体了。
过去几个月,陈葆立和团队与国内的软件合作伙伴、互联网厂商交流,得到的反馈是,客户既关心能运行多少个智能体,也看重每个智能体的能力和可靠性。
比如,某些业务需要在短时间内启动大量沙箱,为智能体提供运行环境。系统得及时响应,已经运行的任务也要继续处理。
再比如,同一套设备上同时运行多个Agent,数量增加以后,每个Agent还能不能在要求的时间内得到响应?这个数字,才关系到服务到底能不能用。
所以能启动多少个Agent,与能让多少个Agent稳定干活,实则是两回事。
陈葆立在现场介绍的测试和优化,正是在同时考察数量与单个智能体的表现。CPU的评价因此有了更具体的参照,包括并发能力、响应时间,以及对真实任务的支撑能力。
至此,我们刚才提到的1:1这个比例趋势,也就不难理解了,它对应的是英特尔所强调的智能体推理部署趋势,具体配比仍要看任务和系统配置。