Agent AI时代CPU需求爆炸, 是不是被忽悠了的说法?
Agent AI时代CPU需求被夸大,但内存需求增长更显著。
1. 关键信息
- #1 @劳动路:Agent workflow 是 I/O bound(等网络/GPU/数据库),CPU 仅做解析 JSON、调 API、拼字符串,负载极轻;全球数据中心 CPU 平均利用率仅 20-40%。
- #2 @xxxyyy:B200 系统 CPU:GPU 数量比 1:4,但 CPU 价格仅为 GPU 零头;Agent 调用本地工具算力极低,OpenClaw 可在十年前 CPU 上运行。
- #6 @xxxyyy:CPU inference 延迟太高,不现实,只适合个人用户。
- #12 @severolf:Intel CPU 确实卖空了。
- #15 @好运来:Intel 的故事是美国芯片制造,不是 CPU 本身。
- #16 @qianfly:Agent 时代 serial computing 更重要,small size parallel 在 CPU 上跑延时更低,未来推理可能更多跑在 CPU 上(反对观点)。
- #23 @米奇17号:Agent 最大应用 coding agent,代码的自动化编译、运行、测试全是 CPU 在干活。
- #25 @ly1091:GPU 服务器必须配 CPU;vibe coding 产生的 app 需要更多 CPU 运行。
- #26 @米奇17号:大厂几万工程师从早上10点开始 vibe code,产生的 CPU 需求连大厂内部都吃不消。
- #27 @justoy:用 agent 后一人一天跑十倍以上 query 和测试,写十倍以上文档和代码,CPU、内存、硬盘需求暴增。
- #29 @米奇17号:时代已变,vibe code 大幅增加 CPU 负载。
- #32 @Extending:更多 CPU 可用来模拟程序运行结果,GPU 可 dispatch 更多并行进程。
- #36 @lexusls570:一个码农一天干以前一年的活,一人配100台电脑,CPU 需求大增。
- #38 @victor2991:需要大量 CPU 做 sandbox 环境隔离/执行 agent 任务。
- #40 @xiaodaobay:AI 带动的是半导体超级周期,不是 CPU 超级周期;若 Intel 18A 拿到 Apple/Nvidia/Google 订单才能吃到肉。
- #41 @fularji:大模型推理场景 CPU:GPU 比例约 1:4,CPU 成本占比不到 10%,当前主要是交易情绪。
- #42 @johnh:已感受到内存需求暴增:64GB RAM 电脑仅开 3 个 Chrome profile + Safari + 微信/WhatsApp/QQ 已用 40GB App Memory;并行跑测试一次用十几个 GB RAM,32GB 机器在 AI 前就常吃 10-20GB swap。
- #43 @buddycup:感觉现在CPU的需求还不如内存的需求高。
2. 羊毛/优惠信息
无
3. 最新动态
- #12:Intel CPU 目前卖空。
- #13 @cxfcxf:已卖出 Intel 仓位(100 出头),转投 QQQ。
- #20 @Noa:利好 IBM?Z 的 IO 优势?
- #21 @meow-meow:intc 不会又要把人套个十几年吧。
- #22 @小小小小露:三哥 tic 还在唱多。
- #31 @Zidan123:市值上去了,回到原点不可能,但能否维持1万亿市值不好说。
- #33 @Hunterlord:入场晚 intc 也已 +50%,follow the flow and choose your time to leave。
- #34 @LeoQ8:本来就是炒作,但股市就是靠炒作。
- #35 @meow-meow:大部分利好已在 vibe coding 之前的 chat 时代兑现。
- #37 @meow-meow:vibe coding 所需编译次数比之前大大减少。
- #39 @diaoshan:有炒作、轮转、波段才有华尔街施展空间,否则人人 allin NVDA 花街直接关门。
- #41 @fularji:CPU 成本占比不到 10%,当前主要是交易情绪。
- #42 @johnh:内存需求已明显暴增,64GB RAM 日常使用已吃 40GB,并行测试单次消耗十几个 GB。
- #43 @buddycup:CPU需求不如内存需求高。
4. 争议或不同意见
- #16 @qianfly 认为 Agent 时代 serial computing 更重要,small parallel 在 CPU 上更快,未来推理可能更多跑在 CPU 上。
- #11 @dancingbro 指出 LPDDR、DPU、NIC 等周边也需要 CPU,不能只看单服务器。
- #23/#26/#27/#29/#36/#38 认为 vibe coding 场景下 CPU 需求暴增(编译、sandbox、测试、运行),大厂内部已吃不消。
- #24/#28/#30/#35/#37 @meow-meow 认为只是 CPU 利用率提高,增长远不如吹得强劲,财报未体现,利好已在 chat 时代兑现。
- #4、#8、#9、#10 多数认为华尔街炒作脱离技术,情绪面主导。
- #41 @fularji 强调 CPU 成本占比极低(<10%),当前行情由交易情绪驱动而非基本面。
- #42 @johnh 提供具体数据佐证内存需求暴增,但未直接反驳 CPU 需求被夸大。
- #43 @buddycup 认为 CPU 需求不如内存需求高,进一步强化内存瓶颈观点。
5. 行动建议
- 技术面不支持 CPU 超级周期,但情绪面/资金面可能继续炒作(#8、#10)。
- 若参与炒作,注意仓位管理,可参考 #13 策略:定投大盘(QQQ)避免踏空,不追高单票。
- 长期看,真正瓶颈仍在 GPU、HBM、网络、电力(#1),CPU 成本占比低(#41),且内存需求增长已得到多楼层确认(#42、#43)。
- 关注 Intel 18A 能否拿到大客户订单(#40),以及 IBM Z 的 IO 优势是否被市场认可(#20)。
- 若相信 vibe coding 带来结构性 CPU/内存需求增长,可优先关注内存相关标的(如 DRAM/HBM 厂商),警惕 CPU 财报验证风险(#30)及编译次数减少的抵消效应(#37)。
Intel、AMD 现在都在吹 “Agent AI 会带来 CPU 爆炸需求”,但认真想想有点不对劲。 Agent workflow 里 CPU 干的基本是: 解析 JSON 调工具 发 API 拼字符串 大部分时间其实都在: 等网络 等 GPU 等数据库 这是典型 I/O bound workload,不是 compute bound。 真正吃算力的是: LLM inference embedding vector search 这些都在 GPU 上。 而且 async/event-driven 这种东西,Node.js、asyncio 十几年前就解决了。一颗 CPU 核心挂几千个协程很正常。 这是典型的 I/O bound workload ,CPU大部分时间在空转等网络、等GPU、等数据库。这是服务器里CPU负载最轻的一类任务之一。 全球数据中心服务器CPU平均利用率长期在20-40%。这些CPU已经在高速网络里,已经配了大内存带宽,已经跟GPU在同一个机房。 所以我一直没太明白: 为什么 Agent 增长一定意味着 CPU 要超级周期? 更像是 AI server 总量增长带来的自然需求增长,而不是 Agent 本身突然把 CPU 变成瓶颈。真正紧张的还是 GPU、HBM、网络、电力。 CPU在整个链条里是 胶水角色 ,不是主力计算。
是的,我也发过帖子 https://www.uscardforum.com/t/topic/501692/8 /c/investment/9 你看看架构不就知道啦。 英伟达卖的B200系统,里面两块Intel Xeon CPU,8块英伟达GPU。 OpenAI有10万台B200。 但这说明CPU和GPU占比是1:4吗?也不是。因为这里面CPU价格便宜的很,只能是8张GPU价格的零头罢了。 和普通AI也就多了一个tool use。Agent调用本地工具的CPU算力要求无比低。OpenClaw跑在NAS上都行,那可是十年前的CPU…
貌似inference可以用cpu节约成本
是啊,花街向来不懂技术,amd intc arm业绩增长是有的但不像gpu 光 内存这么炸裂,还能炒只能说花街没活了
offloading是gpu mem不够用才会上的,cpu推理速度怎么样不说,光是weight通信占用的io就慢到你崩溃了
cpu inference延迟太高了,不现实的。只适合个人用户
唯一一次因为CPU升级电脑是为了玩p社游戏,毕竟一核有难八核围观
确实,但我还是买了intel,毕竟虽然我觉得技术上说不过去,但奈何人华尔街说的算
厉害,我算是踏空了cpu这一波,没仓位分配了,我总觉得光和内存是更好的选择没想到cpu能炒成这样
是的, 我也觉得情绪面大于一切
虽然是文字游戏,但也不是只靠总量。LPDDR、DPU、NIC、LPU、NAND、Switch这些都需要CPU。不能只看单个服务器,胶水也可以需要很多,当然你说卖不上价格那是对的。
真假不知道,但现在intel的cpu卖空了是真的
就agent这个需求 来炒cpu的确是扯淡 agent能有多少cpu需求 就调用api能花多少cpu cycle 我觉得是纯扯淡 但是炒作脱离实际很正常 能做到不踏空的唯有定投大盘 任何炒作都能吃到 只要别老去看赌棍的ytd炫耀贴 做好自己的就好了 我intc拿到100出头点就卖了 钱roll进QQQ
集成显卡累死累活 四舍五入cpu出力
Intel的故事是美国芯片制造不是CPU
我理解agent AI 时代 serial computing 变得更多更重要,而不是全部都是parallel computing. 所以single thread is more important than multi thread 而且 假如是small size 的parallel computing workload,在cpu上直接跑,比起调用gpu的延时来说更快。 现在的CPU 也在不断加强自己的并行计算能力,所以以后会有越来越多的推理直接跑在cpu上
现在是大炼钢铁时期,很多说法都一阵一阵的,关于AI的很多东西感觉要多年后才能看清准确的评判啊
我也这么觉得。inference的batching应该还是跑在gpu 上快且节能吧
ai的事 不用搞的那么清楚
利好IBM?Z的IO优势?
intc不会又要把人套个十几年吧
/uploads/short-url/87jry640Rx7Ze7Je11uJvNO1rAS.jpeg?dl=1 三哥tic还在唱多
你想想目前agent最大的应用coding agent,代码的自动化编译、运行、测试全都是CPU在干活
大概也只是原本闲置的cpu的利用率高了。
感觉CPU的行情基本上是两方面,一方面AI数据中心的GPU服务器里面都还是要配CPU的,这些CPU不需要利用率拉满,但没有是真的不行。另一方面Agent写出来这么多code总得有地方运行吧,这些vibe coding的app就会带来更多CPU需求
什么叫闲置的cpu, 一个大厂几万工程师从早上10点开始vibe code, 产生的CPU需求连大厂内部都吃不消
CPU, 内存,硬盘的需求必然暴增啊 自从用了agent以后,一个人一天能跑十倍以上的query和测试,写十倍以上的文档和代码
可能会比古法编程时代对cpu有所扩容,除非是需要编译很久的(类比模型训练),不然我觉得只是cpu利用率提高了
你不是程序员或者没怎么vibe code过吧, 时代已经变了 /uploads/short-url/6ycZjLCq9jmWyJd5l4TfzmKsSjU.jpeg?dl=1
这方面也没谁严肃统计过吧,但从intc和amd的财报看增长远远没有吹得那么强劲
那也不至于 从股市上看 市值上去了 在想回到原点不可能了 但是能不能维持1万亿市值 那就不好说了
有一种解释是更多的cpu可以用来模拟程序运行的结果 那gpu就可以dispatch更多并行的进程
正确的,我入场晚intc也已经+50% follow the flow and choose your time to leave
本来就是炒作,但是股市就是靠炒作的
根本上来说我认为大部分利好已经在vibe coding时代之前的chat时代兑现了
估计以后一个码农一天能干以前一年的活,一个人配100台电脑,CPU需求大增
吃cpu的编译任务,完成同等功能的构建上,vibe coding所需的编译次数应该是比之前大大减少了
感觉是需要不少CPU的,因为需要很多sandbox来做环境隔离/执行agent的各种任务
有炒作,有轮转,有波段,才有华尔街施展的空间。 华尔街收割了燃料,才能维持美股长牛和AI叙事的长治久安。 否则人人都allin NVDA就吃满全部红利,花街直接关门好了,不如股也别炒了,直接合资买达子的企业债。
ai带动的应该是半导体超级周期,不是cpu超级周期。如果Intel 的18a 能像他们承诺的一样表现优异,拉到 apple Nvidia Google 的单,Intel 肯定能吃到肉。
就算在大模型推理上 cpu和gpu的比例也就是1:4 cpu成本占比不到10% 但现在主要是交易情绪
justoy: CPU, 内存,硬盘的需求必然暴增 我现在已经感受到内存的需求了,现在64GB ram的电脑,仅仅是开了3个profile的chrome,一个Safari,还有各种wechat whatsapp QQ,已经用掉40GB App Memory了。 其实还没有10倍代码,但是经常并行跑很多测试,跑一次至少使用十几个GB的ram。这还没有并发多个项目呢。 如果是32GB ram的机器,都不用AI时代吧,AI之前的时代,经常用10GB到20GB的swap。
感觉现在CPU的需求还不如内存的需求高