
把35B模型塞进32GB内存,智能体PC如何挑战端侧部署的「物理极限」?
Quick Answer
Intel's 'Intelligent PC' concept aims to run a 35B model on 32GB memory, enabling local processing to reduce costs and improve efficiency.
Quick Take
Intel's 'Intelligent PC' concept aims to run a 35B model on 32GB memory, enabling local processing to reduce costs and improve efficiency. This hybrid approach addresses the high costs of cloud-based AI while providing a user-friendly interface, as demonstrated by partners like remio and QClaw.
Key Points
- Intel's Ultra 325 processor enables 35B model operation on 32GB RAM, optimizing cost.
- Hybrid architecture allows local processing for simple tasks, reducing cloud dependency.
- Remio's local ASR model cuts costs by 80% compared to full cloud solutions.
- Seven partners showcased applications in office, entertainment, education, and gaming.
- User-friendly interfaces are crucial for broader adoption among non-technical users.
📖 Reader Mode
~3 min read2026年4月,英特尔首次提出“智能体PC”概念。彼时,这套关于AI PC未来形态的构想,更多还停留在架构图与技术框架层面。
大约两个半月后,七家合作伙伴带着具体产品站到了台前——QClaw、Flowy、remio、TRAE、DuMate、YOYO Claw、Marvis,覆盖办公、娱乐、教育、游戏四个场景,逐一完成现场演示。
从概念提出到应用集中亮相用时两个半月,也是AI落地速度的一个真实刻度。
但另一个问题随之浮现——三个月拉来七家合作伙伴、跑通二十多项应用,这种“落地”的重量究竟是多少?用户真正用起来了,还是仅仅停留在Demo能跑的程度?那些应用里,有多少经得起日常消耗,又有多少只是秀肌肉的“样板间”?
用英特尔中国区技术部总经理高宇的话来说:“智能体PC依然是一个新生的概念,出现市场困惑是正常的。”
困惑在哪里?
在于一家普通企业的IT采购,面对五花八门的思路,依然分不清哪个适合自己;在于一个普通的知识工作者,面对一台预装了智能体能力的电脑,仍然不知道该从哪件事开始;在于行业热闹了三个月,但“落地”这个词究竟意味着什么,还没有一个足够清晰的答案。
这次集中亮相提供了一组回答的起点,但起点和终点之间,还隔着不少需要被追问的问题。
感知层,用户真的在用吗?
2026年初,OpenClaw的爆火让“桌面智能体”第一次进入大众视野,然而如果去问问身边的朋友,他们大概率从来没有亲自部署过龙虾。
交互方式是横在普通用户和智能体之间的一道门槛——几乎所有AI产品给用户的都是一个空白对话框。
QClaw产品经理孙桦阳描述了一个很常见的场景:“多数的用户面临的问题是用不起来,一个简单的对话框放在他们面前,更多的时候,用户就是在上面问一下天气,查一下科技资讯,使用就到此结束了。”
因此,怎么把AI变成生产力的工具,这道门槛比想象中更高——荣耀YOYO Claw发布两个月、积累了约100万用户之后,听到最多的声音是"有很大一批人都不知道什么是龙虾"。
一个连概念都不知道的用户群体,指望他们主动探索空白对话框里的可能性,几乎不现实。
于是,降低门槛成了ISV(独立软件开发商)们的第一要务。
Marvis选择了一个最通俗的方式,其产品负责人王秋阳在分享会上说,他们在系统里出厂预置了六个“小牛马”,每个人有自己的分工——有的管文件、有的管应用、有的管系统设置。
“AI时代的概念太多了,MCP、专家、Skills等等这些东西,”王秋阳说,“如果说我想做一个普世意义的产品,就不会把这些概念都拿出来。”
所以他们把整套东西包装成了一条故事线:“你雇佣你的'小牛马'在办公室给你干活”。用户不需要理解任何技术术语,打开电脑就知道:这六个“人”是来帮我的。
实际使用中,这种设计确实在降低用户的操作成本。有人电脑总熄屏,自己进设置翻半天找不到对应的开关,转而用Marvis调整了相关选项;有人键盘打Shift+2出来的不是@而是引号,Marvis判断出是键盘布局设置错误,帮用户改回了正确配置。
“以前大家的方式就是查一下百度,给你8个步骤,可能的原因,你每一个都试一下,”王秋阳说,“现在对Marvis来说就是一下解决的问题了。”
这套逻辑的底层,其实是智能体交互方式的一个根本转向——从“用户学AI”走向“AI适应用户”。
高宇后来描述了这种转向的终点形态:“不能老让用户做问答题,而是让用户可以做选择题。未来的终极形态,是用户一打开设备,面对的是极其熟悉、符合直觉的引导式界面,只需简单点击几下,AI就能在后台默默把复杂的任务闭环搞定。”
成本层,经济账算得过来吗?
用户愿意用,只是第一步;能不能持续用,取决于另一件事:钱。
当前AI行业有一个奇怪的现象:绝大多数云端AI产品在“免费送Token”,用户用完了这家送的额度,转身就去注册下一家。
核心矛盾在于,云端推理是有成本的,服务器、电费、带宽、运维,每一项都是真金白银。免费烧不出商业模式,收费又赶跑用户,纯云端这条路,供需双方根本无法达成双赢。
这就是智能体PC要回答的第二个问题:成本账怎么算?

英特尔画了一条“微笑曲线”:曲线的右端,是重度依赖云端API的方案——初期硬件门槛低,但长期来看将面临一堵Token费用贵的“高墙”,随着任务复杂度上升,API调用成本会快速走高,让很多重度用户以及企业用户最终无法承担。
曲线的左端,是试图在本地部署大模型的方案,将面临一堵硬件成本的“高墙”,动辄上万甚至两万多的整机价格,会把大部分用户挡在门外。
两堵墙之间的唯一通路,就是端云混合——让大部分简单任务在本地完成,只有复杂任务才上云。这听起来像是技术选择,其实是商业逻辑上的必然。
ISV们给出的数据印证了这一点。
remio创始人汪源算了一笔很具体的账:开会场景中,如果用全云端的方案,80%的成本是耗在语音变成文字这个环节,而通过本地的ASR模型,不仅保护了隐私,还能直接砍掉这80%的成本。
Token消耗降下来之后,服务商可以让利给用户——同样的会员服务,云端方案可能只给你300分钟的免费会议纪要,remio可以给到1500分钟。
更系统的数据来自英特尔技术团队对SuperClaw路由机制的实测:在一个被拆解为五个子任务的复杂流程中,智能路由将其中四个分配给本地处理,结果节省了43%的推理时间和69%的推理成本。随着路由机制的自进化能力持续迭代,这一比例还会继续上升。
这些数据指向一个结论:在端云混合架构下,智能体PC的总拥有成本正在从“无法预估”变得“可以计算”。用户买一台设备是一次性投入,之后的日常使用中,大部分Token消耗在本地完成,边际成本趋近于零。
要让这个商业逻辑成立,硬件本身必须先跨过一道门槛:不能太贵。
如果为了跑本地模型,用户需要购买一台价格远高于普通PC的“专用设备”,那端云混合的“省钱”优势就被硬件溢价抵消了。
于是,降成本就成了整条产业链必须完成的课题。

英特尔的酷睿Ultra 325处理器,主打“平衡之选”——100 TOPS的平台AI算力,性能达到旗舰级358H平台的70%以上,但价格面向“更加主流的市场”。
除了处理器本身,英特尔还在用多种技术手段降低整机成本。
MoE专家卸载技术是其中最典型的一项,大语言模型的参数量巨大,全部加载到内存里对硬件要求极高,但MoE模型的特性是,每一步推理只激活一小部分“专家”——大部分专家在大多数时候是闲置的。
英特尔利用这一特性,把“冷专家”放到AI SSD的高速分区,只把“热专家”留在内存里。实测数据显示,在桌面智能体常见的32K超长窗口场景下,内存节省超过30%,首Token性能损失小于10%,解码阶段TPS几乎无损。
这意味着32GB内存的机器就能流畅运行35B的MoE模型,而不需要升级到64GB甚至128GB。
高宇强调,这些技术的目标很明确:“让用户在主流的24G或32G内存配置上,就能跑得动35B的MoE模型,而且还能把上下文窗口开到128K到256K。”
然而,一套硬件的经济账算清了,还需要有人在这套硬件上持续提供服务、持续迭代应用、持续把能力交付到用户手中。
成本决定了用户买不买得起,生态决定了用户买回来之后有没有东西可用。当硬件门槛被逐渐削平,真正的考验才刚刚开始:谁来搭建那套让智能体PC真正运转起来的系统?
生态层,合作能持续吗?
高宇用五个字概括了英特尔的生态哲学:“水利万物而不争。”
落到行动上,就是“种树”——把根扎在芯片和底层技术上,让树冠上的枝叶自己长出来。七家智能体软件厂商、四种场景,三个月内集中亮相。
但“不争”不等于“无为”,英特尔要证明的是:作为平台方,它能给合作伙伴带来不可替代的价值。
首先是技术底座的确定性。
今天七家ISV都在做端侧AI,但端侧AI要真正好用,芯片层必须有足够的能力储备。英特尔提出的“智能体PC必备的七种模型能力”——ASR、OCR、TTS、CV/VLM、LLM、Image Gen、Omni——已经构成一个完整的基座,ISV不需要从零摸索端侧AI的能力边界,各家只需要在自己的场景里调用和优化即可。
其次是响应速度,从4月21日提出概念到7月7日集中亮相,中间“几乎都是在过去一个半月内密集发生的”。
高宇用了一个很形象的描述:“大家常说'下午拍板,晚上开干',这就是我们以中国互联网速度、AI速度在全速推进。”对于ISV来说,上游芯片厂商能以这种速度配合迭代,本身就是稀缺资源。
这些价值最终要落到一个更实在的层面——ISV能不能在英特尔平台上做出比别处更好的产品、更低的成本。
这直接体现在具体的优化成果上:remio通过英特尔算力平台把OCR识别速度提升3倍、ASR转写做到“1小时音频不到2分钟”;百度DuMate在酷睿Ultra平台上完成OCR和35B模型的端侧部署;QClaw的本地模型推荐机制会根据用户设备参数直接计算最优方案。
技能广场、模型路由框架、MoE卸载技术——英特尔正在把越来越多的底层能力标准化、产品化,降低ISV接入门槛的同时,也让各家不必重复造轮子,可以把精力集中在自己的场景逻辑上。
这套协作模式的形成速度相当惊人,但真正的考验在于,当最初的热情退去之后,这套系统能否持续运转下去。技术迭代的节奏能不能跟得上ISV不断增长的需求,硬件成本能不能持续下探以覆盖更广的用户群体,用户能不能真正感知到价值并形成使用习惯。
当前展示的应用是一个不错的起点,但距离一个真正繁荣的智能体PC生态,还需要更多的时间、更多的参与者、更多的真实用户反馈来共同推动。
雷峰网雷峰网(公众号:雷峰网)
雷峰网原创文章,未经授权禁止转载。详情见转载须知。
— Originally published at leiphone.com
Want this in your inbox every morning?
Daily brief at your local 8am — bilingual EN/中文, free.
More from 雷峰网芯片
See more →Token账单迷雾:当每百万Token多少钱变成「比价陷阱」
The rise of Token billing in AI has transformed costs into operational expenses, with prices varying significantly due to factors like model efficiency, energy costs, and contract terms. As companies shift from GPU hours to Token-based billing, understanding the hidden complexities behind Token pricing becomes crucial for effective budgeting.

