「小」鸭子火了之后，端侧 AI 还有一个更「大」的问题
Quick Answer
The Microduck by Pollen Robotics, a $399 open-source bipedal robot, highlights the shift of AI from cloud to edge devices, raising critical questions about the feasibility of running large models locally.
Quick Take
As AI evolves, the challenge lies in enabling complex tasks on low-power, efficient edge devices while ensuring privacy and offline functionality.
Key Points
- Microduck weighs 800 grams and can walk, sit, and interact autonomously.
- applications currently rely on small models for specific tasks like voice recognition.
- The 后摩 M50 chip supports 160TOPS@INT8 and runs large models locally with low power.
- Lenovo's AI host P7 can run a 122 billion parameter model offline at 50 Tokens/s.
- Future AI devices will need to handle complex tasks while maintaining low power and cost.
📖 Reader Mode
~3 min read最近，一只只有 25 厘米高的机器鸭，意外把端侧 AI 的想象力拉到了聚光灯下。
Hugging Face 旗下 Pollen Robotics 发布的 Microduck，是一款售价 399 美元的开源双足机器人。它约 800 克重，开箱即可行走、坐下、踢球、抓取，摔倒后还能自己爬起来。更重要的是，它并不只是一个会动的玩具，而是一个面向开发者的开源机器人平台：用户可以在仿真环境中训练动作策略，再部署到真实机器人上。
这只“小鸭子”之所以引发关注，不只是因为它足够可爱、足够便宜，也不只是因为机器人终于开始进入普通开发者的桌面。它真正释放出的信号是：AI 正在从屏幕里的模型，走向会感知、会行动、会互动的实体设备。
过去几年，人们谈 AI，最常谈的是云端大模型、参数规模、训练集群和算力中心。但当 AI 开始进入真实世界，问题会变得非常具体：设备能不能本地响应？能不能离线运行？隐私数据能不能不上传？功耗和散热能不能被终端接受？成本能不能支撑规模化普及？
这些问题，正是端侧 AI 真正落地时必须回答的问题。
Microduck 给出的，是“小模型、小芯片、小机器人”的一种想象。一个低成本、开源、可训练的小型机器人，证明智能设备不一定总是从手机、PC、汽车这样的大入口开始，也可能先从桌面、教育、开发者社区、家庭陪伴、轻量机器人这些更小的场景里生长出来。
“小”之外的“大”想象
但小鸭子火了之后，端侧 AI 还有一个更“大”的问题：
当设备不只是完成简单动作、固定识别和轻量交互，而是要具备复杂对话、长期记忆、知识检索、多模态理解和智能体任务能力时，大模型能不能也在端边侧跑起来？
这正是端侧 AI 从“能用”走向“好用”的关键分水岭。
今天国内很多端侧 AI 应用，仍然以小模型、固定任务或场景专用推理为主。比如语音唤醒、图像识别、简单问答、姿态检测、低功耗感知等。这些能力非常重要，它们让智能设备先“动起来”“听得见”“看得懂”。
但如果 AI 要进一步成为真正的智能体，它就不能只停留在单点能力。未来的 AI PC、个人 AI 主机、家庭智能终端、机器人、工业边缘设备，都可能需要在本地运行更复杂的大模型能力：理解上下文，处理私有数据，持续执行任务，在无网或弱网环境下仍然稳定工作。
这时，端边大模型就不再是一个炫技概念，而是端侧 AI 继续演进的必然命题。
问题在于，大模型下沉到终端，并不是把云端模型简单搬下来。云端可以堆服务器、堆功耗、堆散热，但终端设备不行。一个机器人、一台笔记本、一个家庭边缘设备、一台会议一体机，必须在有限功耗、有限空间、有限成本里完成推理任务。
所以，端边大模型真正难的是能不能在低功耗、低延迟、数据安全、离线可用和量产成本之间同时成立。
这也是后摩智能一直关注的问题。
后摩智能的判断是：云端仍然重要，它让 AI 变得足够聪明；但如果 AI 要真正进入每个人身边的设备和真实产业场景，就必须有一部分智能在端边侧完成。尤其是机器人、AI PC、智能会议、政企办公、工业现场、家庭终端等场景，对实时响应、隐私保护、离线可用和持续运行都有天然要求。
后摩漫界 M50 面向的，正是端边大模型推理这一类场景。它不是为单一小模型或固定任务设计的端侧芯片，而是希望让大模型能够在端边设备里以更低功耗、更高能效运行。
公开资料显示，后摩 M50 基于存算一体架构，典型功耗约 10W，可提供 160TOPS@INT8、100TFLOPS@bFP16 算力，并配套 M.2 卡、PCIe 加速卡、计算盒子等产品形态，覆盖移动终端与边缘场景。
更重要的是，它已经出现在一些真实终端产品中。
今年 5 月，联想发布 AI 主机 P7。这是一款面向智能体的个人家庭边缘设备，搭载后摩 M50，在约 300 克的机身内支持最高 1220 亿参数本地大模型运行，无网环境下本地推理速度可达 50 Tokens/s。它更像一个“口袋里的本地 AI 工作站”：用户可以在本地运行智能体任务，也可以将它作为本地算力入口，减少对云端 Token 的持续依赖。
同月，长城 N90 Pro 全栈自主 AI 笔记本也搭载后摩 M50，以 160TOPS 端侧算力支持 35B 大模型离线运行，面向智能文档写作、离线问答、会议记录、灵感速记、模糊搜索等办公场景。
此外，后摩也在中国移动生态中展示过端边大模型本地部署方案，包括 AI 公文写作、AI 代码/办公、AI 会议助手、AI 知识问答、泛安防+大模型、视联网大屏多路视频超分等应用方向。这些案例共同说明，端边大模型并不是遥远概念，它正在通过 AI PC、个人边缘设备、政企本地化方案、智能会议、安防和机器人等场景进入真实部署。
从可用算力，到体验价值
从这个意义上看，Microduck 的意义不只是“小机器人变便宜了”。它提醒我们，端侧 AI 的载体正在变多：有的是可爱的机器鸭，有的是桌面上的 AI 主机，有的是笔记本里的本地大模型，有的是会议室、工厂、园区和家庭里的边缘设备。
小模型让智能设备先进入真实世界；端边大模型，则决定这些设备能不能处理更复杂的任务，成为真正可用的智能体。
而支撑这一切的底层问题，最终都会回到芯片架构。
端侧设备最稀缺的不是绝对算力，而是可用算力。也就是说，算力不仅要高，还要足够省电、足够稳定、足够低延迟，并且能装进真实终端。传统芯片架构中，大量能耗消耗在数据搬运上。模型越大，参数和数据流动越频繁，“存储墙”和“功耗墙”就越明显。
存算一体的价值，正是在这里被重新看见：尽可能减少数据在存储和计算单元之间的反复搬运，把更多能耗用在真正的 AI 计算上。对端边大模型而言，能效不是锦上添花，而是决定它能不能跑进终端、能不能持续运行、能不能规模化部署的前提。
一只 399 美元的小鸭子，当然不会立刻改变机器人产业。但它像一个很轻巧的窗口，让更多人看见端侧 AI 的方向：AI 不会永远停留在云端，也不会只存在于手机和电脑屏幕里。它会进入会移动、会感知、会协作的设备，进入办公桌、会议室、家庭、工厂和城市边缘。
下一阶段的端侧 AI，既需要小模型让设备更轻、更便宜、更灵活，也需要端边大模型让设备更聪明、更自主、更接近真正的智能体。
“小”鸭子火了之后，真正值得追问的“大”问题是：
当 AI 走向真实世界，我们准备好让大模型也在端边侧跑起来了吗？
— Originally published at leiphone.com
Want this in your inbox every morning?
Daily brief at your local 8am — bilingual EN/中文, free.
More from 雷峰网芯片
See more →隼瞻创始人曾轶：AI推倒芯片设计壁垒，我们要做半导体行业的「Copilot」
Zeng Yi, founder of Sunzhan, emphasizes that AI is reshaping chip architecture, enabling RISC-V's rise as companies like Qualcomm and Google adopt customizable AI processors. He believes RISC-V's flexibility and open-source nature will drive its adoption in the semiconductor industry, particularly in AI applications.
