海量终端等待被AI重做,破局的关键到底在哪里? - 智东西
Quick Answer
AI is shifting from cloud to edge devices, with Shanghai HiSilicon advocating for 'light intelligence' in IoT.
Quick Take
Their HiSpark ecosystem aims to empower developers with tools and support to create AI-enabled products efficiently, addressing challenges in real-time processing, privacy, and deployment.
Key Points
- Shanghai HiSilicon promotes 'light intelligence' for IoT devices to enhance AI capabilities.
- HiSpark community offers a unified toolchain for seamless development across various chip types.
- Developers can leverage AI to automate embedded development, improving efficiency by 76%.
- Real-time processing and privacy concerns drive the need for capabilities.
- HiSpark's XDAS framework supports developers through structured knowledge and application guidance.
📖 Reader Mode
~4 min read
智东西(公众号:zhidxcom)
作者 | 陈骏达
编辑 | 漠影
过去几年,AI的发展都集中在云端:越来越多的参数,越来越强的模型,越来越费电的算力中心。如今一个更深层的变化正在发生:AI开始明显地从云端向终端设备扩散。机器人、自动驾驶汽车、智慧视觉设备等越来越多的终端正在拥有自己的AI能力。
这一趋势并不难理解,终端是AI抵达真实世界的关键入口:摄像头、麦克风、传感器就长在设备上,物理世界的数据由终端源源不断产生。云端的模型和算力再强,进不了终端,就无法触及真实世界。可以说,AI竞争的下一个战场,就在端侧。
在这个节点上,上海海思给出了一个鲜明的判断:每个IoT终端都值得被重构成轻智能终端,成为AI的泛在入口。通过端侧AI与云端协同,实现小算力大智慧。围绕这个判断,一套从战略到执行的完整架构也随之铺开:一方面,凭借全系列的端侧芯片捕捉端侧AI产业爆发的机会;另一方面,通过HiSpark开发者生态社区,加速构建一套面向端侧AI的新一代开发者生态。
一、端侧已进入轻智能时代
一个常见的共识是:云端大模型越来越强,下一阶段AI的发展必然会走向真实的物理世界。而这过程中,必定会遇到几个硬约束。
首先是实时响应。以典型的云端指令为例,常见的云端语音指令一发一收最快也要1000毫秒左右的通信时长,正常交互问题不大,但时延压力极大的高速决策场景根本无法容忍这样的延迟。
再者是多模态感知:摄像头、麦克风、传感器就长在设备上,终端能够持续、实时地获取物理世界的数据,这是云端拿不到的。最后,考虑到隐私保护与数据安全,数据和指令不出终端,天然规避了大量风险。
因此,云侧与终端侧需要深度协同,才能构建起完整的业务链路。端侧能力越强,能够采集和处理的数据越多,对云端的需求也越高。云端模型能力提升,又会进一步推动终端升级,两者形成持续增强的协同关系。
上海海思把这一终端演进趋势定义为“轻智能”。所谓“轻”,是让终端设备以较低的成本和功耗,一站式实现“有联接、有智能、有感知、有交互”,改变过去AIoT终端缺乏真正“AI”的局面。 特别是端侧AI能力的引入重新定义了终端产品,让全新的“轻智能”终端,成为AI真正走进日常生活的最大载体,也是彻底激活AIoT行业的一把钥匙。

▲上海海思HiSpark开发者生态社区
这种变化最终会落到具体产品体验上。我们尝试设想一下,给智能牙刷装上微型摄像头和端侧算力芯片,实现边刷牙边扫描牙齿,判断哪里需要重点清洁甚至就医;吹风机也不再是固定冷热档位的功能型产品,而是能够根据发质、干湿程度动态调节风温和风速的完整智能产品。上海海思生态与伙伴发展部部长闪罡认为,轻智能终端不是创造一个全新的“物种”,而是让消费者已经熟悉的传统产品获得全新的、断代的智能能力。
二、算力易得、落地难为,生态支持成现实需求
然而,端侧AI能不能跑起来,不能只看芯片算力。闪罡提出,端侧AI面临一个非常现实的困难:“算力易得,落地难为。”算力集成容易,硬件成本很低,但企业拿到算力之后,真正的考验才刚刚开始。
第一关,是“想不清”算力能干什么。这要求企业拥有深厚的行业Know-how,对本行业产品的功能场景和深层次用户需求有充分的洞察和认知,要深刻地理解问题,又要合理地定义体验,这个关卡就已经把大量企业挡在了门外。
而即便想清楚了算力能干什么,第二关,还要想好模型如何落地。端侧AI涉及一整套环环相扣的工程链条,对于大量中小企业而言,真正稀缺的并不是算力,而是把算力变成产品的能力。
在嵌入式开发中,开发者始终要在算力、功耗和成本之间寻找平衡:算力高了,功耗和发热可能上升;功耗降下来,又可能牺牲性能,内存、功耗、算力、成本等方面都有严苛约束。
软件与模型侧,如何把云端训练的模型通过量化、剪枝、压缩等方式最终部署到端侧设备上,又要如何针对不同芯片优化推理框架和底层算子,都是极为复杂的挑战。
这套软硬件适配和算法研发的能力,过去更多掌握在拥有大规模研发团队的大厂手中。而端侧AI是一个天然碎片化的市场,其中有不少参与者都是中小企业、方案商和个人开发者,对他们而言,独自打通全链条的成本难以承受。那么,对于广大开发者而言,路在何方?
AI编程的兴起,似乎正为降低端侧AI开发工程的门槛提供新的路径启示。逻辑上,开发者可以让大模型生成代码、调用工具,甚至辅助完成整个开发流程。但嵌入式开发面对的是具体芯片、具体硬件和具体工程环境,通用大模型并不能直接解决这些问题。它们可能不了解具体芯片的BSP、SDK和信号管脚,也难以及时掌握不断更新的版本、接口和勘误。
更关键的是,嵌入式开发并不只是写代码。模型还必须理解算力、功耗、成本等硬件约束,生成的代码即使逻辑正确,也可能因为内存、性能等问题无法真正上板;到了调试阶段,还要接入日志、逻辑分析仪、示波器等工具,形成完整的“人—模型—硬件”闭环。
这意味着,通用的AI编程可以降低一部分开发门槛,却无法单独补齐端侧AI落地所需要的工程体系。
如何让大多数企业都能获得打造端侧AI产品的系统工程能力?这是轻智能浪潮中必须有人回答的问题,也是上海海思给自己立下的命题——毕竟,芯片再能算,海量开发者用不起来,也是枉然。
要回答这个命题,靠芯片本身是不够的。既然瓶颈在工程链条,竞争的主战场就必然从单一的芯片或模型能力,延伸到工具链和开发生态,芯片厂商的角色也要随之改变。过去,芯片厂商提供芯片、SDK和技术支持;如今,开发者需要的是从芯片、模型、工具链到Demo的全链条支持,厂商需要陪着开发者走完从算力到产品的全程,最终成为端侧AI开发平台的提供者。

▲HiSpark开发者生态社区网站
这也是上海海思正在推进的方向:以四大生态为基座,提供丰富的芯片的产品和方案,持续开放芯片、工具链、模型以及工程能力,做好硅基黑土地,让更多的伙伴和开发者在这片肥沃的土地上,释放创新潜能。HiSpark社区这一轮升级,也正是围绕这一思路展开,从提供芯片和SDK,进一步向完整的端侧AI开发生态延伸。
三、首创XDAS四维框架,面向AI把开发者生态重做一遍
上海海思可能是国内开发者可以触及的芯片序列完整度和丰富度最高的原厂之一,这张底牌就是全系列、全档位的芯片家族:感知、联接、显示、算力等芯片正逐步面向开发者深化开源开放,并以统一的算子库、统一的工具链拉通不同芯片,让开发者在不同算力档位之间低成本迁移。
这套统一还延伸到端云之间:上海海思的端侧平台与CANN体系共架构,CANN是昇腾体系的全栈开发生态,端侧芯片相当于把这套生态一直延伸到了最小的智能终端上。随着生态工作的不断推进,从日前发布的昇腾960到海思仅有1T算力的Hi3516CV610,未来都有望共用同一套算子库、工具平台、模型库与推理框架。
在芯片的底座之上,HiSpark社区首次提出了XDAS开发者生态四维框架,把生态能力系统性地归纳为四个维度:AI for Development(D)、AI for Application(A)、AI for Support(S)、EXperience for AI(X)。前三维解决“开发者怎么用AI”,X解决的是“AI怎么用社区”——当社区的服务对象从人扩展到AI,生态的基建本身也要重做一遍。

▲XDAS开发者生态四维框架
拆开来看,在AI for Development方面,上海海思正帮助开发者利用AI提升嵌入式开发效率。他们已经把SDK、接口文档、参考工程、成功经验全部结构化、向量化,建成实时刷新的专属知识库,再把芯片开发能力抽象成原子化的Skills集合释放出来,通过MCP服务和CLI工具链接入真实开发环节。
有了这些知识,生成代码、编译、烧录到读取日志和仪器数据等环节都可以交给AI自动迭代,人只负责开头提需求和结尾验收。上海海思首批打造的五大领域Skills已完全开放到HiSpark社区,实验室实测效率提升约76%,过往需要1个工程师2周左右的工作量,现在借助AI Skills,在1天内即可搞定。

▲AI辅助嵌入式开发
面向AI for Application,也就是应用落地,上海海思创新性地提出了“五步法”的解题思路,帮助开发者实现从想法到产品的临门一脚。HiSpark社区把应用落地拆解为“案例→算法→数据→训练→部署”五个环节,针对性提供支撑。

旅程第一步从案例中心开始,开发者可以学习既有案例、阅读开发指南,获得开发灵感。
有了想法,就可以前往HiSpark的模式与算法市场匹配需求,这里提供大量开源算法与模型,目前Hi3403芯片已开放15个品类、70多个开源算法,年出货过亿的Hi3516CV610未来三个月也将开放40多个算法。

接下来进入训练与部署环节,HiSpark社区提供了模型量化剪枝、压缩转换等工具,今年年底还将上线在线训练平台,小团队不用再自建训练服务器,上传数据即可拿到模型。
五步法铺平了从想法到产品的路,但开发者真正动手时,仍会在无数具体问题上卡住。如何让技术支持快起来、准起来?这正是XDAS框架中“AI for Support(S)”所要解决的问题。
随着端侧AI开发生态不断丰富,传统人工FAE要处理的问题越来越多,往往无法以最快速度响应。而上海海思内部统计发现,开发者遇到的85%以上的问题,其实都是前人解决过的重复性问题。
因此,HiSpark社区近期正式开启数字FAE公测,提供7×24小时服务,覆盖芯片选型、技术指导、资料检索、根因分析与解决方案等场景,还能通过MCP接入开发者自己的IDE;遇到AI无法解决的问题,系统会自动整理对话并转给真人FAE。
上海海思特别强调,数字FAE不是普通智能客服:开发者更看重准确性和效率,一个错误的硬件能力判断可能带来高昂的试错成本,因此系统宁可不答,也不能乱答,背后依靠的是严格圈定的知识体系和持续勘误。
而当开发者开始越来越多地使用AI,一个新的问题浮出水面:社区本身,对AI友好吗?这对应的是XDAS框架的最后一维——EXperience for AI(X)。HiSpark社区数据显示,Markdown格式文档的申请量已经超过半数,其中接近70%来自智能体,社区服务对象正在从“人”逐渐转向“AI”。
为此,HiSpark社区一方面要求文档、SDK、接口和工程参考做到“人可读、AI亦可读”,另一方面开放接口,让开发者可以直接在自己的Agent中调用社区能力,同时通过数据治理保证信息准确、干净和实时更新,避免错误知识被AI反复传播。
上述四个维度的重构,正在带来看得见的改变。截至2026年9月,HiSpark社区下载量较去年提升10倍,UV提升8倍,但上海海思对社区的建设目标,并不以开发者数量或日活为核心,而更看重社区健康度、产品体验和伙伴能否真正成功。
闪罡强调,社区的价值不是“获取开发者”,而是“服务和支持开发者”。未来,社区甚至不必以一个独立网站存在,数字FAE、MCP服务和开发能力可以直接进入IDE、Agent等开发环境,这或许才是端侧AI生态,真正融入开发流程的状态。
轻智能时代已至,这一点正在产业内形成共鸣。从传统安防到智能家居,从消费电子到工业制造,大量从业者在这一轮浪潮中重新看到了机会。
中国拥有全球最丰富的终端品类和最活跃的开发力量,千千万万中小企业正是这一市场最广泛的参与者。过去,智能化升级往往意味着高门槛、高投入,只有头部企业玩得起;而当生态把门槛一层层压低,让一个小团队也能做出AI产品,技术的红利才真正开始流向千行百业、惠及千厂万商。
这正是上海海思在做的事。它以全系列芯片为底座、以HiSpark开发者生态社区为载体,把知识、工具、模型、服务全面开放,试图为中国端侧AI行业,修一条人人可走的路。
— Originally published at zhidx.com
Want this in your inbox every morning?
Daily brief at your local 8am — bilingual EN/中文, free.
More from WebSearch (Tavily)
See more →全球AI芯片峰会,9月上海见!
The 2026 Global AI Chip Summit will take place in Shanghai on September 22-23, focusing on the evolving AI chip landscape, including the shift from training to inference, the rise of diverse chip technologies, and the restructuring of industry competition. Notable speakers include experts from leading universities and companies, discussing advancements in AI chip architecture and applications.