随着人工智能技术从云端向终端迁移,端侧AI直接在终端设备上运行AI模型算法,实现本地化数据处理,具有低延迟、高隐私性、低成本等优势。端侧AI正成为推动终端设备向更高阶智能革新的核心力量。当AI开始拥抱终端设备,端侧AI以实体的方式切实让消费者感受到AI技术与终端硬件结合后带来的功能变革。
自今年开年以来,端侧AI的发展势头可谓如火如荼。终端厂商拥抱AI的态度非常积极,上游芯片、模组厂商也纷纷加码端侧AI布局,能很明显感受到产业链上下游都在追赶端侧AI趋势,想利用今年端侧AI落地发展周期将用户生态培养起来。端侧AI,可以说正在成为数字经济时代的智能新引擎,今年亦是端侧AI落地元年。
站在端侧AI产业爆发前夕,如何科学解构端侧AI发展全景?又该如何把握新机遇,引领行业变革?物联网智库特发起《端侧AI领袖之声:中国端侧AI企业深度访谈专栏》计划,邀请端侧AI上下游企业参与访谈,为推动端侧AI行业发展提供有益参考借鉴和指导。
本期《端侧AI领袖之声:中国端侧AI企业深度访谈专栏》,物联网智库邀请到中国移动拔尖计划专家、比邻智联首席专家,产品和研发负责人——孔栋,就端侧AI产业发展以及比邻智联目前的端侧AI布局进行了深入交流。
随着端侧AI不断取得进展,配套的芯片、模组与终端设备在探索场景落地的协同上融合得更加深入,目前我们已经看到很多AI功能不再只是浅尝辄止地嵌入进设备,而是开始深度整合到终端设备的内核中,端侧智能实时性与低延迟、隐私与数据安全、网络独立性、成本优化、个性化与自适应等多方面优势,也得以进一步显现。
比邻智联也认为“端侧AI正逐步成为推动智能技术普适化与场景化落地的关键力量,相较于依赖云端集中式处理的传统模式,端侧AI通过本地化推理实现了低时延响应、隐私保护和网络独立性三大核心价值突破”。
首先,本地化计算能够实现 10 毫秒级响应速度,在自动驾驶等场景中,可完成道路障碍物识别、行人轨迹预判等关键操作,将系统决策延迟降低90%;其次,用户生物特征、工业现场数据等敏感信息无需离端传输,从技术架构层面构建数据安全屏障,避免云端存储带来的隐私泄漏风险;再者,网络离线状态下仍可维持核心AI功能运行,保障智能设备在矿井、海上等弱网环境的稳定服务能力。值得关注的是,端侧大模型并非取代云端,而是形成协同架构,端侧大模型和云端大模型在不同应用场景下结合使用才能让大模型的价值充分发挥。
可以说端侧部署带来的独特价值,正在为整个智能硬件行业,带来前所未有的智能化升级空间。
而在端侧AI落地中,AI模组提供了合理的算力并预先集成部署客户所需要的大模型,是终端厂商快速实现端侧智能的最佳技术选择。物联网智库的《端侧AI爆发,AI模组破局DeepSeek在实体产业落地最后一公里》中也表达过相应观点,对于端侧AI产业链下游的中小型终端厂商,如何便捷快速高效地为终端产品赋予本地智能是一道难题,作为与终端设备关系最紧密的模组厂商,将AI模组与模型技术融合,为下游提供高效的端侧AI模组产品将大幅缩短端侧智能相关产品的落地周期,赋能终端设备享受AI带来的变革。
比邻智联作为中国移动首批专精特新重点培育团队,于2023年12月28日在重庆两江新区注册成立,是中国移动的模组专业公司,致力于为构建智能互联的全球物联网生态作出卓越贡献。比邻智联已打造“通用+新型+行业模组”完善的产品体系,涵盖NB-IoT、4G、5G、车载、AI、卫星模组及方案板产品,能够满足各类物联网细分场景的需求。当前,比邻智联已在能源表计、金融支付、定位追踪、共享经济等行业实现千万级销量,蜂窝模组销量份额稳居全球第二。
在AI模组方面,比邻智联已推出MS351A、MS372Q、MS373Q等系列产品,覆盖1T~48T多种算力配置,支持AI算法和模型部署,确保实时、安全、可靠的端侧AI推理应用,并提供深度定制化开发服务以满足多样化的应用场景需求。同时,比邻智联也针对工业质检等细分场景打造了一体化解决方案,提供“AI+网络”算网融合服务,帮助客户加速产品AI升级。未来,比邻智联将持续丰富高低算力搭配的端侧AI模组系列,扩展更多场景的应用方案,进一步推动AI能力与IoT场景的深度融合。
AI如何在端侧运行起来,最终实现终端设备的高阶智能化,是产业链突破的方向。当前端侧AI发展的主要技术障碍集中在硬件算力、模型优化与处理复杂任务能力之间的平衡。首先,端侧设备通常体积小巧、功耗受限,难以配备数据中心使用的高性能算力芯片。其次,模型压缩与性能之间的权衡也面临挑战,尽管当前主流的模型蒸馏技术能够减少参数量,但往往伴随着明显的精度下降。最后,端侧设备在处理视觉、语音、传感器等多种异构数据时,现有的端侧AI框架在跨模态对齐能力上存在显著的不足。
在端侧AI的产业落地发展过程中,需要基于垂直行业优化的算力模组以及适配的端侧优质模型来解决这些困扰。
比邻智联表示今年会推出更多款不同算力配置的AI模组,搭配DeepSeek、千问、豆包、九天等主流端侧大模型及行业端侧小模型,为不同场景提供精准匹配的解决方案,并为客户提供从模型优化到部署的全流程支持。
目前比邻智联已经全面对接中移九天基座大模型和九天深度思考大模型,在自然语言推理与逻辑处理方面表现卓越。九天大模型是由中国移动九天智能团队研发的大规模预训练模型,旨在成为人工智能领域的核心引擎。该模型技术路线更注重多模态能力、全栈国产化适配以及垂直行业深度优化,以实现高性能和更贴近行业需求的应用前景。九天已经发布1B和3B参数量的端侧语言大模型,下半年还会发布2B参数的多模态端侧大模型。此外,比邻智联在联合生态伙伴积极探索RISC-V国产计算芯片在端侧AI模组上的应用。比邻智联依托中国移动强大的科研实力,实现从模组硬件到大模型应用的全链路自主可控,为行业提供安全可靠的智能化基座。
当前一些表现突出的端侧AI细分市场包括智能手机、AI PC、智能座舱与自动驾驶、AI眼镜等智能穿戴设备。未来值得关注的潜力市场还包括工业制造中的设备故障预测和质量检测、智能家居与智能生活物联网、医疗健康便携智能设备等。不同应用场景对模组算力、功耗、尺寸以及模型的需求有着差异,因此针对不同的垂直行业细分应用,对模组进行适当的工程化配套显得尤为重要。
在工业质检领域,比邻智联就已经推出了一套完整的解决方案,包括机器视觉相关算法,可以在产线上进行全方位检测。“中低速端侧AI模组在金融支付领域发货量很大,POS这种端侧设备也有智能化升级的需求,目前我们正在和客户一起设计解决方案,实现风险防控、防欺诈实时检测、多模态模型身份认证等功能。”比邻智联表示。
通过在模组设计上的工程化能力,基于不同行业客户不同垂直应用领域,对端侧AI模组做定制化开发,模组厂商让终端厂商能够快速应用到前沿AI技术,为硬件终端赋予本地智能。传统的行业应用也在本地智能的加持下,重构出新的应用范式。
比邻智联特别强调,随着国产化模组在算力密度(如异构计算架构优化)与算法适配性(如轻量化模型部署)上的持续突破,中国端侧 AI 产业链将从单点替代转向系统性创新,形成从芯片设计、算法开发到行业应用的全闭环生态。
展望今年的端侧AI发展,比邻智联认为,“2025年是端侧AI爆发之年,端侧AI将深刻重塑整个行业生态。从技术发展来看,多模态技术将进一步推动终端设备从单一感知向一个多维交互演进;其次端侧AI芯片现在正向异构计算架构演进;存算一体架构也是技术发展的重要演进方向”。
“在模组端,比邻智联聚焦于通用端侧AI平台,再加上垂直行业定制策略来构建生态竞争力。通过AI模组加上预植入的模型实现端侧的智能化,将不断深入挖掘出端侧AI各垂直领域的应用潜力”。