美格/广和通/移远/日海...齐布局,Deepseek催化"端侧AI元年"?
作者 | 物联网智库2025-02-14

2025 年初,DeepSeek 凭借其高效能、低成本的开源特性迅速引爆市场。

此前,以大模型为代表的 AI 在边缘和端侧推理应用存在诸多挑战,比如边缘侧的计算能力与存储容量难以满足大模型的微调和推理需求,模型压缩与轻量化可能导致精度损失从而影响业务结果等……而随着算法技术的不断进步,包括模型量化、剪枝、蒸馏等模型压缩算法的发展,以及专为端侧部署设计的软硬件平台的出现,AI 大模型在端侧设备的部署变得更加高效便捷——DeepSeek-R1 正是其中的突破性选手。

具体而言,DeepSeek-R1 通过高效蒸馏技术,将大模型的推理能力迁移到更小、更高效的版本中。这一突破使其小尺寸版本在保持卓越性能的同时,显著降低了模型体积和计算资源需求,成为端侧部署的理想选择。

AI 大模型从云端下沉至边侧,一场“端侧 AI 革命”正悄然展开。在这场革命中,通信模组作为连接物理世界与数字世界的核心纽带发挥着至关重要的作用,成为产业关注的焦点。2025 年,在 DeepSeek 浪潮的引领下,智联网产业或将迎来“端侧 AI 元年”。

模组企业齐齐“蹭”上 Deepseek 热点

近日,我们能看到包括美格智能、广和通、移远通信、芯讯通在内的多家物联网模组企业纷纷发布了旗下 AI 模组适配 DeepSeek 的消息,笔者整理如下:

  • 美格智能

1 月 26 日,美格智能在官微发布消息称,其研发团队结合 AIMO 智能体、高算力 AI 模组的异构计算能力,结合多款模型量化、部署、功耗优化 Know-how,正在加速开发 DeepSeek-R1 模型在端侧落地应用及端云结合整体方案。

  • 超低功耗:首先持续对 DeepSeek-R1 模型的推理延迟进行优化,保证模型在高算力模组软硬件环境下的超低功耗运行。

  • 开发工具链:不断进行工具链打通,模组内嵌的 SNPE 引擎直接支持 DeepSeek-R1 模型的 ONNX/TFLite 格式,大模型适配周期将大幅缩短。

  • 端云协同:结合动态卸载技术,根据任务复杂度自动分配端侧与边缘计算资源,保障实时性与能效平衡。为客户提供端云协同模板,面向开发者提供动态任务分配框架,简单配置即可实现“本地优先,云端兜底”。

同时,公司将结合美格智能自研的 AIMO 智能体及 DeepSeek-R1 模型的基础能力,开发面向工业智能化、座舱智能体、智能无人机、机器人等领域的 AI Agent 应用。

受 DeepSeek 概念影响,1 月 24 日至 2 月 10 日,美格智能股价区间涨幅达 77.20%。

  • 广和通

2 月 10 日,广和通在官微发布消息,称其高算力 AI 模组及解决方案全面支持小尺寸的 DeepSeek-R1 模型,高效且灵活地构建深度学习体系,不仅保护数据隐私,更大大提升终端推理和运算能力。

面向更广泛的行业端侧 AI 应用,广和通将积极推动 DeepSeek 等优质模型在高、中、低算力 AI 模组及解决方案部署,提供不同参数模型服务,进一步降低端侧 AI 的门槛,并优化成本,帮助客户快速增强终端 AI 推理能力,赋能更广泛的物联网设备实现 AI 化。

  • 移远通信

2 月 12 日,移远通信在官微发布消息,宣布其搭载高通 QCS8550 平台的边缘计算模组 SG885G,成功实现了 DeepSeek-R1 蒸馏小模型的稳定运行。实测数据显示,其生成 Tokens 的速度超过每秒 40 个 Tokens,且未来随着性能的不断优化,速度还将进一步提升,为智能终端设备带来更强大的 AI 能力。此外,在成功实现 DeepSeek 模型端侧运行的基础上,移远通信还完成了该模型的针对性微调,并应用于自身的大模型解决方案中,为客户提供更精准、更高效的端侧 AI 服务。

据悉,搭载 DeepSeek 模型的移远边缘计算模组和解决方案,不仅适用于消费类和工业类机器人领域,还可广泛应用于智能座舱、机器视觉、个性化虚拟助理、平板电脑、老人监护、智能家居、AI 玩具及可穿戴设备等多元化场景。

  • 芯讯通

2 月 12 日,芯讯通 SIMcom 官微发布消息称,芯讯通高算力 AI 模组 SIM9650L 已实测跑通 DeepSeek R1 模型,AI 算力超过 14Tops,能够高效地帮助客户终端搭建深度学习体系。

目前,芯讯通正在开展相关技术研究接入豆包等其他大模型,积极探索更多深度应用。AI 大模型爆火背后,是产业智能化对价值创造的本质需求,芯讯通将以通信模组为支点,通过“模组+算法+场景”的深度融合,让端侧 AI 真正落地。

  • 有方科技

2 月 13 日,面对“公司是否针对 DeepSeek 相关模型开展了模型适配及端侧部署工作”的问题,有方科技在投资者关系平台上答复表示,公司依托于自身物联感知体系“云-管-端”架构建立的优势,积极融合物联网与人工智能技术,在 Deepseek 模型上,公司一方面正在云侧基于模型融合公司运管服云平台开发城域物联感知模型,另一方面也正在端侧开展模型与模组的适配工作,但目前还处于在研状态,尚未产生收入。

“端侧 AI”落地尚存挑战,但前景可期

值得强调的是,虽然不少模组企业因布局端侧 AI,股价迎来大幅上涨,但尚且无法判断相关概念股是否真正受益于 DeepSeek 的技术突破,还是仅仅在蹭热点?许多产品都处于早期研发阶段,尚未产生明确订单,未来是否能产生收入及产生多少收入受市场需求和公司市场拓展进度影响,具有很强的不确定性,尚有赖于应用端和最终用户的检验。

而智联网模组企业以及整个产业链上下游要想进一步将拓展端侧 AI 能力,还需要克服以下挑战:

首先是计算资源受限问题。这包含三个维度:第一是算力限制,端侧设备(如嵌入式系统、移动设备、工业设备等)通常受制于处理器性能,无法匹配云端数据中心的 GPU、TPU 等高性能计算单元;第二是存储和内存限制,端侧设备的存储容量有限,无法容纳大规模的 AI 模型和数据集;第三是能耗限制,端侧设备通常依赖电池或低功耗架构,难以支持高功耗的 AI 推理任务。

如今,DeepSeek 为解决计算资源受限挑战提出了突破性的思路。DeepSeek 是一个具有 6710 亿参数的大型语言模型,其基于预训练的开源模型(如 LLaMA)进行改进和微调,推出了多个精简版本(参数从 15 亿到 700 亿不等),降低了对硬件资源的要求,使其能够在资源受限的设备上运行。

未来,在 DeepSeek 的启发的引领下,更多类似的模型或将被陆续推出,从而给端侧 AI 带来无穷的想象力。对此,模组企业需要持续优化平台部署,大幅缩短新模型的落地周期,从而赋能终端侧真正享受到 AI 带来的受益。

然后是端云协同部署问题。如今,关于边缘和云端哪个是理想工作负载位置的争论,已经逐渐被现实的共生关系所取代——云端(Cloud)负责高性能计算、大数据存储、深度学习训练等任务;边缘(Edge)靠近数据源,负责实时推理、数据预处理、流式计算等;端侧(Device)处理本地任务,如智能手机、传感器、IoT设备的轻量化推理……随着跨云、边缘和数据中心的高效数据处理和流动需求不断增长,混合边缘-云的应用趋势将继续提升。

对智联网解决方案提供商而言,未来需要以协同化的架构,进一步合理划分云、边、端计算任务,确保在保证性能的同时优化能耗和数据同步效率。

最后是应用场景适配与生态建设问题。不同应用场景(智能家居、智能制造、自动驾驶等)对计算能力、功耗、隐私等有不同需求,对此,模组企业需要定制化产品和服务。

美格智能提及,未来将推出面向 AI 场景的订阅服务,针对中小型的 B 端或 C 端客户,推出“端侧 AI 能力包”,与大模型厂商合作,针对 Token 输入/输出数量、不同类型模型调用、流量费用等领域,推出一体化端侧 AI Turn-key 方案。

总体而言,虽然道路是波折的,但前途是光明的。根据 Market.us 的预测,从2022 年至2032 年,全球端侧 AI 市场空间将从 152 亿美元提升至 1436 亿美元,年复合增长率达 25.9%。

而随着端侧 AI 的进一步深入落地,我们将看到除手机、PC、智能眼镜、耳机等传统设备外,家电、机器人、教育办公设备、玩具等也将深度集成 AI 功能,形成“万物皆可 AI 化”的生态。

写在最后

回顾模组的发展历程,标准通信模组从 1.0 时代的纯通信能力,到 2.0 时代利用 Open CPU 技术替代外部 MCU,实现一些简单的逻辑控制能力,到 3.0 时代的同时具备 4G/5G 高速通信能力以及内置智能化操作系统和丰富的外设接口。复杂系统的智能模组经历了史无前例的快速发展,大大加速了传统行业的信息化和智能化的改造进程。

而在模组不断进化迭代的过程中,市场迎来过“春风”,也经历过“寒冬”。Counterpoint 数据显示,受需求减少影响,2023 年全球物联网模组出货量首次出现下滑,同比下降2%,但2024年随着库存水平正常化和智能电表、POS、汽车等领域需求增加,模组市场有望下半年恢复增长。伴随 5G、AIoT 等技术应用,预计 2025 年市场将出现大幅增长。

如今,端侧 AI 概念的爆发又为模组市场注入了新的动力,在此影响下,整个市场的“回暖”或许会比预期中来得更早一些。

参考资料:

美格智能AIMO智能体+DeepSeek-R1模型,AI应用的iPhone时刻来了,美格智能

移远通信边缘计算模组成功运行DeepSeek模型,以领先的工程能力加速端侧AI落地,移远通信

芯讯通高算力AI模组SIM9650L实测跑通DeepSeek R1模型,芯讯通

正在端侧开展Deepseek模型与模组的适配工作,有方科技

端侧AI元年爆发!广和通AI模组及解决方案全面支持DeepSeek-R1蒸馏模型,广和通

广和通/美格/移远/日海纷纷布局,一文盘点算力模组现状、挑战和前景,物联网智库

戴尔副总裁:五大趋势将定义智能边缘的发展,戴尔


热门文章
DeepSeek的爆火,再次给“人工智能+”注入了强大力量,物联网产业界也高度关注这一领域的发展。具有高级自然语言处理能力的大语言模型(LLM)为业界带来很多好处,将其集成到物联网系统中,可以有效发挥
2025-02-14
X