数字经济时代的关键资源是数据、算力和算法,其中数据是新生产资料,算力是新生产力,算法是新生产关系,这三者构成了数字经济时代最基本的生产基石。其中,算力通俗来说,就是计算能力,指的是数据的处理能力,通常采用TOPS(Tera Operations Per Second)作为单位,1TOPS代表处理器每秒钟可进行一万亿次操作。小至手机、笔记本电脑、大到超级计算机,算力存在于各种智能硬件设备中,没有算力就没有各种软硬件的正常应用。
自2023年3月,OpenAI正式发布目前最强大的多模态预训练大模型GPT-4以来,国内外互联网和云服务大厂、AI企业、行业头部公司、高校及科研机构、大数据及算力提供商等纷纷跟进,中国迎来“百模大战”,并带动了庞大的算力需求。除了AIGC爆发外,其它数字经济因素,如工业、金融、通信、教育、医疗等行业的数字化转型、也将推动算力需求在未来几年快速增长。
“新摩尔定律”指出,未来每18个月,人类新增的数据就将是计算机有历史以来的数据量总和,呈现爆炸式增长的长期趋势。而超大规模的数据量,对算力的需求也将呈现出前所未有的高度和强度。算力,将成为支撑数字经济持续向纵深发展的重要动力。
根据中国信通院报告,2022年中国总体算力规模约为302 EFLOPS(EFLOPS=10^18次浮点运算/秒),智能算力规模约为178.5 EFLOPS,智能算力占比约59.1%。IDC预测,2021-2026年中国智能算力规模年复合增长率约为50%,通用算力年复合增长率约为18%。因此,预计至2026年,我国总体算力规模将高达约1130 EFLOPS。
随着算力慢慢成为发展数字经济重要的生产力组成,基础算力、智能算力以及超算算力等各种算力集成呈现多样化发展态势。从模组行业来看,集成了CPU/GPU/ASIC/FPGA/NPU等多种计算单元的算力模组,基于其通用计算与异构计算相结合的优势,可覆盖不同等级的AI算力区间,充分匹配端侧计算和边缘计算需求。随着应用场景不断扩展,算力模组及内置算力模组的各类型消费及物联网终端将成为算力新载体。
算力模组是面向各类对CPU/GPU/AI算力有强需求的专用场景开发的智能模组产品。它是智能模组(通信+智能操作系统+强算力支撑)的一个子集,基于SoC芯片开发而成,集成和融合了多种计算单元(CPU、GPU、ASIC、FPGA、NPU等),既有通用计算单元,也有高性能的专用计算单元,在减小尺寸、降低成本、降低功耗、易于开发等方面有突出优势,可提供不同等级的硬件算力,并根据场景需求,匹配5G/Wi-Fi/千兆以太网等各类通信方式。
回顾模组的发展历程,标准通信模组从1.0时代的纯通信能力,到2.0时代利用Open CPU技术替代外部MCU,实现一些简单的逻辑控制能力,到3.0时代的同时具备4G/5G高速通信能力以及内置智能化操作系统和丰富的外设接口。
复杂系统的智能模组经历了史无前例的快速发展,大大加速了传统行业的信息化和智能化的改造进程。然而,智能模组由于系统复杂(同时支持Android、Linux以及HarmonyOS),且同时支持5G、Wi-Fi、BT、以太网、工业PCIE等各类通信方式,对于专用场景下的算力需求,迫切需要专用的硬件算力模组以及轻量化的算力系统支持行业的迅速发展。
同时,2020年全球疫情的爆发,使得在线经济、远程办公、元宇宙、AI+千行百业迎来了高速发展的窗口期,智能、高效的生产力工具正在走入千行百业。More inteligent、More efficient成为数字化社会的代名词。如何提高新生产力工具的效率,如何加速新应用场景下商业化步伐,如何为新数字经济的发展插上腾飞的翅膀,重新被定义的算力模组在市场的强烈需求下应运而生。
在要素组成方面,作为新一代基于ARM平台的轻量化算力模组,其包括专用场景可提供动态高效的算法支撑、可同时支持不同类型的通信方式、可编译的轻量化操作系统以及适应苛刻工业标准的硬件性能等。
在与蜂窝通信的解耦方面,根据不同场景配置不同的通信方式,是算力模组的一个重要特征。随着以ARM为基础的复杂系统的硬件产品飞速迭代、半导体工艺的迅速发展以及产业分工细化程度越来越高,如何在细分领域提供高性价比、高契合度的产品和解决方案,成为摆在业界面前,迫切需要解决的问题。解耦蜂窝通信不是弱化其通信功能,而是根据不同场景需求,提供更高性价比、更高契合度的产品。
在匹配智能化核心应用场景方面,算力模组呈现出强大的适配性:
固定的边缘计算设备,高算力模组搭配千兆以太网的链接方式成为主要的系统架构;
智能汽车辅助驾驶领域,端侧的超强算力模组搭配中速率Cat.4通信模组;
而在智能汽车的智慧座舱领域,多屏多音响的处理需求和实时的在线高清视频的需求,甚至需要一个高算力模组搭配2-3个5G无线通信模组;
专业的游戏玩家将海量的游戏计算放置到由算力模组构建的云端计算,弱化对端侧设备的算力需求;
工业互联网领域,海量的机器数据和高时效性的无线数据传输,正是高算力模组+5G R16高速传输模组的用武之地;
全屋智能时代到来之时,以家庭设备和家庭成员为单位的智能存储、智能计算和智能传输,双算力模组+强Wi-Fi 6室内传输+室外5G ODU传输将真正做到人与物的智能化连接,并逐步成为运营商智能化产品方案的最优选择。
在算力逐渐成为数字化社会的重要生产力,以及东数西算发展提速等大背景下,算力模组成为智能模组跟随产业需求进行功能迭代的重要分支。物联网众多下游领域已不再简单停留在实现数传的单一需求,而是越来越向智能化和算力化升级。在arm架构服务器、AI零售、云游戏、数字人、直播、AR/VR、工业互联网、边缘侧AI设备等领域,算力模组有广阔应用空间。目前,已有多家头部模组企业推出算力模组产品,竞逐这一重要新兴市场。算力模组正处于高速发展的早期阶段。
广和通
广和通2022年开始投资“算力模组开发项目”,启动在智能计算领域的产品布局、业务布局。
2023年之前,广和通带算力的模组,主要产品形态是SoC智能模组,在支付和车载领域应用较多。在支付领域的应用已较为成熟,国内车载以新能源车为主,SoC模组的渗透率也比较高。智能模组其他的行业拓展包括各类带边缘算力终端设备、机器人、IPC安防、工业检测和控制等行业。
2023年,广和通推出12TOPS的5G高算力智能模组SC171来全面满足机器人的各种AI需求,其基于高通QCM6490平台设计,采用8核高性能处理器,内置VDSP,集成高性能图形引擎,可以流畅播放4K视频。除此之外,还专门成立了智能计算产品线,以AI赋能下游行业的智能化应用。
公司以智能割草机细分行业为突破点,聚焦于“感知机构”和“决策机构”相关技术的研发,提供双目感知定位模组、决策算法和集成通信能力的边缘算力模组,将人工智能、自动驾驶、机器视觉、高精差分GPS定位(RTK)等技术高度集成,为智能割草机器人行业提供全栈式解决方案,实现割草机器人的环境感知、定位、地图构建、路径规划、避障、导航、应用等全方位功能。
美格智能
2022年3月,美格智能前瞻性提出“算力模组”概念和“无算力、不智能”的产品迭代理念,并在公司内部单独建立算力模组产品线,专注于拓展模组产品的计算能力应用以及下游领域的扩展,深入挖掘如何在模组形态上充分发挥CPU/GPU/AI等计算单元的性能,在算力模组的产品规划、设计开发、资质认证、应用领域等方面持续高强度投入。
随着2023年以来,AIGC和大模型的市场爆发,大数据的处理和推理形成云端处理和边缘侧/终端侧处理相结合的趋势。美格智能持续关注技术和产业趋势,坚持在智能模组和高算力模组领域高强度投入。当前,公司算力模组产品已可覆盖从0.2TOPS到近48TOPS的AI算力区间,其中,高算力模组产品已经可以运行类似于Stable Diffusion、Llama 2等复杂大模型,为在各种不同类型的终端产品的端侧执行生成式AI的各类应用,提供了标准的软硬件环境;未来算力性能将持续增强,可更充分匹配端侧计算和边缘计算需求,应用场景不断扩展。
目前,算力模组已经成为美格智能极具特色的标签产品,与智能座舱、新零售、工业互联等领域的定制化解决方案结合,智能化和定制化的特性使得公司的差异化竞争能力进一步巩固。
移远通信
2023年以来,移远通信显著加大了对算力模组领域的投入力度,频频推出新的算力模组产品:
2023年3月,移远通信宣布,公司5G模组与英伟达Jetson AGX Orin平台已成功完成联调,实现5G通信+AI边缘计算能力。
2023年11月,移远通信相继在投资者互动平台表示,在智能模组领域,高算力正在成为行业新标杆,公司基于不同平台已开发出多款智能算力模组,适用于工业质检、智能相机、户外机器人、边缘计算盒子、智慧零售等多个领域。
伴随边缘计算能力的逐步升级,搭配移远算力模组的应用终端将能够实时处理数据并做出更快的数据驱动决策,同时模组还具有低功耗、高速连接和先进的安全性等多重优势。
2024年3月,移远通信进一步表示,公司的智能算力模组已可应用于AI服务器上,助力客户推出定制化的SoC阵列服务器产品,可对CPU、GPU、NPU资源进行集中管理与分配实现算力共享。公司目前已为国内头部的互联网平台供应算力模组并已实现量产。
日海智能
随着ChatGPT语言模型的火爆,日海智能也推出了高算力智能模组产品,部分产品可以提供10-15TOPS左右的算力,助力AIoT在各行各业的发展。公司智能模组产品采用高通8核处理器,高度集成无线蜂窝通信、短距离通信、多卫星接收机功能,全面覆盖各类网络制式,可广泛应用于智能支付、广告传媒、汽车、智慧医疗等设备与行业中。
目前,算力行业面临的主要问题是技术瓶颈。虽然算力技术在不断创新,但是在处理大数据和复杂模型的情况下,仍然面临着计算速度慢、能耗高等问题。对于算力模组领域同样如是。因此,需要模组厂商联合芯片厂商进一步加强研发,推广新的、能提高算力的效率和性能的技术。
与此同时,随着算力技术的应用范围不断扩大,安全性和可靠性问题也日益凸显。在算力行业中,数据安全和算力可靠性是至关重要的。因此,算力模组厂商也需要进一步加强算力技术的安全性和可靠性,保障数据安全和计算能力可靠。
此外,目前算力产业链还不够完善,各个环节之间缺乏协同和配合,导致算力资源的浪费和利用率的低下。算力模组厂商作为算力产业链的重要一环,需要进一步完善与上下游合作伙伴的协同配合,共同建立行业标准和规范,促进产业协同和资源整合。
随着物联网持续发展,对于模组及终端产品的智能化和高算力的需求将更为明显,在蜂窝连接基础上进一步提供智能化操作系统和AI算力的智能模组、AI算力模组,在整体模组行业中的渗透率将进一步提升。一方面,随着边缘域计算的发展,算力模组的重要性逐渐凸显。目前数据处理正在逐渐从云端向边侧、端侧扩散,数据就近处理的场景不断涌现。终端侧算力需求的激增和边缘计算场景的极大丰富,将带动高算力模组品类高速发展。
另一方面,算力模组能让终端开发者基于标准化的模组完成低成本、短流程的产品设计和制造,为海量场景提供稳定的通信能力和边缘算力,降低大模型的使用成本。