在终端和边缘侧的微处理器上，实现的机器学习过程，被称为微型机器学习，即TinyML。更准确的说，TinyML是指工程师们在mW功率范围以下的设备上，实现机器学习的方法、工具和技术。这篇文章，我们来一起探索TinyML的潜在价值和机会。

全文字数：2900字，写作用时：300分钟，阅读时间：10分钟

物女皇：TinyML，很小却很大

这是我在【物女心经】专栏写的第268篇文章。

一根手指代表“播放▶️”，两根手指代表“暂停⏸”，三根手指代表“停止⏹”…这种遥控“神功”逐步变成现实，并且这项技术正在赋能越来越多的传感器。

TinyML，微型机器学习，我曾在之前的文章《一文读懂即将引爆的TinyML：在边缘侧实现超低功耗机器学习》中做过重点介绍。在终端和边缘侧的微处理器上，实现的机器学习过程，被称为微型机器学习，即TinyML。更准确的说，TinyML是指工程师们在mW功率范围以下的设备上，实现机器学习的方法、工具和技术。

在智能时代，我们常说万物皆智，但是如何赋予数以亿计、超小体积、极低功耗的设备以智能，这是不得不解决的挑战。

好在疫情期间，很多传感器企业并没有减缓研发的脚步。索尼、三星和博世等企业都正尝试在不增加部件、提升成本和功耗的前提下，为传感器嵌入更多的智能。TinyML与传感器的结合，让这些探索开花结果。

根据研究机构ABI Research的判断，一旦开启亿万量级的微型设备智能化之旅，市场空间将是巨大的。ABI由此预测到2022年底TinyML即服务的收入将超过2.2亿美元，并从2025年起，TinyML将成为智能时代的重要组成部分之一。

躺平不可取，手握如此机遇，怎能坐失良机？10月20日，参与创造TinyML一词、创建TinyML峰会、编写了TinyML教科书的谷歌TensorFlow Micro团队前技术负责人皮特（Pete Warden），发文认为市场时机已经成熟，宣布二次创业，作为创始人投身于TinyML赋能的智能传感公司。

这篇文章，我们来一起探索TinyML的潜在价值和机会。

用TinyML做爆款智能硬件

一个售价为10美元（约合人民币72.5元）的硬件模块，可以嵌入电视、风扇、遥控器、无人机、摄像头等设备中，轻松实现智能功能。电视可以根据主人的手势实现遥控、风扇可以判断主人的位置对准送风、摄像头可以自动识别房间里的人员数量…这就是皮特的新创公司Useful Sensors正在做的事情。

此前皮特在谷歌带领机器学习基础架构团队长达7年，并且创建了TensorFlow Lite Micro，一个用于嵌入式系统的机器学习框架。

过去几年他一直在思考，“联网”能力是否是物联网设备的必选项？如果将“Internet”从Internet of Things中拿掉将会怎样？如何赋予没有接入网络的设备以智能？

从2022年开始，他率队秘密研发这款名为Person Sensor的智能模块，尺寸为20 x 20毫米，正面有一个摄像头，背面是微控制器。这个只有硬币大小的模块可以检测附近的人脸信息，反馈人数、相对位置，并进行面部辨识。

皮特认为有智慧的传感器才是真正有用的传感器，智能分析与传感器的距离越近，就越能降低功耗，而且这种功耗的节约是指数量级的，轻松实现10倍改善。

过去，我们可能会遇到对着台灯说“关上”，但台灯毫无响应的情况，但是这种日子即将一去不复返了，一些家电企业开始着手在电灯、音箱和电脑中嵌入这种智能模组。

TinyML:不用联网却“始终在线”的ML

在文章《专为物联网而生的TinyML，正在开启音频分析的新蓝海》中，我曾经提到TinyML微型机器学习是机器学习和物联网设备的交集，它是一门新兴的工程学科，有可能在许多行业引发革命。

目前全球有千亿量级的微控制器在各地运行，而且每年仍在以数百亿的量级递增，根据IC Insights预测，到2023年微控制器的年出货量将超过380亿个，而且这些微控制器对应的设备，都有变得越来越智能的需求。

换句话说，未来分布在烟雾传感器、心脏起搏器、车载终端中的2500亿个微控制器，有可能可以执行以前只有计算机和智能手机才能处理的任务。因此面对位于网络边缘的海量物联网设备，TinyML的未来发展具有极大的想象空间。

这些内嵌于物联网终端设备中的“TinyML即服务”，“主动”参与智能决策与执行，并且允许在终端设备资源非常有限、联网受限的情况下，仍旧持续提升终端设备的分析能力，以便其能更好的处理实时物联网数据。

由此，TinyML在物联网终端打造的飞轮不断提速：

更低成本、更佳反馈的TinyML→更多数据反哺模型训练和调参→更好的使用体验，吸引更多企业参与其中。

TinyML的市场规模比边缘ML和云端ML都要大。除了文初提到的ABI Research，多家分析机构均给出TinyML的乐观预测。根据Silent Intelligence的预测，在未来5年，TinyML将触发超过700亿美元的经济价值，并且保持超过27.3%的复合年均增长率（CAGR）。

由TinyML改写的游戏规则

从某种程度上说，TinyML改写了机器学习的“游戏规则”。

TinyML和我们常常提到的机器学习，也就是基于云端的ML，处于两个截然不同的世界。

当CPU、内存与操作系统之间的差异达到一定程度之后，量变引发质变。与TinyML可以调用的资源相比，云端ML简直是“富豪”。为了顺利推进，TinyML必须采用与云端ML不同的思维模式。

因祸得福，云端ML常常被诟病的四大痛点问题：功耗大、延迟长、需联网、少隐私等问题，在TinyML这里统统不存在，反而成为使用TinyML的4个主要优点：

• 保护隐私：由于联网并不是TinyML工作的前提条件，数据可以被保存在没有连接网络的设备中，因此数据被泄露的风险非常低。这刚好满足了大量用户的需求，很多最终用户非常在意数据隐私，在数据开放与共享方面保持谨慎态度。他们不愿意将自己的数据交由第三方云平台和边缘服务提供商，进行存储和管理。面对这项需求，TinyML很好的保护了数据隐私。

• 超低功耗：分布最广的物联网设备往往体积很小、电量有限。它们被作为终端硬件，通过嵌入式传感器采集各种数据；计算能力有限，对功耗极为敏感。许多物联网设备都是电池供电，对于功耗的要求很高。通过极低功耗TinyML的数据分析，减少网络传输的数据量，可以在一定程度上，节约物联网终端中的电量消耗。

• 无需连接：设备不需要Internet连接即可让TinyML模型工作。在偏远地区、海上平台、空间站、极端环境的应用中，网络通信有可能无法保证始终覆盖，另外还有很多物联网设备通过窄带物联网NB-IoT或者其他低功耗广域物联网通信协议与网络通信，带宽和数据传输能力极为有限，这些设备有强烈的在本地处理数据的需求，以减少数据的传输，降低网络带宽和传输功耗的压力，避免在终端和边缘设备之间形成带宽瓶颈，影响整套物联网解决方案的性能。

• 极低延迟：TinyML可以以极低延迟处理数据。TinyML通过将某些机器学习任务转移到设备本身，来进一步减少网络延迟的可能性。TinyML允许在不连接任何服务器的情况下进行分析，物联网设备可以实时处理数据并及时输出。

很多公司开始尝试将TinyML应用于各种场景，最普遍的应用是设备上的唤醒词检测、人数统计和人员检测。还有一些公司尝试将TinyML用于机器听觉。

和视觉信息一样，声音无处不在。语音启动的设备，在智能家居的应用中非常常见，最典型的比如智能音箱。还有很多声音，比如机床震动的声音、车辆抛锚的声音、报警器鸣响的声音…这些声音不同于语音，没有语言模型。

过去我们极大的发展了机器视觉，现在我们正在赋予机器听觉。随着越来越多的物联网企业正在将分析的重点从视频转移到音频，TinyML正在开启一片新的蓝海。

写在最后

TinyML赋予千亿终端设备以智能，是我们值得关注的确定性机会之一，但它并不是全部，还有很多商机有待我们一起挖掘。