作者:彭昭(物聯(lián)網(wǎng)智庫創(chuàng)始人&云和資本合伙人)
物聯(lián)網(wǎng)智庫 原創(chuàng)
物女皇:TinyML,很小卻很大
一根手指代表“播放??”,兩根手指代表“暫停?”,三根手指代表“停止?”…這種遙控“神功”逐步變成現(xiàn)實,并且這項技術(shù)正在賦能越來越多的傳感器。
TinyML,微型機器學習,我曾在之前的文章《一文讀懂即將引爆的TinyML:在邊緣側(cè)實現(xiàn)超低功耗機器學習》中做過重點介紹。在終端和邊緣側(cè)的微處理器上,實現(xiàn)的機器學習過程,被稱為微型機器學習,即TinyML。更準確的說,TinyML是指工程師們在mW功率范圍以下的設(shè)備上,實現(xiàn)機器學習的方法、工具和技術(shù)。
在智能時代,我們常說萬物皆智,但是如何賦予數(shù)以億計、超小體積、極低功耗的設(shè)備以智能,這是不得不解決的挑戰(zhàn)。
好在疫情期間,很多傳感器企業(yè)并沒有減緩研發(fā)的腳步。索尼、三星和博世等企業(yè)都正嘗試在不增加部件、提升成本和功耗的前提下,為傳感器嵌入更多的智能。TinyML與傳感器的結(jié)合,讓這些探索開花結(jié)果。
根據(jù)研究機構(gòu)ABI Research的判斷,一旦開啟億萬量級的微型設(shè)備智能化之旅,市場空間將是巨大的。ABI由此預(yù)測到2022年底TinyML即服務(wù)的收入將超過2.2億美元,并從2025年起,TinyML將成為智能時代的重要組成部分之一。
躺平不可取,手握如此機遇,怎能坐失良機?10月20日,參與創(chuàng)造TinyML一詞、創(chuàng)建TinyML峰會、編寫了TinyML教科書的谷歌TensorFlow Micro團隊前技術(shù)負責人皮特(Pete Warden),發(fā)文認為市場時機已經(jīng)成熟,宣布二次創(chuàng)業(yè),作為創(chuàng)始人投身于TinyML賦能的智能傳感公司。
用TinyML做爆款智能硬件
一個售價為10美元(約合人民幣72.5元)的硬件模塊,可以嵌入電視、風扇、遙控器、無人機、攝像頭等設(shè)備中,輕松實現(xiàn)智能功能。電視可以根據(jù)主人的手勢實現(xiàn)遙控、風扇可以判斷主人的位置對準送風、攝像頭可以自動識別房間里的人員數(shù)量…這就是皮特的新創(chuàng)公司Useful Sensors正在做的事情。
此前皮特在谷歌帶領(lǐng)機器學習基礎(chǔ)架構(gòu)團隊長達7年,并且創(chuàng)建了TensorFlow Lite Micro,一個用于嵌入式系統(tǒng)的機器學習框架。
過去幾年他一直在思考,“聯(lián)網(wǎng)”能力是否是物聯(lián)網(wǎng)設(shè)備的必選項?如果將“Internet”從Internet of Things中拿掉將會怎樣?如何賦予沒有接入網(wǎng)絡(luò)的設(shè)備以智能?
從2022年開始,他率隊秘密研發(fā)這款名為Person Sensor的智能模塊,尺寸為20 x 20毫米,正面有一個攝像頭,背面是微控制器。這個只有硬幣大小的模塊可以檢測附近的人臉信息,反饋人數(shù)、相對位置,并進行面部辨識。
皮特認為有智慧的傳感器才是真正有用的傳感器,智能分析與傳感器的距離越近,就越能降低功耗,而且這種功耗的節(jié)約是指數(shù)量級的,輕松實現(xiàn)10倍改善。
過去,我們可能會遇到對著臺燈說“關(guān)上”,但臺燈毫無響應(yīng)的情況,但是這種日子即將一去不復返了,一些家電企業(yè)開始著手在電燈、音箱和電腦中嵌入這種智能模組。
TinyML:不用聯(lián)網(wǎng)卻“始終在線”的ML
在文章《專為物聯(lián)網(wǎng)而生的TinyML,正在開啟音頻分析的新藍?!分校以?jīng)提到TinyML微型機器學習是機器學習和物聯(lián)網(wǎng)設(shè)備的交集,它是一門新興的工程學科,有可能在許多行業(yè)引發(fā)革命。
目前全球有千億量級的微控制器在各地運行,而且每年仍在以數(shù)百億的量級遞增,根據(jù)IC Insights預(yù)測,到2023年微控制器的年出貨量將超過380億個,而且這些微控制器對應(yīng)的設(shè)備,都有變得越來越智能的需求。
換句話說,未來分布在煙霧傳感器、心臟起搏器、車載終端中的2500億個微控制器,有可能可以執(zhí)行以前只有計算機和智能手機才能處理的任務(wù)。因此面對位于網(wǎng)絡(luò)邊緣的海量物聯(lián)網(wǎng)設(shè)備,TinyML的未來發(fā)展具有極大的想象空間。
這些內(nèi)嵌于物聯(lián)網(wǎng)終端設(shè)備中的“TinyML即服務(wù)”,“主動”參與智能決策與執(zhí)行,并且允許在終端設(shè)備資源非常有限、聯(lián)網(wǎng)受限的情況下,仍舊持續(xù)提升終端設(shè)備的分析能力,以便其能更好的處理實時物聯(lián)網(wǎng)數(shù)據(jù)。
由此,TinyML在物聯(lián)網(wǎng)終端打造的飛輪不斷提速:
更低成本、更佳反饋的TinyML→更多數(shù)據(jù)反哺模型訓練和調(diào)參→更好的使用體驗,吸引更多企業(yè)參與其中。
TinyML的市場規(guī)模比邊緣ML和云端ML都要大。除了文初提到的ABI Research,多家分析機構(gòu)均給出TinyML的樂觀預(yù)測。根據(jù)Silent Intelligence的預(yù)測,在未來5年,TinyML將觸發(fā)超過700億美元的經(jīng)濟價值,并且保持超過27.3%的復合年均增長率(CAGR)。
由TinyML改寫的游戲規(guī)則
從某種程度上說,TinyML改寫了機器學習的“游戲規(guī)則”。
TinyML和我們常常提到的機器學習,也就是基于云端的ML,處于兩個截然不同的世界。
當CPU、內(nèi)存與操作系統(tǒng)之間的差異達到一定程度之后,量變引發(fā)質(zhì)變。與TinyML可以調(diào)用的資源相比,云端ML簡直是“富豪”。為了順利推進,TinyML必須采用與云端ML不同的思維模式。
因禍得福,云端ML常常被詬病的四大痛點問題:功耗大、延遲長、需聯(lián)網(wǎng)、少隱私等問題,在TinyML這里統(tǒng)統(tǒng)不存在,反而成為使用TinyML的4個主要優(yōu)點:
保護隱私:由于聯(lián)網(wǎng)并不是TinyML工作的前提條件,數(shù)據(jù)可以被保存在沒有連接網(wǎng)絡(luò)的設(shè)備中,因此數(shù)據(jù)被泄露的風險非常低。這剛好滿足了大量用戶的需求,很多最終用戶非常在意數(shù)據(jù)隱私,在數(shù)據(jù)開放與共享方面保持謹慎態(tài)度。他們不愿意將自己的數(shù)據(jù)交由第三方云平臺和邊緣服務(wù)提供商,進行存儲和管理。面對這項需求,TinyML很好的保護了數(shù)據(jù)隱私。
超低功耗:分布最廣的物聯(lián)網(wǎng)設(shè)備往往體積很小、電量有限。它們被作為終端硬件,通過嵌入式傳感器采集各種數(shù)據(jù);計算能力有限,對功耗極為敏感。許多物聯(lián)網(wǎng)設(shè)備都是電池供電,對于功耗的要求很高。通過極低功耗TinyML的數(shù)據(jù)分析,減少網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)量,可以在一定程度上,節(jié)約物聯(lián)網(wǎng)終端中的電量消耗。
無需連接:設(shè)備不需要Internet連接即可讓TinyML模型工作。在偏遠地區(qū)、海上平臺、空間站、極端環(huán)境的應(yīng)用中,網(wǎng)絡(luò)通信有可能無法保證始終覆蓋,另外還有很多物聯(lián)網(wǎng)設(shè)備通過窄帶物聯(lián)網(wǎng)NB-IoT或者其他低功耗廣域物聯(lián)網(wǎng)通信協(xié)議與網(wǎng)絡(luò)通信,帶寬和數(shù)據(jù)傳輸能力極為有限,這些設(shè)備有強烈的在本地處理數(shù)據(jù)的需求,以減少數(shù)據(jù)的傳輸,降低網(wǎng)絡(luò)帶寬和傳輸功耗的壓力,避免在終端和邊緣設(shè)備之間形成帶寬瓶頸,影響整套物聯(lián)網(wǎng)解決方案的性能。
極低延遲:TinyML可以以極低延遲處理數(shù)據(jù)。TinyML通過將某些機器學習任務(wù)轉(zhuǎn)移到設(shè)備本身,來進一步減少網(wǎng)絡(luò)延遲的可能性。TinyML允許在不連接任何服務(wù)器的情況下進行分析,物聯(lián)網(wǎng)設(shè)備可以實時處理數(shù)據(jù)并及時輸出。
很多公司開始嘗試將TinyML應(yīng)用于各種場景,最普遍的應(yīng)用是設(shè)備上的喚醒詞檢測、人數(shù)統(tǒng)計和人員檢測。還有一些公司嘗試將TinyML用于機器聽覺。
和視覺信息一樣,聲音無處不在。語音啟動的設(shè)備,在智能家居的應(yīng)用中非常常見,最典型的比如智能音箱。還有很多聲音,比如機床震動的聲音、車輛拋錨的聲音、報警器鳴響的聲音…這些聲音不同于語音,沒有語言模型。
過去我們極大的發(fā)展了機器視覺,現(xiàn)在我們正在賦予機器聽覺。隨著越來越多的物聯(lián)網(wǎng)企業(yè)正在將分析的重點從視頻轉(zhuǎn)移到音頻,TinyML正在開啟一片新的藍海。
寫在最后
參考資料:
2.Former Googler creates TinyML sensor startup,作者:STACEY HIGGINBOTHAM,來源:staceyoniot.com
3.ABI Research predicts the growing importance of TinyML SaaS,來源:FutureIoT