813
2016年，“阿爾法狗（AlphaGo）”與李世石的圍棋對決，讓人工智能（AI）和深度學習進入了大眾的視野。Gartner在最新報告中指出，預計到2022年，人工智能軟件市場的營收或達到625億美元，預計較2021年增長21.3% 。
AI技術的快速創(chuàng)新對FPGA市場有利
AI市場火熱的背后，我們常常會看到FPGA的身影，這就是今天說的“AI技術的快速創(chuàng)新對FPGA市場有利”的一個前提。
而FPGA可以配合AI技術隨時為用戶提供最佳體驗。由于AI不斷的技術創(chuàng)新，會不斷帶來新的實現(xiàn)方式，而新的實現(xiàn)方式的產生需要有更快的硬件和優(yōu)化的算法來實現(xiàn)，這些優(yōu)化的算法如果純粹只是停留在軟件，或者是大型CPU的計算方法上的話，對于實際的落地，尤其是對于邊緣端的部署，其實是比較大的挑戰(zhàn)。
?
圖 | AI模型的快速發(fā)展
從上圖中，大家可以看到AI模型的快速發(fā)展史，從2012到2021年，AI分類模型創(chuàng)新的數(shù)量逐年遞增。
網絡邊緣側的AI應用更離不開FPGA
我們看到網絡邊緣的計算正在快速興起，有很多新的應用都在邊緣端發(fā)展出新的應用和使用場景。ABI的研究調查表明，預計到2024年設備端的AI推理功能將覆蓋近60%的設備。
面對客戶端計算設備越來越需要快速響應和情景感知式的用戶體驗、高質量視頻會議和協(xié)作式應用的現(xiàn)實，我們發(fā)現(xiàn)網絡邊緣側的AI應用是離不開FPGA的，這是因為邊緣端對功耗的敏感度和尺寸的大小的要求是比較嚴格的。
?
圖 | 為什么選擇FPGA實現(xiàn)網絡邊緣AI
對比市場上的存量產品，就以Lattice的網絡邊緣AI產品來說，它的功耗范圍可達1mW到1W，目前只有ASIC才有可能替換FPGA，但是ASIC目前還不能做到將使用場景固態(tài)化，并且和ASIC相比，F(xiàn)PGA的性能和效率是比較強的。而除了ASIC的器件外，其他的器件都不能實現(xiàn)。
比如我們常提到的CPU，與使用CPU來驅動AI應用的設備相比，采用sensAI開發(fā)，并在萊迪思FPGA上運行的AI計算設備的電池使用時間可延長28%。sensAI還支持現(xiàn)場軟件更新，從而保持AI算法的演進，還能讓OEM廠商靈活選擇不同的傳感器和SoC技術來適配他們的設備。
Lattice推sensAI v4.1解決方案集合，助力AI/ML發(fā)展
近日，Lattice再次更新了sensAI的版本，升級至sensAI v4.1。sensAI 4.1將會增加支持Lattice 今年剛剛推出的CetusPro-NX器件，而CetusPro-NX器件不僅容量方面有所提升，同時計算的能力和功效也提高不少。在這款器件的基礎上，Lattice還推出了相對應的開發(fā)板——聲音和視覺機器學習板，并配套CNN Plus加速器，以及相對應的sensAI Studio。
圖 | Lattice sensAI解決方案集合
總結sensAI v4.1的增強特性和新特性，主要包括以下幾個方面：
1、客戶端計算AI體驗參考設計
??? ?用戶檢測：用戶接近或離開設備時會自動啟動或關閉客戶端設備
??? ?注意力追蹤：當用戶的注意力不在屏幕上時，降低設備的屏幕亮度，節(jié)約電量，延長使用時間
??? ?面部取景：在視頻會議應用中提升視頻體驗
??? ?旁邊者檢測：檢測站在設備后面潛在的窺視者，模糊屏幕以保障數(shù)據隱私
2、更多應用支持
sensAI 4.1版本在性能和準確度方面的提升有助于拓展其目標應用，包括自動化工業(yè)系統(tǒng)中使用的高精度目標檢測和瑕疵檢測等應用。該解決方案集合擁有全新硬件平臺，包括板載圖像傳感器、兩個I2S麥克風和用于添加更多傳感器的擴展連接器，助力基于語音和視覺的機器學習應用的開發(fā)。
3、易于使用的工具
sensAI還更新了神經網絡編譯器，支持Lattice sensAI Studio，這是一款基于GUI的工具，擁有AI模型庫，經過配置和訓練可適用于各類主流應用場景。sensAI Studio現(xiàn)支持AutoML功能，能根據應用和數(shù)據集目標來創(chuàng)建機器學習模塊。一些基于Mobilenet機器學習推理訓練平臺的模型專為最新的Nexus系列產品——Lattice CertusPro?-NX進行了優(yōu)化。sensAI還兼容其他廣泛使用的機器學習平臺，包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。
sensAI v4.1的落地場景和落地途徑
Lattice Nexus FPGA和sensAI解決方案集合是開發(fā)計算機視覺和傳感器融合應用的理想平臺，可以提升用戶的參與和協(xié)作，保護用戶隱私。例如，客戶端設備可以分析攝像頭采集的圖像數(shù)據，確定后方人員是否離用戶過于靠近，還可以在用戶的注意力轉移到別處時，模糊屏幕，保護隱私，或者調暗屏幕，延長電池使用時間。據悉，通過注意力追蹤可以延長28%的電池壽命。
?
圖 | 電池使用時間與計算機視覺解決方案
為了能夠讓這款產品在PC上得到落實，Lattice和OEM的、其他芯片廠商、操作系統(tǒng)和軟件支持商，以及傳感器廠商合作，以保證客戶在使用Lattice方案的時候能夠很快的把這些方案做出來。
此外，前面也提到過，為了進一步加速落地，Lattice還提供了三個參考設計：人員偵測、注意力追蹤和目標分類。同時，在智能家居、智慧城市、工廠、智能汽車這些領域，還將提供相對應的設計服務。
硬件優(yōu)化的設計方案：將AI的設計方案通過Lattice Radiant和DIAMOND結合之后，產生FPGA比特流，然后再把訓練后的模型錄進來，這樣產生一個類似于中央處理器的功能，而這里產生的量化的權重和指令更多指向于執(zhí)行的代碼，這兩個結合之后，可以產生一個AI的體驗項目。
軟件優(yōu)化的設計方案：為了便于工程師的開發(fā)設計，Lattice專門提供了一個PROPEL的軟件，便于大家對于整個內部結果的控制能夠進行類似于C代碼的控制，而不是使用比較難以上手的FPGA的開發(fā)代碼，這樣的代碼是便于初學者能夠調用一些基本的指令進行一些控制。左側更多指的是Lattice的開發(fā)AI引擎的一些架構，包括機器學習引擎，以此能夠做視覺的收取，同時做軟核的控制。
?
圖 | 軟件優(yōu)化的設計方案
Mirametrix副總裁Stephen Morganstein表示：“我們的Glance by Mirametrix注意力感應軟件可以捕捉用戶的面部、眼睛和凝視動作，從而了解用戶的意識和注意力。這項獨特的技術開發(fā)的智能設備能提供更自然和沉浸式的用戶體驗和設備交互。萊迪思的sensAI解決方案集合和低功耗FPGA可幫助開發(fā)人員實現(xiàn)新穎的AI功能，提高設備的電池壽命?！?/p>
寫在最后
借用Gartner高級研究主管Alys Woodward的一段話，“AI軟件市場正在加速發(fā)展，但長期軌跡仍取決于企業(yè)AI的成熟度。想要獲得成功的話，還得看怎么挑選具體的應用。綜合來看，通過提供重要的業(yè)務價值擴展、同時降低AI用例的風險，對于AI投資和業(yè)務營收的預期影響至關重要?！倍馤attice推出的這一些列采用sensAI技術的產品是促使AI軟件市場不斷發(fā)展的重要基石，尤其是在網絡邊緣側。
?
