Apple Vision Pro的空間計算與主要芯片

ICVIEWS智庫專家：陳巍博士

在WWDC 2023 開發(fā)者大會上，蘋果宣布了其操作系統(tǒng)和產(chǎn)品的一系列升級。但最大亮點是Apple Vision Pro，蘋果的首款混合現(xiàn)實（Mixed Reality，MR，即VR+AR）設備，一經(jīng)發(fā)布就成為世界熱議的焦點。

“今天標志著計算技術新時代的開端。”蘋果CEO庫克說，“如同 Mac將我們帶入個人計算時代，iPhone將我們帶入移動計算時代，Apple Vision Pro將帶我們進入空間計算時代。

空間計算

空間計算是麻省理工學院Simon Greenwold 在其2003 年的論文中引入的一個術語?？臻g計算的實用化建立在人工智能 (AI) 、計算機視覺、芯片與傳感器的技術進步之上。典型的空間計算包括自動化倉儲、自動駕駛、工業(yè)制造、教育培訓、游戲娛樂等應用場景。

例如在自動駕駛領域，通過多傳感器融合和多模態(tài)計算，來識別周邊環(huán)境、移動物體和人就是典型的空間計算。通過更強的算法和芯片，車輛就可以挑戰(zhàn)更復雜的地形和駕駛場景。

空間計算市場的年復合增長率為18.3%（來源：http://market.us）空間計算可以用人工智能、物聯(lián)網(wǎng)、增強現(xiàn)實等技術取代舊場景的計算。據(jù)國外市場研究機構評估，新技術進步的引入、智慧城市項目的發(fā)展以及物聯(lián)網(wǎng)/車聯(lián)網(wǎng)滲透率的不斷提高，空間計算解決方案的需求會產(chǎn)生18.3%的年復合增長率。

3自由度與6自由度對比（來源：Qualcomm）MR 感知和重建現(xiàn)實使用SLAM技術來完成，該技術經(jīng)常使用在自動駕駛和機器人領域?；赟LAM技術掃視周圍環(huán)境信息， 使用二維圖像構建三維空間。據(jù)稱Apple Vision Pro 具備6自由度（6 DoF- Degree of Freedom）級別，用戶視角在虛擬場景中不僅可以在俯仰、偏擺及翻滾三個維度旋轉，用戶的身體還可以在前后、上下、左右三個互相垂直的坐標軸上進行運動。

典型的3自由度與6自由度XR產(chǎn)品（來源：Raddit）

傳感器處理芯片R1

Apple Vision Pro的核心芯片包括傳感器處理芯片R1和計算芯片M2。除了這兩顆核心芯片外，Apple Vision Pro還具有17個傳感器、6個麥克風和兩塊4K級別的Micro LED作為顯示。據(jù)蘋果稱，新的R1芯片可減少 VR 中的暈動癥，其多模態(tài)處理時間僅為 12 毫秒。R1芯片是首次在蘋果產(chǎn)品家族中正式亮相，目前披露的消息還很少。

R1與M2是Apple Vision Pro的核心處理器（來源：Apple）在iOS 13 中的代碼，早就揭示了這一新的協(xié)處理器的存在。R是其研發(fā)代號“Rose”的簡寫，當然我們也可以猜測R也代表了Reality。Rose 協(xié)處理器的第一個迭代版本 R1 (t2006) 有點類似于 Apple 的 M 系列運動協(xié)處理器，可以計算設備在空間中的位置，其核心功能是從主系統(tǒng)處理器中卸載大量的傳感器數(shù)據(jù)處理工作。

R1架構與周邊連接估計（作者團隊繪制，轉載請注明來源）

早先的Apple M系列運動協(xié)處理器可以在系統(tǒng)主芯片休眠時，持續(xù)收集、處理和存儲傳感器數(shù)據(jù)的功能，方便應用程序在設備啟動時檢索數(shù)據(jù)。這減少了設備的功耗并延長了電池壽命。我們猜測R1處理器也有類似的功能。R1 的特別之處在于比之前的運動協(xié)處理器接入了更多的傳感器，具備更強的處理能力，以生成更準確的設備位置圖。R1處理器目前可集中處理來自陀螺儀、加速度計、氣壓計和麥克風的多模態(tài)數(shù)據(jù)，并增加了慣性測量單元 (IMU)、藍牙 5.1、超寬帶 (UWB) 和攝像頭（包括運動捕捉和光學跟蹤）傳感器數(shù)據(jù)的多模態(tài)計算支持。其中藍牙 5.1 的到達角 (AoA) 和出發(fā)角 (AoD) 功能可實現(xiàn)藍牙測向?？紤]到R1芯片對接的傳感器需要實時計算，可以預估R1是一顆低功耗低延遲的多模態(tài)傳感器融合計算芯片，其上定制了傳感器常用的算子電路，并且具備NPU來支持基于AI的傳感器算法。

應用處理器M2芯片

Apple M2 是 Apple 的片上系統(tǒng) (SoC)，之前已經(jīng)用于MacBook Air 和 MacBook Pro 13。

M2架構（來源：蘋果）M2具有8 個CPU內(nèi)核，分為4個性能內(nèi)核和4個能效內(nèi)核。性能內(nèi)核提供 192 KB 指令緩存、128 KB 數(shù)據(jù)緩存和 16 MB 共享二級緩存。效率內(nèi)核要小一些，僅提供 128 KB 指令緩存、64 KB 數(shù)據(jù)緩存和 4 MB 共享緩存。效率內(nèi)核時鐘頻率為2.4 GHz，性能內(nèi)核的時鐘頻率則到達 3.5 GHz。另外M2 中的集成顯卡提供8-10 個內(nèi)核以及 3.6 TFLOPs 的峰值算力。此外，SoC 集成了一個具有 16 TOPS 峰值性能的高速16 核神經(jīng)網(wǎng)絡加速器（屬于DSA，用于 AI 計算加速）。M2算是Vision Pro里的電老虎了，占據(jù)了主要的功耗。

M2與M1對比（來源：http://anandtech.com）M2特色是其采用統(tǒng)一的 CPU 和 GPU 內(nèi)核內(nèi)存架構，支持高達 24 GB LPDDR5-6400，帶寬高達 100GB/s。內(nèi)置于 M2 芯片中的統(tǒng)一內(nèi)存架構意味著 CPU、GPU 和其他處理器組件無需在彼此之間重復復制數(shù)據(jù)，并且能夠訪問統(tǒng)一的數(shù)據(jù)池。

陳巍博士

千芯科技董事長，存算一體/GPU架構和AI專家，高級職稱。中關村云計算產(chǎn)業(yè)聯(lián)盟、中國光學工程學會專家。曾任AI企業(yè)首席科學家、存儲芯片大廠3D NAND設計負責人，領軍大陸首個3D NAND閃存設計團隊、eFlash IP核編譯器、RISC-V/x86/arm兼容AI加速編譯器，相關工作對標三星、臺積電、SST。畢業(yè)于清華大學，中美發(fā)明專利與軟著70+。