英偉達(dá)曝出媲美GPU服務(wù)器的嵌入式AI計(jì)算機(jī)，加劇顛覆傳統(tǒng)行業(yè)

剛剛，英偉達(dá)在GTC上發(fā)布了NVIDIA Jetson AGX Orin。官方宣稱，這臺(tái)AI超級(jí)計(jì)算機(jī)在體積、功能、能效方面都達(dá)到業(yè)內(nèi)之最，尺寸只有手掌大小，但是可與內(nèi)置GPU的服務(wù)器相媲美，可用于機(jī)器人、自主機(jī)器、醫(yī)療器械和其他形式的邊緣嵌入式計(jì)算。

Jetson AGX Orin基于英偉達(dá)Ampere架構(gòu)和Arm Cortex-A78AE CPU，以及新一代深度學(xué)習(xí)和視覺加速器。并且，具備高速接口、更快的存儲(chǔ)帶寬和對(duì)多模態(tài)傳感器的支持，為多個(gè)并行AI應(yīng)用流水線輸送數(shù)據(jù)。與前代機(jī)型Jetson AGX Xavier保持相同外形尺寸和引腳兼容的情況下，Jetson AGX Orin處理能力提升了6倍，每秒可進(jìn)行200萬億次運(yùn)算（TOPS）。

?
通過這一全新的Jetson計(jì)算機(jī)，可以加速整個(gè)NVIDIA AI軟件棧，使得開發(fā)者能夠部署更大、更復(fù)雜的模型，從而解決自然語言理解、3D感知、多傳感器融合等領(lǐng)域的邊緣AI和機(jī)器人技術(shù)挑戰(zhàn)。

NVIDIA副總裁兼嵌入式和邊緣計(jì)算總經(jīng)理Deepu Talla表示：“隨著機(jī)器人技術(shù)和嵌入式計(jì)算正在改變制造業(yè)、醫(yī)療 、零售業(yè)、交通、智慧城市和其他重要的經(jīng)濟(jì)部門，處理需求持續(xù)激增。Jetson AGX Orin專為滿足這些需求而推出。”

從2014年第一代Jetson TK1推出以來，Jetson系列基本以每年一次迭代的速度在升級(jí)。迄今為止，約有85萬名Jetson開發(fā)者和6000多家公司，基于Jetson系列進(jìn)行自主機(jī)器和邊緣AI應(yīng)用開發(fā)和部署。

為何打造智慧機(jī)器人需要端到端的加速平臺(tái)？

機(jī)器人產(chǎn)業(yè)正在以驚人的規(guī)模發(fā)展。黃仁勛剛才在Keynote中指出：“邊緣應(yīng)用本質(zhì)上就是機(jī)器人應(yīng)用（它們?cè)谂c自動(dòng)駕駛汽車類似的要求下進(jìn)行），邊緣計(jì)算的統(tǒng)一概念是需要處理一系列任務(wù)的組合，包括：傳感器、高速I/O、數(shù)據(jù)處理、信號(hào)和物理處理、AI推理和計(jì)算機(jī)圖形等，而所謂‘機(jī)器人管道’，必須得到實(shí)時(shí)地處理，只有足夠及時(shí)完成處理，才能轉(zhuǎn)化為安全性、成本、容量以及最終的可用性?！?br /> ?

他相信各種傳感器、計(jì)算和邊緣AI的組合，將激發(fā)一波新創(chuàng)意，而這勢(shì)必需要端到端的平臺(tái)支持。除了新推出的Jetson AGX Orin，英偉達(dá)還提供綜合全面的軟件和生態(tài)系統(tǒng)支持，例如NVIDIA CUDA-X加速計(jì)算棧、NVIDIA JetPack SDK和最新的NVIDIA工具進(jìn)行應(yīng)用開發(fā)和優(yōu)化，包括云原生開發(fā)工作流程等。并且，NVIDIA NGC目錄的預(yù)訓(xùn)練模型已經(jīng)過優(yōu)化并且可以使用NVIDIA TAO工具套件和客戶數(shù)據(jù)集進(jìn)行微調(diào)，可以減少生產(chǎn)級(jí)AI的部署時(shí)間和成本，云原生技術(shù)則實(shí)現(xiàn)了產(chǎn)品整個(gè)生命周期內(nèi)的無縫更新。

據(jù)了解，Jetson 嵌入式計(jì)算合作伙伴生態(tài)系統(tǒng)包含廣泛的服務(wù)和產(chǎn)品，包括攝像頭和其他多模傳感器、載體板、硬件設(shè)計(jì)服務(wù)、AI和系統(tǒng)軟件、開發(fā)工具和定制軟件開發(fā)。

其中，針對(duì)特定用例的軟件框架包括用于機(jī)器人技術(shù)的NVIDIA Isaac Sim on Omniverse，NVIDIA DRIVE 用于自動(dòng)駕駛，NVIDIA Metropolis用于智慧城市。 值得一提的是，最新的 Isaac 版本包括了對(duì)機(jī)器人操作系統(tǒng) (ROS) 開發(fā)人員社區(qū)的重要支持。 NVIDIA 還發(fā)布了用于合成數(shù)據(jù)生成和 Isaac GEM 的全新 Omniverse Replicator，這些硬件加速軟件包使ROS開發(fā)者更容易在Jetson平臺(tái)上構(gòu)建高性能AI機(jī)器人。

TIRIAS Research首席分析師Jim McGregor表示：“在AI技術(shù)進(jìn)步的推動(dòng)下，機(jī)器人市場(chǎng)正在呈指數(shù)級(jí)增長(zhǎng)。英偉達(dá)正在通過強(qiáng)大的生態(tài)系統(tǒng)和完整的端到端解決方案（包括一系列運(yùn)用通用工具和神經(jīng)網(wǎng)絡(luò)模型的硬件平臺(tái)）來推動(dòng)機(jī)器人技術(shù)的發(fā)展，全新Jetson平臺(tái)帶來了NVIDIA Ampere架構(gòu)的性能和多功能性，使應(yīng)用于從農(nóng)業(yè)和制造業(yè)到醫(yī)療和智慧城市等諸多領(lǐng)域的自主移動(dòng)機(jī)器人取得了更大的進(jìn)步。”

實(shí)時(shí)傳感器計(jì)算平臺(tái)賦能醫(yī)療行業(yè)

此外，Jetson AGX Orin也可為NVIDIA Clara Holoscan提供支持，這是醫(yī)療行業(yè)的一個(gè)新計(jì)算平臺(tái)，允許開發(fā)者構(gòu)建軟件定義的醫(yī)療設(shè)備，在邊緣運(yùn)行低延遲流媒體應(yīng)用程序。

黃仁勛指出，CT掃描儀和重癥監(jiān)護(hù)病房攝像頭等設(shè)備需要這樣的處理能力，才能將數(shù)據(jù)從傳感器傳輸?shù)綌?shù)據(jù)管道，從而實(shí)現(xiàn)AI決策支持。這樣，開發(fā)人員就可以創(chuàng)建AI微服務(wù)，在設(shè)備上運(yùn)行低延遲流式應(yīng)用程序，同時(shí)將更復(fù)雜的任務(wù)傳遞給數(shù)據(jù)中心。

“隨著設(shè)備銷售逐漸被醫(yī)療設(shè)備‘軟件即服務(wù)’的解決方案所取代，這個(gè)行業(yè)需要軟件定義的影響平臺(tái)來構(gòu)建未來，而這些新動(dòng)態(tài)對(duì)于患者、醫(yī)院以及這個(gè)價(jià)值2000億美元的行業(yè)的儀器制造商來說，都是好消息”，黃仁勛指出。

當(dāng)然，這對(duì)于這個(gè)仰賴于儀器的傳統(tǒng)行業(yè)來說，從商業(yè)模式上也將是巨大的顛覆。

NVIDIA DRIVE Orin打造交通新紀(jì)元

DRIVE AGX Orin 同樣由 Jetson AGX Orin 等 NVIDIA Ampere 架構(gòu)提供支持，主要針對(duì)運(yùn)輸行業(yè)。它是新發(fā)布的 NVIDIA DRIVE Concierge 和 DRIVE Chauffeur 背后的先進(jìn)處理器，這兩個(gè) AI 平臺(tái)致力于通過 AI 助手重新定義車內(nèi)乘客體驗(yàn)，并分別為安全的自動(dòng)駕駛提供動(dòng)力。

“移動(dòng)萬物終將自主，無論是完全自主還是大部分自主。到2024年，絕大多數(shù)新電動(dòng)汽車將具備強(qiáng)大的自動(dòng)駕駛能力”，黃仁勛表示，“NVIDIA Drive是一個(gè)全棧式的開放自動(dòng)駕駛平臺(tái)，數(shù)十家全球汽車和卡車制造商、新能源汽車初創(chuàng)公司和機(jī)器人出租車公司正在將其高性能 AI 計(jì)算用于其下一代智能、軟件定義的移動(dòng)解決方案?！?br /> ?