加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

英偉達(dá)研究:NVIDIA目標(biāo)不是AI芯片,而是AI工廠

05/29 15:15
1369
閱讀需 6 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

佐思汽研發(fā)布《2024年英偉達(dá)AI與汽車(chē)業(yè)務(wù)分析報(bào)告暨 汽車(chē)新四化每周觀察2024年5月第1期》報(bào)告

英偉達(dá)以銷售AI芯片著稱。2024年5月22日,英偉達(dá)公布最新財(cái)季實(shí)現(xiàn)營(yíng)收260億美元,同比增長(zhǎng)262%;其毛利率78.9%,凈利潤(rùn)達(dá)到148.1億美元,同比上升628%。其中:

數(shù)據(jù)中心業(yè)務(wù)營(yíng)收為226億美元,創(chuàng)下公司歷史上的新紀(jì)錄,與上年同期相比大幅增長(zhǎng)427%,與上一財(cái)季相比增長(zhǎng)23%;汽車(chē)業(yè)務(wù)為英偉達(dá)第四大業(yè)務(wù),最新財(cái)季營(yíng)收為3.29億美元,與上年同期相比增長(zhǎng)11%,與上一財(cái)季相比增長(zhǎng)17%。

谷歌、微軟、Meta、亞馬遜、特斯拉等科技巨頭一方面采購(gòu)英偉達(dá)的GPU,另一方面也在抓緊研發(fā)和部署自己的GPU,減輕對(duì)英偉達(dá)的產(chǎn)品依賴。

隨著AI大模型應(yīng)用的爆發(fā),對(duì)AI芯片的需求出現(xiàn)了爆發(fā)式增長(zhǎng)。為什么科技大廠做AI訓(xùn)練都選擇英偉達(dá)而非英特爾AMD?大致有這幾方面原因:

    • CUDA生態(tài)系統(tǒng)的成熟
    • 英偉達(dá)芯片的性能優(yōu)勢(shì)
    • 經(jīng)過(guò)驗(yàn)證的市場(chǎng)先發(fā)優(yōu)勢(shì)
    • 軟件硬件的緊密結(jié)合
    • 強(qiáng)大的行業(yè)生態(tài)

CUDA實(shí)際上已成為一些高性能計(jì)算和AI應(yīng)用的行業(yè)標(biāo)準(zhǔn)。許多流行的深度學(xué)習(xí)框架如TensorFlow、PyTorch等,都提供了對(duì)CUDA的原生支持,這意味著開(kāi)發(fā)者可以無(wú)縫地在英偉達(dá)GPU上運(yùn)行他們的代碼,無(wú)需額外的適配工作。

2023-2024年,我們可以看到特斯拉減少了對(duì)汽車(chē)研發(fā)的投入,蘋(píng)果放棄了造車(chē),他們紛紛把投入重點(diǎn)轉(zhuǎn)移到AI大模型開(kāi)發(fā)及落地。

4月28日,馬斯克表示:2024年特斯拉將會(huì)投資約100億美元用于AI的訓(xùn)練和推理,而推理主要用于汽車(chē)。特斯拉截至到2024年4月共有3.5萬(wàn)個(gè)GPU用于訓(xùn)練自動(dòng)駕駛系統(tǒng)

5月27日,馬斯克旗下的人工智能初創(chuàng)企業(yè)xAI宣布,已經(jīng)成功完成60億美元的B輪融資,公司估值達(dá)到180億美元。訓(xùn)練xAI的大模型Grok 2需要約2萬(wàn)個(gè)英偉達(dá)H100 GPU,Grok 3型號(hào)及以上型號(hào)將需要10萬(wàn)個(gè)英偉達(dá)H100芯片。

在4月12日,xAI發(fā)布Grok1.5V(Vision),這是xAI首款能同時(shí)處理文本和視頻的多模態(tài)模型,還包括圖表、屏幕截圖和照片。英偉達(dá)高級(jí)科學(xué)家Jim Fan表示Grok-1.5V最讓人興奮的是解決自動(dòng)駕駛邊緣案例的潛力。未來(lái)如果Grok 2和Grok 3發(fā)布,解決自動(dòng)駕駛邊緣案例的能力將大大加強(qiáng)。

特斯拉、華為、百度等少數(shù)IT巨頭能夠解決自動(dòng)駕駛所需超大算力。對(duì)于大多數(shù)OEM而言,則不可能自己部署和運(yùn)營(yíng)超大規(guī)模智算中心。因此,英偉達(dá)推出了AI工廠。

黃仁勛稱,英偉達(dá)構(gòu)建的不僅僅是GPU處理器,而是AI工廠,包括了CPU、GPU、內(nèi)存、NVlink、InfiniBand以及以太網(wǎng)交換機(jī)。英偉達(dá)將專注于AI生成的新型數(shù)據(jù)中心定義為“AI工廠”。

2023年10月,英偉達(dá)表示將擴(kuò)大與富士康的持續(xù)合作,以加速AI驅(qū)動(dòng)的電動(dòng)汽車(chē)機(jī)器人平臺(tái)的開(kāi)發(fā)。雙方合作重點(diǎn)是AI工廠的建設(shè)。富士康宣布計(jì)劃建造大量基于NVIDIA CPU、GPU及其網(wǎng)絡(luò)技術(shù)的計(jì)算系統(tǒng),同時(shí)配備NVIDIA的硬件和NVIDIA AI Enterprise軟件,這些系統(tǒng)將出售給那些希望建立自己AI數(shù)據(jù)工廠的客戶。

這種“AI工廠”有望成為特斯拉Dojo超級(jí)計(jì)算機(jī)的直接競(jìng)爭(zhēng)對(duì)手。Dojo被用于訓(xùn)練特斯拉的神經(jīng)網(wǎng)絡(luò),這些神經(jīng)網(wǎng)絡(luò)用于支持、訓(xùn)練和改進(jìn)其“全自動(dòng)駕駛”。

黃仁勛稱,英偉達(dá)將為整個(gè)行業(yè)生產(chǎn)AI,英偉達(dá)將專注于發(fā)明AI模型技術(shù)、提供模型定制開(kāi)發(fā)工具,并建設(shè)便于模型微調(diào)和部署的基礎(chǔ)設(shè)施。

英偉達(dá)不僅連接了AI生態(tài)系統(tǒng)的各個(gè)參與者,還降低了行業(yè)門(mén)檻,提供了專業(yè)化支持和資源共享。英偉達(dá)的工作主要有三大塊:

發(fā)明AI模型技術(shù),運(yùn)行AI模型并對(duì)其進(jìn)行封裝,也就是NIM;

提供模型定制開(kāi)發(fā)工具,NeMo微服務(wù)可以幫助用戶整理和準(zhǔn)備數(shù)據(jù),以便對(duì)AI進(jìn)行初始訓(xùn)練;

提供基礎(chǔ)設(shè)施,便于實(shí)現(xiàn)模型的微調(diào)和部署,用戶可以部署在DGX Cloud基礎(chǔ)設(shè)施上,也可以部署在本地,或是他們需要的任何地方。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
DS3234SN#T&R 1 Maxim Integrated Products Real Time Clock, Non-Volatile, 1 Timer(s), CMOS, PDSO20, 0.300 INCH, ROHS COMPLIANT, SOP-20
$8.47 查看
USB2514B-AEZC-TR 1 Microchip Technology Inc UNIVERSAL SERIAL BUS CONTROLLER

ECAD模型

下載ECAD模型
$3.31 查看
ATXMEGA256A3U-AU 1 Atmel Corporation RISC Microcontroller, 16-Bit, FLASH, AVR RISC CPU, 32MHz, CMOS, PQFP64, 14 X 14 MM, 1 MM THICKNESS, 0.80 MM PITCH, GREEN, PLASTIC, MS-026AEB, TQFP-64

ECAD模型

下載ECAD模型
$6.75 查看
英偉達(dá)

英偉達(dá)

NVIDIA(中國(guó)大陸譯名:英偉達(dá),港臺(tái)譯名:輝達(dá)),成立于1993年,是一家美國(guó)跨國(guó)科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計(jì)業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長(zhǎng)為一家提供全棧計(jì)算的人工智能公司,致力于開(kāi)發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學(xué)研究、制造業(yè)、汽車(chē)等領(lǐng)域的計(jì)算解決方案提供支持。

NVIDIA(中國(guó)大陸譯名:英偉達(dá),港臺(tái)譯名:輝達(dá)),成立于1993年,是一家美國(guó)跨國(guó)科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計(jì)業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長(zhǎng)為一家提供全棧計(jì)算的人工智能公司,致力于開(kāi)發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學(xué)研究、制造業(yè)、汽車(chē)等領(lǐng)域的計(jì)算解決方案提供支持。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

佐思汽車(chē)研究:致力于汽車(chē)、TMT、新能源(特別是新能源汽車(chē)、智能汽車(chē)、車(chē)聯(lián)網(wǎng))領(lǐng)域的產(chǎn)業(yè)研究、專項(xiàng)調(diào)研、戰(zhàn)略規(guī)劃和投資咨詢服務(wù)。