3月21日消息,在英偉達(dá)GTC 2024大會(huì)的第二天,英偉達(dá)創(chuàng)始人兼CEO黃仁勛舉行了記者會(huì),歷時(shí)一個(gè)半小時(shí)。期間,關(guān)于中美關(guān)系對(duì)于英偉達(dá)的影響、供應(yīng)鏈安全、CoWoS/HBM產(chǎn)能供應(yīng)、AI芯片企業(yè)的競(jìng)爭(zhēng)、通用人工智能等問(wèn)題成為全場(chǎng)關(guān)注的焦點(diǎn)。
加強(qiáng)供應(yīng)鏈的韌性與彈性
黃仁勛強(qiáng)調(diào),在中美對(duì)抗升溫之際,英偉達(dá)將確?!袄斫庹卟⒆袷亍?,同時(shí)在供應(yīng)鏈“創(chuàng)造更多彈性”。同時(shí),他也認(rèn)為,被迫放棄與臺(tái)積電和亞洲制造業(yè)合作的可能性很低。
黃仁勛強(qiáng)調(diào),“我們正在做兩件事:一是確保我們理解并遵守政策。二是盡一切努力增強(qiáng)供應(yīng)鏈的彈性?!薄笆澜缒┤盏膱?chǎng)景不太可能發(fā)生,我們也不期望它發(fā)生。”
對(duì)于英偉達(dá)最新推出的性能較前代Hopper架構(gòu)產(chǎn)品提升了2.5倍的Blackwell架構(gòu)AI芯片平臺(tái),黃仁勛表示,該平臺(tái)是由數(shù)萬(wàn)個(gè)零組件制成,這些零件來(lái)自世界各地,除了臺(tái)積電之外,其他不少零組件也是由中國(guó)大陸企業(yè)提供,現(xiàn)在供應(yīng)鏈安全確實(shí)面更多臨挑戰(zhàn),并且也變得更加復(fù)雜。他認(rèn)為,各國(guó)目標(biāo)并不是敵對(duì),隨著AI芯片的需求持續(xù)飚升,英偉達(dá)與臺(tái)積電等供應(yīng)鏈的關(guān)系應(yīng)該會(huì)變得更緊密。
(這里插一句:早在今年1月,長(zhǎng)電科技曾表示其XDFOI? Chiplet高密度多維異構(gòu)集成系列工藝已按計(jì)劃進(jìn)入穩(wěn)定量產(chǎn)階段,同步實(shí)現(xiàn)國(guó)際客戶4nm節(jié)點(diǎn)多芯片系統(tǒng)集成封裝產(chǎn)品出貨,最大封裝體面積約為1500mm2的系統(tǒng)級(jí)封裝。有業(yè)內(nèi)人士推測(cè),長(zhǎng)電科技提到的“國(guó)際客戶4nm節(jié)點(diǎn)多芯片系統(tǒng)集成封裝產(chǎn)品”,大概率是指英偉達(dá)的NVIDIA GH100 CPU+GPU模塊。那么是否英偉達(dá)最新的Blackwell平臺(tái),長(zhǎng)電科技也有提供一些助力呢?)
黃仁勛指出,AI正經(jīng)歷轉(zhuǎn)型,目前正是AI世界加速開(kāi)始的時(shí)候,“我們才剛起步,臺(tái)積電一直是我們優(yōu)秀的合作伙伴”?!拔覀兯龅氖虑榉浅@щy”,但臺(tái)積電的表現(xiàn)非常出色,英偉達(dá)和臺(tái)積電的關(guān)系應(yīng)該更緊密。
針對(duì)美國(guó)新的出口管制政策對(duì)于英偉達(dá)在華業(yè)務(wù)的影響,黃仁勛表示,新推出的Blackwell芯片也將會(huì)受到美國(guó)出口管制政策的限制。不過(guò),他并未回應(yīng)英偉達(dá)是否會(huì)針對(duì)中國(guó)大陸市場(chǎng)開(kāi)發(fā)特殊版本,僅表示,部分低階版本GPU仍將持續(xù)在大陸銷售。
對(duì)于CoWoS先進(jìn)封裝產(chǎn)能需求會(huì)非常高
眾所周知,目前英偉達(dá)的AI芯片除了是由臺(tái)積電獨(dú)家進(jìn)行晶圓代工之外,還來(lái)依賴于臺(tái)積電的CoWoS先進(jìn)封裝產(chǎn)能。對(duì)于此前英偉達(dá)A100/H100等AI芯片的供應(yīng)緊缺的問(wèn)題,臺(tái)積電CoWoS產(chǎn)能緊缺也是一個(gè)主要瓶頸。
黃仁勛在此次記者會(huì)上,并未透露英偉達(dá)目前對(duì)于CoWoS產(chǎn)能需求的準(zhǔn)確數(shù)字。不過(guò),他兩次強(qiáng)調(diào),“我們今年對(duì)CoWoS的需求非常高!”
為應(yīng)對(duì)英偉達(dá)激增的CoWoS產(chǎn)能需求,臺(tái)積電在2023年啟動(dòng)了其CoWoS先進(jìn)封裝產(chǎn)能大擴(kuò)產(chǎn)計(jì)劃。近期業(yè)內(nèi)傳出,臺(tái)積電本月對(duì)臺(tái)系設(shè)備廠再度追單,交機(jī)時(shí)間預(yù)計(jì)將在今年第四季,因此,今年年底臺(tái)積電CoWoS月產(chǎn)能將有機(jī)會(huì)比其原定的倍增目標(biāo)的3.5萬(wàn)片進(jìn)一步提高到4萬(wàn)片以上。
報(bào)道稱,臺(tái)積電正全力沖刺CoWoS產(chǎn)能,目標(biāo)2024年翻倍成長(zhǎng),2025年也將持續(xù)擴(kuò)增。公司去年一開(kāi)始先將部分InFO產(chǎn)線從龍?zhí)兑浦聊峡?,挪出空間擴(kuò)產(chǎn),之后臺(tái)中AP5也從原本規(guī)劃擴(kuò)充CoWoS中的WoS,也拍板要一并擴(kuò)充CoW,另外規(guī)劃中的銅鑼、嘉義廠也評(píng)價(jià)再增加產(chǎn)能。
隨著臺(tái)積電CoWoS產(chǎn)能的持續(xù)放大,英偉達(dá)AI芯片的出貨也有望仔今年繼續(xù)擴(kuò)大。
黃仁勛表示,英偉達(dá)生產(chǎn)的芯片和軟件種類繁多,正處于有利地位,世界對(duì)AI運(yùn)算投資還在早期階段,預(yù)測(cè)將會(huì)有多年成長(zhǎng),英偉達(dá)的市占率會(huì)高于其他芯片制造商。
黃仁勛前一日在接受CNBC專訪時(shí)表示,每顆Blackwell芯片將要3-4萬(wàn)美元。英偉達(dá)首席財(cái)務(wù)官財(cái)務(wù)長(zhǎng)柯蕾絲(Colette Kress)則表示,英偉達(dá)Blackwell芯片和相關(guān)系統(tǒng)將于今年稍后上市,明年出貨量會(huì)大幅增加。
Meta近日也表示,要在今年底前取得英偉達(dá)B200芯片的首批出貨。Meta將全力布局AI領(lǐng)域,積極訓(xùn)練下一代模型Llama 3,如何建立龐大的運(yùn)算基礎(chǔ)設(shè)施成為最大決勝關(guān)鍵。此前消息也顯示,Meta今年也將大舉采購(gòu)目前輝達(dá)在市面上主流高階H100 AI芯片,預(yù)計(jì)買35萬(wàn)顆。
據(jù)研調(diào)機(jī)構(gòu)Omdia報(bào)告,英偉達(dá)H100芯片去年第4季最大客戶為Meta及微軟,分別購(gòu)買了15萬(wàn)顆,以英偉達(dá)去年第4季H100芯片出貨總量50萬(wàn)顆來(lái)計(jì)算,Meta相當(dāng)于手握30%的最先進(jìn)AI芯片供應(yīng)。
HBM是一個(gè)技術(shù)奇跡
隨著AI的持續(xù)火爆,在帶動(dòng)了英偉達(dá)AI芯片需求的同時(shí),也使得AI芯片當(dāng)中的關(guān)鍵組件——HBM(高帶寬內(nèi)存)持續(xù)供不應(yīng)求。而目前HBM供應(yīng)商僅有SK海力士、美光和三星,此前SK海力士是英偉達(dá)HBM的唯一供應(yīng)商。
為了解決HBM的供應(yīng)問(wèn)題,在此次記者會(huì)上,黃仁勛就表示,英偉達(dá)計(jì)劃從三星采購(gòu)高帶寬內(nèi)存(HBM)芯片,這是眾多人工智能處理器的關(guān)鍵組件。
“HBM 內(nèi)存非常復(fù)雜,附加值非常高。我們?cè)?HBM 上投入了大量資金,”英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛周二在加利福尼亞州圣何塞舉行的媒體會(huì)上表示。
黃仁勛表示,英偉達(dá)正在對(duì)三星的 HBM3E芯片進(jìn)行資格認(rèn)證,并將在未來(lái)開(kāi)始使用它們。“三星非常好,一家非常好的公司。”黃仁勛說(shuō)道。
與此同時(shí),三星在存儲(chǔ)芯片領(lǐng)域的最大競(jìng)爭(zhēng)對(duì)手SK海力士于本周二宣布,已開(kāi)始量產(chǎn)下一代高帶寬存儲(chǔ)芯片HBM3E。
黃仁勛表示:“HBM 是一個(gè)技術(shù)奇跡。”他補(bǔ)充說(shuō),HBM 還可以提高能源效率,并且隨著耗電的人工智能芯片變得更加普遍,可以幫助世界變得更加可持續(xù)。
SK 海力士此前實(shí)際上是 AI 芯片領(lǐng)導(dǎo)者英偉達(dá)所需的 HBM3 芯片的唯一供應(yīng)商。雖然SK海力士沒(méi)有透露其新 HBM3E 的客戶名單,但 SK 海力士高管告訴《日經(jīng)亞洲》,新芯片將首先發(fā)運(yùn)給英偉達(dá),并用于其最新的 Blackwell GPU。
三星一直在 HBM 上投入巨資,以追趕SK海力士。三星于2月份宣布開(kāi)發(fā)出HBM3E 12H,這是業(yè)界首款12堆棧HBM3E DRAM,也是迄今為止容量最高的HBM產(chǎn)品。三星表示,將于今年上半年開(kāi)始量產(chǎn)該芯片。
黃仁勛在媒體會(huì)上對(duì)記者表示:“三星和 SK 海力士的升級(jí)周期令人難以置信,一旦英偉達(dá)開(kāi)始增長(zhǎng),他們就會(huì)與我們一起成長(zhǎng)?!薄拔曳浅V匾曃覀兣c SK 海力士和三星的合作關(guān)系,”他補(bǔ)充道。
需要指出的是,除了SK海力士和三星之外,美光也將成為英偉達(dá)的HBM3E供應(yīng)商。美光公司于當(dāng)?shù)貢r(shí)間 2 月 26 日宣布,計(jì)劃為英偉達(dá)最新 GPU H200 提供 8 個(gè)堆棧的 24 GB HBM3E,該 GPU 預(yù)計(jì)將于今年第二季度推出。
不過(guò),SK海力士將會(huì)是最先向英偉達(dá)大量供貨HBM3E的廠商,美光次之,而三星的HBM3E目前尚未通過(guò)英偉達(dá)的認(rèn)證。
數(shù)名分析人士指出,三星HBM3的良率目前只有10~20%,SK海力士的HBM3良率卻已達(dá)到了60~70%。
也有業(yè)內(nèi)人士表示,“憑借在HBM3方面的技術(shù)優(yōu)勢(shì),SK海力士有望在HBM3E市場(chǎng)上繼續(xù)與英偉達(dá)保持牢固的合作關(guān)系。不過(guò),隨著三星電子推出業(yè)界最大容量的 12 堆棧 HBM3E 作為游戲規(guī)則的改變者,高堆棧 HBM 的競(jìng)爭(zhēng)預(yù)計(jì)將加劇?!?/p>
隨著AI芯片市場(chǎng)需求的擴(kuò)大,HBM銷售額占DRAM收入的比例正在迅速增加。市場(chǎng)研究公司TrendForce預(yù)測(cè),HBM銷售額占DRAM總營(yíng)收的比重將從2022年的2.6%上升至2023年的8.4%,今年將進(jìn)一步升至20.1%。HBM的產(chǎn)能預(yù)計(jì)今年也將大幅增加。
TrendForce的數(shù)據(jù)顯示,去年三星電子和SK海力士每月生產(chǎn)約45,000片晶圓,但今年,三星電子的產(chǎn)量預(yù)計(jì)將增至130,000片,SK海力士的產(chǎn)量將增至120,000至125,000片。美光在 HBM 市場(chǎng)排名第三,預(yù)計(jì)去年每月生產(chǎn) 3,000 片晶圓,今年每月生產(chǎn) 20,000 片晶圓。
如何面對(duì)新興AI企業(yè)的競(jìng)爭(zhēng)?
雖然AI熱潮對(duì)于英偉達(dá)AI芯片需求的持續(xù)暴漲,英偉達(dá)的營(yíng)收和市值也在快速增長(zhǎng)。該公司的市值在 2023 年 5 月突破了1萬(wàn)億美元,使這家芯片制造商躋身于微軟、蘋(píng)果、Alphabet 和 Meta 的稀有公司之列。今年 2 月,英偉達(dá)宣布其 2023 年?duì)I收為 608 億美元,比2022年大幅增長(zhǎng)了126%。同月,其市值達(dá)到 2 萬(wàn)億美元,僅次于微軟和蘋(píng)果。
這些龐大的數(shù)字在一定程度上是對(duì)整個(gè)人工智能市場(chǎng)的押注,據(jù)市場(chǎng)研究公司 Spherical Insights預(yù)測(cè),到 2032 年,整個(gè)人工智能市場(chǎng)的規(guī)模將飆升至 2.76 萬(wàn)億美元。
龐大的市場(chǎng)需求,以及英偉達(dá)對(duì)于AI芯片市場(chǎng)的壟斷性地位和其高昂的AI芯片定價(jià),也引吸引了Cerebras、Graphcore、Groq 和 SambaNova 等眾多新興的AI芯片競(jìng)爭(zhēng)對(duì)手的挑戰(zhàn)。
當(dāng)被問(wèn)及其他AI芯片廠商是否可能會(huì)迎頭趕上的問(wèn)題時(shí),黃仁勛指出,英偉達(dá)的AI芯片已經(jīng)無(wú)處不在,這需要多年時(shí)間才能實(shí)現(xiàn),而且不容易復(fù)制?!拔覀兪鞘澜缟衔ㄒ灰粋€(gè)在所有云中都可用的架構(gòu)。它可以在私有云中使用,可以在本地使用,也可以在汽車、機(jī)器人和工廠的邊緣使用?!?/p>
“英偉達(dá)擁有非常深的護(hù)城河,”英偉達(dá)合作伙伴、人工智能和量子軟件公司 SandboxAQ 的首席執(zhí)行官 Jack Hidary 表示?!拔翌A(yù)計(jì)這種競(jìng)爭(zhēng)優(yōu)勢(shì)不僅會(huì)持續(xù)存在,而且會(huì)在未來(lái)四五年內(nèi)真正增長(zhǎng)?!?/p>
市場(chǎng)研究機(jī)構(gòu)IDC 的 Rutten 表示,新來(lái)者最好不要正面挑戰(zhàn)人工智能硬件領(lǐng)域的霸主,而是尋求自己的利基市場(chǎng)。例如,芯片初創(chuàng)公司Recogni沒(méi)有進(jìn)軍人工智能模型訓(xùn)練市場(chǎng)(英偉達(dá)硬件可能無(wú)法取代該市場(chǎng)),而是專注于推理——從模型中提取信息并將其用于特定目的的過(guò)程,例如先進(jìn)的駕駛輔助系統(tǒng)。
另一個(gè)潛在的主要威脅來(lái)自于大型科技公司。例如亞馬遜、微軟、谷歌和 Meta 都投入了資源來(lái)開(kāi)發(fā)自己的定制芯片,這可能預(yù)示著有一天他們將更全面地掌控自己的人工智能命運(yùn)。其中,谷歌憑借其張量處理單元(TPU)在這條道路上走得特別遠(yuǎn),目前已經(jīng)是第五代了。同樣,亞馬遜、微軟和Meta也都有推出自己的AI芯片。
對(duì)此,黃仁勛回應(yīng)稱:“如果大公司想要構(gòu)建自己的芯片,我們?nèi)匀粫?huì)增強(qiáng)它們。每當(dāng)他們將我們納入他們的云中時(shí),我們就會(huì)為他們帶來(lái)很多很多的客戶。我們?yōu)樗麄儙?lái)了很多開(kāi)發(fā)人員?!?/p>
黃仁勛認(rèn)為,參與英偉達(dá)充滿活力的生態(tài)系統(tǒng)最終是一種自身利益的行為——大型科技公司的持續(xù)擁抱英偉達(dá)生態(tài),似乎也證實(shí)了這一立場(chǎng)。
通用人工智能還需要 5 年時(shí)間,AI 幻覺(jué)是可以解決的
在今年3月1日的于斯坦福大學(xué)舉行的一個(gè)經(jīng)濟(jì)論壇上,黃仁勛就被問(wèn)及需要多長(zhǎng)時(shí)間才能實(shí)現(xiàn)AGI(通用人工智能),即創(chuàng)建能像人類一樣思考的計(jì)算機(jī)。
對(duì)此,黃仁勛回答稱,如果對(duì)通用人工智能的定義是通過(guò)人類測(cè)試的能力,那么這一目標(biāo)五年內(nèi)就能實(shí)現(xiàn)。截至目前,人工智能已經(jīng)可以通過(guò)律師資格考試等測(cè)試,但在胃腸病學(xué)等專業(yè)醫(yī)學(xué)考試中仍表現(xiàn)不佳。但黃仁勛認(rèn)為,在五年內(nèi),它應(yīng)該能夠通過(guò)任何單個(gè)測(cè)試。不過(guò),黃仁勛也提到,要實(shí)現(xiàn)更高要求的通用人工智能,可能仍然很難,因?yàn)榭茖W(xué)家們?cè)谌绾蚊枋鋈祟愃季S的工作方式上仍然存在分歧。
在此次的記者會(huì)上,有記者再度提出了這個(gè)問(wèn)題,即何時(shí)能夠看到真正的AGI。
黃仁勛認(rèn)為,預(yù)測(cè)我們何時(shí)會(huì)看到一個(gè)AGI(通用人工智能)取決于你如何定義 AGI。因?yàn)檫@其中有一些相似之處:即使時(shí)區(qū)的復(fù)雜性。你知道新年何時(shí)到來(lái)以及 2025 年何時(shí)到來(lái)。如果你開(kāi)車前往圣何塞會(huì)議中心(今年 GTC 會(huì)議的舉辦地),當(dāng)你看到巨大的?GTC 橫幅時(shí),通常就知道你已經(jīng)到達(dá)。關(guān)鍵的一點(diǎn)是,我們可以就如何衡量你是否已經(jīng)到達(dá)你希望去的地方(無(wú)論是時(shí)間上還是地理空間上)達(dá)成一致。
“如果我們將 AGI 指定為非常具體的東西,即軟件程序可以做得很好的一組測(cè)試,或者可能比大多數(shù)人好 8%,我相信我們將在 5 年內(nèi)實(shí)現(xiàn)這一目標(biāo)?!秉S仁勛解釋道。
黃仁勛建議,這些測(cè)試可以是法律律師考試、邏輯測(cè)試、經(jīng)濟(jì)測(cè)試,或者也許是通過(guò)醫(yī)學(xué)預(yù)科考試的能力。除非提問(wèn)者能夠非常具體地了解 AGI 在問(wèn)題中的含義,否則他不愿意做出預(yù)測(cè)。
在當(dāng)?shù)貢r(shí)間周二的問(wèn)答環(huán)節(jié)中,黃仁勛還被問(wèn)到如何應(yīng)對(duì)人工智能幻覺(jué)——一些人工智能傾向于編造聽(tīng)起來(lái)似乎合理但沒(méi)有事實(shí)依據(jù)的答案。他顯然對(duì)這個(gè)問(wèn)題感到沮喪,并表示人工智能幻覺(jué)是很容易解決的——只要確保答案經(jīng)過(guò)充分研究。
黃仁勛說(shuō):“添加一條規(guī)則:對(duì)于每個(gè)答案,你都必須查找答案?!彼麑⑦@種做法稱為“檢索增強(qiáng)生成”,并描述了一種與基本媒體素養(yǎng)非常相似的方法:檢查來(lái)源和上下文。將來(lái)源中包含的事實(shí)與已知事實(shí)進(jìn)行比較,如果答案實(shí)際上不準(zhǔn)確(即使是部分不準(zhǔn)確),則丟棄整個(gè)來(lái)源,并繼續(xù)進(jìn)行下一個(gè)來(lái)源。“人工智能不應(yīng)該只是回答;它應(yīng)該首先進(jìn)行研究,以確定哪個(gè)答案是最好的。”
對(duì)于關(guān)鍵任務(wù)的答案,例如健康建議或類似問(wèn)題,黃仁勛建議,也許檢查多種資源和已知的事實(shí)來(lái)源才是前進(jìn)的方向。當(dāng)然,這意味著創(chuàng)建答案的生成器需要可以選擇說(shuō):“我不知道你問(wèn)題的答案”,或者“我無(wú)法就正確答案達(dá)成共識(shí)”這個(gè)問(wèn)題是,”或者甚至是類似“嘿,超級(jí)碗比賽還沒(méi)有發(fā)生,所以我不知道誰(shuí)贏了。”
編輯:芯智訊-浪客劍