狂砸10萬片H100 GPU訓(xùn)練！扎克伯格劇透Llama 4，隔空對(duì)戰(zhàn)馬斯克

編譯 |??汪越，編輯?|??漠影

廣告收入輸血AI巨獸。

智東西11月1日消息，據(jù)外媒Wired報(bào)道，在周三的Meta第三季度財(cái)報(bào)電話會(huì)議上，Meta首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）透露，Llama 4模型正在一個(gè)由10萬片H100 GPU組成的集群上進(jìn)行訓(xùn)練，并預(yù)計(jì)在明年首次推出。

為了支持AI計(jì)劃，Meta預(yù)計(jì)本年度資本支出將高達(dá)400億美元，比去年增加了超過42%。扎克伯格在財(cái)報(bào)電話會(huì)議中強(qiáng)調(diào)，明年公司將進(jìn)一步加大對(duì)AI基礎(chǔ)設(shè)施的投資。2024年第三季度，Meta收入同比增長(zhǎng)19%至406億美元，高于華爾街預(yù)測(cè)的403億美元。凈利潤(rùn)增長(zhǎng)了35%至157億美元，遠(yuǎn)高于市場(chǎng)預(yù)期的136億美元。Meta應(yīng)用系列的日活躍用戶增長(zhǎng)了5%，達(dá)到33億。

▲Meta 2023年Q1~2024年Q3的營(yíng)收及增長(zhǎng)情況

財(cái)報(bào)公布后，Meta股價(jià)盤后一度跌逾3%，后收窄至3%以內(nèi)。截至撰稿，Meta股價(jià)為567.58美元，較昨日收盤下降4.09%，市值1.44萬億美元。

1.Meta斥資400億建10萬片GPU集群

自2023年7月以來，Meta已陸續(xù)推出了多個(gè)版本的Llama模型，最新的Llama 3.2已于今年9月發(fā)布。與主要競(jìng)爭(zhēng)對(duì)手提供的封閉API服務(wù)不同，Llama作為開放源代碼項(xiàng)目，受到了眾多希望完全掌控自身模型、數(shù)據(jù)處理流程以及成本控制的企業(yè)和個(gè)人研究者的青睞。針對(duì)即將推出的Llama 4模型，扎克伯格透露，該模型正在由10萬片H100 GPU組成的集群上進(jìn)行訓(xùn)練，并暗示新版本將引入“新的模態(tài)”、“更強(qiáng)的推理能力”以及“更快的性能”。

開發(fā)更為強(qiáng)大的AI模型需要更多的計(jì)算資源和數(shù)據(jù)。擁有如此規(guī)模的GPU集群似乎讓Meta處于行業(yè)前沿，但實(shí)際上，多家大型科技公司都在競(jìng)相構(gòu)建包含超過十萬片先進(jìn)芯片的計(jì)算設(shè)施。

今年3月，Meta與英偉達(dá)聯(lián)合公布了用于Llama 3模型訓(xùn)練的2.5萬片H100 GPU集群的具體信息。隨后，在7月，特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk）宣稱其旗下的大模型獨(dú)角獸xAI聯(lián)合社交平臺(tái)X及英偉達(dá)建立了擁有10萬片H100 GPU的集群，并稱這是當(dāng)時(shí)全球最強(qiáng)大的AI訓(xùn)練系統(tǒng)之一。

與此同時(shí)，OpenAI也在持續(xù)投入大量資金開發(fā)新的AI模型。OpenAI前首席技術(shù)官米拉·穆拉蒂（Mira Murati）曾透露，下一代模型GPT-5不僅規(guī)模將超過前代，還將具備更強(qiáng)大的推理能力，但她沒有透露用于訓(xùn)練該模型的具體計(jì)算資源細(xì)節(jié)。周二，谷歌首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）也宣布了最新一代Gemini系列生成式AI模型正處于研發(fā)階段。

運(yùn)營(yíng)這樣龐大的GPU集群來訓(xùn)練Llama 4模型將消耗大量的能源。在財(cái)報(bào)電話會(huì)議上，面對(duì)有關(guān)美國(guó)部分地區(qū)可能面臨的電力供應(yīng)限制的提問時(shí)，Meta管理層未給出直接回應(yīng)。

據(jù)研究機(jī)構(gòu)Semi Analysis估計(jì)，一個(gè)包含10萬片H100 GPU的集群理論上需要約150兆瓦的電能支持。相比之下，美國(guó)最大的國(guó)家實(shí)驗(yàn)室超級(jí)計(jì)算機(jī)El Capitan僅需約30兆瓦的功率。為滿足數(shù)據(jù)中心及其他基礎(chǔ)設(shè)施的需求，Meta預(yù)計(jì)本年度資本支出將達(dá)到高達(dá)400億美元，比去年增加了超過42%，并且預(yù)測(cè)未來一年內(nèi)相關(guān)開支還將繼續(xù)上升。

2.AI支出加速Reality Labs部門虧損44億美元

從財(cái)報(bào)角度看，第三季度，公司收入同比增長(zhǎng)19%至406億美元，高于華爾街預(yù)測(cè)的403億美元。凈利潤(rùn)增長(zhǎng)了35%至157億美元，遠(yuǎn)高于市場(chǎng)預(yù)期的136億美元。Meta應(yīng)用系列的日活躍用戶增長(zhǎng)了5%，達(dá)到33億。

今年Meta的總運(yùn)營(yíng)成本增長(zhǎng)了約9%，但總體銷售額（主要來自廣告）飆升了22%以上。這意味著，即使公司在Llama項(xiàng)目上投入了數(shù)十億美元，其財(cái)務(wù)表現(xiàn)依然非常強(qiáng)勁。

▲Meta 2023年Q1~2024年Q3的凈利潤(rùn)及增長(zhǎng)情況

在財(cái)報(bào)電話會(huì)議上，扎克伯格提到，還有許多機(jī)會(huì)可以利用AI技術(shù)來加速公司的核心業(yè)務(wù)。他認(rèn)為這些投資將在未來幾年帶來高回報(bào)，因此應(yīng)繼續(xù)加強(qiáng)投資。今年以來，Meta平臺(tái)上的AI驅(qū)動(dòng)信息流和視頻推薦功能已經(jīng)將Facebook和Instagram的用戶使用時(shí)長(zhǎng)分別提高了8%和6%。

扎克伯格已向AI領(lǐng)域投入大量資金，以改善Meta的廣告產(chǎn)品和內(nèi)容推薦，并開始將生成式AI工具集成到平臺(tái)中。他面臨著通過AI計(jì)劃實(shí)現(xiàn)盈利的壓力，因?yàn)檫\(yùn)行服務(wù)器和數(shù)據(jù)中心的成本非常高，而且谷歌等競(jìng)爭(zhēng)對(duì)手的競(jìng)爭(zhēng)也非常激烈。

此外，扎克伯格認(rèn)為VR頭顯和AR眼鏡是“下一個(gè)計(jì)算平臺(tái)”。Meta已經(jīng)與雷朋合作推出了一款名為Ray-Ban Meta的智能眼鏡，這款眼鏡價(jià)格親民但不具備AR功能。上個(gè)月，在Meta Connect 2024大會(huì)上，Meta展示了名為Orion的AR智能眼鏡原型。

本周三，Meta宣布負(fù)責(zé)VR、AR及元宇宙技術(shù)研發(fā)的Reality Labs部門第三季度收入為2700萬美元，營(yíng)業(yè)虧損為44億美元。自2020年以來，Reality Labs部門的累計(jì)營(yíng)運(yùn)虧損已超過580億美元。該公司還預(yù)計(jì)，Reality Labs全年的運(yùn)營(yíng)虧損將同比大幅增加。

▲Meta 2024年Q3各業(yè)務(wù)營(yíng)收情況占比（億美元）

本月早些時(shí)候，據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，Meta正在重組WhatsApp、Instagram和Reality Labs的某些團(tuán)隊(duì)，包括裁員和人員調(diào)動(dòng)。

3.結(jié)語：廣告收入支撐AI投資扎克伯格持續(xù)押注

從第三季度財(cái)報(bào)來看，Meta繼續(xù)保持增長(zhǎng)勢(shì)頭，廣告收入豐厚。通過AI優(yōu)化，Meta已經(jīng)提高了其應(yīng)用系列的用戶使用時(shí)長(zhǎng)和日活躍用戶數(shù)量。隨著Meta AI未來可能內(nèi)置廣告功能，這將為公司開辟新的創(chuàng)收渠道，進(jìn)一步增強(qiáng)其盈利能力。

扎克伯格持續(xù)為Meta的AI戰(zhàn)略注入資金，支持GPU集群、數(shù)據(jù)中心等關(guān)鍵基礎(chǔ)設(shè)施的建設(shè)。隨著Llama 4模型的推出，Meta AI聊天機(jī)器人和其他AI功能將進(jìn)一步優(yōu)化，從而提升用戶體驗(yàn)并推動(dòng)平臺(tái)的發(fā)展。

但是，目前Meta在AI領(lǐng)域的投資仍然處于燒錢階段，Meta AI尚未實(shí)現(xiàn)盈利。同樣，AR和VR的研發(fā)也耗費(fèi)了大量資金，尤其是Reality Labs部門在第三季度錄得44億美元的營(yíng)業(yè)虧損。盡管如此，扎克伯格依然堅(jiān)信這些投資將在未來帶來巨大的回報(bào)，并繼續(xù)堅(jiān)定地支持這些項(xiàng)目。

Meta首席財(cái)務(wù)官Susan Li提到，明年公司將優(yōu)先考慮進(jìn)一步投資Reality Labs、商業(yè)化策略、基礎(chǔ)設(shè)施建設(shè)和生成式AI技術(shù)，并將簡(jiǎn)化公司在其他領(lǐng)域的運(yùn)營(yíng)。

來源：Wired、英國(guó)《金融時(shí)報(bào)》

（本文系網(wǎng)易新聞?網(wǎng)易號(hào)特色內(nèi)容激勵(lì)計(jì)劃簽約賬號(hào)【智東西】原創(chuàng)內(nèi)容，未經(jīng)賬號(hào)授權(quán)，禁止隨意轉(zhuǎn)載。）