Intel Vision 2024大會(huì): 英特爾發(fā)布全新軟硬件平臺(tái)，全速助力企業(yè)推進(jìn)AI創(chuàng)新

美國(guó)當(dāng)?shù)貢r(shí)間4月9日，英特爾舉辦了面向客戶(hù)和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng)新大會(huì)，宣布了英特爾?至強(qiáng)?6處理器的全新品牌，推出英特爾Gaudi 3加速器，以高性能、開(kāi)放性和靈活性助力企業(yè)推進(jìn)生成式AI創(chuàng)新，并發(fā)布了涵蓋全新開(kāi)放、可擴(kuò)展系統(tǒng)，下一代產(chǎn)品和一系列戰(zhàn)略合作的全棧解決方案，以加速生成式AI落地。根據(jù)cnvrg.io的調(diào)研結(jié)果，2023年只有10%的企業(yè)成功將其生成式AI項(xiàng)目產(chǎn)品化。英特爾的最新解決方案有望幫助企業(yè)應(yīng)對(duì)推廣AI項(xiàng)目時(shí)所面臨的挑戰(zhàn)。

英特爾公司首席執(zhí)行官帕特·基辛格表示：“創(chuàng)新技術(shù)正在以前所未有的速度發(fā)展，每家公司都在加速成為AI公司，這一切都需要半導(dǎo)體技術(shù)提供支持。從PC到數(shù)據(jù)中心再到邊緣，英特爾正在讓AI走進(jìn)千行百業(yè)。英特爾最新的Gaudi、至強(qiáng)和酷睿平臺(tái)將提供靈活的、可定制化的解決方案，滿(mǎn)足客戶(hù)和合作伙伴不斷變化的需求，把握住未來(lái)的巨大機(jī)遇?！?/p>

企業(yè)希望將生成式AI從試驗(yàn)階段擴(kuò)展到應(yīng)用階段。因此，他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經(jīng)濟(jì)實(shí)用、節(jié)能的處理器所打造的可快速部署的解決方案。并且，Gaudi 3還能滿(mǎn)足復(fù)雜性、成本效益、碎片化、數(shù)據(jù)可靠性和合規(guī)性等需求。

推出用于AI訓(xùn)練和推理的Gaudi 3

英特爾Gaudi 3 AI加速器將為AI系統(tǒng)提供動(dòng)力，該AI系統(tǒng)可通過(guò)以太網(wǎng)的通用標(biāo)準(zhǔn)連接多達(dá)數(shù)萬(wàn)個(gè)加速器。與上一代產(chǎn)品相比，英特爾Gaudi 3將帶來(lái)4倍的BF16 AI計(jì)算能力提升，以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來(lái)AI訓(xùn)練和推理方面的重大飛躍。

英特爾Gaudi 3預(yù)計(jì)可大幅縮短70億和130億參數(shù)Llama2模型，以及1750億參數(shù)GPT-3模型的訓(xùn)練時(shí)間。此外，在Llama 7B、70B和Falcon 180B大語(yǔ)言模型（LLM）的推理吞吐量和能效方面也展現(xiàn)了出色性能。

英特爾Gaudi 3提供開(kāi)放的、基于社區(qū)的軟件和行業(yè)標(biāo)準(zhǔn)以太網(wǎng)網(wǎng)絡(luò)，允許企業(yè)靈活地從單個(gè)節(jié)點(diǎn)擴(kuò)展到擁有數(shù)千個(gè)節(jié)點(diǎn)的集群、超級(jí)集群和超大集群，支持大規(guī)模的推理、微調(diào)和訓(xùn)練。英特爾Gaudi 3將于2024年第二季度面向OEM廠(chǎng)商出貨。

英特爾AI解決方案為客戶(hù)創(chuàng)造價(jià)值

英特爾概述了面向開(kāi)放的、可擴(kuò)展的AI系統(tǒng)的戰(zhàn)略，其中包括硬件、軟件、框架和工具。英特爾讓廣泛的AI開(kāi)放生態(tài)系統(tǒng)參與者，如設(shè)備制造商、數(shù)據(jù)庫(kù)提供商、系統(tǒng)集成商、軟件和服務(wù)提供商等，能夠提供滿(mǎn)足企業(yè)特定生成式AI需求的解決方案。與此同時(shí)，亦讓企業(yè)與他們已知、信任的生態(tài)系統(tǒng)合作伙伴展開(kāi)合作并采取相應(yīng)解決方案。

生態(tài)系統(tǒng)聯(lián)合創(chuàng)建開(kāi)放平臺(tái)，助力企業(yè)AI創(chuàng)新發(fā)展

英特爾聯(lián)合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同宣布，將創(chuàng)建一個(gè)開(kāi)放平臺(tái)助力企業(yè)推動(dòng)AI創(chuàng)新。這一凝結(jié)全行業(yè)力量的計(jì)劃旨在開(kāi)發(fā)開(kāi)放的、多供應(yīng)商的生成式AI系統(tǒng)，通過(guò)RAG（檢索增強(qiáng)生成）技術(shù)，提供一流的部署便利性、性能和價(jià)值。RAG可使企業(yè)在標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施上運(yùn)行的大量現(xiàn)存專(zhuān)有數(shù)據(jù)源得到開(kāi)放大語(yǔ)言模型（LLM）功能的增強(qiáng)，加速生成式AI在企業(yè)中的應(yīng)用。

在該計(jì)劃的初始階段，基于安全的至強(qiáng)處理器和Gaudi解決方案，英特爾將面向生成式AI進(jìn)程（pipelines）推出參考實(shí)現(xiàn)，發(fā)布技術(shù)概念框架，并繼續(xù)增進(jìn)英特爾Tiber開(kāi)發(fā)者云平臺(tái)基礎(chǔ)設(shè)施的功能，以便為RAG及未來(lái)進(jìn)程的生態(tài)系統(tǒng)開(kāi)發(fā)和確認(rèn)打下基礎(chǔ)。英特爾鼓勵(lì)生態(tài)系統(tǒng)進(jìn)一步參與到這一開(kāi)放平臺(tái)的創(chuàng)建中來(lái)，以促進(jìn)企業(yè)采用該平臺(tái)，擴(kuò)大解決方案的應(yīng)用范圍，并取得業(yè)務(wù)成果。

英特爾擴(kuò)展AI路線(xiàn)圖和開(kāi)放生態(tài)系統(tǒng)方法

英特爾還分享了企業(yè)AI各細(xì)分領(lǐng)域的下一代產(chǎn)品和服務(wù)的最新信息。

全新英特爾?至強(qiáng)?6處理器：英特爾至強(qiáng)處理器為運(yùn)行當(dāng)前的生成式AI解決方案提供了性能高效的解決方案，包括使用專(zhuān)有數(shù)據(jù)生成特定業(yè)務(wù)結(jié)果的RAG。同時(shí)，英特爾還為面向數(shù)據(jù)中心、云和邊緣的下一代處理器進(jìn)行了品牌煥新，即英特爾至強(qiáng)6。配備能效核（E-cores）的英特爾至強(qiáng)6處理器將于2024年第二季度推出，提供卓越的效率，配備性能核（P-cores）的英特爾至強(qiáng)6處理器將緊隨其后推出，帶來(lái)更高的AI性能。

• 配備能效核的英特爾至強(qiáng)6處理器（代號(hào)為Sierra Forest）：

與第二代英特爾?至強(qiáng)?處理器相比，每瓦性能提高2.4倍，機(jī)架密度提高2.7倍。

客戶(hù)能以近3:1的比例替換舊系統(tǒng)，大幅降低能耗，幫助其實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)。

• 配備性能核的英特爾至強(qiáng)6處理器（代號(hào)為Granite Rapids）：

包含了對(duì)MXFP4數(shù)據(jù)格式的軟件支持，與使用FP16的第四代英特爾?至強(qiáng)?處理器相比，可將下一個(gè)令牌（token）的延遲時(shí)間最多縮短6.5倍，能夠運(yùn)行700億參數(shù)的Llama-2模型。

客戶(hù)端、邊緣和連接：英特爾分享了客戶(hù)端產(chǎn)品的發(fā)展勢(shì)頭以及諸多邊緣和網(wǎng)絡(luò)互聯(lián)產(chǎn)品的路線(xiàn)圖更新，包括：

• 英特爾?酷睿?Ultra處理器為生產(chǎn)力、安全性和內(nèi)容創(chuàng)作提供了全新能力，并為企業(yè)煥新其PC設(shè)備提供了巨大動(dòng)力。英特爾預(yù)計(jì)將于2024年出貨4000萬(wàn)臺(tái)AI PC，以及超過(guò)230種的設(shè)計(jì)，覆蓋輕薄PC和游戲掌機(jī)設(shè)備。
• 將于2024年推出的下一代英特爾酷睿Ultra客戶(hù)端處理器家族（代號(hào)Lunar Lake），將具備超過(guò)100 TOPS平臺(tái)算力，以及在神經(jīng)網(wǎng)絡(luò)處理單元（NPU）上帶來(lái)超過(guò)46 TOPS的算力，從而為下一代AI PC提供強(qiáng)大支持。
• 英特爾發(fā)布了涵蓋英特爾酷睿Ultra、英特爾?酷睿?、英特爾凌動(dòng)?處理器和英特爾銳炫?顯卡系列產(chǎn)品在內(nèi)的全新邊緣芯片，主要面向零售、工業(yè)制造和醫(yī)療等關(guān)鍵領(lǐng)域。英特爾邊緣AI產(chǎn)品組合內(nèi)的所有新品將于本季度上市，并將在今年年內(nèi)獲得英特爾Tiber邊緣平臺(tái)的支持。
• 通過(guò)超以太網(wǎng)聯(lián)盟（UEC），英特爾正在驅(qū)動(dòng)面向AI高速互聯(lián)技術(shù)（AI Fabrics）的開(kāi)放式以太網(wǎng)網(wǎng)絡(luò)創(chuàng)新，并推出一系列針對(duì)AI優(yōu)化的以太網(wǎng)解決方案。這些創(chuàng)新旨在革新可大規(guī)?？v向（scale-up）和橫向（scale-out）擴(kuò)展的AI高速互聯(lián)技術(shù)，以支持AI模型的訓(xùn)練和推理，這些模型的規(guī)模日益龐大，每一代都會(huì)增長(zhǎng)一個(gè)數(shù)量級(jí)。英特爾的產(chǎn)品組合包括英特爾AI網(wǎng)絡(luò)連接卡（AI NIC）、集成到XPU的AI連接芯粒、基于Gaudi加速器的系統(tǒng)，以及一系列面向英特爾代工的AI互聯(lián)軟硬件參考設(shè)計(jì)。

英特爾Tiber業(yè)務(wù)解決方案組合

英特爾發(fā)布了英特爾Tiber業(yè)務(wù)解決方案組合，以簡(jiǎn)化企業(yè)軟件和服務(wù)的部署，包括生成式AI。

這一統(tǒng)一的體驗(yàn)將使企業(yè)客戶(hù)和開(kāi)發(fā)人員能夠更輕松地找到適合其需求的解決方案，加快創(chuàng)新并釋放價(jià)值，同時(shí)不犧牲安全性、合規(guī)性或性能。客戶(hù)即日起便可開(kāi)始探索英特爾Tiber產(chǎn)品組合，今年第三季度這一解決方案將會(huì)全面推出。

英特爾始終致力于讓AI更易于使用、更開(kāi)放、更安全，從而滿(mǎn)足全球企業(yè)的不同需求。通過(guò)Intel Vision 2024大會(huì)上公布的全新合作和解決方案，英特爾將在AI浪潮中全力引領(lǐng)創(chuàng)新，讓AI為各行各業(yè)帶來(lái)前所未有的價(jià)值。