英特爾? 酷睿? Ultra 和第五代英特爾? 至強? 可擴展處理器豐富了英特爾出色的AI產品組合,加速 AI 惠及千行百業(yè),開啟全民 AI 時代。
今天,在紐約舉行的“讓AI無處不在”活動上,英特爾推出一系列出色的AI產品組合,旨在助力用戶從數據中心、云、網絡,到邊緣和 PC等各個領域打造無處不在的AI解決方案。
亮點包括:
- 英特爾? 酷睿? Ultra移動處理器家族,是首款基于 Intel 4 制程工藝打造的處理器,代表著英特爾40年來最重大的架構變革,并同時成為英特爾最具能效比的客戶端處理器,在AI PC新時代引領產業(yè)向前邁進。
- 第五代英特爾? 至強? 可擴展處理器在每個核心中內置了AI加速器,帶來了AI和整體性能的躍升,以及更低的總體擁有成本(TCO)。
- 英特爾首席執(zhí)行官帕特·基辛格首次展示了將于明年如期面世的英特爾? Gaudi?3加速器。
英特爾首席執(zhí)行官帕特·基辛格表示:“AI 創(chuàng)新將把數字經濟的影響力提升至全球GDP的三分之一1,英特爾正在開發(fā)相關的技術和解決方案,助力用戶能夠在所有應用中輕松集成并高效地運行 AI,包括從云端到生成并使用數據的本地 PC 和邊緣設備上?!?/p>
基辛格還展示了英特爾從云、企業(yè)級服務器和網絡,到量產的客戶端,以及獨特的邊緣場景等領域廣泛的 AI 產品布局。他同時強調了英特爾的四年五個節(jié)點進程正在穩(wěn)步推進。
基辛格表示:“英特爾的使命是通過精心打造的平臺、安全的解決方案和對開放生態(tài)系統(tǒng)的支持,讓 AI 無處不在。無論是引領 AI PC 時代的英特爾酷睿 Ultra ,還是為企業(yè)打造的第五代英特爾至強可擴展處理器,都壯大了我們的 AI 產品組合?!?/p>
英特爾酷睿Ultra處理器,為 AI PC和全新應用提供動力
英特爾酷睿 Ultra 處理器代表了公司 40 年來最重大的架構變革,為 CPU 計算、圖形、電源、電池續(xù)航和AI 體驗等各個方面都帶來出色表現(xiàn)。英特爾? 迅馳技術讓筆記本電腦通過 Wi-Fi 連接開啟無線上網時代,AI PC 則代表著 20 年來 PC 體驗的又一巨大變革。
英特爾酷睿Ultra 處理器采用了英特爾首個用于客戶端的片上AI加速器“神經網絡處理單元(NPU)”,將高能效AI加速提升到了新的高度,帶來2.5倍2于上一代產品的能效表現(xiàn)。該處理器出色的 GPU 和 CPU 也都能夠加速AI解決方案。
值得一提的是,英特爾正與 100 多家軟件廠商緊密合作,為 PC 市場帶來數百款AI增強型應用,這些極具創(chuàng)造力、生產力和趣味性的應用將變革 PC體驗。對于消費者和商用客戶來說,這意味著更廣泛的AI增強型應用將能夠在英特爾酷睿 Ultra 平臺上流暢運行,例如,使用 Adobe Premier Pro 的內容創(chuàng)作者將享受到出眾的體驗3。
明年,英特爾酷睿 Ultra 處理器將為全球筆記本電腦和PC制造商的 230 多款機型帶來AI特性。到2028年,AI PC將占PC市場的80% 4,并為我們的工作、學習和創(chuàng)作帶來新的工具。
全新至強處理器為數據中心、云、網絡和邊緣帶來更強大的AI功能
同日推出的第五代英特爾至強可擴展處理器系列在性能和能效方面5實現(xiàn)了重大飛躍:與上一代產品相比,在相同的熱設計功率范圍內,平均性能提升21%6,并在一系列工作負載中將每瓦性能提升高達36%7。對于遵循典型的五年更新周期并從更前一代處理器進行升級的客戶,總體擁有成本最多可降低77%8。
英特爾至強可擴展處理器是業(yè)界領先的內置AI加速器的主流數據中心處理器,而全新第五代英特爾至強可擴展處理器更是能夠微調參數量多達200億的大語言模型9,并將其推理性能提高42%?,F(xiàn)階段,英特爾至強可擴展處理器也是唯一一款擁有MLPerf 訓練和推理基準測試結果并持續(xù)提升性能的 CPU。
得益于內置AI加速器,以及優(yōu)化的軟件和增強的遙測功能,英特爾至強可擴展處理器能夠讓通信服務提供商、內容分發(fā)網絡以及包括零售、醫(yī)療和制造業(yè)在內的廣泛垂直市場,更靈活和高效地部署對網絡和邊緣工作負載要求嚴苛的解決方案。
在今天的活動上,IBM表示,與上一代英特爾至強可擴展處理器的測試數據相比,第五代英特爾至強可擴展處理器在其watsonx.data平臺上的網絡查詢吞吐量提高了2.7倍10。將于明年部署第五代英特爾至強可擴展處理器的谷歌云指出,得益于谷歌云中第四代英特爾至強可擴展處理器內置的加速器,Palo Alto Networks在其基于深度學習模型的威脅檢測的性能得到兩倍提升。獨立游戲工作室 Gallium Studios 采用在英特爾至強可擴展處理器上運行的 Numenta AI 平臺,推理性能比基于 GPU 的云實例提高了 6.5 倍,從而為其基于 AI 的游戲 Proxi 節(jié)省成本并縮短延遲11。
這種高性能也為在數據中心、云,以及全球網絡和邊緣應用中解鎖領先的AI功能提供了更多新的可能性。
在開發(fā)者需要的地方提供無處不在的AI加速和解決方案
展望未來,酷睿Ultra 處理器和第五代英特爾至強可擴展處理器將遍布在各種令人意想不到的地方。想象一下,餐廳不僅能向您展示菜單,還能根據您的預算和飲食需求提供點餐指導;制造車間能從源頭把控質量和安全問題;超聲波能看到人眼可能漏掉的東西;電網能更細致且精準地管理電力。
這些邊緣計算用例代表了增長最快的計算領域,預計到2030年全球市值將激增至 4,450 億美元,其中AI是增長最快的工作負載。在該市場中,邊緣和客戶端設備對推理的需求相比數據中心超過了 1.4 倍12。
許多情況下,客戶會根據業(yè)務實際情況混合部署AI解決方案。以Zoom為例,該公司的一體化通信與協(xié)作平臺包含了基于英特爾酷睿的客戶端系統(tǒng),和基于英特爾至強的云解決方案。Zoom 在該客戶端系統(tǒng)和云解決方案上運行AI工作負載,以提供出色的用戶體驗和成本表現(xiàn)。利用AI,Zoom 不僅可以屏蔽鄰居家的狗叫聲,對凌亂的家庭辦公室背景進行模糊處理,還可以生成會議摘要和電子郵件。
與此同時,為推動AI硬件技術普及并易于使用,英特爾優(yōu)化開發(fā)人員使用的AI框架(如 PyTorch 和 TensorFlow),并(通過 oneAPI)提供基礎庫,使軟件在不同類型的硬件上都具有可移植性和高性能。
先進的開發(fā)工具(包括英特爾的oneAPI 和 OpenVINO 工具包)可幫助開發(fā)者利用硬件加速功能處理AI工作負載和部署解決方案,并在各種推理目標上快速構建、優(yōu)化和部署AI模型。
現(xiàn)階段,英特爾與合作伙伴和廣泛的生態(tài)系統(tǒng)攜手合作,正不斷解鎖AI帶來的新增長機遇,讓AI無處不在。
1. 來源于 Oxford Economics、BCG、和McKinsey data 的相關項目數據。
2. 基于 UL Procyon AI benchmark 的每瓦特性能指標測試,同時在英特爾酷睿 Ultra 165H 和英特爾酷睿 i7-1370P 的 GPU 上運行 int8 模型做對比。詳細工作負載和配置參見 www.intel.com/PerformanceIndex。實際結果可能有所不同。 3. 基于PugetBenchPremier Pro Standard (v24.1) benchmark 進行測試。工作負載和配置參見 www.intel.com/PerformanceIndex。實際結果可能有所不同。
4. 數據來源: Boston Consulting Group
5. 通過對比第四代英特爾至強處理器運行SPEC CPU rate、STREAM Triad、LINPACK 的幾何平均數測得平均性能。參見 intel.com/processorclaims 的 G1 部分:第五代英特爾至強處理器。實際結果可能有所不同。
6. 通過對比第四代英特爾至強處理器運行SPEC CPU rate、STREAM Triad、LINPACK 的幾何平均數測得平均性能。參見 intel.com/processorclaims 的 G1 部分:第五代英特爾至強處理器。實際結果可能有所不同。
7. 參見 intel.com/processorclaims 的【T13】:第五代英特爾至強可擴展處理器。實際結果可能有所不同。
8. 參見intel.com/processorclaims的【T7】:第五代英特爾至強可擴展處理器。實際結果可能有所不同。 9. 基于英特爾內部模型測試(截止到2023年12月),實際性能可能有所不同。參見intel.com/processorclaims 的 A1、A2、A16:第五代英特爾至強處理器。
10. 參見 intel.com/processorclaims 的【D7】:第五代英特爾至強可擴展處理器。實際結果可能有所不同。
11. NVIDIA Tesla M60 GPU:已由 Gallium于2023 年 11 月 17 日測試。AWS g3s.xlarge 上的1節(jié)點、1x GPU、4vCPU、30.5 GB內存、8 GB GPU 內存、Ubuntu 22.04 Kernel 5.17、Gallium 自定義 Word2vec、序列長度 64、批量大小 64。第四代英特爾? 至強? 可擴展處理器:已由 Gallium于2023 年11月28日測試。1節(jié)點、AWS m7i.xlarge 上的 2 個Intel? Xeon? Platinum 8488C、16GB 內存、Ubuntu 22.04 Kernel 5.17、Numenta 智能計算平臺 V1.0、Numenta優(yōu)化的BERT-Large、序列長度64、BF16、批量大小64 。
12. 人工智能和機器學習調查,22.2,埃文斯數據公司,2023 年。