Meta造芯!首個訓練+推理加速器MTIA面世(來自小扎的FB)
老石解讀:
扎克伯格更新了自己的FB,放出了幾條重磅信息:Meta的第一款AI加速器芯片已經(jīng)造出來了,名叫MTIA(Meta Training and Inference Accelerator),下圖中小扎手里拿的就是。不僅如此,Meta還搭建了一個AI超級計算機,包含16000個GPU,為訓練大模型而生。
下面是小扎FB的原文翻譯:
首先,我們推出了一種專為人工智能優(yōu)化的新型數(shù)據(jù)中心設計,配備了支持大規(guī)模訓練和推理的液冷硬件和支持大規(guī)模超級集群的網(wǎng)絡。
其次,我們的超級計算機集群——RSC,它擁有16,000個GPU和高速互聯(lián),是世界上最快的超級計算機之一。我們用它來訓練自己的大型語言模型,以及世界上第一個面向口述語言的人工智能翻譯系統(tǒng)。自己構(gòu)建這個集群讓我們可以調(diào)整它來訓練我們的下一代基礎模型。
第三,MTIA(Meta訓練和推理加速器)是我們設計的第一代定制芯片,用來支持我們的人工智能推薦系統(tǒng),從而更快地確定向您展示的最佳內(nèi)容。
最后,CodeCompose是我們構(gòu)建的生成式人工智能編碼助手,旨在幫助我們的工程師編寫代碼。我們的長期目標是構(gòu)建更多的人工智能工具,以支持我們整個軟件開發(fā)過程中的團隊,并希望開源更多這些工具。
前兩天剛剛有消息說Meta不知道怎么用大模型,結(jié)果今天小扎親自下場辟謠,連發(fā)四個重磅消息。雖然沒說具體細節(jié),但也算打了一針強心針。這更加印證了之前的判斷:在大模型時代,誰掌握了算力,才是真正的王。
定了!阿里云將完全分拆,獨立上市?。ㄌ卮筇枺?/p>
老石解讀:
阿里巴巴集團宣布,云智能集團將分拆獨立上市,成為一家完全獨立的公司。根據(jù)財報數(shù)據(jù),2023財年第一季度,阿里云收入為185.8億元人民幣,同比下降2.1%。整個2023財年,阿里云總收入為772.03億元,利潤為14.22億元,同比增長24%。這是阿里云誕生的第14年,它已成為亞洲第一、全球前三的公共云服務提供商,并正向智能時代發(fā)展。阿里巴巴集團董事會主席兼CEO張勇在內(nèi)部信中表示,計劃在未來12個月內(nèi)完成云智能集團的分拆上市,并引入外部戰(zhàn)略投資者。張勇表示,這是阿里云的二次創(chuàng)業(yè)的新開始,需要擁有創(chuàng)業(yè)心態(tài)和職責擔當,平衡短期增長和長期發(fā)展目標。他希望全體阿里云員工珍惜客戶信任、堅持技術(shù)理想,并保持創(chuàng)業(yè)心態(tài),共同打造一家世界級的科技公司。
辟謠|小米玄戒大會是“解散大會”?辟謠:小米對造芯很堅決(愛集微)
老石解讀:
小米旗下芯片公司玄戒將召開員工大會,在當下的時間節(jié)點,引發(fā)外界猜測。據(jù)悉,此次會議旨在穩(wěn)定內(nèi)部團隊,小米對造芯堅定決心,正常招聘進行中,計劃從哲庫離職人員中吸納人才。玄戒成立于2021年,是小米全資控股的集成電路芯片設計公司,公司法人代表曾學忠擔任小米高級副總裁。小米自2017年起推出一系列芯片,包括手機芯片、影像ISP芯片、充電芯片和電池管理芯片等。
缺芯|AI服務器漲價20%?服務器廠商稱英偉達芯片短缺(澎湃新聞)
老石解讀:
隨著ChatGPT引發(fā)新一輪人工智能(AI)浪潮,科技公司相繼入局大模型賽道,推理和訓練的算力需求大幅上升,多個機構(gòu)預測AI服務器市場規(guī)模持續(xù)增長,2022年至2026年復合成長率將達到10.8%。AI服務器可適用于醫(yī)療影像智能分析、人臉識別、語音識別、指紋識別、安防監(jiān)控、金融服務等場景。國內(nèi)市場前8家廠商出貨量占比92%,其中浪潮占據(jù)市場37%的份額。由于英偉達芯片短缺,AI服務器的價格也在水漲船高。GPU在訓練服務器中價值量占比超過80%,而目前英偉達是GPU市場的主導者,全球獨立顯卡市占率高達80%,且在未來的需求還將顯著上升。2021年全球GPU市場規(guī)模335億元,2028年全球GPU市場規(guī)模有望達到4774億元。
競爭|邊緣AI芯片戰(zhàn)升溫!英飛凌、ST等大廠競相布局 芯片迭代有望加速(財聯(lián)社)
老石解讀:
當前邊緣AI芯片的性能已能與中高端智能手機AP相媲美。意法半導體推出第二代STM32 MPU,提高了工業(yè)和物聯(lián)網(wǎng)邊緣應用的性能和安全性,預計將于2024上半年批量生產(chǎn)。英飛凌收購初創(chuàng)公司Imagimob,加強其在邊緣AI市場的產(chǎn)品。谷歌宣布其PaLM2大模型的最輕量化版本Gecko可在移動端運行,有望帶動邊緣AI計算成長,加速邊緣硬件市場更新迭代。多家機構(gòu)認為,在AI的助力下,邊緣側(cè)終端和芯片迭代有望加速,多家IC設計廠商包括聯(lián)發(fā)科、聯(lián)詠和瑞昱正在加緊開發(fā)AI芯片,目前國內(nèi)布局邊緣AI芯片的廠商包括寒武紀、華為海思、瑞芯微、全志科技等。