作者:暢秋
在高性能計(jì)算系統(tǒng),特別是AI服務(wù)器中,內(nèi)存(DRAM)的容量和帶寬指標(biāo)越來(lái)越重要,因?yàn)?a class="article-link" target="_blank" href="/tag/%E5%A4%84%E7%90%86%E5%99%A8/">處理器需要處理巨量數(shù)據(jù),傳統(tǒng)DRAM已經(jīng)無(wú)法滿足需求。目前,HBM是當(dāng)紅炸子雞。
相對(duì)于傳統(tǒng)DRAM,HBM的制造要復(fù)雜很多,它需要將多個(gè)DRAM裸片堆疊在一起,這就需要用到較為先進(jìn)的封裝技術(shù)了。隨著技術(shù)進(jìn)步和市場(chǎng)需求的變化,HBM堆棧的密度也在增加,有機(jī)構(gòu)統(tǒng)計(jì),按照當(dāng)下的勢(shì)頭發(fā)展下去,將從2022年的16GB增加到2027年的48GB,DRAM大廠美光更加樂(lè)觀,預(yù)計(jì)2026年將出現(xiàn)64GB的HBMNext(HBM4),堆疊層數(shù)能達(dá)到16,這樣,使用16個(gè)32Gb的DRAM裸片就可以構(gòu)建64GB的HBM模塊,這需要存儲(chǔ)器制造商進(jìn)一步縮小DRAM裸片的間距,需要用到新的生產(chǎn)技術(shù),特別是更好的封裝技術(shù)。
通常情況下,HBM堆棧使用硅通孔(TSV)垂直連接多個(gè)DRAM裸片,這種帶有TSV的堆疊架構(gòu)允許非常寬的內(nèi)存接口(1024位)、高達(dá)36GB、64GB的內(nèi)存容量,并可實(shí)現(xiàn)超過(guò)1TB/s的帶寬。生產(chǎn)HBM堆疊芯片比生產(chǎn)傳統(tǒng)的DRAM要復(fù)雜得多。
首先,用于HBM的DRAM裸片與典型DRAM(例如DDR4、DDR5)完全不同,內(nèi)存生產(chǎn)商必須制造出足量的DRAM裸片,并對(duì)它們進(jìn)行測(cè)試,然后將它們封裝在預(yù)先測(cè)試好的高速邏輯芯片層之上,最后測(cè)試整個(gè)封裝。這個(gè)過(guò)程既昂貴又耗時(shí)。以最新量產(chǎn)的HBM3E為例,其芯片尺寸大約是同等容量DDR5的兩倍,除了邏輯層和DRAM層,還需要一個(gè)接口層,如此復(fù)雜的封裝堆棧,會(huì)影響良率。因此,隨著HBM的發(fā)展,堆疊層數(shù)不斷增多,封裝復(fù)雜度也在增加,其制造難度越來(lái)越大,且良率難以提升。
?01、3D DRAM接力
HBM并不是高性能計(jì)算系統(tǒng)用內(nèi)存的最終形態(tài),從各大存儲(chǔ)器廠商的研發(fā)方向來(lái)看,在存算一體徹底解決“存儲(chǔ)墻”問(wèn)題、相關(guān)芯片技術(shù)成熟并實(shí)現(xiàn)量產(chǎn)之前,3D DRAM將是HBM的繼任者。
傳統(tǒng)DRAM需要復(fù)雜的讀寫(xiě)數(shù)據(jù)操作流程,而3D DRAM可以通過(guò)垂直堆疊的存儲(chǔ)單元直接存取和寫(xiě)入數(shù)據(jù),顯著提高了存取速度。3D DRAM的優(yōu)勢(shì)不僅包括高容量和快速數(shù)據(jù)訪問(wèn),還具有低功耗和高可靠性特點(diǎn),可以滿足各種應(yīng)用需求。
這里先簡(jiǎn)單介紹一下DRAM的基本結(jié)構(gòu)。DRAM單元電路由一個(gè)晶體管和一個(gè)電容器組成,晶體管負(fù)責(zé)傳輸電流,使信息(位)能夠被寫(xiě)入或讀取,電容器則用于存儲(chǔ)位。DRAM由被稱為“位線(BL)”的導(dǎo)電材料組成,位線提供注入晶體管的載流子(電流)。晶體管就像一個(gè)閘門(mén),可以打開(kāi)(接通)或關(guān)閉(斷開(kāi)),以保持或停止電流在器件內(nèi)的流動(dòng)。這種柵極狀態(tài)由施加在被稱為“字線(WL)”的接觸導(dǎo)電結(jié)構(gòu)上的電壓偏置來(lái)定義,如果晶體管導(dǎo)通,電流將流過(guò)晶體管到達(dá)電容器,并存儲(chǔ)在電容器中。電容器需要有較高的深寬比,這意味著它的高度遠(yuǎn)大于寬度。在一些早期的DRAM中,電容器的有源區(qū)被嵌入到硅襯底中,在最近幾代DRAM中,電容器則是在晶體管頂部進(jìn)行加工。
3D DRAM是將DRAM單元垂直堆疊,是一種具有全新結(jié)構(gòu)的存儲(chǔ)芯片,打破了原有的模式,它有些類(lèi)似已經(jīng)成熟的3D NAND單元垂直堆疊,但制造難度比3D NAND大。3D DRAM不是簡(jiǎn)單地將2D DRAM組件堆疊在一起,也不同于HBM,需要重新設(shè)計(jì)DRAM架構(gòu),需要用到一些先進(jìn)的晶體管制造技術(shù)和先進(jìn)封裝技術(shù)。
3D DRAM設(shè)計(jì)重點(diǎn)是解決制程節(jié)點(diǎn)微縮和多層堆疊的難題,另外,還有電容器和晶體管微縮,以及單元間連接和通孔陣列,還要制定相應(yīng)的工藝規(guī)格。通過(guò)垂直堆疊,3D DRAM芯片將單位面積的容量增加3倍。3D DRAM與HBM在設(shè)計(jì)和制造層面都是不一樣的。
據(jù)The Elec報(bào)道,三星和SK海力士都已將混合鍵合確定為未來(lái)制造3D DRAM的關(guān)鍵封裝技術(shù)。據(jù)悉,三星計(jì)劃在2025年推出3D DRAM芯片,SK海力士還沒(méi)有確定具體時(shí)間。目前,三星和SK海力士使用微凸塊來(lái)連接DRAM模塊,混合鍵合技術(shù)可以通過(guò)使用硅通孔垂直堆疊芯片,以消除對(duì)微凸塊的需求,從而顯著減少芯片厚度。
?02、制造3D DRAM,要解決幾個(gè)問(wèn)題
為了推進(jìn)DRAM制程微縮,需要將2D DRAM組件側(cè)放并堆疊起來(lái),但這會(huì)面臨一些難題:水平方向需要橫向刻蝕,但由于凹槽尺寸差異很大,橫向刻蝕非常困難;在堆??涛g和填充工藝中需要使用不同的材料,這給制造帶來(lái)了困難;連接不同3D組件時(shí)存在集成難題。在制造3D DRAM時(shí),需要縮短電容器(Cap)的長(zhǎng)度(電容器的長(zhǎng)度不能和高度一樣),并進(jìn)行堆疊,以提升單位面積的存儲(chǔ)單元數(shù)量。
圖:2D DRAM架構(gòu)垂直定向視圖(左圖),將其翻轉(zhuǎn)并將結(jié)構(gòu)堆疊在一起(右圖)的做法不可行的主要原因是需要刻蝕橫向空腔,并將其以不同的橫向深度填充到硅有源區(qū)中。上圖表示的結(jié)構(gòu)不變,將其順時(shí)針旋轉(zhuǎn)90度,結(jié)構(gòu)將處于自上而下的視圖中。在這個(gè)方向上,可以堆疊納米薄片。但是,這種情況下,原始設(shè)計(jì)顯示的區(qū)域非常密集,因此,位線和電容器需要自上而下地進(jìn)行工藝處理,并且距離很近。要實(shí)現(xiàn)這種方向的3D堆疊,需要重新設(shè)計(jì)架構(gòu)。
除了要設(shè)計(jì)新架構(gòu),還必須改變3D DRAM的金屬化和連接性,需要設(shè)計(jì)新方法來(lái)促使電流通過(guò)中央的位線堆疊,包括連接各層的水平MIM(金屬-絕緣層-金屬)電容器陣列,以及將柵極包裹在晶體管周?chē)艠O全包圍)。其原理是,當(dāng)電流通過(guò)時(shí),只有目標(biāo)位線(層)被激活,在被激活的層中,電流可以連接到正確的晶體管。還有硅通孔陣列問(wèn)題。
為了避免3D NAND中使用的臺(tái)階式結(jié)構(gòu)的局限性,需要引入穿過(guò)硅堆棧層且可以在特定層停止(每層一個(gè)通孔)的通孔陣列結(jié)構(gòu),將接觸點(diǎn)置于存儲(chǔ)單元內(nèi)部。溝槽制作完成后,可以引入只存在于側(cè)墻的隔離層。高溝槽用于引入刻蝕介質(zhì)以去除硅,然后在空溝槽中引入導(dǎo)電金屬。其結(jié)果是,頂部的每個(gè)方格(下面最后三張圖片中的淺綠色和紫色方框)只與下面的一層連接。
工藝方面,需要獨(dú)特且創(chuàng)新的工藝,3D DRAM是一種前沿設(shè)計(jì),要想實(shí)現(xiàn)量產(chǎn),采用的工藝和設(shè)計(jì)是從未見(jiàn)過(guò)或嘗試過(guò)的。
?03、3D封裝助陣
以上介紹的是3D DRAM在芯片設(shè)計(jì)和制造工藝方面的挑戰(zhàn)和解決思路,相應(yīng)的裸片制造出來(lái)后,需要更適合、更先進(jìn)的封裝技術(shù),將這些DRAM裸片和邏輯等功能部分有機(jī)地結(jié)合在一起,才能使應(yīng)用效能最大化。越需要用到先進(jìn)封裝的地方,說(shuō)明被封裝的裸片越小,封裝在一起的整體復(fù)雜度越高,3D DRAM則充分涵蓋了這兩點(diǎn)。
先進(jìn)封裝包括2.5D和3D封裝,2.5D 難以滿足3D DRAM封裝要求,必須采用垂直堆疊超小型構(gòu)建塊(DRAM裸片),并通過(guò)硅通孔實(shí)現(xiàn)互連的3D封裝。在2.5D封裝中,邏輯單元、內(nèi)存或其它類(lèi)型的芯片使用倒裝芯片方法水平堆疊在硅中介層上,用微凸塊連接不同芯片的電子信號(hào),通過(guò)中介層中的硅通孔連接到下面的金屬凸塊,然后封裝到IC基板上,在芯片和基板之間建立更緊密的互連。
從側(cè)面看,雖然芯片是堆疊的,但本質(zhì)仍然是水平封裝(傳統(tǒng)芯片封裝都是水平的)。不過(guò),與傳統(tǒng)封裝相比,2.5D封裝中的裸片大小和間距小了很多,接近3D封裝。
3D封裝要將多個(gè)裸片(面朝下)堆疊在一起,直接使用硅通孔垂直堆疊,將上方和下方不同裸片的電子信號(hào)連接起來(lái),實(shí)現(xiàn)真正的垂直封裝。目前,越來(lái)越多的 CPU、GPU和內(nèi)存開(kāi)始采用3D封裝技術(shù)。
到了3D封裝階段,混合鍵合技術(shù)幾乎是必選項(xiàng)?;旌湘I合是芯片封裝工藝中使用的芯片鍵合技術(shù)之一,常用的商用技術(shù)是“Cu-Cu混合鍵合”。使用Cu-Cu混合鍵合,金屬觸點(diǎn)嵌入到介電材料中,通過(guò)熱處理工藝,這兩種材料結(jié)合在一起,利用固態(tài)銅金屬的原子擴(kuò)散來(lái)實(shí)現(xiàn)鍵合。這種方法解決了以前倒裝芯片鍵合工藝中遇到的挑戰(zhàn)?;旌湘I合不是唯一的先進(jìn)封裝技術(shù),但它提供了最高密度的垂直堆疊。
封裝中的微凸起占用的體積使得堆棧太高,無(wú)法放入帶有GPU或CPU的封裝中,混合鍵合不僅會(huì)縮小DRAM裸片的高度,還可以更容易地從封裝中去除多余的熱量,因?yàn)檫@種封裝各層之間的熱阻較小。與倒裝芯片鍵合相比,混合鍵合具有多種優(yōu)勢(shì),它允許實(shí)現(xiàn)超高的I/O數(shù)量和更長(zhǎng)的互連長(zhǎng)度,通過(guò)使用介電材料代替底部填料進(jìn)行粘接,消除了填充成本。
此外,與晶圓上的芯片鍵合相比,混合鍵合的厚度最小,這對(duì)于需要堆疊多層芯片的3D DRAM封裝特別友好,因?yàn)榛旌湘I合可以顯著降低整體厚度。
?04、三大廠商的3D DRAM制造進(jìn)展
目前,三星、SK海力士和美光這三大存儲(chǔ)芯片廠商都在研發(fā)3D DRAM,相應(yīng)的制造工藝和封裝技術(shù)也在同步開(kāi)發(fā)中。美光從2019年起就開(kāi)始了3D DRAM的研究,擁有30多項(xiàng)與3D DRAM相關(guān)的專利,獲得的專利數(shù)量是三星和SK海力士的2~3倍。
近些年,三星一直在進(jìn)行3D DRAM的研究,并推出了業(yè)界首個(gè)12層3D-TSV技術(shù)。2023年,在日本舉行的“VLSI研討會(huì)”上,三星電子發(fā)表了一篇包含3D DRAM研究成果的論文,并展示了3D DRAM芯片內(nèi)部結(jié)構(gòu)的圖像。據(jù)消息人士稱,2023年5月,三星電子在其半導(dǎo)體研究中心內(nèi)組建了一個(gè)開(kāi)發(fā)團(tuán)隊(duì),大規(guī)模生產(chǎn)4F2結(jié)構(gòu)DRAM。由于DRAM單元尺寸已達(dá)到極限,三星想將4F2應(yīng)用于10nm級(jí)工藝或更先進(jìn)制程的DRAM。如果三星的4F2 DRAM存儲(chǔ)單元結(jié)構(gòu)研究成功,在不改變制程的情況下,裸片面積可比現(xiàn)有6F2 DRAM存儲(chǔ)單元減少約30%。
據(jù)悉,三星已經(jīng)將3D DRAM堆疊至16層。SK海力士正在為將來(lái)的DRAM開(kāi)發(fā)IGZO通道材料,它可以改善DRAM的刷新特性。據(jù)悉,IGZO薄膜晶體管憑借其適中的載流子遷移率、極低的漏電流以及基板尺寸的可擴(kuò)展性,在顯示面板行業(yè)長(zhǎng)期得到應(yīng)用。它可以成為未來(lái) DRAM 可堆疊通道材料的候選方案。最近,在夏威夷舉行的VLSI 2024峰會(huì)上,SK海力士發(fā)布了3D DRAM的最新研究成果,其5層堆疊的3D DRAM良率已達(dá)56.1%。此外,SK海力士的實(shí)驗(yàn)性3D DRAM在性能上已展現(xiàn)出與2D DRAM相媲美的特性,但是,在實(shí)現(xiàn)商業(yè)化之前,仍需進(jìn)行大量的技術(shù)驗(yàn)證和優(yōu)化工作。
?05、結(jié)語(yǔ)
作為芯片行業(yè)的大宗商品,DRAM本來(lái)就具有龐大的市場(chǎng)份額,如今,在高性能計(jì)算需求的推動(dòng)下,各種新的內(nèi)存技術(shù)和產(chǎn)品依次出現(xiàn),給這一本來(lái)就很熱鬧的市場(chǎng)增添了更多看點(diǎn)。
隨著AI服務(wù)器的發(fā)展,HBM迅速走紅,相關(guān)芯片的制造和封裝是當(dāng)下產(chǎn)業(yè)的熱點(diǎn)話題。隨著應(yīng)用的發(fā)展和技術(shù)水平的提升,未來(lái)幾年,3D DRAM很可能會(huì)替代當(dāng)下HBM的行業(yè)地位,因此,相關(guān)芯片制造和半導(dǎo)體設(shè)備廠商都在研發(fā)上投入越辣越多的資源,不斷蓄力。就芯片制造和封裝而言,3D DRAM還需要繼續(xù)攻關(guān),距離量產(chǎn)還有一段時(shí)間。
對(duì)此,SK海力士指出,雖然3D DRAM有著巨大的發(fā)展?jié)摿?,但在?shí)現(xiàn)商業(yè)化之前仍然需要做大量工作。目前,3D DRAM表現(xiàn)出的性能特征依然很不穩(wěn)定,需要達(dá)到32~192層堆疊的存儲(chǔ)單元才能廣泛使用。