加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

全新DDR5內(nèi)存架構(gòu)滿足AI時代存儲需求

07/02 15:33
1534
閱讀需 8 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

在如今諸多移動設(shè)備中,電源管理IC(PMIC)是最常見的芯片之一,它主要用于管理主機(jī)系統(tǒng)中的電源設(shè)備,將電池電壓轉(zhuǎn)換并分配到各個組件,就像人體的心臟向各個器官供血一樣。包括像攝像頭、顯示、移動AP以及存儲器等器件都需要PMIC芯片的支持。

尤其隨著AI技術(shù)的發(fā)展,對于應(yīng)用于數(shù)據(jù)中心中的DDR存儲器提出了新的要求。Rambus產(chǎn)品營銷副總裁John Eble表示:“目前,隨著基于大語言模型(LLM)生成式AI技術(shù)的不斷發(fā)展,它的功能也變得越來越強(qiáng)大,需要實(shí)現(xiàn)多模態(tài)輸入和輸出等功能,如給AI提供一段文字作為指令,AI產(chǎn)出的內(nèi)容可能是一張圖片;或者所輸入的指令是包含了圖片和文字的組合,而AI能夠提供的是一張有改進(jìn)的圖片;也有可能輸入的時是多張圖片和一段文字,而AI能夠產(chǎn)出一段視頻,所以當(dāng)這種多模態(tài)的輸入輸出功能被實(shí)現(xiàn)以后,生成式AI將有著無限的可能性?!?/p>

而為了實(shí)現(xiàn)這些功能,AI模型需要越來越多的數(shù)據(jù)量進(jìn)行訓(xùn)練,以O(shè)pen AI的ChatGPT為例,2022年發(fā)布的GPT-3使用了1750億個參數(shù)進(jìn)行訓(xùn)練;而在不久后,即2023年發(fā)布的GPT-4,它的訓(xùn)練參數(shù)量已經(jīng)大幅增長至1.5萬億個。

如此龐大的AI工作負(fù)載也對內(nèi)存帶寬和容量的需求大幅增長,尤其在AI訓(xùn)練階段,主內(nèi)存的容量需求通常需要是GPU內(nèi)存容量的兩倍,并且還有一個額外的需求,就是這部分的主內(nèi)存也必須有著非常高的帶寬。只有這樣,才能讓GPU本地內(nèi)存滿足這個數(shù)據(jù)的吞吐速度。

基于此,DDR內(nèi)存也進(jìn)行了架構(gòu)更新,新一代的DDR內(nèi)存產(chǎn)品DDR5,它相較于前一代的DDR4最大的變化就是將PMIC芯片放在了DDR5內(nèi)存條上。

John Eble表示:“在DDR4之前,PMIC芯片都集成在主板上,而到DDR5,將PMIC芯片放置在了DIMM端。這種改變帶來了諸多優(yōu)勢,一是不僅可以節(jié)省主板空間,而且不再需要設(shè)計(jì)來自主板的電壓調(diào)節(jié)對內(nèi)存模塊的支持;

二是由內(nèi)存模組上的PMIC向模組提供輸入高壓12V電源,避免通過模塊連接器從主板向內(nèi)存模組組件輸出如1V的電壓,大大降低了輸電網(wǎng)絡(luò)上的IR下降問題;

三是為DIMM上的敏感元件提供了更嚴(yán)格的電容容差,幫助實(shí)現(xiàn)更高的DDR5目標(biāo)性能水平?!?/p>

那為何需要做這一改變呢?John Eble解釋道:“這與DDR5采用的全新架構(gòu)有關(guān)。相較于DDR4,DDR5已經(jīng)開始轉(zhuǎn)移到了雙通道架構(gòu),如下圖中的雙通道RCD在主機(jī)端以DDR5速度運(yùn)行。因此,它的運(yùn)行速度與DRAM相同。圖中每個引腳開關(guān)頻率將比DDR4高出一倍多。DDR5的每通道最高頻率速度達(dá)到8400MT/s(最高可達(dá)8800MT/s)。

因此,更高的數(shù)據(jù)傳輸速率(裕度至關(guān)重要)、所有這些數(shù)據(jù)信號所需的連接器引腳數(shù)量的增加以及主電源電壓從1-1.2伏降至1.1伏,這些因素共同促使我們決定采用專用的電源管理IC,幫助控制更加精細(xì)的電壓。”

DDR5和DDR4 RDIMM架構(gòu)對比

因此,Rambus近期推出了全新的DDR5服務(wù)器PMIC系列,支持廣泛的數(shù)據(jù)中心用例。據(jù)John Eble介紹,Rambus DDR5服務(wù)器PMIC系列包含了符合JEDEC超高電流(PMIC5020)、高電流(PMIC5000)和低電流(PMIC5010)規(guī)范的三款產(chǎn)品。

其中,PMIC5020將使未來幾代DDR5 RDIMM的性能和容量達(dá)到新的基準(zhǔn)。Rambus的這一PMIC芯片系列與其DDR5 RCD、SPD Hub個溫度傳感器IC一起組成了一個完整的內(nèi)存接口芯片組,適用于各種DDR5 RDIMM配置和用例,也就是為RDIMM制造商提供“一站式”的解決方案。

另據(jù)John Eble介紹,極高電流的PMIC 5020目標(biāo)是約30安培的最大持續(xù)直流電流,是這三種服務(wù)器PMIC中最新定義的。Rambus也是首家提供樣品的公司。

高電流PMIC 5000一直是主要的PMIC,支持的最大持續(xù)直流電流大約為20安培。這款特定的PMIC針對標(biāo)準(zhǔn)到四階模塊,容量為64GB、96GB和128GB。低電流PMIC 5010面向容量較低的市場,它支持的最大持續(xù)電流約為12安培。

另外Rambus的DDR5產(chǎn)品也已經(jīng)通過所有3家主要DRAM供應(yīng)商的認(rèn)證,RDIMM制造商不需要再進(jìn)行重新驗(yàn)證,節(jié)省了產(chǎn)品開發(fā)時間,加快了產(chǎn)品的上市時間。

當(dāng)然,將PMIC集成到內(nèi)存條上也面臨著一些設(shè)計(jì)挑戰(zhàn)。John Eble表示,首先是散熱問題。PMIC會產(chǎn)生熱量,而且它靠近對熱非常敏感的DRAM芯片,這是一個問題。因此,進(jìn)行熱模擬并確保熱量以一種不會影響模塊的方式消散,這一點(diǎn)非常重要。

第二個設(shè)計(jì)挑戰(zhàn)實(shí)際上是如何將PMIC及其無源元件安裝在模塊上,因?yàn)槟K的尺寸是固定的,而且模塊上已經(jīng)有很多元器件了。因此,為PMIC騰出空間,確保其功率完整性達(dá)到最佳狀態(tài),并確保其不會造成任何干擾或散熱問題,這是一個很大的挑戰(zhàn)。

第三個挑戰(zhàn)是確保PMIC上的開關(guān)穩(wěn)壓器不會將任何不需要的噪聲引入DIMM的其他部分。

最后一個設(shè)計(jì)挑戰(zhàn)是需要確保PMIC芯片可靠且強(qiáng)大?,F(xiàn)在PMIC位于可維修模塊上,它可能會經(jīng)歷某些壓力條件,如將模塊插入插座或?qū)⑵浒纬鰰r,需要進(jìn)行插拔操作,這可能會影響到PMIC芯片。

AI時代的來臨,為諸多行業(yè)帶來了變革,內(nèi)存作為關(guān)鍵組件之一,也不例外。在模塊上安裝PMIC就是一個顯著的變化,John Eble表示,這遵循了微電子行業(yè)將供電設(shè)備盡可能靠近使用點(diǎn)的趨勢,但DDR5內(nèi)存模塊是第一個在內(nèi)存模塊上集成PMIC的主要內(nèi)存類型。未來,隨著對更高性能和電源效率的需求不斷增長,可能會定義新型內(nèi)存模塊。而且,這些模塊很有可能會繼續(xù)在模塊上集成PMIC,以進(jìn)一步優(yōu)化電源管理并提高整體系統(tǒng)性能。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
TLP291-4(GB-TP,E(T 1 Toshiba America Electronic Components Optocoupler - Transistor Output, 4 CHANNEL TRANSISTOR OUTPUT OPTOCOUPLER, ROHS COMPLIANT, SURFACE MOUNT, MINIFLAT, 11-11F1, SOP-16

ECAD模型

下載ECAD模型
$2.3 查看
ABS09-32.768KHZ-9-T 1 Abracon Corporation CRYSTAL 32.7680KHZ 9PF SMD

ECAD模型

下載ECAD模型
$1.16 查看
NL17SZ126DFT2G 1 onsemi Single Non-Inverting Buffer, 3-State, SC-88A (SC-70-5 / SOT-353), 3000-REEL

ECAD模型

下載ECAD模型
$0.31 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜