美光如何應(yīng)對(duì)人工智能帶來的機(jī)會(huì)和挑戰(zhàn)？

美光企業(yè)副總裁暨存儲(chǔ)部門總經(jīng)理Jeremy Werner

手機(jī)、PC、數(shù)據(jù)中心、汽車……市場(chǎng)變革帶來海量存儲(chǔ)需求

隨著人工智能（AI）技術(shù)，特別是生成式AI的快速發(fā)展，全球數(shù)據(jù)量預(yù)計(jì)將達(dá)到前所未有的數(shù)百ZB量級(jí)，這不僅對(duì)存儲(chǔ)設(shè)備的性能和容量提出了更高要求，也對(duì)整個(gè)存儲(chǔ)行業(yè)提出了新的挑戰(zhàn)。

在CFMS 2024峰會(huì)期間，美光企業(yè)副總裁暨存儲(chǔ)部門總經(jīng)理Jeremy Werner，在其演講《美光計(jì)算與存儲(chǔ)：推動(dòng)AI革命中，深入探討了 AI技術(shù)在推動(dòng)社會(huì)和企業(yè)變革方面的巨大潛力。在當(dāng)天舉行的媒體采訪中，Jeremy Werner對(duì)與非網(wǎng)記者詳細(xì)闡述了美光面對(duì)AI快速發(fā)展所帶來的挑戰(zhàn)和機(jī)遇，以及美光如何通過創(chuàng)新技術(shù)應(yīng)對(duì)這些挑戰(zhàn)。

通過深入討論美光如何通過其存儲(chǔ)和內(nèi)存解決方案助力AI技術(shù)的發(fā)展，Werner展示了美光在推動(dòng)技術(shù)革新方面的重要角色。從數(shù)據(jù)中心到邊緣設(shè)備，無論是PC、智能手機(jī)還是汽車，美光的技術(shù)都在推動(dòng)AI技術(shù)的發(fā)展，提升了處理性能和效率。

最近幾年，AI技術(shù)的迅猛發(fā)展幫助人類解決了一系列的全球性挑戰(zhàn)，從治療疾病、解決饑餓問題到應(yīng)對(duì)氣候變化等，揭示了AI技術(shù)的廣泛應(yīng)用前景。AI技術(shù)也對(duì)邊緣設(shè)備產(chǎn)業(yè)的發(fā)展產(chǎn)生了巨大影響，包括PC、智能手機(jī)和汽車。

Jeremy Werner對(duì)與非網(wǎng)記者表示，隨著生成式AI技術(shù)逐漸進(jìn)入PC領(lǐng)域，用戶對(duì)更快的內(nèi)存和存儲(chǔ)的需求隨之增長(zhǎng)。而智能手機(jī)市場(chǎng)也伴隨生成式AI技術(shù)的大量應(yīng)用落地，對(duì)更高性能和更大容量的內(nèi)存和存儲(chǔ)的需求也隨之增加。此外，隨著無人駕駛技術(shù)的發(fā)展，汽車對(duì)內(nèi)存和存儲(chǔ)的需求將大幅增長(zhǎng)。針對(duì)上述不同市場(chǎng)，美光憑借其廣泛的產(chǎn)品組合和最高的可靠性標(biāo)準(zhǔn)，已準(zhǔn)備好應(yīng)對(duì)這些新增需求帶來的挑戰(zhàn)。

如何應(yīng)對(duì)AI發(fā)展帶來的挑戰(zhàn)？

Werner首先指出，面對(duì)AI時(shí)代對(duì)性能和容量雙重提升的需求，美光遇到的最大挑戰(zhàn)之一是如何在不犧牲用戶體驗(yàn)的前提下，提供更高效能和更大容量的存儲(chǔ)解決方案。他強(qiáng)調(diào)了功耗管理的重要性，指出為了延長(zhǎng)電池壽命并避免設(shè)備過熱，必須精心設(shè)計(jì)和優(yōu)化存儲(chǔ)產(chǎn)品。此外，Werner還討論了如何在提升存儲(chǔ)容量的同時(shí)保持產(chǎn)品價(jià)格在消費(fèi)者和客戶端可接受的范圍內(nèi)，這是美光在市場(chǎng)競(jìng)爭(zhēng)中需要解決的關(guān)鍵問題。

針對(duì)容量提升的挑戰(zhàn)，Werner詳細(xì)介紹了美光的QLC NAND技術(shù)及其在解決容量問題上的重要作用。他指出，通過QLC NAND，美光能夠以非常低的成本不斷提升存儲(chǔ)容量，同時(shí)確保不會(huì)對(duì)用戶體驗(yàn)產(chǎn)生負(fù)面影響。這一技術(shù)的應(yīng)用，使得美光在全球市場(chǎng)上保持領(lǐng)先地位，尤其是在PC和其他電子設(shè)備的存儲(chǔ)解決方案方面。Werner強(qiáng)調(diào)，通過對(duì)QLC技術(shù)的不斷創(chuàng)新和優(yōu)化，美光可以在容量、性能和成本之間找到最佳平衡，為消費(fèi)者提供高性價(jià)比的產(chǎn)品。

在性能提升方面，Werner討論了SSD技術(shù)的重要性，特別是在降低功耗和提高數(shù)據(jù)訪問速度方面的應(yīng)用。他說明了美光如何通過將SSD技術(shù)與硬件和固件緊密集成，優(yōu)化設(shè)備的功耗管理和性能。這些技術(shù)的融合不僅提升了產(chǎn)品的整體性能，也使得它們能夠更好地支持未來AI技術(shù)的發(fā)展需求。

如何助力數(shù)據(jù)中心的性能與功耗提升？

數(shù)據(jù)中心正成為AI技術(shù)發(fā)展的核心應(yīng)用場(chǎng)景。Werner指出，數(shù)據(jù)中心最寶貴的資產(chǎn)是數(shù)據(jù)，而數(shù)據(jù)需要存儲(chǔ)在內(nèi)存和硬盤上。美光致力于推動(dòng)數(shù)據(jù)中心的性能極限，通過高帶寬內(nèi)存(HBM)、高密度DDR5內(nèi)存和創(chuàng)新的存儲(chǔ)解決方案，如CXL內(nèi)存和SSD驅(qū)，來提高GPU的數(shù)據(jù)處理效率和性能。

Werner分享了美光在HBM3E產(chǎn)品上取得的進(jìn)展，這一技術(shù)不僅提高了性能，還降低了功耗。Werner特別提到了HBM3E技術(shù)的核心地位及其對(duì)AI未來的關(guān)鍵作用。HBM3E技術(shù)的推出，旨在滿足高性能計(jì)算設(shè)備如GPU在AI和機(jī)器學(xué)習(xí)應(yīng)用中對(duì)于極速數(shù)據(jù)傳輸的需求。通過這項(xiàng)技術(shù)，美光能夠?yàn)镚PU提供必要的數(shù)據(jù)支持，確保它們以最高效率運(yùn)作。

此外，DDR5內(nèi)存技術(shù)在提升容量密度和減少延遲方面取得了重大突破，進(jìn)一步推動(dòng)了數(shù)據(jù)中心的效率。在討論美光的SSD技術(shù)時(shí)，Werner特別提到了9400 SSD對(duì)AI模型訓(xùn)練和推理性能的積極影響。這些技術(shù)進(jìn)展不僅提高了數(shù)據(jù)處理的速度，還降低了延遲，為AI應(yīng)用提供了必要的技術(shù)支撐。

除了推動(dòng)數(shù)據(jù)中心的效率，美光還專注于數(shù)據(jù)中心的功耗管理。Werner詳細(xì)解釋了高效的冷卻解決方案，包括水冷和浸入式冷卻，對(duì)于保持大型GPU工作效率至關(guān)重要。通過HBM3E技術(shù)，美光能夠在不犧牲性能的前提下，顯著降低數(shù)據(jù)中心的總體功耗，從而提升整個(gè)系統(tǒng)的能效比。

據(jù)介紹，美光在解決數(shù)據(jù)中心的存儲(chǔ)問題時(shí)，展現(xiàn)了其在技術(shù)創(chuàng)新和產(chǎn)品部署上的領(lǐng)先地位。通過不斷推出如176層、232層NAND技術(shù)以及1α/1β DRAM技術(shù)等創(chuàng)新產(chǎn)品，顯示了其在內(nèi)存和存儲(chǔ)領(lǐng)域的技術(shù)領(lǐng)導(dǎo)力。這些技術(shù)進(jìn)步不僅提高了數(shù)據(jù)處理的效率和速度，也為用戶帶來了更高的性價(jià)比，展現(xiàn)了美光在提升存儲(chǔ)產(chǎn)品性能和降低成本方面的不懈追求。

除此之外，Werner還介紹了美光在大容量固態(tài)硬盤（HCSSD）領(lǐng)域的進(jìn)展，特別是美光6500 ION SSD的推出。這款產(chǎn)品基于業(yè)界領(lǐng)先的232層NAND制程工藝，超越了業(yè)界傳統(tǒng)的192層標(biāo)準(zhǔn)，為AI大語言模型訓(xùn)練和其他數(shù)據(jù)密集型應(yīng)用提供了強(qiáng)大的存儲(chǔ)解決方案。這標(biāo)志著美光在提供大容量、高性能SSD方面的持續(xù)創(chuàng)新和領(lǐng)先地位，滿足了市場(chǎng)對(duì)于處理大規(guī)模數(shù)據(jù)集的迫切需求。

美光的核心策略和愿景是什么？

除了追求技術(shù)的領(lǐng)先性，美光科技對(duì)于產(chǎn)品設(shè)計(jì)的另一個(gè)關(guān)鍵考量是確保軟件管理的簡(jiǎn)易性和高效性。由于每個(gè)存儲(chǔ)層都具有其獨(dú)特的復(fù)雜性，美光通過技術(shù)創(chuàng)新簡(jiǎn)化了存儲(chǔ)管理，使得數(shù)據(jù)存取更為高效，同時(shí)降低了成本。例如，通過增強(qiáng)SSD的性能和降低其成本，美光希望能夠讓SSD層成為替代傳統(tǒng)硬盤的更佳選擇。這種策略不僅提升了數(shù)據(jù)訪問的速度和效率，也為客戶提供了更為經(jīng)濟(jì)實(shí)惠的存儲(chǔ)方案。

在追求技術(shù)創(chuàng)新的同時(shí)，美光非常重視產(chǎn)品的信任度和可信度。美光確保每當(dāng)推出新產(chǎn)品時(shí)，市場(chǎng)上都能夠即時(shí)找到，這反映了美光對(duì)市場(chǎng)需求快速響應(yīng)的能力和對(duì)客戶承諾的堅(jiān)持。Werner表示，美光的每一項(xiàng)技術(shù)創(chuàng)新和產(chǎn)品推出，都是為了真正意義上幫助客戶解決問題，提升其數(shù)據(jù)處理和存儲(chǔ)的能力。除了在產(chǎn)品和技術(shù)上的不斷創(chuàng)新外，美光還通過提供立即可用的解決方案，加強(qiáng)了與客戶之間的信任關(guān)系，進(jìn)一步鞏固了其作為存儲(chǔ)解決方案領(lǐng)域領(lǐng)導(dǎo)者的地位。

在面對(duì)AI時(shí)代的挑戰(zhàn)和機(jī)遇時(shí)，美光科技的策略和愿景顯得尤為關(guān)鍵。作為全球領(lǐng)先的創(chuàng)新內(nèi)存和存儲(chǔ)解決方案提供商，美光科技對(duì)于未來存儲(chǔ)產(chǎn)品的發(fā)展有著清晰而深遠(yuǎn)的見解。其核心理念是“建立客戶和市場(chǎng)的信任”。Jeremy Werner認(rèn)為，無論是數(shù)據(jù)的存儲(chǔ)還是調(diào)用，信任都是最寶貴的資產(chǎn)。這種信任不僅體現(xiàn)在產(chǎn)品的安全性、性能、耐用性、服務(wù)質(zhì)量、延遲、容量和價(jià)格等多個(gè)方面，而且還涉及到對(duì)客戶隱私和敏感信息的保護(hù)。這表明，美光不僅追求技術(shù)上的卓越，也深刻理解了在當(dāng)今社會(huì)中，數(shù)據(jù)安全和隱私保護(hù)的重要性。

CXL還是HBM？存儲(chǔ)技術(shù)的未來趨勢(shì)

對(duì)于高端存儲(chǔ)芯片的未來，Werner表達(dá)了其對(duì)于技術(shù)進(jìn)步和市場(chǎng)變革的樂觀態(tài)度。隨著AI技術(shù)的不斷進(jìn)步，對(duì)于存儲(chǔ)性能和容量的要求也在不斷提升。美光認(rèn)為，高性能、低成本的SSD將在未來的存儲(chǔ)市場(chǎng)中扮演越來越重要的角色，逐步取代傳統(tǒng)的存儲(chǔ)解決方案。這一過程雖然可能需要較長(zhǎng)時(shí)間，但隨著技術(shù)的成熟和市場(chǎng)的適應(yīng)，高端存儲(chǔ)芯片的發(fā)展勢(shì)頭將更加迅猛。

Werner還探討了針對(duì)AI市場(chǎng)的存儲(chǔ)產(chǎn)品技術(shù)革新。對(duì)于近期出現(xiàn)的如索尼的硬盤容量翻倍技術(shù)，以及光存儲(chǔ)技術(shù)的突破。Werner認(rèn)為，這些創(chuàng)新展示了存儲(chǔ)技術(shù)領(lǐng)域的活力和多樣化的發(fā)展方向。然而，Werner強(qiáng)調(diào)，一個(gè)新技術(shù)要想在市場(chǎng)上取得成功并成為主流，必須滿足兩個(gè)關(guān)鍵條件：具有競(jìng)爭(zhēng)力的成本和用戶的廣泛接受。即使是具有技術(shù)先進(jìn)性的解決方案，也必須考慮到其商業(yè)化的可行性，以及如何在實(shí)際應(yīng)用中為用戶帶來真正的價(jià)值。

在對(duì)CXL技術(shù)和未來存儲(chǔ)解決方案的展望中，Werner認(rèn)為，CXL技術(shù)依然擁有其在未來市場(chǎng)中不可替代的位置。隨著數(shù)據(jù)處理需求的增加，以及對(duì)于更高效、成本效益更好的存儲(chǔ)解決方案的追求，CXL作為一種高速、高效的連接技術(shù)，提供了一個(gè)在高性能計(jì)算環(huán)境中靈活擴(kuò)展內(nèi)存和存儲(chǔ)資源的可能。在處理大規(guī)模AI模型或龐大的數(shù)據(jù)庫(kù)時(shí)，傳統(tǒng)的多socket CPU服務(wù)器配置可能不再是成本效益最優(yōu)的選擇。CXL技術(shù)的引入，可以使系統(tǒng)設(shè)計(jì)師利用較少的CPU sockets（例如1-2個(gè)），通過CXL高速互聯(lián)來實(shí)現(xiàn)DRAM的擴(kuò)展，這不僅減少了硬件成本，同時(shí)也提高了系統(tǒng)的整體效率和靈活性。

關(guān)于CXL技術(shù)以及其與HBM在未來高性能計(jì)算中的互補(bǔ)性，Werner認(rèn)為CXL和HBM都在高性能計(jì)算時(shí)代扮演著重要角色。隨著HBM的容量快速增加，將催生更多的內(nèi)存及相關(guān)設(shè)備容量的擴(kuò)張，需要更多的本地存儲(chǔ)以實(shí)現(xiàn)更好的配合。CXL技術(shù)在這一進(jìn)程中將發(fā)揮關(guān)鍵作用，尤其在支持大加速器內(nèi)存概念方面顯示出其重要性，即GPU能夠直接從系統(tǒng)內(nèi)存和存儲(chǔ)設(shè)備中獲取數(shù)據(jù)，無需CPU參與。這一進(jìn)展不僅標(biāo)志著存儲(chǔ)技術(shù)的進(jìn)一步發(fā)展，也為市場(chǎng)發(fā)展提供了更多潛力和空間。

最后，針對(duì)生成式AI和文生視頻的發(fā)展，Werner也發(fā)表了自己的觀點(diǎn)。他認(rèn)為隨著文生視頻技術(shù)的普及，預(yù)期會(huì)產(chǎn)生大量的視頻內(nèi)容，這將對(duì)存儲(chǔ)產(chǎn)品產(chǎn)生重大影響。生成的視頻不僅數(shù)量龐大，而且由于人們傾向于保留而不刪除這些內(nèi)容，因此對(duì)存儲(chǔ)容量的需求將會(huì)大幅增長(zhǎng)。這種趨勢(shì)對(duì)存儲(chǔ)市場(chǎng)來說是一個(gè)利好消息，預(yù)示著未來將會(huì)有爆炸式的增長(zhǎng)需求。

綜上所述，生成式AI和文生視頻技術(shù)的興起，以及CXL與HBM的互補(bǔ)使用，都預(yù)示著對(duì)高性能、大容量存儲(chǔ)產(chǎn)品的需求將會(huì)顯著增長(zhǎng)。這對(duì)美光而言既是挑戰(zhàn)也是機(jī)遇，要求行業(yè)持續(xù)創(chuàng)新以滿足未來的存儲(chǔ)需求。Werner最后指出，隨著人工智能技術(shù)的進(jìn)步和應(yīng)用領(lǐng)域的擴(kuò)展，存儲(chǔ)解決方案必須不斷創(chuàng)新以適應(yīng)更加復(fù)雜的計(jì)算需求和數(shù)據(jù)管理挑戰(zhàn)。