2360
3月21日消息，在英偉達GTC 2024大會的第二天，英偉達創(chuàng)始人兼CEO黃仁勛舉行了記者會，歷時一個半小時。期間，關(guān)于中美關(guān)系對于英偉達的影響、供應(yīng)鏈安全、CoWoS/HBM產(chǎn)能供應(yīng)、AI芯片企業(yè)的競爭、通用人工智能等問題成為全場關(guān)注的焦點。
加強供應(yīng)鏈的韌性與彈性
黃仁勛強調(diào)，在中美對抗升溫之際，英偉達將確?！袄斫庹卟⒆袷亍?，同時在供應(yīng)鏈“創(chuàng)造更多彈性”。同時，他也認為，被迫放棄與臺積電和亞洲制造業(yè)合作的可能性很低。
黃仁勛強調(diào)，“我們正在做兩件事：一是確保我們理解并遵守政策。二是盡一切努力增強供應(yīng)鏈的彈性?！薄笆澜缒┤盏膱鼍安惶赡馨l(fā)生，我們也不期望它發(fā)生?！?/p>
對于英偉達最新推出的性能較前代Hopper架構(gòu)產(chǎn)品提升了2.5倍的Blackwell架構(gòu)AI芯片平臺，黃仁勛表示，該平臺是由數(shù)萬個零組件制成，這些零件來自世界各地，除了臺積電之外，其他不少零組件也是由中國大陸企業(yè)提供，現(xiàn)在供應(yīng)鏈安全確實面更多臨挑戰(zhàn)，并且也變得更加復(fù)雜。他認為，各國目標(biāo)并不是敵對，隨著AI芯片的需求持續(xù)飚升，英偉達與臺積電等供應(yīng)鏈的關(guān)系應(yīng)該會變得更緊密。
（這里插一句：早在今年1月，長電科技曾表示其XDFOI? Chiplet高密度多維異構(gòu)集成系列工藝已按計劃進入穩(wěn)定量產(chǎn)階段，同步實現(xiàn)國際客戶4nm節(jié)點多芯片系統(tǒng)集成封裝產(chǎn)品出貨，最大封裝體面積約為1500mm2的系統(tǒng)級封裝。有業(yè)內(nèi)人士推測，長電科技提到的“國際客戶4nm節(jié)點多芯片系統(tǒng)集成封裝產(chǎn)品”，大概率是指英偉達的NVIDIA GH100 CPU+GPU模塊。那么是否英偉達最新的Blackwell平臺，長電科技也有提供一些助力呢？）
黃仁勛指出，AI正經(jīng)歷轉(zhuǎn)型，目前正是AI世界加速開始的時候，“我們才剛起步，臺積電一直是我們優(yōu)秀的合作伙伴”。“我們所做的事情非常困難”，但臺積電的表現(xiàn)非常出色，英偉達和臺積電的關(guān)系應(yīng)該更緊密。
針對美國新的出口管制政策對于英偉達在華業(yè)務(wù)的影響，黃仁勛表示，新推出的Blackwell芯片也將會受到美國出口管制政策的限制。不過，他并未回應(yīng)英偉達是否會針對中國大陸市場開發(fā)特殊版本，僅表示，部分低階版本GPU仍將持續(xù)在大陸銷售。
對于CoWoS先進封裝產(chǎn)能需求會非常高
眾所周知，目前英偉達的AI芯片除了是由臺積電獨家進行晶圓代工之外，還來依賴于臺積電的CoWoS先進封裝產(chǎn)能。對于此前英偉達A100/H100等AI芯片的供應(yīng)緊缺的問題，臺積電CoWoS產(chǎn)能緊缺也是一個主要瓶頸。
黃仁勛在此次記者會上，并未透露英偉達目前對于CoWoS產(chǎn)能需求的準(zhǔn)確數(shù)字。不過，他兩次強調(diào)，“我們今年對CoWoS的需求非常高！”
為應(yīng)對英偉達激增的CoWoS產(chǎn)能需求，臺積電在2023年啟動了其CoWoS先進封裝產(chǎn)能大擴產(chǎn)計劃。近期業(yè)內(nèi)傳出，臺積電本月對臺系設(shè)備廠再度追單，交機時間預(yù)計將在今年第四季，因此，今年年底臺積電CoWoS月產(chǎn)能將有機會比其原定的倍增目標(biāo)的3.5萬片進一步提高到4萬片以上。
報道稱，臺積電正全力沖刺CoWoS產(chǎn)能，目標(biāo)2024年翻倍成長，2025年也將持續(xù)擴增。公司去年一開始先將部分InFO產(chǎn)線從龍?zhí)兑浦聊峡?，挪出空間擴產(chǎn)，之后臺中AP5也從原本規(guī)劃擴充CoWoS中的WoS，也拍板要一并擴充CoW，另外規(guī)劃中的銅鑼、嘉義廠也評價再增加產(chǎn)能。
隨著臺積電CoWoS產(chǎn)能的持續(xù)放大，英偉達AI芯片的出貨也有望仔今年繼續(xù)擴大。
黃仁勛表示，英偉達生產(chǎn)的芯片和軟件種類繁多，正處于有利地位，世界對AI運算投資還在早期階段，預(yù)測將會有多年成長，英偉達的市占率會高于其他芯片制造商。
黃仁勛前一日在接受CNBC專訪時表示，每顆Blackwell芯片將要3-4萬美元。英偉達首席財務(wù)官財務(wù)長柯蕾絲（Colette Kress）則表示，英偉達Blackwell芯片和相關(guān)系統(tǒng)將于今年稍后上市，明年出貨量會大幅增加。
Meta近日也表示，要在今年底前取得英偉達B200芯片的首批出貨。Meta將全力布局AI領(lǐng)域，積極訓(xùn)練下一代模型Llama 3，如何建立龐大的運算基礎(chǔ)設(shè)施成為最大決勝關(guān)鍵。此前消息也顯示，Meta今年也將大舉采購目前輝達在市面上主流高階H100 AI芯片，預(yù)計買35萬顆。
據(jù)研調(diào)機構(gòu)Omdia報告，英偉達H100芯片去年第4季最大客戶為Meta及微軟，分別購買了15萬顆，以英偉達去年第4季H100芯片出貨總量50萬顆來計算，Meta相當(dāng)于手握30%的最先進AI芯片供應(yīng)。
HBM是一個技術(shù)奇跡
隨著AI的持續(xù)火爆，在帶動了英偉達AI芯片需求的同時，也使得AI芯片當(dāng)中的關(guān)鍵組件——HBM（高帶寬內(nèi)存）持續(xù)供不應(yīng)求。而目前HBM供應(yīng)商僅有SK海力士、美光和三星，此前SK海力士是英偉達HBM的唯一供應(yīng)商。
為了解決HBM的供應(yīng)問題，在此次記者會上，黃仁勛就表示，英偉達計劃從三星采購高帶寬內(nèi)存（HBM）芯片，這是眾多人工智能處理器的關(guān)鍵組件。
“HBM 內(nèi)存非常復(fù)雜，附加值非常高。我們在 HBM 上投入了大量資金，”英偉達創(chuàng)始人兼首席執(zhí)行官黃仁勛周二在加利福尼亞州圣何塞舉行的媒體會上表示。
黃仁勛表示，英偉達正在對三星的 HBM3E芯片進行資格認證，并將在未來開始使用它們?！叭欠浅：茫患曳浅：玫墓??！秉S仁勛說道。
與此同時，三星在存儲芯片領(lǐng)域的最大競爭對手SK海力士于本周二宣布，已開始量產(chǎn)下一代高帶寬存儲芯片HBM3E。
黃仁勛表示：“HBM 是一個技術(shù)奇跡?！彼a充說，HBM 還可以提高能源效率，并且隨著耗電的人工智能芯片變得更加普遍，可以幫助世界變得更加可持續(xù)。
SK 海力士此前實際上是 AI 芯片領(lǐng)導(dǎo)者英偉達所需的 HBM3 芯片的唯一供應(yīng)商。雖然SK海力士沒有透露其新 HBM3E 的客戶名單，但 SK 海力士高管告訴《日經(jīng)亞洲》，新芯片將首先發(fā)運給英偉達，并用于其最新的 Blackwell GPU。
三星一直在 HBM 上投入巨資，以追趕SK海力士。三星于2月份宣布開發(fā)出HBM3E 12H，這是業(yè)界首款12堆棧HBM3E DRAM，也是迄今為止容量最高的HBM產(chǎn)品。三星表示，將于今年上半年開始量產(chǎn)該芯片。
黃仁勛在媒體會上對記者表示：“三星和 SK 海力士的升級周期令人難以置信，一旦英偉達開始增長，他們就會與我們一起成長?！薄拔曳浅Ｖ匾曃覀兣c SK 海力士和三星的合作關(guān)系，”他補充道。
需要指出的是，除了SK海力士和三星之外，美光也將成為英偉達的HBM3E供應(yīng)商。美光公司于當(dāng)?shù)貢r間 2 月 26 日宣布，計劃為英偉達最新 GPU H200 提供 8 個堆棧的 24 GB HBM3E，該 GPU 預(yù)計將于今年第二季度推出。
不過，SK海力士將會是最先向英偉達大量供貨HBM3E的廠商，美光次之，而三星的HBM3E目前尚未通過英偉達的認證。
數(shù)名分析人士指出，三星HBM3的良率目前只有10~20%，SK海力士的HBM3良率卻已達到了60~70%。
也有業(yè)內(nèi)人士表示，“憑借在HBM3方面的技術(shù)優(yōu)勢，SK海力士有望在HBM3E市場上繼續(xù)與英偉達保持牢固的合作關(guān)系。不過，隨著三星電子推出業(yè)界最大容量的 12 堆棧 HBM3E 作為游戲規(guī)則的改變者，高堆棧 HBM 的競爭預(yù)計將加劇。”
隨著AI芯片市場需求的擴大，HBM銷售額占DRAM收入的比例正在迅速增加。市場研究公司TrendForce預(yù)測，HBM銷售額占DRAM總營收的比重將從2022年的2.6%上升至2023年的8.4%，今年將進一步升至20.1%。HBM的產(chǎn)能預(yù)計今年也將大幅增加。
TrendForce的數(shù)據(jù)顯示，去年三星電子和SK海力士每月生產(chǎn)約45,000片晶圓，但今年，三星電子的產(chǎn)量預(yù)計將增至130,000片，SK海力士的產(chǎn)量將增至120,000至125,000片。美光在 HBM 市場排名第三，預(yù)計去年每月生產(chǎn) 3,000 片晶圓，今年每月生產(chǎn) 20,000 片晶圓。
如何面對新興AI企業(yè)的競爭？
雖然AI熱潮對于英偉達AI芯片需求的持續(xù)暴漲，英偉達的營收和市值也在快速增長。該公司的市值在 2023 年 5 月突破了1萬億美元，使這家芯片制造商躋身于微軟、蘋果、Alphabet 和 Meta 的稀有公司之列。今年 2 月，英偉達宣布其 2023 年營收為 608 億美元，比2022年大幅增長了126%。同月，其市值達到 2 萬億美元，僅次于微軟和蘋果。
這些龐大的數(shù)字在一定程度上是對整個人工智能市場的押注，據(jù)市場研究公司 Spherical Insights預(yù)測，到 2032 年，整個人工智能市場的規(guī)模將飆升至 2.76 萬億美元。
龐大的市場需求，以及英偉達對于AI芯片市場的壟斷性地位和其高昂的AI芯片定價，也引吸引了Cerebras、Graphcore、Groq 和 SambaNova 等眾多新興的AI芯片競爭對手的挑戰(zhàn)。
當(dāng)被問及其他AI芯片廠商是否可能會迎頭趕上的問題時，黃仁勛指出，英偉達的AI芯片已經(jīng)無處不在，這需要多年時間才能實現(xiàn)，而且不容易復(fù)制?！拔覀兪鞘澜缟衔ㄒ灰粋€在所有云中都可用的架構(gòu)。它可以在私有云中使用，可以在本地使用，也可以在汽車、機器人和工廠的邊緣使用。”
“英偉達擁有非常深的護城河，”英偉達合作伙伴、人工智能和量子軟件公司 SandboxAQ 的首席執(zhí)行官 Jack Hidary 表示。“我預(yù)計這種競爭優(yōu)勢不僅會持續(xù)存在，而且會在未來四五年內(nèi)真正增長?！?/p>
市場研究機構(gòu)IDC 的 Rutten 表示，新來者最好不要正面挑戰(zhàn)人工智能硬件領(lǐng)域的霸主，而是尋求自己的利基市場。例如，芯片初創(chuàng)公司Recogni沒有進軍人工智能模型訓(xùn)練市場（英偉達硬件可能無法取代該市場），而是專注于推理——從模型中提取信息并將其用于特定目的的過程，例如先進的駕駛輔助系統(tǒng)。
另一個潛在的主要威脅來自于大型科技公司。例如亞馬遜、微軟、谷歌和 Meta 都投入了資源來開發(fā)自己的定制芯片，這可能預(yù)示著有一天他們將更全面地掌控自己的人工智能命運。其中，谷歌憑借其張量處理單元（TPU）在這條道路上走得特別遠，目前已經(jīng)是第五代了。同樣，亞馬遜、微軟和Meta也都有推出自己的AI芯片。
對此，黃仁勛回應(yīng)稱：“如果大公司想要構(gòu)建自己的芯片，我們?nèi)匀粫鰪娝鼈?。每?dāng)他們將我們納入他們的云中時，我們就會為他們帶來很多很多的客戶。我們?yōu)樗麄儙砹撕芏嚅_發(fā)人員?！?/p>
黃仁勛認為，參與英偉達充滿活力的生態(tài)系統(tǒng)最終是一種自身利益的行為——大型科技公司的持續(xù)擁抱英偉達生態(tài)，似乎也證實了這一立場。
通用人工智能還需要 5 年時間，AI 幻覺是可以解決的
在今年3月1日的于斯坦福大學(xué)舉行的一個經(jīng)濟論壇上，黃仁勛就被問及需要多長時間才能實現(xiàn)AGI（通用人工智能），即創(chuàng)建能像人類一樣思考的計算機。
對此，黃仁勛回答稱，如果對通用人工智能的定義是通過人類測試的能力，那么這一目標(biāo)五年內(nèi)就能實現(xiàn)。截至目前，人工智能已經(jīng)可以通過律師資格考試等測試，但在胃腸病學(xué)等專業(yè)醫(yī)學(xué)考試中仍表現(xiàn)不佳。但黃仁勛認為，在五年內(nèi)，它應(yīng)該能夠通過任何單個測試。不過，黃仁勛也提到，要實現(xiàn)更高要求的通用人工智能，可能仍然很難，因為科學(xué)家們在如何描述人類思維的工作方式上仍然存在分歧。
在此次的記者會上，有記者再度提出了這個問題，即何時能夠看到真正的AGI。
黃仁勛認為，預(yù)測我們何時會看到一個AGI（通用人工智能）取決于你如何定義 AGI。因為這其中有一些相似之處：即使時區(qū)的復(fù)雜性。你知道新年何時到來以及 2025 年何時到來。如果你開車前往圣何塞會議中心（今年 GTC 會議的舉辦地），當(dāng)你看到巨大的?GTC 橫幅時，通常就知道你已經(jīng)到達。關(guān)鍵的一點是，我們可以就如何衡量你是否已經(jīng)到達你希望去的地方（無論是時間上還是地理空間上）達成一致。
“如果我們將 AGI 指定為非常具體的東西，即軟件程序可以做得很好的一組測試，或者可能比大多數(shù)人好 8%，我相信我們將在 5 年內(nèi)實現(xiàn)這一目標(biāo)?！秉S仁勛解釋道。
黃仁勛建議，這些測試可以是法律律師考試、邏輯測試、經(jīng)濟測試，或者也許是通過醫(yī)學(xué)預(yù)科考試的能力。除非提問者能夠非常具體地了解 AGI 在問題中的含義，否則他不愿意做出預(yù)測。
在當(dāng)?shù)貢r間周二的問答環(huán)節(jié)中，黃仁勛還被問到如何應(yīng)對人工智能幻覺——一些人工智能傾向于編造聽起來似乎合理但沒有事實依據(jù)的答案。他顯然對這個問題感到沮喪，并表示人工智能幻覺是很容易解決的——只要確保答案經(jīng)過充分研究。
黃仁勛說：“添加一條規(guī)則：對于每個答案，你都必須查找答案?！彼麑⑦@種做法稱為“檢索增強生成”，并描述了一種與基本媒體素養(yǎng)非常相似的方法：檢查來源和上下文。將來源中包含的事實與已知事實進行比較，如果答案實際上不準(zhǔn)確（即使是部分不準(zhǔn)確），則丟棄整個來源，并繼續(xù)進行下一個來源?！叭斯ぶ悄懿粦?yīng)該只是回答；它應(yīng)該首先進行研究，以確定哪個答案是最好的?！?/p>
對于關(guān)鍵任務(wù)的答案，例如健康建議或類似問題，黃仁勛建議，也許檢查多種資源和已知的事實來源才是前進的方向。當(dāng)然，這意味著創(chuàng)建答案的生成器需要可以選擇說：“我不知道你問題的答案”，或者“我無法就正確答案達成共識”這個問題是，”或者甚至是類似“嘿，超級碗比賽還沒有發(fā)生，所以我不知道誰贏了?！?/p>
編輯：芯智訊-浪客劍
下載ECAD模型
