Tenstorrent不與Nvidia競爭

初創(chuàng)公司的生存取決于第一條規(guī)則：永遠不要缺錢。無論是Cerebra、Tenstorrent、Groq還是SambaNova，每家AI芯片初創(chuàng)公司都面臨著在Nvidia主導的市場中維持資金流的挑戰(zhàn)。?

迄今為止，盡管許多AI芯片初創(chuàng)公司都忙于各種PR，包括芯片發(fā)布、電路板發(fā)布和開發(fā)可以修改的SDK，但沒有一家公司說得出任何實際客戶的名字。

在沒有這樣的突破之前，Tenstorrent一直在設定某種基調(diào)，發(fā)布敘事、技術和業(yè)務戰(zhàn)略，讓業(yè)界了解Tenstorrent是誰以及它將走向何方。

為什么要這樣宣傳？從第一天起，Tenstorrent的高管們（CEO-Jim Keller、COO-Keith Witek和CCO-David Bennet）就非常明確地表示：“我們不是在與Nvidia競爭?！?/p>

他們對外始終如一地表示，如果一家初創(chuàng)公司認為自己可以與Jenson Huang為Nvidia打造的巨大工程資源和財力相媲美，那“簡直是瘋了”，因為Nvidia的市值已超2萬億美元。

或許Tenstorrent在謹慎地降低人們的期望值。但這也反映了對當今AI硬件市場以及Tenstorrent的地位和前景的現(xiàn)實看法。

盡管如此，仍有媒體在等待一家AI芯片公司成為下一個Nvidia。

誰不喜歡大衛(wèi)與歌利亞的故事呢？

上周，我看到了一個熟悉的標題，“Startup with ‘radical’ concept for AI chips emerges from stealth with $15 million to try to challenge Nvidia”。

“Challenge Nvidia”這個故事情節(jié)蒼白且老套，讓人難以相信。

Tenstorrent的理由??

那么，如果Tenstorrent真的沒有在挑戰(zhàn)Nvidia，它的利基在哪里？有哪些Nvidia沒有cover到的角落可供Tenstorrent搶奪呢？

所謂“服務不足”的AI市場有多大？

AMD的Lisa Su預測，到2027年，AI領域的收入將達到4,000億美元。保守預測的數(shù)字約為1,000億美元，因為很多人認為不存在生產(chǎn)4,000億美元AI硬件的制造能力。不過，Tenstorrent認為，到本十年末，AI芯片行業(yè)的TAM（total available market）將達到2,000億美元。

無論從哪個角度來看，這都是一個巨大的市場，有大量的AI細分市場可供Tenstorrent等公司開發(fā)。

在最近與Ark Investment的一次視頻播客中，Tenstorrent的COO Witek分享了他在不與Nvidia發(fā)生沖突的情況下開拓AI市場的計算方法。

“對于像Nvidia這樣的公司來說，每年都有數(shù)百億美元投入到DGX盒子與H100這樣的產(chǎn)品中，利潤率非常高，你需要不斷打造大型、昂貴、高性能的AI盒子，配備昂貴的HBM、interposer和一切非常大的東西。”Nvidia為維持自身增長而期望賺取的資金量，讓“二線、三線細分市場落在了后面，而這些細分市場對Nvidia來說可能是更痛苦的支持”。

更具體地說，Witek指出：“Nvidia并不是在尋找5億美元或10億美元的機會。他們正在尋找下一個250億美元的機會。這樣的機會并不多，但這可能是他們的重點。對Jenson來說，這將是一件明智的事情。

同時，他補充說：“Jim Keller和我可以專注于50億美元的機會?！彪m然這只是AI硬件市場的一小部分，但Witek和Kellert認為它足以讓Tenstorrent上市。

Tenstorrent害怕Nvidia嗎？??

Witek說：“在一個2,000億美元的市場中，沒人能讓營收30億美元的Nvidia垂頭喪氣。他們不會把自己的毛利率從82%降到甚至81%，來試圖打擊競爭對手?！?/p>

這個理由聽起來可能有些自圓其說，但Witek的信念是基于他對電子行業(yè)歷史的觀察。像IBM或Intel這樣的大公司，在它們的鼎盛時期，都是被它們的規(guī)模和對年銷售額的高期望值所驅(qū)使。他們釣大魚，把小雨小蝦留給別人去撈，直到小雨小蝦占領了海洋。Clayton Christensen的一書對這一經(jīng)典案例進行了詳細描述。

游戲計劃??

Tenstorrent聲稱，AI市場足夠大，足以讓其他行業(yè)找到Nvidia提供的替代解決方案。

如果是這樣，他們是誰，他們看中Tenstorrent的什么？

每家AI芯片供應商都希望在數(shù)據(jù)中心獲得設計上的第一桶金，除此之外，Tenstorrent還提到了汽車和機器人領域的關鍵應用。Tenstorrent戰(zhàn)略與企業(yè)傳播副總裁Bob Grim說，人們對AI芯片的興趣已經(jīng)讓“一些機器人客戶”進入了發(fā)展通道。今年夏天，Tenstorrent將指定至少一家車廠為其商業(yè)客戶。

Tenstorrent的魅力何在？這位發(fā)言人表示，Nvidia H100和A100的有限供應和令人瞠目的成本是明顯的障礙。更重要的是，汽車和機器人領域的應用“需要難以想象的質(zhì)保工作”。

100%的代碼檢測?????

典型的例子就是Nvidia的專有軟件庫CUDA。

Tenstorrent聲稱，“很多客戶……無法使用CUDA”，因為有些應用程序“需要100%的代碼檢測，而使用CUDA庫，你無法做到這一點，因為它們是專有的”。

對此，Nvidia表示，CUDA“作為Nvidia DRIVE OS軟件的一部分已通過認證，可提供高達ASIL-D的認證”，但沒有直接解釋CUDA庫本身是否通過了ASIL認證的SEooC（Safety Element Out of Context）。

SEooC非常重要，因為它用于開發(fā)SW、HW或系統(tǒng)元素，在這些元素中，開發(fā)者確信該元素不僅是一個安全程序中的安全元素，也是其他安全程序中的安全元素，在這些安全程序中，該安全元素可用于多個安全目標或安全要求。

開發(fā)者是否將CUDA庫用于機器人、無人機、采礦車或其他不一定使用Nvidia DRIVE OS的應用？在這種情況下，Nvidia如何對CUDA庫進行100%的代碼檢查和測試？Nvidia承認，機器人和醫(yī)療設備等市場也有類似的安全認證，這些認證與汽車行業(yè)的ISO 26262相關，但并不完全相同?！拔覀冋谂c這些行業(yè)的客戶合作，并將在未來公布其中的一些產(chǎn)品?！?/p>

通過提供開源軟件堆棧，Tenstorrent認為自己的定位是為無法使用Nvidia的CUDA或DRIVE OS的汽車和機器人客戶提供服務。

分散的AI應用???????????

Tenstorrent并沒有在超大規(guī)模企業(yè)中尋找巨額交易機會，而是選擇了長尾市場。一個每個應用都有不同需求的碎片化AI市場。

Tenstorrent的優(yōu)勢在于其AI芯片解決方案的可擴展架構。其方法是將基于圖形計算機的AI硬件與RISC-V計算內(nèi)核相結(jié)合。RISC-V內(nèi)核為處理解決方案提供了內(nèi)置靈活性，以支持未來的模式。

Tenstorrent最近推出了“Wormhole”芯片，其特點是為對可擴展性感興趣的開發(fā)者設計了PCIe卡和工作站。他們可以使用Tenstorrent強大的開源軟件棧進行多芯片開發(fā)。

該公司發(fā)言人將Wormhole描述為“a fabric”或“sea of chips”，稱其“非常適合于解決需要在多個芯片上解決的問題，并讓這些芯片協(xié)同工作”。

通過利用Wormhole芯片，Tenstorrent正在為開發(fā)者構建開發(fā)板和系統(tǒng)。Wormhole n150由單個處理器驅(qū)動。Wormhole n300由兩個處理器驅(qū)動。這些板卡隨后被制成兩種不同類型的工作站，供開發(fā)者使用。第一種是TT-LoudBox，一種由四個Wormhole n300（八個處理器）驅(qū)動的開發(fā)者工作站；第二種是TT-QuietBox，一種高端水冷式開發(fā)者工作站。Tenstorrent利用其開源TT-Buda和TT-Metallium軟件棧為這兩個工作站提供支持。據(jù)該公司稱，這些軟件可支持多個LLM和其他流行的AI模型。

工作站與服務器中的AI芯片??????

Tenstorrent希望強調(diào)的另一個產(chǎn)品是其在工作站中使用的AI芯片與在服務器中設計的AI芯片。

Tenstorrent解釋說，“我們在工作站和服務器中使用相同的AI芯片”。這是因為當開發(fā)者從AI開發(fā)轉(zhuǎn)向部署，再擴展到服務器時，“將代碼從工作站移植到服務器變得非常簡單直接”。

相比之下，Dell等電腦公司在數(shù)據(jù)中心和工作站中使用不同的AI芯片。

Dell發(fā)言人證實，“Dell Precision工作站沒有使用Nvidia的H100或A100。她補充說，Dell的工作站“包括跨芯片合作伙伴的強大圖形選擇，如Nvidia RTX Ada代GPU和AMD Radeon Pro”。

當然，“當你需要擴展模型并進行更廣泛的部署時，企業(yè)可以輕松地過渡到Dell PowerEdge服務器”。她強調(diào)，Dell服務器提供“一系列的GPU”，這些GPU來自芯片合作伙伴，包括Nvidia的H100、A100和即將推出的Blackwell架構和H200 GPU，即將支持Intel的Guadi3和AMD的Instinct MI300x加速器。

SoftBank最近收購了英國的Graphcore，隨后AMD又收購了芬蘭的Silo.ai，后者是歐洲最大的私人AI實驗室。但這些舉動是否預示著AI芯片公司之間會出現(xiàn)并購浪潮呢？很難說。要擺脫曇花一現(xiàn)的局面，AI芯片初創(chuàng)公司需要一個可靠的生存計劃。