天天看點

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

作者:呆呆愛看花

有沒有可能,小小的晶片撼動AI巨頭的霸主地位?就在6月27日,Etched公司釋出了一款專為Transformer架構設計的ASIC晶片——Sohu,聲稱其性能達到英偉達H100的20倍。

這一消息讓整個AI界震驚,大家都在讨論,這款新晶片真的能擊敗現有的GPU霸主嗎?

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

6月27日,Etched公司正式宣布推出Sohu晶片。

這款晶片的釋出掀起了一股狂潮,因為Etched公司聲稱,Sohu在AI大語言模型推理性能上遠超英偉達的B200 GPU,性能竟然達到H100的20倍。

這聽起來像天方夜譚,但Etched似乎是有備而來。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

他們與台積電合作,采用4nm工藝生産Sohu晶片。

台積電可是全球頂尖的半導體制造商,這無疑為Sohu晶片的生産提供了強有力的背書。

更令人矚目的是,Etched已經獲得了足夠的高帶寬記憶體(HBM)和伺服器供應,能夠迅速提高産能。

早期客戶已經預訂了數千萬美元的硬體,這證明了市場對Sohu的高度期待。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

首先,讓我們來看看Sohu晶片的具體性能。

Sohu是世界上首個基于Transformer架構的ASIC,這一點就讓它與衆不同。

Etched聲稱,配備8顆Sohu晶片的伺服器,每秒可以處理超過500,000個Llama 70B Token。

這是什麼概念呢?簡單說,就是比配備8張H100或B200 GPU的伺服器效率高太多了,差不多是把你家裡的電風扇換成了台風的效果。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

Sohu的FLOPS使用率超過90%,而GPU的FLOPS使用率僅有約30%。

為什麼Sohu這麼厲害?因為它專注于Transformer架構,删除了多餘的控制流邏輯,專攻AI模型。

打個比方,GPU像是一把瑞士軍刀,什麼都能幹一點,但Sohu則是一把專門的手術刀,精準高效。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

記憶體帶寬也是個大問題,很多晶片在處理大模型時會遇到記憶體帶寬瓶頸。

而Sohu晶片高效利用記憶體帶寬,處理大模型時不再為記憶體帶寬捉襟見肘。

這就像你去超市購物,有了高速通道,結賬速度翻倍。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

在軟體方面,Sohu也占盡優勢。

開發人員隻需為Transformer編寫軟體,無需應對複雜的控制流邏輯。

而且,Etched将開源軟體堆棧,友善開發者進行自定義。

這就好比給你一把萬能鑰匙,可以随意開鎖,大大簡化了開發過程。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

最重要的是,Sohu晶片的成本更低。

要知道,AI資料中心的采購和營運成本是個大頭,而Sohu晶片能顯著降低這些成本。

這就像是用一半的錢買到雙倍的快樂。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

現如今,GPU性能提升主要依賴制程工藝和晶片面積的增加,但機關面積計算能力的增長卻很緩慢。

這就像是擠牙膏,越來越難擠出更多的性能。

而Transformer架構的崛起改變了這一切。

Transformer模型市場規模迅速增長,成為主流,并且模型架構趨于穩定。

針對特定算法模型的ASIC晶片在速度和成本上有着天然的優勢,尤其在AI算法架構穩定後,ASIC晶片将成為提升算力的關鍵。

這一點就像是專用工具比萬能工具更高效。

用瑞士軍刀當然好,但關鍵時刻,還是手術刀更管用。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

Etched公司對市場前景充滿信心。

他們預測,未來五年内,AI模型将在标準化測試中變得比人類更聰明,規模化是未來的關鍵。

硬體優化方向也将持續針對Transformer架構進行優化,這意味着Transformer架構将成為AI計算市場的主導。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

Etched公司之是以能推出Sohu晶片,其實是一場豪賭。

早在Transformer架構尚未普及時,Etched公司就提前下注研發Sohu晶片。

現在的形勢證明了他們的賭注是正确的。

Sohu有望成為重要的硬體項目,引領AI硬體的發展。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

随着Sohu晶片的推出,其他Transformer“殺手”晶片也會陸續登場。

但要想在市場上立足,它們必須在GPU上運作速度超越Sohu,否則很難成功。

這就像是一場競賽,隻有跑得更快才能赢得市場。

整個行業的趨勢也在變化。

随着AI算法的演進趨于穩定,專用ASIC晶片将更具優勢。

各大雲服務廠商紛紛推出自研雲端AI晶片,這無疑順應了這一趨勢。

可以預見,未來AI計算市場将迎來一場新的變革。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

Sohu晶片的推出不僅僅是技術上的突破,更是市場格局的重新洗牌。

它對英偉達等GPU廠商構成了新的挑戰,迫使整個行業重新思考未來的發展方向。

AI硬體的競争将更加激烈,最終受益的将是整個行業和廣大使用者。

比H100快20倍還更便宜!英偉達的“掘墓人”出現了?

Sohu晶片的成功故事也為我們展示了一個道理:勇于創新,敢于挑戰,才能在激烈的市場競争中脫穎而出。

Etched公司憑借Sohu晶片,正是走在了這條創新之路上。

未來,誰能引領AI硬體的發展潮流,我們拭目以待。

(免責聲明)文章描述過程、圖檔都來源于網絡,此文章旨在倡導社會正能量,無低俗等不良引導。如涉及版權或者人物侵權問題,請及時聯系我們,我們将第一時間删除内容!如有事件存疑部分,聯系後即刻删除或作出更改。