有沒有可能,小小的晶片撼動AI巨頭的霸主地位?就在6月27日,Etched公司釋出了一款專為Transformer架構設計的ASIC晶片——Sohu,聲稱其性能達到英偉達H100的20倍。
這一消息讓整個AI界震驚,大家都在讨論,這款新晶片真的能擊敗現有的GPU霸主嗎?
6月27日,Etched公司正式宣布推出Sohu晶片。
這款晶片的釋出掀起了一股狂潮,因為Etched公司聲稱,Sohu在AI大語言模型推理性能上遠超英偉達的B200 GPU,性能竟然達到H100的20倍。
這聽起來像天方夜譚,但Etched似乎是有備而來。
他們與台積電合作,采用4nm工藝生産Sohu晶片。
台積電可是全球頂尖的半導體制造商,這無疑為Sohu晶片的生産提供了強有力的背書。
更令人矚目的是,Etched已經獲得了足夠的高帶寬記憶體(HBM)和伺服器供應,能夠迅速提高産能。
早期客戶已經預訂了數千萬美元的硬體,這證明了市場對Sohu的高度期待。
首先,讓我們來看看Sohu晶片的具體性能。
Sohu是世界上首個基于Transformer架構的ASIC,這一點就讓它與衆不同。
Etched聲稱,配備8顆Sohu晶片的伺服器,每秒可以處理超過500,000個Llama 70B Token。
這是什麼概念呢?簡單說,就是比配備8張H100或B200 GPU的伺服器效率高太多了,差不多是把你家裡的電風扇換成了台風的效果。
Sohu的FLOPS使用率超過90%,而GPU的FLOPS使用率僅有約30%。
為什麼Sohu這麼厲害?因為它專注于Transformer架構,删除了多餘的控制流邏輯,專攻AI模型。
打個比方,GPU像是一把瑞士軍刀,什麼都能幹一點,但Sohu則是一把專門的手術刀,精準高效。
記憶體帶寬也是個大問題,很多晶片在處理大模型時會遇到記憶體帶寬瓶頸。
而Sohu晶片高效利用記憶體帶寬,處理大模型時不再為記憶體帶寬捉襟見肘。
這就像你去超市購物,有了高速通道,結賬速度翻倍。
在軟體方面,Sohu也占盡優勢。
開發人員隻需為Transformer編寫軟體,無需應對複雜的控制流邏輯。
而且,Etched将開源軟體堆棧,友善開發者進行自定義。
這就好比給你一把萬能鑰匙,可以随意開鎖,大大簡化了開發過程。
最重要的是,Sohu晶片的成本更低。
要知道,AI資料中心的采購和營運成本是個大頭,而Sohu晶片能顯著降低這些成本。
這就像是用一半的錢買到雙倍的快樂。
現如今,GPU性能提升主要依賴制程工藝和晶片面積的增加,但機關面積計算能力的增長卻很緩慢。
這就像是擠牙膏,越來越難擠出更多的性能。
而Transformer架構的崛起改變了這一切。
Transformer模型市場規模迅速增長,成為主流,并且模型架構趨于穩定。
針對特定算法模型的ASIC晶片在速度和成本上有着天然的優勢,尤其在AI算法架構穩定後,ASIC晶片将成為提升算力的關鍵。
這一點就像是專用工具比萬能工具更高效。
用瑞士軍刀當然好,但關鍵時刻,還是手術刀更管用。
Etched公司對市場前景充滿信心。
他們預測,未來五年内,AI模型将在标準化測試中變得比人類更聰明,規模化是未來的關鍵。
硬體優化方向也将持續針對Transformer架構進行優化,這意味着Transformer架構将成為AI計算市場的主導。
Etched公司之是以能推出Sohu晶片,其實是一場豪賭。
早在Transformer架構尚未普及時,Etched公司就提前下注研發Sohu晶片。
現在的形勢證明了他們的賭注是正确的。
Sohu有望成為重要的硬體項目,引領AI硬體的發展。
随着Sohu晶片的推出,其他Transformer“殺手”晶片也會陸續登場。
但要想在市場上立足,它們必須在GPU上運作速度超越Sohu,否則很難成功。
這就像是一場競賽,隻有跑得更快才能赢得市場。
整個行業的趨勢也在變化。
随着AI算法的演進趨于穩定,專用ASIC晶片将更具優勢。
各大雲服務廠商紛紛推出自研雲端AI晶片,這無疑順應了這一趨勢。
可以預見,未來AI計算市場将迎來一場新的變革。
Sohu晶片的推出不僅僅是技術上的突破,更是市場格局的重新洗牌。
它對英偉達等GPU廠商構成了新的挑戰,迫使整個行業重新思考未來的發展方向。
AI硬體的競争将更加激烈,最終受益的将是整個行業和廣大使用者。
Sohu晶片的成功故事也為我們展示了一個道理:勇于創新,敢于挑戰,才能在激烈的市場競争中脫穎而出。
Etched公司憑借Sohu晶片,正是走在了這條創新之路上。
未來,誰能引領AI硬體的發展潮流,我們拭目以待。
(免責聲明)文章描述過程、圖檔都來源于網絡,此文章旨在倡導社會正能量,無低俗等不良引導。如涉及版權或者人物侵權問題,請及時聯系我們,我們将第一時間删除内容!如有事件存疑部分,聯系後即刻删除或作出更改。