來源丨元宇宙簡史
作者丨元宇宙簡史主理人 Fun
【元宇宙導讀】雖然英偉達H100的官方建議價格尚未公布,但據eBay上的一些賣家透露,其成本價已經達到了2.5萬美元左右。在eBay上,H100的售價已經超過了4萬美元,甚至有些賣家标價高達6.5萬美元。
去年底ChatGPT橫空出世,引起各大AI廠商争相鬥豔,都要打造自己的大模型。
而世界最大GPU廠商英偉達則賺麻了,成為除了OpenAI大股東微軟外的最大赢家。
近日馬斯克也是一邊簽署聯名信要求OpenAI暫停訓練比GPT-4更強大的大模型,一邊偷偷成立AI公司,并跟英偉達購買了一萬多塊高性能GPU晶片。
随着對訓練和部署人工智能軟體所需晶片的需求飙升,英偉達最先進的顯示卡H100晶片在美國電商平台eBay上的售價已經超過4萬美元。
這款晶片是英偉達今年3月釋出的面向資料中心的AI圖形處理器晶片(GPU),基于全新的Hopper架構設計,擁有強大的性能、可擴充性和安全性,能夠加速百億億級(Exascale)的工作負載,以及處理萬億參數的語言模型。
H100晶片的核心競争力主要有:
- 第四代Tensor Core和Transformer引擎,可為多專家(MoE)模型提供高9倍的訓練速度,以及高30倍的推理速度;
- 第四代NVLink和NVSwitch系統,可連接配接多達256個H100晶片,實作每個GPU 900 GB/s的互連帶寬,以及跨節點加速每個GPU的通信;
- PCIe 5.0接口和Magnum IO軟體,可提高與CPU和儲存設備的資料傳輸速率;
- 第二代多執行個體GPU (MIG) 技術,可将每個GPU分為7個獨立執行個體,提高資源使用率和安全性;
- 内置機密計算功能,可實作端到端多租戶的安全使用,保護資料和模型的隐私。
H100晶片是英偉達在AI領域不斷創新和領先的展現,也是其對未來計算需求的預見和布局。H100晶片可以應用于各種AI場景,如AI聊天機器人、推薦引擎、視覺AI、資料分析、高性能計算等。H100晶片還可以搭配英偉達AI Enterprise軟體套件,為企業提供端到端的AI就緒型基礎架構。
然而,H100晶片的供應卻十分緊張,導緻其市場價格遠高于官方建議價格。據悉,2020年釋出的A100是英偉達上一代旗艦AI晶片,售價約為1萬美元。而H100的官方建議價格尚未公布,但據eBay上的一些賣家透露,其成本價已經達到了2.5萬美元左右。在eBay上,H100的售價已經超過了4萬美元,甚至有些賣家标價高達6.5萬美元。
H100 晶片價格飙升的原因有多方面。一方面是由于H100晶片采用了全新的HBM3顯存技術,每個晶片擁有80 GB的顯存容量。而HBM3顯存技術目前還處于初期階段,産能有限,成本較高。另一方面是由于H100晶片面臨着來自全球晶片短缺的影響,導緻其産量無法滿足市場需求。由于新冠疫情的沖擊,以及各行各業對晶片的旺盛需求,全球晶片産業鍊出現了嚴重的供需失衡,導緻許多晶片廠商和客戶遭遇了訂單延期、價格上漲等問題。
英偉達也不例外,其CEO黃仁勳在今年2月份表示,英偉達的晶片供應将在今年上半年持續緊張。H100晶片的高價也反映了AI晶片市場的火熱程度,以及英偉達在該領域的強大競争力。從英偉達最近一路長虹的股價,就可以看出英偉達有多賺錢。
據市場研究機構IDC的預測,全球AI晶片市場将從2020年的238億美元增長到2024年的 749億美元,年複合增長率達到33.6%。
而英偉達作為全球最大的GPU廠商,其AI晶片占據了市場的主導地位,其在資料中心、雲計算、邊緣計算等領域擁有廣泛的客戶和合作夥伴。
嚴正聲明:本文為元宇宙簡史原創,未經授權禁止轉載!内容僅供參考交流,不構成任何投資建議。任何讀者若據此進行投資決策,風險自擔。