天天看點

面向GB300伺服器的NVIDIA Blackwell Ultra"B300"AI GPU可能采用插槽式設計

NVIDIA的Blackwell Ultra B300 GPU可能會在GB300伺服器上采用插座式設計,這将使維護和更新變得更加容易。NVIDIA目前的資料中心高性能晶片采用了OAM設計,即闆載解決方案。 通過這種設計,GPU 晶片被永久焊接到伺服器主機闆上,如 GB200,使用者可以在一塊主機闆上同時找到 Grace CPU 和 Blackwell GPU。

面向GB300伺服器的NVIDIA Blackwell Ultra"B300"AI GPU可能采用插槽式設計

不過,這可能是最後一個采用闆載設計的系列,因為一些報道稱 NVIDIA 可能會在用于 GB300 伺服器的 Blackwell B300"Ultra"GPU上采用不同的設計。 根據 MoneyDJ 和Economic Daily News(通過Trendforce)的說法,B300 GPU 可能采用基于插座的設計,這将允許使用者從主機闆上安裝或解除安裝 GPU。

據悉,英偉達的 Blackwell Ultra"B300"AI GPU 采用插座式設計可簡化英偉達的制造流程,并使多家公司受益,尤其是生産互連元件和插座的富士康。 目前的 Blackwell GPU 是直接焊接到主機闆上的,過渡到插座式設計後,B300 GPU 可以像 CPU 一樣從主機闆上拆卸下來。

這種過渡将帶來多種好處,包括提高良品率和實作靈活生産,因為 GPU 無需焊接到插座上,NVIDIA也無需依賴表面貼裝技術。 此外,由于在出現與 GPU 相關的問題時無需更換整個主機闆,是以該流程将簡化維護和售後服務。

面向GB300伺服器的NVIDIA Blackwell Ultra"B300"AI GPU可能采用插槽式設計

是以,更新可以減少更換 GPU 時的整體停機時間,有助于公司為客戶提供更可靠的伺服器。 不過,預計新的插座設計會帶來一些性能下降,因為這會帶來更高的延遲。 盡管如此,如果能改善維護、更新和提高産量,那麼這種權衡還是值得的。

B300 的另一個重要變化是采用了 FP4,這有利于推理過程。 推理是經過訓練的模型對資料進行預測的方式,是人工智能計算的一個重要方面。 B200已經在人工智能工作負載中表現出色,并已被多家公司部署。

與此同時,B300"Blackwell Ultra"有望大幅提升性能,但它卻并不是首款采用基于插槽設計的産品,因為 AMD 已經在 2023 年推出的MI300A 晶片中引入了這種設計。

面向GB300伺服器的NVIDIA Blackwell Ultra"B300"AI GPU可能采用插槽式設計

繼續閱讀