天天看點

被稱為“小号HBM”,華邦電子CUBE進階邊緣AI存儲

作者:核芯産業觀察

電子發燒友網報道(文/黃晶晶)與AI訓練以GPU搭配HBM不同,邊緣AI采用何種記憶體方式,DDR、GDDR、LPDDR等适用于不同的場景。日前,華邦電子産品總監朱迪接受包括電子發燒友網在内的媒體采訪,分享了華邦推出的CUBE産品在邊緣AI上的應用優勢以及對存儲應用市場的看法等話題。

CUBE:小号HBM

“華邦電子近兩三年都在推CUBE産品,我們可以把CUBE形象地看作小号的HBM。”朱迪說道,推動AI落地和發展的三大因素是算力、運力和存力。通常AI伺服器上GPU需要大容量、高帶寬的HBM,将GPU與存儲晶片做在一顆晶片裡面進行系統級封裝。華邦的CUBE從大的方向講也是類似的思路。

華邦電子推出的CUBE(Customized Ultra-Bandwidth Elements)是一種針對SoC(System on Chip)在DRAM合封上遇到的挑戰所設計的創新記憶體産品。這種緊湊超高帶寬DRAM專為邊緣計算領域設計,通過将SoC裸片置于DRAM裸片上方,CUBE技術能夠在不采用SoC的TSV(Through-Silicon Via)工藝的同時,達到降低成本和尺寸的目的。此外,它還改進了散熱效果,并特别适用于對低功耗、高帶寬以及中低容量記憶體有需求的應用場景。

CUBE擁有以下好處:

  • 節省電耗:CUBE 提供卓越的電源效率,功耗低于 1pJ/bit,能夠確定延長運作時間并優化能源使用。
  • 卓越的性能:憑借 16GB/s 至 256GB/s 的帶寬,CUBE 可提供遠高于行業标準的性能提升。
  • 較小尺寸:CUBE 擁有更小的外形尺寸。目前基于 20nm 标準,可以提供每顆晶片 1Gb-8Gb 容量,2025 年将有 16nm 标準。引入矽通孔(TSV)可進一步增強性能,改善信号完整性、電源完整性、以 9 um pitch 縮小 IO 的面積和較佳的散熱(CUBE 置下、SoC 置上時)。
  • 高經濟效益、高帶寬:CUBE 的 IO 速度于 1K IO 可高達 2Gbps,當與 28nm 和 22nm 等成熟工藝的 SoC 內建, CUBE 則可到達 32GB/s 至 256GB/s 帶寬,相當于 HBM2 帶寬, 也相當于 4 至 32 個 LP-DDR4x 4266Mbps x16 IO。
  • SoC 晶片尺寸減小:SoC(不帶 TSV,置上)堆疊在 CUBE(帶 TSV,置下)上。如果去除 TSV 區域損失,其晶片尺寸可能會更小。能夠為邊緣 AI 裝置帶來更明顯的成本優勢。

朱迪表示,CUBE跟HBM的最大差别在于容量。HBM的容量非常大,CUBE的容量相對小一點。因為華邦主要做利基型存儲、中小容量存儲,瞄準的應用市場以邊緣端為主,并非HBM針對雲端、伺服器端的計算。并且現在的大趨勢是算力下沉,即雲端的算力下放到邊緣端,因為邊緣側響應速度更快,且更加安全。在雲端,很多客戶會擔心資料的安全和隐私保護的問題。此外,在邊緣端也能夠做推理或者少量的訓練,并且邊緣端AI能力強還可以降低成本。

以汽車應用為例,汽車上的傳感器衆多包括雷達、攝像頭等,如果在端側傳感器的感覺算力足夠強,資料進行預處理等,就不需要主要晶片進行處理。這就是典型的邊緣側AI處理降成本的方式。

目前CUBE在獨立的ISP晶片應用的潛力非常大。朱迪表示,現在攝像頭越來越多,僅靠主要處理器自帶的ISP不夠用的情況下,廠商會研發自己的ISP晶片,這就給低功耗的LPDDR4或者CUBE帶來很大的機會。另外就是家用或行業用IP Camera,目前最高階存儲用到DDR4或LPDDR4,但未來不排除CUBE的應用機會。

汽車存儲,與時俱進

資料顯示,2022年以營收計算華邦電子是全球第五大車用存儲廠商,華邦電子提供非常齊全的中小容量存儲産品,包括NOR Flash、DDR3等,廣泛應用于車用傳感器、ADAS、智能座艙等。

朱迪談到,目前儀表盤被內建化、一芯多屏,即整合娛樂屏、資訊屏和儀表屏。而汽車是高安全性的産品,通常系統都有備援備份,如果主要晶片由于某種原因壞了,螢幕照樣要能夠顯示,這就要靠裡面的小系統,小系統可以搭配華邦的中小容量存儲。

華邦電子做為存儲廠商來說,在汽車領域過去的直接使用者是Tier1,現在也會給車廠直供,另外許多IDH或主要平台廠商也與我們密切互動,華幫要與他們的方案做适配提供給客戶。這是汽車生态的變化,華邦也在與時俱進。

另外現在汽車行業競争很激烈,産品疊代周期變短,有的廠商一年一款甚至幾款新車上市,同時汽車還面臨快速降價搶市場的現況,那麼對存儲晶片廠商的産品疊代以及供應能力都會帶來新的挑戰。華邦電子也在通過提高研發能力、制程工藝等方降低成本,助力客戶實作降本的目标。

明年或是存儲大年 中小容量存儲機會大

中小容量的存儲晶片相對于大容量的漲幅較小,且漲價趨勢較慢。朱迪認為,存儲行業前幾大企業此前都在虧損,這是不正常的行業現象,那麼後續通過價格的修改,能夠促進整個行業健康持續發展。

對于今年下半年到明年上半年的市場趨勢,華邦在需求面保持樂觀的态度。特别是電子行業的電腦、智能手機等出貨量增加将帶動整個行業的上揚。

另外,今年HBM占整個DRAM産能是個位數,根據第三方報告明年HBM可能會占到30%的産能。再加上PC正在從DDR4轉移到DDR5,也會占用産能。朱迪預計明年可能是存儲的大年,尤其是中小容量、利基型存儲市場會有不錯的光景。是以,華邦在去年行情不算太好的情形下仍然持續擴充産能,以應對未來需求的增加。

小結

面向邊緣AI,華邦除了CUBE産品外,注重拓展一些定制化、半定制化的創新型産品,在朱迪來看,通用類産品市場波動大,同質化競争。而實際上客戶需求差異大,尤其是一些領先廠商有自己的設計需求,華邦會持續提供創新型存儲滿足客戶所需。

繼續閱讀