天天看點

LPDDR 記憶體是裝置AI性能的關鍵

作者:半導體産業縱橫
LPDDR 記憶體是裝置AI性能的關鍵

本文由半導體産業縱橫(ID:ICVIEWS)綜合

LPDDR 是從 DDR 記憶體技術發展而來,是一種節能的替代方案。

LPDDR 記憶體是裝置AI性能的關鍵

低功耗雙倍資料速率 (LPDDR) 是專為手機設計的高性能低功耗記憶體。自 2006 年首次釋出以來,每一代 LPDDR 都提供了移動使用者體驗重大轉變所需的帶寬和容量。随着下一波生成式 AI 應用将内置于我們的手機和筆記本電腦中,LPDDR 再次走在了另一場關鍵轉變的前沿。

終端上的人工智能的關鍵在于高效推理。使用經過訓練的人工智能模型進行預測或決策的過程需要專門的記憶體技術,這些技術具有更高性能,可根據終端裝置的獨特需求量身定制。終端上的人工智能推理記憶體需要在帶寬、容量、功率和外形緊湊性之間取得适當的平衡。

LPDDR 是從 DDR 記憶體技術發展而來,是一種節能的替代方案。LPDDR的優勢在于,當終端裝置不使用記憶體時,它的功耗非常低。由于工作頻率較低,是以與DDR相比,該低功耗标準可以輕松快速地調節性能。LPDDR可在終端裝置不使用時進入低功耗狀态,進而顯著降低功耗。LPDDR5X是迄今為止速度最快、效率最高的LPDDR标準版本。

各種應用和終端裝置都需要快速的記憶體通路,以便做出實時決策:

  • 智能手機和其他移動應用,需要高帶寬和優化功耗,并能根據裝置活動調整頻率。
  • 汽車處理器,用于支援進階駕駛輔助系統(ADAS)等應用。大多數汽車應用使用汽車級SDRAM,标準比傳統消費級産品更為嚴格。
  • 人工智能加速器,即高性能并行計算機,可高效處理神經網絡等人工智能工作負載。
  • 邊緣人工智能,需要在本地實作零延遲的快速資料處理。
  • 用于攝像頭和視訊裝置、電視和路由器等數字家庭産品及媒體裝置的晶片,必須能執行快速的超高密度(UHD)多媒體處理。
  • 5G網絡裝置,需要實時資料傳輸,以支援快速資料下載下傳和上傳。

LPDDR5 和可選擴充 LPDDR5X 是該标準的最新更新。

LPDDR5X标準由JEDEC于2021年6月釋出,它是一種專用的同步動态随機存取存儲器(SDRAM)。與之前的LPDDR5标準相比,LPDDR5X在多個方面實作了改進:

  • 在保持1.1V核心電壓不變的情況下,速度從6.4Gbps提升到8.5Gbps。
  • 通過采用接收器均衡和發射器[SH1] 預加重技術,改善了信号完整性 。
  • 全新的自适應重新整理管理功能提高了可靠性。
  • 電池效率提高了多達20%。

LPDDR5X 專注于提高性能、功率和靈活性;它提供高達 8.533 Gbps 的資料速率,顯著提高了速度和性能。與 DDR5 記憶體相比,LPDDR5/5X 将資料總線寬度限制為 32 位,同時提高了資料速率。與 LPDDR4 中的半速時鐘相比,切換到四分之一速時鐘,再加上一項新功能——動态電壓頻率調節,使更高資料速率的 LPDDR5 操作保持在與基于 LPDDR4 的裝置相同的熱預算内。

考慮到移動裝置的空間考慮,以及進階應用程式對記憶體的更大需求,LPDDR5X 可以通過在多晶片封裝中使用多個 DRAM 晶片來支援高達 64GB 的容量。以 7B LLaMa 2 模型為例:如果基于 INT4,該模型将消耗 3.5GB 的記憶體容量。x64 的 LPDDR5X 封裝,每個封裝有兩個 LPDDR5X 裝置,提供 68 GB/s 的總帶寬,是以,LLaMa 2 模型可以以每秒 19 個令牌的速度運作推理。

随着對更高記憶體性能的需求不斷增長,我們看到 LPDDR5 在市場上不斷發展,主要供應商宣布對 LPDDR5 進行額外擴充,稱為 LPDDR5T,其中的 T 代表 turbo。LPDDR5T 将性能提升至 9.6 Gbps,在多個 LPDDR5T 堆棧的 x64 封裝中實作 76.8 GB/s 的總帶寬。是以,上述 7B LLaMa 2 模型示例可以以每秒 21 個令牌的速度運作推理。

LPDDR5 具有低功耗和高帶寬功能,不僅适用于尖端移動裝置,而且适用于終端的 AI 推理,在這些終端上,能效和緊湊外形是至關重要的考慮因素。Rambus 提供全新的LPDDR5T/5X/5 控制器 IP,該 IP 經過全面優化,可用于需要高記憶體吞吐量和低延遲的應用。Rambus LPDDR5T/5X/5 控制器支援尖端的 LPDDR5T 記憶體裝置,并支援所有第三方 LPDDR5 PHY。它通過前瞻指令處理、存儲體管理和自動預充電來最大化總線帶寬并最小化延遲。該控制器可以與附加核心(如線上 ECC 或記憶體分析器核心)一起傳遞,以提高現場可靠性、可用性和可維護性 (RAS)。

随着移動通訊、人工智能和高等級自動駕駛汽車等帶寬密集型應用的日益普及,對高速記憶體通路的需求将持續增長。低成本的LPDDR5X SDRAM提供了出色的速度,考慮到LPDDR記憶體接口标準迄今為止的演變,其未來的發展不可限量。

*聲明:本文系原作者創作。文章内容系其個人觀點,我方轉載僅為分享與讨論,不代表我方贊成或認同,如有異議,請聯系背景。

繼續閱讀