2023/02/23

雲端伺服器中的 CXL 記憶體擴充與池化

雲端伺服器中的 CXL 記憶體擴充與池化

隨著個人與企業所產生及使用的數據量急遽成長,為了支援使用人工智慧 (AI)、機器學習 (ML) 等複雜模型的應用,雲端服務提供商需要一套全新的架構來儲存、分析及傳送數據。但由於記憶體容量需求不斷上升,使得處理器數量及記憶體頻寬達到瓶頸,舉例來說,儘管 DRAM 占伺服器成本的比例高達 50%,卻受限於記憶體無法連接到多個CPU 或 GPU 的架構,導致在各個時間段中約有 25% 的記憶體處於閒置的窘境。

Compute Express Link (CXL) 是一種用於處理器、記憶體擴展和加速器的開放標準。CXL 記憶體控制器允許記憶體透過擴張、池化、共享等方式,增加記憶體利用率,並減少總擁有成本 (TCO),同時改善系統效能及效率,以支援通用運算、AI 訓練和推理、機器學習、記憶體資料庫、記憶體分層及其他應用專屬的工作負載。CXL 記憶體控制器也提供了高度的彈性,保留未來升級的空間,與主流 CPU、GPU 與記憶體廠商的相容性讓這個產品能夠更容易被管理、偵錯及規模化。

Astera Labs - Leo CXL Memory Connectivity Platform

 
Astera Labs Leo CXL Memory Connectivity 平台是業界首個通過記憶體擴展、池化和共享來消除記憶體瓶頸、提高性能和降低 TCO 的解決方案。 Leo 控制器具有雲端規模部署所需的廣泛功能,包括伺服器級 RAS 功能、端到端安全性、低延遲 DDRx 等。與領先業界的處理器廠商、記憶體廠商、策略雲端客戶、系統 OEM 和 CXL 聯盟密切合作開發,以確保其滿足眾廠商的特定要求,並在整個生態系統中流暢互通。

相關產品

  • A100 80GB PCIe GPU | NVIDIA
    適用於 PCIe 的 NVIDIA A100,為所有工作負載提供最高程度的多樣性。在 80 GB 版本上首度推出全球最快速的記憶體頻寬,每秒超過 2 TB (TB/秒),可解決最大的模型和資料集。[深入了解]
  • 2-Mbit I2C EEPROM | STMicroelectronics
    M24M02 是一個 2-Mbit I2C 兼容的 EEPROM,可以在1.8V 至 5.5V 的電壓及-40 °C / +85 °C 的溫度範圍內作業。[深入了解]
banner_ins
訂閱電子報,掌握最新科技與產業趨勢
訂閱電子報,掌握最新科技與產業趨勢
我要訂閱

數字驗證

請由小到大,依序點擊數字

洽詢車

你的洽詢車總計 0 件產品

    搜尋

    偵測到您已關閉Cookie,為提供最佳體驗,建議您使用Cookie瀏覽本網站以便使用本站各項功能

    本網站使用Cookie為您提供最佳的使用體驗。繼續使用本網站,即表示您同意我們的Cookie Policy