訂閱電子報，掌握最新科技與產業趨勢
產品介紹
隨著人工智慧（AI）工作負載日益複雜且規模持續擴大，支援 AI 模型運作的基礎架構也必須不斷演進，以滿足效能、效率與擴充性的需求。這類複雜工作負載需要在 XPU、CPU 與儲存設備之間傳輸大量資料。XPU 對 XPU 的後端網路專為多顆 XPU 之間的高速、確定性低延遲通訊而設計，以支援平行處理與高強度運算任務。Marvell® Teralynx® T100 旨在符合超乙太網路聯盟（Ultra Ethernet Consortium，UEC）規範，鎖定大規模 XPU 擴展型（scale-out）網路應用，例如配備數千顆 XPU 的 AI 訓練叢集，以及針對 Rail 架構最佳化的後端網路。T100 支援 UEC 的超乙太網路傳輸（Ultra Ethernet Transport，UET）協定，可實現 XPU 對 XPU 的 RDMA，並透過多條平行路徑進行封包噴灑及非依序封包傳遞，最大化鏈路使用率並消除流量層級的壅塞熱點。結合先進且符合標準的壅塞控制與多路徑傳輸技術，T100 可在超大規模 AI 訓練與推論叢集中，為集合通訊操作（all-reduce、all-to-all、all-gather）提供穩定一致的低延遲、高頻寬效能。
Teralynx 系列乙太網路交換器晶片從架構設計之初，便以提供最適合 AI 網路的最佳化乙太網路解決方案為目標。此系列具備業界領先的確定性低延遲、透過細緻遙測實現的卓越網路可視性、業界頂尖的每瓦效能、大容量緩衝區，以及高度豐富的可程式化能力。Teralynx 提供多元的資料中心交換器產品，整個系列皆具備完整的軟體與 SDK 相容性。
應用情境
- 擴展型（Scale-out）架構：針對 Rail 架構最佳化的後端網路，可連接配備數千顆 XPU 的 AI 訓練叢集，並在大規模 GPU／XPU 運算域中，提供符合 UEC 規範的無阻塞 Spine-Leaf 網路連接，實現確定性低延遲與無損 RDMA 傳輸。
- 擴展型（Scale-up）架構：為緊密耦合的 XPU Pod 與機架級運算域提供高連接埠密度、低延遲的互連能力，支援節點或機架內高密度的全互連（all-to-all）架構，在流量進入 Scale-out 網路之前，最大化集合通訊操作（all-reduce、all-gather、all-to-all）的效能。
主要優勢
突破性的效能與擴充能力，讓客戶能以更低的功耗、延遲與成本，部署具變革性的解決方案。- 創新的 200 Gbps PAM4 SerDes 可降低每位元成本，並支援 800GbE 與 1600GbE 等更高規模的 I/O，同時向下相容 50G 與 100G PAM4。
- 採用單晶片設計，消除晶粒間通訊所帶來的額外開銷，大幅降低功耗。
- 業界領先的確定性低延遲有助於緩解尾端延遲問題，縮短 AI 訓練與微調工作負載的作業完成時間，同時提升 Token 經濟效益（tokenomics），亦即每顆 XPU 每秒處理的 Token 數量（tokens/sec/XPU）。這是評估即時 AI 應用推論叢集效率的關鍵指標。
- 強化的緩衝區共享能力可在低熵、高頻寬的 AI 網路中提供穩健的封包處理，降低壅塞與延遲。此能力對於分離式推論架構同樣至關重要，因為 Prefill 伺服器、KV Cache 層與 Decode 伺服器之間可能出現 Incast 流量模式，需要精確的緩衝區管理，才能維持吞吐量並滿足服務等級協議（SLA）。
- 提供豐富的即時分析能力，時間精度達次秒級，並可透過 REST API 輕鬆整合至終端使用者應用程式。
- 可程式化封包轉送管線可支援客製化協定與新標準協定，無須透過後續晶片改版即可因應未來網路需求。
- 512 埠級連接能力搭配卓越的 200 Gbps SerDes 效能，讓大型叢集能採用被動式銅纜進行設計，大幅降低總持有成本（TCO）。
- Teralynx 交換器支援符合標準的 SAI（Switch Abstraction Interface），可在高容量網路中實現無縫整合與可程式化管理。
*Marvell Authorized Distributor
