订阅电子报,掌握最新科技与产业趋势
2023/02/23
云服务器中的 CXL 内存扩充与池化

云服务器中的 CXL 内存扩充与池化
随着个人与企业所产生及使用的资料量急剧增长,为了支持使用人工智能 (AI)、机器学习 (ML) 等复杂模型的应用,云服务供应商需要一套全新的架构来存储、分析及传送资料。但由于内存容量需求不断上升,使得处理器数量及内存频宽达到瓶颈,举例来说,尽管 DRAM 占服务器成本的比例高达 50%,却受限于内存无法连接到多个 CPU 或 GPU 的架构,导致在各个时间段中约有 25% 的内存处于闲置的窘境。
Compute Express Link (CXL) 是一种用于处理器、内存扩展和加速器的开放标准。 CXL 内存控制器允许内存通过扩张、池化、共享等方式,增加内存利用率,并减少总拥有成本 (TCO),同时改善系统能效及效率,以支持通用运算、AI 训练和推理、机器学习、内存资料库、内存分层及其他应用专属的工作负载。 CXL 内存控制器也提供了高度的弹性,保留未来升级的空间,与主流 CPU、GPU 与内存厂商的相容性让这个产品能够更容易被管理、侦错及规模化。





