优刻得发布DPU裸金属训练集群

转自：北京商报

北京商报讯（记者 杨月涵）3月20日，“优刻得云计算”官微发布消息称，在近日的AI盛会GTC专题会议环节，优刻得研发总监王晓慧发布了基于DPU裸金属的训练集群，演示了集群在大模型场景的应用实践。在英伟达的支持下，优刻得率先将DPU应用于裸金属物理云，实现了软件定义的计算、存储和网络，助力集群计算效率提升。她强调，DPU裸金属训练集群为高带宽、低延迟、数据密集的大模型训练场景提供强大的计算引擎，大幅提升了网络处理能力和数据传输速度。

据介绍，基于DPU裸金属所构建的训练集群在高性能计算、数据和模型并行处理等方面优势突出，可轻松应对大模型时代下的严苛性能要求和工作负载挑战。DPU裸金属集群可以提供训练所需的强大算力，具备千卡规模的模型训练能力；同时以低延迟、高吞吐的特性，充分满足了大规模数据处理和高并发场景的需求，加速模型训练过程。此外，DPU的引入赋予了训练集群更高的灵活性和可扩展性，使得用户能够根据实际业务需求灵活选择适配的硬件和软件堆栈，确保持续优化模型的训练性能和效