请问浪潮服务器怎么样解决GPU数据共享的延迟情况?

请问浪潮服务器怎么样解决GPU数据共享的延迟情况?,第1张

浪潮服务器AGX-2(NF5288M5)这款应用效果很不错,我公司应用了该服务器后,改善了多 GPU 数据共享的延迟情况,而且还为计算提供更优秀的加速比,降低系统延迟,整体性能比以往强劲,非常适合深度学习模型训练、线下推理、科学计算及工程计算与研究等领域的应用。

业内人士都知道,趋动科技与浪潮联合打造了业内领先的一体化GPU资源池化解决方案。在GTC China元脑生态技术论坛上,趋动科技分享了对浪潮服务器NF5488A5的实测数据。本次测试采用TensorFlow框架的Benchmark,测试小模型推理、大模型训练等多种AI应用场景,验证趋动科技OrionX AI加速器资源池化方案对浪潮服务器NF5488A5的兼容性和性能。结果表明, 浪潮服务器NF5488A5性能优异,部署资源池化方案后,本机性能损耗小于1%,对比以往服务器的GPU性能,数据提升近50%。

浪潮服务器可以实现对GPU资源的统一管理,也即实时掌握集群资源使用情况,实时掌握用户任务执行情况,另外,GPU 资源还可以自动调度,通过精细化的调度策略,从而提升GPU资源利用率,另外,还可以提供完整的工作流程。


欢迎分享,转载请注明来源:夏雨云

原文地址:https://www.xiayuyun.com/zonghe/531812.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-06-23
下一篇2023-06-23

发表评论

登录后才能评论

评论列表(0条)

    保存