使用T4对这些AI推理模型加速时,采用传统物理机部署和使用云服务器部署,在使用和性能上有什么差异?
蓝海大脑深度学习液冷服务器研究人员表示:其实现在的很多场景都部署在物理机上,云服务的好处是可以动态的进行资源的申请,这样就不用考虑高峰期的资源复用问题,只需要在高峰时期弹性的申请资源。对于传统物理机的部署的场景,其实可以更好的去处理你的wo
蓝海大脑深度学习液冷服务器研究人员表示:其实现在的很多场景都部署在物理机上,云服务的好处是可以动态的进行资源的申请,这样就不用考虑高峰期的资源复用问题,只需要在高峰时期弹性的申请资源。对于传统物理机的部署的场景,其实可以更好的去处理你的wo