做深度学习的服务器需要哪些配置？

主要是看运行什么软件和数据量，训练数值大小，这里要强调一下，数值大小和数据量是不一样的。

深度学习服务器的核心部件还是CPU、硬盘、内存、GPU，特别是很多深度学习依靠GPU的大规模数据处理能力，这就要强调CPU的计算能力和数量，同时不同的数据对GPU的显存要求也不一样。

当下大部分都在用RTX3090做深度学习，最新RTX4090已经上市，单精度计算能力是RTX3090的2倍，这两个GPU都是24G显存；像A100强调双精度计算能力，显存有40G和80G两个版本，而A6000单精度计算能和RTX3090差不多，显存是48G，可以参考选择。

当然，最重要的还是口袋里的银子，A6000市场价大概是RTX的2倍还要多，A100最近更是要上十万了，估计也快买不到了，价高缺货；RTX3090/4090的价位低，性价比高，这也是为什么大部分人都选择它们做深度学习了，这是市场的选择。

服务器没有固定的程序，服务器开发程序也不是你对服务器这样片面的理解，我对边用一个电脑也可以作为数据终端，也可以把它作为服务器。服务也不仅仅是些数据终端，也可以是任务订阅，也可以是文件服务器，也可以做分布式管理。

做一个简单的场景，聊天系统，我们需要架设服务器做socket服务端，他可以指派客户端内网穿透点对点通信，也可以实现视屏文件传输，聊天字符串传输；做一个孪生动画，我们需要关心前端数据从哪里来，订阅MQT服务或者Socket服务，后端引擎和数据中心需要服务器支撑；做一个文件更新服务器，Tomcat更新服务器要存储文件，供网络下载更新......

---