泉州显卡服务器租用如何选择内存、CPU和磁盘?

泉州显卡服务器租用如何选择内存、CPU和磁盘?

选择内存

内存应当选择采用时序频率高以及容量大的内存，虽然机器学习的性能和内存大小无关，但是为了避免GPU执行代码在执行时被交换到磁盘，需要配置足够的RAM，也就是GPU显存对等大小内存。

例如使用24G内存的Titan RTX，至少需要配置24G内存，不过，如果使用更多GPU并不需要更多内存。如果内存大小已经匹配上GPU卡的显存大小，仍然可能在处理极大的数据集出现内存不足的情况，这个时候应该升配GPU来获得比当 前双倍的内存或者更换内存更大实例。

因为内存在充足的情况下不会影响性能，如果内存使用超载则会导致进程被Killd或者程序运行缓慢情况。

选择CPU

在load数据过程中，就需要用到大量的CPU和内存，如果CPU主频较低或者CPU核心较少的情况下，会限制数据的读取速度，从而拉低整体训练速度，成为训练中的瓶颈。

建议选择核心较多且主频较高的的机器，每台机器中所分配的CPU核心数量可以通过创建页面查看，也可以通过CPU型号去搜索该CPU的主频和睿频的大小。

CPU的核心数量也关系到num_workers参数设置的数值，num_worker设置得大，好处是寻batch速度快，因为下一轮迭代的batch很可能在上一轮/上上一轮…迭代时已经加载好了。坏处是内存开销大，也加重了CPU负担(worker加载数据到RAM的进程是CPU进行复制)。num_workers的经验设置值是 <= 服务器的CPU核心数。

选择磁盘

在进行训练或者推理的过程中需要不断的与磁盘进行交互，如果磁盘IO性能较差，则同样会成为整个训练速度的瓶颈;推荐用户使用 /hy-tmp目录进行数据集存储和训练，因为该目录为机器本地磁盘，训练速度最快，IO效率最高。

平台的所有机器中，目前大多数机器都采用SSD高效磁盘，比传统机械磁盘速度要高几倍，还有速度更快的NVME磁盘，在进行机器选择的时可根据需要选择磁盘IO较好的磁盘。

平台中各种类型磁盘读写效率如下：

以下内容均测试为随机读/写性能，这也是磁盘在日常的使用场景，磁盘厂商所描述的3000MB+、5000MB+这种磁盘读写效率均为顺序读写，并不符合我们日常使用场景。

NVME类型磁盘： 每秒随机写 >= 1700MB 每秒随机读 >= 2400MB

SSD类型磁盘： 每秒随机写 >= 460MB 每秒随机读 >= 500MB

HDD类型磁盘： 每秒随机写 ~= 200MB 每秒随机读 ~= 200MB

纵横数据专业提供显卡服务器租用，包含厦门显卡服务器、泉州显卡服务器、江西显卡服务器、成都显卡服务器、美国显卡服务器、韩国显卡服务器等租用，有需要的朋友可以咨询我们，官网：https://www.zndata.com/，QQ：3494196421，微信：19906048603。