服务器128G内存能处理多大日志文件

服务器128G内存能处理多大日志文件,第1张

具体如下。

128G内存能够存128g、1024m、1024kb、1024byte150字节(一个文件块占用150字节)=9亿。

计算:一个文件对应一个切片->maptask。

解决办法:har归档重点、自定义Inputformat->减少nn内存。

CombineTextInputformat->减少切片数->减少maptask。

jvm重用:开始块大小、副本数。

由于服务器上一致跑着项目,时间久了日志会越来越大,这样很占内存,如不即使清理,有可能会把服务器的服务搞崩。

有一个简单的方法,就是不用停止服务,可以对日志进行动态清楚。

服务器主板,或工作站级电脑,都可以支持128G的内存。\x0d\x0a1、个人电脑,主板最多4个插槽。\x0d\x0a2、目前单条内存最大容量是16G。因此,16x4=64。\x0d\x0a3、工作站级和服务器主板,一般都至少有8个内存插槽,有的有12或更多。这样,足够配置128G或更高的内存了。

RH官网的推荐。其实SWAP大了很浪费硬盘空间。

目前RedHat推荐交换分区的大小应当与系统物理内存的大小保持线性比例关系。不过在小于2GB物理内存的系统中,交换分区大小应该设置为内存大小的两倍,如果内存大小多于2GB,交换分区大小应该是物理内存大小加上2GB。其原因在于,系统中的物理内存越大, 对于内存的负荷可能也越大。但是,如果物理内存大小扩展到数百GB,这样做就没什么意义了。

实际上,系统中交换分区的大小并不取决于物理内存的量,而是取决于系统中内存的负荷。Red Hat Enterprise Linux5可以在这样的情况下工作:完全没有交换分区,而且系统中匿名内存页和共享内存页小于3/4的物理内存量。在这种情况下,系统会将匿名内存页和共享内存页锁定在物理内存中,而使用剩余的物理内存来缓冲文件系统数据(pagecache),当内存耗尽时, 系统内核只会回收利用这些pagecache内存。

考虑到以下情况:

1)安装系统时难以确定内存的负荷,如何设置交换分区大小

2)系统中物理内存越大,所需交换分区就会越少

因此,在Red Hat Enterprise Linux 5中,以下是设置合适的交换分区大小的规则:

小于等于4G物理内存的系统,至少设置2GB的交换分区

4G~16G物理内存的系统,至少设置4GB的交换分区

16G~64G物理内存的系统,至少设置8GB的交换分区

16G~256G物理内存的系统,至少设置16GB的交换分区


欢迎分享,转载请注明来源:夏雨云

原文地址:https://www.xiayuyun.com/zonghe/227545.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-04-08
下一篇2023-04-08

发表评论

登录后才能评论

评论列表(0条)

    保存