如何收集和存储服务器运营的数据

如何收集和存储服务器运营的数据

1、大数据的处理 经过长时间的实践和总结，我们发现服务器运营的大数据有以下四个特点，由浅入深，分别是： ...

2、运营系统架构 对于海量服务器的管理，我们建立了一套功能强大的运营分析系统，从服务器的带内和带外收集了全面的静态属性和动态运行数据，对服务器的每个关节进行的全方位的数据采集和监控，犹如我们平时体检，把心、肝、脾、肺、肾，甚至每个毛孔，都进行了检查，系统架构如下图所示：

3、存储和分析 数据收集起来后，除了一部分实时的数据存在本地数据库，几乎全部的历史数据都会存储在公司级的数据平台中，这个数据平台提供了丰富的工具系统，功能全面，涵盖了数据存储、分析、实时计算等。 ...

4、大数据的四个实践

（1）、硬盘故障预测

（2）、服务器利用率分析

（3）、故障率分析

（4）、环境监控

亿万克是研祥高科技控股集团旗下全资子公司。研祥集团作为中国企业500强，持续运营30年。研祥集团全球49个分支机构，三个国家级创新平台，一直致力于技术创新引领行业发展，拥有超1100项授权专利，超1300项非专利核心技术。【感兴趣请点击此处，了解一下。 】

通过多源的数据采集，收集到尽可能多的 数据维度 ，同时保证数据的质量，这样才能得到高质量的数据挖掘结果。

获取数据的方式

1.开放数据源

2.python爬虫，request爬取内容——>xpath解析内容——>pandas保存数据

3.工具。火车采集器，八爪鱼，集搜客

4.传感器采集

5.日志采集。web服务器采集，自定义采集用户行为

思路:

1.log4j的配置文件支持System Property的环境变量的获取,如user home

2.通过ServletContext可以获取到集群中每个server name

3.在不同的server启动时将不同server name的加载到System Property

4.在配置文件中增加一个${WebAppClusterServer}的参数,拼合server_name+logfile_name

5.配置文件的定义：

**************************************************

*logpath=e:/${WebSphereAppHost}_

*log4j.appender.logfile.File=${logpath}test.log

**************************************************

---