如何收集和存储服务器运营的数据

如何收集和存储服务器运营的数据

1、大数据的处理 经过长时间的实践和总结，我们发现服务器运营的大数据有以下四个特点，由浅入深，分别是： ...

2、运营系统架构 对于海量服务器的管理，我们建立了一套功能强大的运营分析系统，从服务器的带内和带外收集了全面的静态属性和动态运行数据，对服务器的每个关节进行的全方位的数据采集和监控，犹如我们平时体检，把心、肝、脾、肺、肾，甚至每个毛孔，都进行了检查，系统架构如下图所示：

3、存储和分析 数据收集起来后，除了一部分实时的数据存在本地数据库，几乎全部的历史数据都会存储在公司级的数据平台中，这个数据平台提供了丰富的工具系统，功能全面，涵盖了数据存储、分析、实时计算等。 ...

4、大数据的四个实践

（1）、硬盘故障预测

（2）、服务器利用率分析

（3）、故障率分析

（4）、环境监控

亿万克是研祥高科技控股集团旗下全资子公司。研祥集团作为中国企业500强，持续运营30年。研祥集团全球49个分支机构，三个国家级创新平台，一直致力于技术创新引领行业发展，拥有超1100项授权专利，超1300项非专利核心技术。【感兴趣请点击此处，了解一下。 】

存储过程（StoredProcedure）是一组为了完成特定功能的结构化查询语言（StructuredQueryLanguage，SQL）语句集，经编译后存储在数据库中，用户通过指定存储过程的名字并给出参数（如果该存储过程带有参数）来执行它。

存储过程是SQL语句和可选控制流语句的预编译集合，以一个名称存储并作为一个单元处理。存储过程存储在数据库内，可由应用程序通过一个调用执行，而且允许用户声明变量、有条件地执行，它具有强大的编程功能。存储过程的优点存储过程位于数据库服务器中，是一个SQL语句的集合，可包含一个或多个SQL语句。

存储过程是利用数据库服务器所提供的Transact−SQL语言编写的程序。存储过程在创建时即在服务器上进行编译，所以执行起来比单个SQL语句快，总的来说具有以下几个方面的优点。

（（1)存储过程增强了SQL语言的功能和灵活性。存储过程可以用来控制语句编写，有很强的灵活性，可以完成复杂的判断和较复杂的运算。

（2）存储过程是标准组件，允许编程。存储过程被创建后，可以在程序中被多次调用，而不必重新编写该存储过程的SQL语句。而且数据库专业人员可以随时对存储过程进行修改，对应用程序源代码也毫无影响。

（3）存储过程能实现较快的执行速度。如果某一操作包含大量的Transact−SQL代码或分别被多次执行，那么存储过程要比批处理的执行速度快很多。因为存储过程是预编译的。在首次运行一个存储过程时查询，优化器对其进行分析优化，并且给出最终被存储在系统表中的执行计划。而批处理的Transact−SQL语句在每次运行时都要进行编译和优化，速度相对要慢一些。

（4）存储过程能够减少网络传输流量。针对同一个数据库对象的操作（如查询、修改），如果这一操作所涉及的Transact−SQL语句被组织成存储过程，那么当在客户计算机上调用该存储过程时，网络中传送的只是该调用语句，从而大大增加了网络流量并降低了网络负载。

（5）存储过程可被作为一种安全机制来充分利用。系统管理员通过执行某一存储过程的权限进行限制，能够实现对相应的数据的访问权限的限制，避免了非授权用户对数据的访问，保证了数据的安全。

D2T (Disk to Tape)方式是传统保存备份数据方式，基本数据流程为:备份服务器按照既定策略，在相应时间发出控制命令，将生产服务器主盘的数据通过LAN或SAN备份到磁带机或磁带库中。随着磁带机及磁带技术的发展，磁带机的读/写速度及磁带容量已有了突飞猛进的发展，但由于磁带机及磁带是机械设备，其固有的上载、定位、下载、顺序读/写等特性，决定了当用户数量大、备份主机数目较多时，备份或恢复速度仍然较慢，尤其对大数据量的恢复。2. D2D保存备份数据方式随着基于SATA磁盘技术的戍熟及价格的下降， D2D (Disk to Disk)方式正逐渐被越来越多的用户采用，基本数据流程为:备份服务器按照既定策略，在相应时间发出控制命令，将生产服务器主盘的数据通过LAN或SAN备份到相应的磁盘设备中。3. D2D2T保存备份数据方式D2D2T (Disk to Disk to Tape)方式结合了传统磁带的离线管理和磁盘高速备份恢复的特性，基本数据流程为:备份服务器按照既定策略，在相应时间发出控制命令，将生产服务器主盘的数据通过LAN或SAN备份到相应的磁盘设备中。由相应生产主机或备份服务器(依备份架构而定)在既定时间自动将保存在备份磁盘中的数据复制到磁带库中。同时，缩短磁盘中相应备份数据的保存备份数据周期，从而可以将其覆盖新的备份数据，释放了备份磁盘的空间。

---