同步两个SQLServer
数据库\x0d\x0a\x0d\x0a如何同步两个sqlserver数据库的内容?程序代码可以有版本管理cvs进行同步管理,可是数据库同步就非常麻烦,只能自己改了一个后再去改另一个,如果忘记了更改另一个经常造成两个数据库的结构或内容上不一致.各位有什么好的方法吗?\x0d\x0a\x0d\x0a一、分发与复制\x0d\x0a\x0d\x0a用强制订阅实现数据库同步操作. 大量和批量的数据可以用数据库的同步机制处理:\x0d\x0a//\x0d\x0a说明:\x0d\x0a为方便操作,所有操作均在发布
服务器(分发服务器)上操作,并使用推模式\x0d\x0a在客户机器使用强制订阅方式。\x0d\x0a\x0d\x0a二、测试通过\x0d\x0a\x0d\x0a1:环境\x0d\x0a\x0d\x0a服务器环境:\x0d\x0a机器名称: zehuadb\x0d\x0a操作系统:windows 2000 server\x0d\x0a数据库版本:sql 2000 server 个人版\x0d\x0a\x0d\x0a客户端\x0d\x0a机器名称:zlp\x0d\x0a操作系统:windows 2000 server\x0d\x0a数据库版本:sql 2000 server 个人版\x0d\x0a\x0d\x0a2:建用户帐号\x0d\x0a\x0d\x0a在服务器端建立域用户帐号\x0d\x0a我的电脑管理->本地用户和组->用户->建立\x0d\x0ausername:zlp\x0d\x0auserpwd:zlp\x0d\x0a\x0d\x0a3:重新启动服务器mssqlserver\x0d\x0a\x0d\x0a我的电脑->控制面版->管理工具->服务->mssqlserver 服务\x0d\x0a(更改为:域用户帐号,我们新建的zlp用户 .\zlp,密码:zlp)\x0d\x0a\x0d\x0a4:安装分发服务器\x0d\x0a\x0d\x0aa:配置分发服务器\x0d\x0a工具->复制->配置发布、订阅服务器和分发->
下一步->下一步(所有的均采用默认配置)\x0d\x0a\x0d\x0ab:配置发布服务器\x0d\x0a工具->复制->创建和管理发布->选择要发布的数据库(sz)->下一步->快照发布->下一步->选择要发布的内容->下一步->下一步->下一步->完成\x0d\x0a\x0d\x0ac:强制配置订阅服务器(推模式,拉模式与此雷同)\x0d\x0a工具->复制->配置发布、订阅服务器和分发->订阅服务器->新建->sql server数据库->输入客户端服务器名称(zlp)->使用sql server 身份验证(sa,空密码)->确定->应用->确定\x0d\x0a\x0d\x0ad:初始化订阅\x0d\x0a复制监视器->发布服务器(zehuadb)->双击订阅->强制新建->下一步->选择启用的订阅服务器->zlp->下一步->下一步->下一步->下一步->完成\x0d\x0a\x0d\x0a5:测试配置是否成功\x0d\x0a\x0d\x0a复制监视器->发布衿?zehuadb)->双击sz:sz->点状态->点立即运行代理程序\x0d\x0a\x0d\x0a查看:\x0d\x0a复制监视器->发布服务器(zehuadb)->sz:sz->选择zlp:sz(类型强制)->鼠标右键->启动同步处理\x0d\x0a\x0d\x0a如果没有错误标志(红色叉),恭喜您配置成功\x0d\x0a\x0d\x0a6:测试数据\x0d\x0a\x0d\x0a在服务器执行:\x0d\x0a\x0d\x0a选择一个表,执行如下sql:insert into wq_newsgroup_s select '测试成功',5\x0d\x0a\x0d\x0a复制监视器->发布服务器(zehuadb)->sz:sz->快照->启动代理程序 ->zlp:sz(强制)->启动同步处理\x0d\x0a\x0d\x0a去查看同步的 wq_newsgroup_s 是否插入了一条新的记录\x0d\x0a\x0d\x0a测试完毕,通过。\x0d\x0a7:修改数据库的同步时间,一般选择夜晚执行数据库同步处理\x0d\x0a(具体操作略) :d\x0d\x0a\x0d\x0a/*\x0d\x0a注意说明:\x0d\x0a服务器一端不能以(local)进行数据的发布与分发,需要先删除注册,然后新建注册本地计算机名称\x0d\x0a\x0d\x0a卸载方式:工具->复制->禁止发布->是在"zehuadb"上静止发布,卸载所有的数据库同步配置服务器\x0d\x0a\x0d\x0a注意:发布服务器、分发服务器中的sqlserveragent服务必须启动\x0d\x0a采用推模式: "d:\microsoft sql server\mssql\repldata\unc" 目录文件可以不设置共享\x0d\x0a拉模式:则需要共享~!\x0d\x0a*/\x0d\x0a少量数据库同步可以采用触发器实现,同步单表即可。\x0d\x0a\x0d\x0a三、配置过程中可能出现的问题\x0d\x0a\x0d\x0a在sql server 2000里设置和使用数据库复制之前,应先检查相关的几台sql server服务器下面几点是否满足:\x0d\x0a\x0d\x0a1、mssqlserver和sqlserveragent服务是否是以域用户身份启动并运行的(.\administrator用户也是可以的)\x0d\x0a\x0d\x0a如果登录用的是本地系统帐户local,将不具备网络功能,会产生以下错误:\x0d\x0a\x0d\x0a进程未能连接到distributor '@server name'\x0d\x0a\x0d\x0a(如果您的服务器已经用了sql server全文检索服务, 请不要修改mssqlserver和sqlserveragent服务的local启动。\x0d\x0a会照成全文检索服务不能用。请换另外一台机器来做sql server 2000里复制中的分发服务器。)\x0d\x0a\x0d\x0a修改服务启动的登录用户,需要重新启动mssqlserver和sqlserveragent服务才能生效。\x0d\x0a\x0d\x0a2、检查相关的几台sql server服务器是否改过名称(需要srvid=0的本地机器上srvname和datasource一样)\x0d\x0a\x0d\x0a在查询分析器里执行:\x0d\x0ause master\x0d\x0aselect srvid,srvname,datasource from sysservers\x0d\x0a\x0d\x0a如果没有srvid=0或者srvid=0(也就是本机器)但srvname和datasource不一样, 需要按如下方法修改:\x0d\x0a\x0d\x0ause master\x0d\x0ago\x0d\x0a-- 设置两个变量\x0d\x0adeclare @serverproperty_servername varchar(100),\x0d\x0a@servernamevarchar(100)\x0d\x0a-- 取得windows nt 服务器和与指定的 sql server 实例关联的实例信息\x0d\x0aselect @serverproperty_servername = convert(varchar(100), serverproperty('servername'))\x0d\x0a-- 返回运行 microsoft sql server 的本地服务器名称\x0d\x0aselect @servername = convert(varchar(100), @@servername)\x0d\x0a-- 显示获取的这两个参数\x0d\x0aselect @serverproperty_servername,@servername\x0d\x0a--如果@serverproperty_servername和@servername不同(因为你改过计算机名字),再运行下面的\x0d\x0a--删除错误的服务器名\x0d\x0aexec sp_dropserver @server=@servername\x0d\x0a--添加正确的服务器名\x0d\x0aexec sp_addserver @server=@serverproperty_servername, @local='local'\x0d\x0a\x0d\x0a修改这项参数,需要重新启动mssqlserver和sqlserveragent服务才能生效。\x0d\x0a\x0d\x0a这样一来就不会在创建复制的过程中出现18482、18483错误了。\x0d\x0a\x0d\x0a3、检查sql server企业管理器里面相关的几台sql server注册名是否和上面第二点里介绍的srvname一样\x0d\x0a\x0d\x0a不能用ip地址的注册名。\x0d\x0a\x0d\x0a(我们可以删掉ip地址的注册,新建以sql server管理员级别的用户注册的服务器名)\x0d\x0a\x0d\x0a这样一来就不会在创建复制的过程中出现14010、20084、18456、18482、18483错误了。\x0d\x0a\x0d\x0a4、检查相关的几台sql server服务器网络是否能够正常访问\x0d\x0a\x0d\x0a如果ping主机ip地址可以,但ping主机名不通的时候,需要在\x0d\x0a\x0d\x0awinnt\system32\drivers\etc\hosts (win2000)\x0d\x0awindows\system32\drivers\etc\hosts (win2003)\x0d\x0a\x0d\x0a文件里写入数据库服务器ip地址和主机名的对应关系。\x0d\x0a\x0d\x0a例如:\x0d\x0a\x0d\x0a127.0.0.1 localhost\x0d\x0a192.168.0.35oracledboracledb\x0d\x0a192.168.0.65fengyu02fengyu02\x0d\x0a202.84.10.193 bj_db bj_db\x0d\x0a或者在sql server客户端网络实用工具里建立别名,例如:\x0d\x0a5、系统需要的扩展存储过程是否存在(如果不存在,需要恢复):\x0d\x0a\x0d\x0asp_addextendedproc 'xp_regenumvalues',@dllname ='xpstar.dll'\x0d\x0ago\x0d\x0asp_addextendedproc 'xp_regdeletevalue',@dllname ='xpstar.dll'\x0d\x0ago\x0d\x0asp_addextendedproc 'xp_regdeletekey',@dllname ='xpstar.dll'\x0d\x0ago\x0d\x0asp_addextendedproc xp_cmdshell ,@dllname ='xplog70.dll' \x0d\x0a\x0d\x0a接下来就可以用sql server企业管理器里[复制]->右键选择 ->[配置发布、订阅服务器和分发]的图形界面来配置数据库复制了。\x0d\x0a\x0d\x0a下面是按顺序列出配置复制的步骤:\x0d\x0a\x0d\x0a1、建立发布和分发服务器\x0d\x0a\x0d\x0a[欢迎使用配置发布和分发向导]->[选择分发服务器]->[使"@servername"成为它自己的分发服务器,sql server将创建分发数据库和日志]\x0d\x0a->[制定快照文件夹]->[自定义配置] ->[否,使用下列的默认配置] ->[完成]\x0d\x0a\x0d\x0a上述步骤完成后, 会在当前"@servername" sql server数据库里建立了一个distribion库和 一个distributor_admin管理员级别的用户(我们可以任意修改密码)。\x0d\x0a\x0d\x0a服务器上新增加了四个作业:\x0d\x0a\x0d\x0a[ 代理程序历史记录清除: distribution ]\x0d\x0a[ 分发清除: distribution ]\x0d\x0a[ 复制代理程序检查 ]\x0d\x0a[ 重新初始化存在数据验证失败的订阅 ]\x0d\x0a\x0d\x0asql server企业管理器里多了一个复制监视器, 当前的这台机器就可以发布、分发、订阅了。\x0d\x0a\x0d\x0a我们再次在sql server企业管理器里[复制]->右键选择 ->[配置发布、订阅服务器和分发]\x0d\x0a\x0d\x0a我们可以在 [发布服务器和分发服务器的属性] 窗口->[发布服务器] ->[新增] ->[确定] ->[发布数据库] ->[事务]/[合并] ->[确定] ->[订阅服务器] ->[新增] ->[确定]\x0d\x0a\x0d\x0a把网络上的其它sql server服务器添加成为发布或者订阅服务器.\x0d\x0a\x0d\x0a新增一台发布服务器的选项:\x0d\x0a\x0d\x0a我这里新建立的jin001发布服务器是用管理员级别的数据库用户test连接的,\x0d\x0a\x0d\x0a到发布服务器的管理链接要输入密码的可选框, 默认的是选中的,\x0d\x0a\x0d\x0a在新建的jin001发布服务器上建立和分发服务器fengyu/fengyu的链接的时需要输入distributor_admin用户的密码。到发布服务器的管理链接要输入密码的可选框,也可以不选,也就是不需要密码来建立发布到分发服务器的链接(这当然欠缺安全,在测试环境下可以使用)。\x0d\x0a\x0d\x0a2、新建立的网络上另一台发布服务器(例如jin001)选择分发服务器\x0d\x0a\x0d\x0a[欢迎使用配置发布和分发向导]->[选择分发服务器]\x0d\x0a\x0d\x0a->使用下列服务器(选定的服务器必须已配置为分发服务器) ->[选定服务器](例如fengyu/fengyu)\x0d\x0a\x0d\x0a->[下一步] ->[输入分发服务器(例如fengyu/fengyu)的distributor_admin用户的密码两次]\x0d\x0a\x0d\x0a->[下一步] ->[自定义配置] ->[否,使用下列的默认配置]\x0d\x0a\x0d\x0a->[下一步] ->[完成] ->[确定]\x0d\x0a\x0d\x0a建立一个数据库复制发布的过程:\x0d\x0a\x0d\x0a[复制] ->[发布内容] ->右键选择 ->[新建发布]\x0d\x0a\x0d\x0a->[下一步] ->[选择发布数据库] ->[选中一个待发布的数据库]\x0d\x0a\x0d\x0a->[下一步] ->[选择发布类型] ->[事务发布]/[合并发布]\x0d\x0a\x0d\x0a->[下一步] ->[指定订阅服务器的类型] ->[运行sql server 2000的服务器]\x0d\x0a\x0d\x0a->[下一步] ->[指定项目] ->[在事务发布中只可以发布带主键的表] ->[选中一个有主键的待发布的表]\x0d\x0a\x0d\x0a->[在合并发布中会给表增加唯一性索引和 rowguidcol 属性的唯一标识符字段[rowguid],默认值是newid()]\x0d\x0a\x0d\x0a(添加新列将: 导致不带列列表的 insert 语句失败,增加表的大小,增加生成第一个快照所要求的时间)\x0d\x0a\x0d\x0a->[选中一个待发布的表]\x0d\x0a\x0d\x0a->[下一步] ->[选择发布名称和描述] ->\x0d\x0a\x0d\x0a->[下一步] ->[自定义发布的属性] ->[否,根据指定方式创建发布]\x0d\x0a\x0d\x0a->[下一步] ->[完成] ->[关闭]\x0d\x0a\x0d\x0a发布属性里有很多有用的选项:设定订阅到期(例如24小时)\x0d\x0a\x0d\x0a设定发布表的项目属性:\x0d\x0a\x0d\x0a常规窗口可以指定发布目的表的名称,可以跟原来的表名称不一样。\x0d\x0a\x0d\x0a下图是命令和快照窗口的栏目\x0d\x0a\x0d\x0a( sql server 数据库复制技术实际上是用insert,update,delete操作在订阅服务器上重做发布服务器上的事务操作\x0d\x0a\x0d\x0a看文档资料需要把发布数据库设成完全恢复模式,事务才不会丢失\x0d\x0a\x0d\x0a但我自己在测试中发现发布数据库是简单恢复模式下,每10秒生成一些大事务,10分钟后再收缩数据库日志,\x0d\x0a这期间发布和订阅服务器上的作业都暂停,暂停恢复后并没有丢失任何事务更改 )\x0d\x0a\x0d\x0a发布表可以做数据筛选,例如只选择表里面的部分列:\x0d\x0a\x0d\x0a例如只选择表里某些符合条件的记录, 我们可以手工编写筛选的sql语句:\x0d\x0a\x0d\x0a发布表的订阅选项,并可以建立强制订阅:\x0d\x0a\x0d\x0a成功建立了发布以后,发布服务器上新增加了一个作业: [ 失效订阅清除 ]\x0d\x0a\x0d\x0a分发服务器上新增加了两个作业:\x0d\x0a[ jin001-dack-dack-5 ] 类型[ repl快照 ]\x0d\x0a[ jin001-dack-3 ] 类型[ repl日志读取器 ]\x0d\x0a\x0d\x0a上面蓝色字的名称会根据发布服务器名,发布名及第几次发布而使用不同的编号\x0d\x0a\x0d\x0arepl快照作业是sql server复制的前提条件,它会先把发布的表结构,数据,索引,约束等生成到发布服务器的os目录下文件\x0d\x0a(当有订阅的时候才会生成, 当订阅请求初始化或者按照某个时间表调度生成)\x0d\x0a\x0d\x0arepl日志读取器在事务复制的时候是一直处于运行状态。(在合并复制的时候可以根据调度的时间表来运行)\x0d\x0a\x0d\x0a建立一个数据库复制订阅的过程:\x0d\x0a\x0d\x0a[复制] ->[订阅] ->右键选择 ->[新建请求订阅]\x0d\x0a\x0d\x0a->[下一步] ->[查找发布] ->[查看已注册服务器所做的发布]\x0d\x0a\x0d\x0a->[下一步] ->[选择发布] ->[选中已经建立发布服务器上的数据库发布名]\x0d\x0a\x0d\x0a->[下一步] ->[指定同步代理程序登录] ->[当代理程序连接到代理服务器时:使用sql server身份验证]\x0d\x0a(输入发布服务器上distributor_admin用户名和密码)\x0d\x0a\x0d\x0a->[下一步] ->[选择目的数据库] ->[选择在其中创建订阅的数据库名]/[也可以新建一个库名]\x0d\x0a\x0d\x0a->[下一步] ->[允许匿名订阅] ->[是,生成匿名订阅]\x0d\x0a\x0d\x0a->[下一步] ->[初始化订阅] ->[是,初始化架构和数据]\x0d\x0a\x0d\x0a->[下一步] ->[快照传送] ->[使用该发布的默认快照文件夹中的快照文件]\x0d\x0a(订阅服务器要能访问发布服务器的repldata文件夹,如果有问题,可以手工设置网络共享及共享权限)\x0d\x0a\x0d\x0a->[下一步] ->[快照传送] ->[使用该发布的默认快照文件夹中的快照文件]\x0d\x0a\x0d\x0a->[下一步] ->[设置分发代理程序调度] ->[使用下列调度] ->[更改] ->[例如每五分钟调度一次]\x0d\x0a\x0d\x0a->[下一步] ->[启动要求的服务] ->[该订阅要求在发布服务器上运行sqlserveragent服务]\x0d\x0a\x0d\x0a->[下一步] ->[完成] ->[确定]\x0d\x0a\x0d\x0a成功建立了订阅后,订阅服务器上新增加了一个类别是[repl-分发]作业(合并复制的时候类别是[repl-合并])\x0d\x0a\x0d\x0a它会按照我们给的时间调度表运行数据库同步复制的作业。\x0d\x0a\x0d\x0a3、sql server复制配置好后, 可能出现异常情况的实验日志:\x0d\x0a\x0d\x0a1.发布服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制没有多大影响\x0d\x0a\x0d\x0a中断期间,分发和订阅都接收到没有复制的事务信息\x0d\x0a\x0d\x0a2.分发服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制有一些影响\x0d\x0a\x0d\x0a中断期间,发布服务器的事务排队堆积起来\x0d\x0a(如果设置了较长时间才删除过期订阅的选项, 繁忙发布数据库的事务日志可能会较快速膨胀),\x0d\x0a\x0d\x0a订阅服务器会因为访问不到发布服务器,反复重试\x0d\x0a我们可以设置重试次数和重试的时间间隔(最大的重试次数是9999, 如果每分钟重试一次,可以支持约6.9天不出错)\x0d\x0a\x0d\x0a分发服务器sql server服务启动,网络接通以后,发布服务器上的堆积作业将按时间顺序作用到订阅机器上:\x0d\x0a\x0d\x0a会需要一个比较长的时间(实际上是生成所有事务的insert,update,delete语句,在订阅服务器上去执行)\x0d\x0a我们在普通的pc机上实验的58个事务100228个命令执行花了7分28秒.\x0d\x0a\x0d\x0a3.订阅服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制影响比较大,可能需要重新初试化\x0d\x0a\x0d\x0a我们实验环境(订阅服务器)从18:46分意外停机以, 第二天8:40分重启动后, 已经设好的复制在8:40分以后又开始正常运行了, 发布服务器上的堆积作业将按时间顺序作用到订阅机器上, 但复制管理器里出现快照的错误提示, 快照可能需要重新初试化,复制可能需要重新启动.(我们实验环境的机器并没有进行快照初试化,复制仍然是成功运行的)\x0d\x0a\x0d\x0a4、删除已经建好的发布和定阅可以直接用delete删除按钮\x0d\x0a\x0d\x0a我们最好总是按先删定阅,再删发布,最后禁用发布的顺序来操作。\x0d\x0a\x0d\x0a如果要彻底删去sql server上面的复制设置, 可以这样操作:\x0d\x0a\x0d\x0a[复制] ->右键选择 [禁用发布] ->[欢迎使用禁用发布和分发向导]\x0d\x0a\x0d\x0a->[下一步] ->[禁用发布] ->[要在"@servername
最近公司开发了一个捕鱼游戏,现在想要把这个项目嵌入到公司已有的游戏中,成为其子游戏,开发捕鱼的服务器框架是基于 skynet 的框架(独立一套系统)。而已有的游戏服务器框架是c++自研框架(也是独立的一套系统),所以需要解决一个问题:就是两个系统中数据共享的问题,因为用户都是现有游戏中的。捕鱼并没有用户,用户从主游戏中进入到捕鱼势必要把 ta 的金币、钻石、道具等数据带到捕鱼服务器,最终用户退出捕鱼游戏,要把用户现在的金币和其他数据移动回去,这里就涉及到数据共享和维护数据唯一性的问题了。
最初的方案是选择 http 请求通知的方式进行通信。但是考虑到极端情况: 如高并发,如果一秒钟发起 2W 次请求那么以 http 的处理方式就是要 每秒建立tcp链接和断开链接 * 2W次,文件描述符占用、和不能便捷集成到两个系统业务层中、以及网络异常处理需要依赖到DB保存数据待后续恢复、以及后续的集群部署需要再做考虑,等等这些缺点都是无法忍受的。
后面考虑用 redis 的 Pub/Sub 来实现高效的 MQ 并且在请求发起的时候如果超时,如果数据是必须被对方接收的话,还可以直接把数据写入缓存,让对端自行获取。遂和其他 xxMQ 进行对比,最后不管从易用性、通用性、高可用等等方面上都是 redis 胜出,当然 redis 的 Pub/Sub 也是有缺点的,但是使用到上述的这个应用场景来说,都是可以忽略的。
数据一致性保证机制
如果发起端请求对端超时 会将请求的数据写入到缓存,其格式如下:
保存到 redis 中的类型:set
key: 捕鱼缩写(f) + "_" + 用户uid
value: "请求的命令 "+" @ " + [ k + "|" + value [ k + "|" + value ...] ]
实例 key = f_10001 value = req_mv_gold@gold=10000|session=1
含义为:捕鱼发起的请求(f) 用户uid(10001) 命令(req_mv_gold)和携带数据用 "@" 分割,数据中字段与字段用 "|" 进行分割。数据解析,按对应命令协议定义结构进行解析。
1.用户登录了捕鱼,进入捕鱼游戏,用户向斗地主发起请求 req_mv_gold 数据中 gold 字段值为 0,斗地主就把用户的金币先保存到临时变量,然后置空用户的金币,再把用户金币通过 rsp_mv_gold 发送给捕鱼,如果 rsp_mv_gold 没有收到响应,斗地主要把钱加回给用户,意味这一次转移金币失败
2.假如用户已经成功完成了上面的步骤,此时用户在斗地主中的金币值为 0,在捕鱼中的金币值为用户实际金币值。
3.等用户退出捕鱼游戏就再次向斗地主发起第一个步骤的请求,如果成功,则完成了金币转移,如果失败(可能斗地主服务器中,这个用户下线了,可能斗地主奔溃了,可能网络阻塞或者掉线),捕鱼会把这次的请求写入到 redis 中,也就是上面的这个例子。
4.用户再次登录斗地主时,斗地主服务器需要去redis中查看是否有 捕鱼缩写(f) + " " + 用户uid 的这个健的存在,如果存在了,就要读取该键全部的成员
如:SMEMBERS f_10001,(理论上来说,每种请求最多一条记录)并且删除掉 redis中的 捕鱼缩写(f)+" "+uid 的健 如:DEL f_10001。并且按具体内容恢复数据。
这个机制适用于全部需要确保对端收到的命令。如果对端是捕鱼,那么 set 的键是 斗地主缩写(d) + "_" + uid,表示斗地主发起的请求失败了,捕鱼会按上面的流程自行处理。
评论列表(0条)