盘古网络成立于2003年,是百度推广的最大代理商,业务覆盖河北、辽宁、吉林三个省份,其提供域名注册、虚拟主机、企业邮局、网站建设、网络推广、呼叫中心、电子支付等全套网络营销解决方案。
经营范围
定制网站
为客户量身打造的优质网站:
网页实现与布局采用业界领先的DIV+CSS技术,网页访问效率高,打开速度加倍,访客留存率高,全动态的网站,几乎所有的页面都可以通过后台进行修改维护,编码使用UTF-8技术,符合国际编码格式,并且在全球主流的各种浏览器中通过调试,页面不会变形。
盘古建站
盘古建站是盘古网络独创的最新互联网产品。盘古网络对产品的研发与定位,完全从客户的需求出发,充分结合网络营销特点,力求设计风格多样,网站功能健全,每一套网站都是盘古网络独立设计与开发的全动态网站,目前,已经有数万家企业成为盘古建站客户。
百度推广
百度业务覆盖辽宁、河北、吉林三省,是一流的百度产品推广服务运营商。
域名、空间、企业邮局
盘古网络与微软、万网竭诚战略合作伙伴,能够为您提供优质、稳定、贴心的IDC服务,协助您更好的进行网络营销。
智能400
智能400实现了简单提升企业形象,到位企业的营销和服务增值的转变。通信专家认为,智能400已经具备初级呼叫中心功能,在接入手段、电话转接与处理、信息管理等方面大大增强。
近年来随着政务云用户对资源量的需求越来越大,其所支撑的业务范围也随之扩大,如今的政务云已经成为数字政府、数字城市建设的关键基础设施了。据工信部研究数据显示,截至2020年我国政务云市场规模已经达到了653.6亿元,较上年同期增长了42.35%。
随着政务云市场的逐年扩大,相关的行业竞争也进一步加剧。当前,政务云市场的参与厂商大致可以分为四类: 一是以中国电信、中国移动等为代表的基础电信企业;二是以浪潮云、华为云等为代表的传统IT技术企业;三是以阿里云、腾讯云、百度云为代表的互联网企业;四是以神州数码等为代表的系统集成商。 总之,各类云玩家的背景虽然不同,但对政务云市场却都是势在必得。
难以忽视的G端市场
那么,为何众云服务巨头都不约而同地选择了政务云市场呢?这或许与政务云市场本身的特点分不开。
首先,政务云市场规模巨大。 据中国信息通信研究院发布的《中国政务云发展白皮书(2018)》预测,至2021年,政务云将以813亿元规模占国内云计算市场总规模的43.8%,几乎接近于中国云服务行业的半壁江山。另据前瞻产业研究院预计,2021年-2026年中国政务云市场将不断发展,预计到2026年市场规模将达到2800亿元,其未来增长潜力巨大。
其次,利好政策的不断出台正助力政务云加快落地速度。 从2017年《政务信息系统整合共享实施方案》推出,到2018年《深化“互联网+政务服务”推进政务服务“一网、一门、一次”改革实施方案的通知》提出……各种利好政策的不断出台,极大地加快了地方政务云的落地速度。
远的不说,2019年6月份云南省政府推出的“数字云南”项目,就将预计的总投资额提到了1033.44亿元,涉及地方政务云项目达到了210个,仅此一个项目就吸引了包括中国移动、华为云、腾讯云等一众巨头前来分食,足见地方政务云项目的吸引力之大。
另外,疫情的到来也进一步催化了政府上云的速度。 据前瞻研究院整理的工信部数据显示,2018-2020年中国政务云市场的增速分别为31.3%、25.7%、42.3%,其中2020年政务云的增速就较前两年上升了10多个百分点,不难看出疫情对行业产生的影响。
据悉,在我国现存的334个地级行政区中,已经有235个地级行政区已经建设或者正在招标建设政务云,整体占比可能已经超过70%,放眼未来地方政务云升级还将带来新的增长机会。
华为云一马当先
据IDC发布的《融合创新,走出内卷-- 2020政务云服务运营市场研究报告》显示,华为云在政务云市场占有率达32.2%,蝉联中国政务云基础设施市场份额(IaaS)第一。相比去年同期,华为云在占领接近3成政务云市场份额的同时,依旧保持了约20.3%的快速增长,已经显示出了明显的马太效应。拉长时间来看,这种马太效应是华为长期累积的结果。
首先,其政务云业务起步比较早,因此其在政务云项目建设方面积累了相当丰富的建设经验。 政务云市场客户身份的“特殊性”,决定了政务云市场的拓展比一般企业云项目的推进要更严格,云服务企业与地方政府建立信任的过程也是一个长期过程,因此先入为主的品牌往往更占优势。
作为ICT运营商,华为一直与中石油、中石化、中国移动等国企部门保持着紧密合作,这种合作关系使其在推动国企参与地方信息化建设方面,扮演了特殊而重要的角色,而这种角色也对其参与地方政务云建设发挥了积极作用。其于2012年与中石油在新疆克拉玛依市共同建立的数据中心项目(智能油田项目),就是其推进地方政务云项目落地的最早例证。
由于起步较早,华为云在政务云市场树立了绝佳的标杆效应,在政务云核心的两大市场华为都占据了领先优势。据公开的2020年政务云基础设施市场份额数据显示,2020年头部6家厂商占据了整个市场份额的90%,其中公有云市场头部4家厂商占到了82%,专属云市场头部3家占到了87%。而无论是在公有云市场还是专属云市场,华为云均列居前三的位置。
其次,华为云拥有很完整的云技术生态和渠道销售能力。 在运营能力方面,华为推出的华为云Stack系统,可以帮助客户实现多云多资源池的统一管理,可同时支持华为鲲鹏与x86架构混合部署,具备多级运营运维能力,可灵活适应政企组织架构,实现用户视角一朵云。在服务创新方面,它通过统一的华为擎天架构,可在本地数据中心为客户提供与华为云一致的云服务使用体验,可同步包括AI、大数据、IoT、区块链等10大类云服务技术。
另外,华为云还联合1000+ISV伙伴合作,为政企客户提供2000+联合解决方案,并通过华为云Marketplace混合云专区,让客户在本地管理界面上就可以一键获取海量优质行业应用,由此形成生态级别的云服务体验。
同时,华为云还通过在全国30多个省级行政区建立代表处(本地与区域结合),派驻城市总经理不断下沉攻占地方政务云市场,这也使其在极短的时间之内就将政务云业务,从几年之前的90多亿做到了2020年的170多亿。这种方法也被后来的腾讯云、阿里云所借鉴,并得到大力推广。
阿里云积极求进
作为国内云市场的龙头老大,阿里云对于政务云这块大蛋糕自然也不会放过。近年来阿里云更是积极展开攻势,对相对头部的华为云、浪潮云等厂商形成直接冲击。
据未来智库提供的数据显示,2020年阿里云在政务公有云市场份额已经达到了23%,相比华为的32%,仅有9个百分点之差了。据中央政府采购网数据显示,截至2020三季度阿里云在中央国家机关云计算采购市场份额已经超过了50%,已经覆盖了包括人社部、交通部等诸多部门。
除了中央机关之外,阿里云与地方政府部门也达成了多项合作,其目前已经在为北京、浙江、江苏、贵州等多个省市的数字政务系统提供技术支持服务了。结合各方面情况来看,阿里云能够在政务云市场加速向华为云、浪潮云等头部追赶,与其强大的技术实力和应用生态分不开。
一方面,阿里云完整的自研技术体系,能够满足政务行业对IT信息系统供应链自主可控的要求。 如阿里云自研的云操作系统飞天系统,可以实现“一云多芯、一云多态”,可以适配X86、ARM等不同技术架构,以及本地云计算、现场云计算节点、边缘云计算等多种场景应用形态。此外,其还拥有自研的架构神农架构、存储系统盘古、自研云原生数据库PolarDB、自研AI芯片含光800等,这使其得以形成从底层硬件到中层再到应用层的自研产品体系。
庞大丰富的自研技术产品应用,使阿里云能够最大适配复杂政务云场景的应用条件,大大提升政务云的灵活性和可控性。
另一方面,随着政务云行业的成熟度提升,阿里云在综合自身安全、PaaS服务、政府数据运营等方面的综合生态能力,受到了政府部门的认可和重视。 相比此前,如今的政务云市场日益开始从“业务上云”向“数据智能”的应用场景转型。如疫情期间大量使用的行程码、 健康 码、国家反诈骗应用推广等各类便民服务应用的出现,都是政务云向应用领域延伸的重要体现。
在此背景下,具备IaaS、PaaS、SaaS、DaaS(数据即服务)等综合云生态体系的厂商,更加受到政府部门的青睐。阿里云凭借在政企业务领域多年的深耕,已经建立了庞大的云生态体系,这使其在与单一云服务厂商,争夺地方政务云项目上具备很强的竞争优势。据目前公开的数据显示,2018年以来,仅仅阿里云的城市大脑项目就已经在杭州、上海、澳门、海口等十多个城市落地,其他地方项目也在进一步推进中。
天翼云穷追不舍
放眼整个行业,阿里云、华为云固然厉害,但以天翼云为代表的“国家队”,在政企云市场的影响力同样不容小觑。
据IDC提供的数据显示,2020年我国政务云市场规模为81.4亿元人民币,天翼云以25.3%的市场份额位居政务云前列。据悉,目前天翼云已经承载了超过20多个省级政务云,300多个地方政务云,并参与了超过1000多个智慧城市项目的建设,已成为国内通讯运营商云服务中的领头羊。而天翼云能够走到这一步,与其得天独厚的自身资源分不开。
首先,其云服务“国家队”的身份,使其在获取政府项目方面带有“先天优势”。 虽然说在做政务云项目上,优先考核的还是云厂商自身的技术实力和资源能力,但良好的政商关系和资源对政企项目的获批,也是不可或缺的。作为国企中间为数不多的“几朵云”之一,天翼云始终牢牢占据头部位置,在资源能力不输其他企业的情况下,自然更有希望拿下较为重要的政府订单。
其次,天翼云背靠中国电信这棵“大树”,在接纳地方资源信息与渠道拓展上,明显强于其他云服务厂商。 作为中国三大运营商之一,中国电信的门店遍及全国地方,甚至一路下沉到乡镇一级,这使其对地方政务云项目建设的消息了如指掌,能够较早地掌握先机接触项目资源。与此同时,遍及全国的门店网络使其不必像阿里云、华为云那样另组团队,开拓下沉县市级项目,只需要充分利用本地资源,即可以实现云业务的推广和销售。
最后,有赖于母公司中国电信的鼎力支持,天翼云在技术研发上几乎不设上限,这使其在各类核心云技术领域拥有了顶级云服务商的能力。 近年来天翼云结合自身网络运营商的身份,大力推进云网融合,全面升级天翼云技术,并在最新的4.0版本实现了“一云多芯、一云多态、一张云网、一致架构”的技术能力,这些能力已经与华为云、阿里云等顶级玩家不相上下。
凭借着多方面的强大实力,以天翼云为代表的“国家队”,正在不断缩小与头部云服务商之间的差距。以最新披露的2021年天翼云年营收数据来看,2021年天翼云实现营收279亿营收,已经超过了阿里云前三季度营收的总和(264亿元)。值得注意的是,过去一年天翼云实现了100%的增速,远超阿里云的33%。若照此速度下去,天翼云追赶上阿里云只是时间问题。
一体化成政务云角逐新焦点
值得注意的是,随着政务云市场的逐步成熟,代表全新解决方案的“一体化方案”,正在成为头部云服务厂商,角逐政务云市场的新焦点。
第一,经过一个很长的建设周期之后,政务云的基础设施上云已经接近完成,接下来转向“整体协同运营”逐渐成为必然趋势。
如上文所述,目前头部的政务云服务商不论是华为云、阿里云还是天翼云,都已经实现了“一云多态、一云多芯”的全场景技术能力和全栈能力,并能够为政企用户提供IaaS(基础设施即服务)、PaaS(平台即服务)、SaaS(软件即服务)、DaaS(数据即服务)的连续体服务的分布式云体验,实现从技术、产品、方案到服务的全栈式链接。这种全新的云服务模式不仅是主要云服务商的共识,还是其对政务云市场状况变化的最新对应。
第二,不论是哪类玩家,回归“用户”痛点来展开服务构建价值才是核心。 对于政府机构来说,数字政府也好智慧城市也罢,其对云服务的核心期望在于实现政府部门管理成本的降低,以及服务职能的转变。因此,在政务云的建设上,政府部门的核心期望,不外乎是在不增加政府人员和资金投入的情况下,提升政府部门的数字化能力,这也是厂商们参与政务云建设的核心考量之一。
从这个意义上来讲,便利、灵活、因地制宜、量身定制的政务云建设,才是地方政务云建设的核心诉求所在。而要达到这一要求,相关的云服务商必然需要更为强大的技术实力,一体化在某种程度上代表了这种技术要求。
总而言之,无论是市场本身的发展要求还是用户的核心诉求,都使一体化厂商成为了政务云接下来的核心发展方向。而随着各路厂商纷纷介入其中,可以预见关于一体化的云行业竞争将成为接下来的焦点。
文 | 翟周伟本文节选自《Hadoop核心技术》一书。
Hadoop是一个开源的高效云计算基础架构平台,其不仅仅在云计算领域用途广泛,还可以支撑搜索引擎服务,作为搜索引擎底层的基础架构系统,同时在海量数据处理、数据挖掘、机器学习、科学计算等领域都越来越受到青睐。本文将讲述国内外的hadoop应用现状。
国外Hadoop的应用现状
1.Yahoo
Yahoo是Hadoop的最大支持者,截至2012年,Yahoo的Hadoop机器总节点数目超过42?000个,有超过10万的核心CPU在运行Hadoop。最大的一个单Master节点集群有4500个节点(每个节点双路4核心CPUboxesw,4×1TB磁盘,16GBRAM)。总的集群存储容量大于350PB,每月提交的作业数目超过1000万个,在Pig中超过60%的Hadoop作业是使用Pig编写提交的。
Yahoo的Hadoop应用主要包括以下几个方面:
支持广告系统
用户行为分析
支持Web搜索
反垃圾邮件系统
会员反滥用
内容敏捷
个性化推荐
同时Pig研究并测试支持超大规模节点集群的Hadoop系统。
2.Facebook
Facebook使用Hadoop存储内部日志与多维数据,并以此作为报告、分析和机器学习的数据源。目前Hadoop集群的机器节点超过1400台,共计11?200个核心CPU,超过15PB原始存储容量,每个商用机器节点配置了8核CPU,12TB数据存储,主要使用StreamingAPI和JavaAPI编程接口。Facebook同时在Hadoop基础上建立了一个名为Hive的高级数据仓库框架,Hive已经正式成为基于Hadoop的Apache一级项目。此外,还开发了HDFS上的FUSE实现。
3.A9.com
A9.com为Amazon使用Hadoop构建了商品搜索索引,主要使用StreamingAPI以及C++、Perl和Python工具,同时使用Java和StreamingAPI分析处理每日数以百万计的会话。A9.com为Amazon构建的索引服务运行在100节点左右的Hadoop集群上。
4.Adobe
Adobe主要使用Hadoop及HBase,同于支撑社会服务计算,以及结构化的数据存储和处理。大约有超过30个节点的Hadoop-HBase生产集群。Adobe将数据直接持续地存储在HBase中,并以HBase作为数据源运行MapReduce作业处理,然后将其运行结果直接存到HBase或外部系统。Adobe在2008年10月就已经将Hadoop和HBase应用于生产集群。
5.CbIR
自2008年4月以来,日本的CbIR(Content-basedInformationRetrieval)公司在AmazonEC2上使用Hadoop来构建图像处理环境,用于图像产品推荐系统。使用Hadoop环境生成源数据库,便于Web应用对其快速访问,同时使用Hadoop分析用户行为的相似性。
6.Datagraph
Datagraph主要使用Hadoop批量处理大量的RDF数据集,尤其是利用Hadoop对RDF数据建立索引。Datagraph也使用Hadoop为客户执行长时间运行的离线SPARQL查询。Datagraph是使用AmazonS3和Cassandra存储RDF数据输入和输出文件的,并已经开发了一个基于MapReduce处理RDF数据的Ruby框架——RDFgrid。
Datagraph主要使用Ruby、RDF.rb以及自己开发的RDFgrid框架来处理RDF数据,主要使用HadoopStreaming接口。
7.EBay
单集群超过532节点集群,单节点8核心CPU,容量超过5.3PB存储。大量使用的MapReduce的Java接口、Pig、Hive来处理大规模的数据,还使用HBase进行搜索优化和研究。
8.IBM
IBM蓝云也利用Hadoop来构建云基础设施。IBM蓝云使用的技术包括:Xen和PowerVM虚拟化的Linux操作系统映像及Hadoop并行工作量调度,并发布了自己的Hadoop发行版及大数据解决方案。
9.Last.Fm
Last.Fm主要用于图表计算、专利申报、日志分析、A/B测试、数据集合并等,也使用Hadoop对超过百万的曲目进行大规模的音频特征分析。
节点超过100台机器,集群节点配置双四核XeonL5520@2.27GHzL5630@2.13GHz,24GB内存,8TB(4×2TB)存储。
10.LinkedIn
LinkedIn有多种硬件配置的Hadoop集群,主要集群配置如下:
800节点集群,基于Westmere的惠普SL170X与2×4的核心,24GB内存,6×2TBSATA。
1900节点集群,基于Westmere的超微-HX8DTT,与2×6的核心,24GB内存,6×2TBSATA。
1400节点集群,基于SandyBridge超微与2×6的核心,32GB内存,6×2TBSATA。
使用的软件如下:
操作系统使用RHEL6.3。
JDK使用SUNJDK1.6.0_32。
Apache的Hadoop0.20.2的补丁和ApacheHadoop的1.0.4补丁。
Azkaban和Azkaban用于作业调度。
Hive、Avro、Kafka等。
11.MobileAnalytic.TV
主要使用Hadoop应用在并行化算法领域,涉及的MapReduce应用算法如下。
信息检索和分析。
机器生成的内容——文档、文本、音频、视频。
自然语言处理。
项目组合包括:
移动社交网络。
网络爬虫。
文本到语音转化。
音频和视频自动生成。
12.Openstat
主要利用Hadoop定制一个网络日志分析并生成报告,其生产环境下超过50个节点集群(双路四核Xeon处理器,16GB的RAM,4~6硬盘驱动器),还有两个相对小的集群用于个性化分析,每天处理约500万的事件,每月15亿美元的交易数据,集群每天产生大约25GB的报告。
使用的技术主要包括:CDH、Cascading、Janino。
13.Quantcast
3000个CPU核心,3500TB存储,每日处理1PB以上的数据,使用完全自定义的数据路径和排序器的Hadoop调度器,对KFS文件系统有突出贡献。
14.Rapleaf
超过80个节点的集群(每个节点有2个双核CPU,2TB×8存储,16GBRAM内存)主要使用Hadoop、Hive处理Web上关联到个人的数据,并引入Cascading简化数据流穿过各种处理阶段。
15.WorldLingo
硬件上超过44台服务器(每台有2个双核CPU,2TB存储,8GB内存),每台服务器均运行Xen,启动一个虚拟机实例运行Hadoop/HBase,再启动一个虚拟机实例运行Web或应用程序服务器,即有88台可用的虚拟机运行两套独立的Hadoop/HBase机群,它们各自拥有22个节点。Hadoop主要用于运行HBase和MapReduce作业,扫描HBase的数据表,执行特定的任务。HBase作为一种可扩展的、快速的存储后端,用于保存数以百万的文档。目前存储了1200万篇文档,近期的目标是存储4.5亿篇文档。
16.格拉斯哥大学的TerrierTeam
超过30个节点的实验集群(每节点配置XeonQuadCore2.4GHz,4GB内存,1TB存储)。使用Hadoop促进信息检索研究和试验,特别是用于TREC,用于TerrierIR平台。Terrier的开源发行版中包含了基于HadoopMapReduce的大规模分布式索引。
17.内布拉斯加大学的HollandComputingCenter
运行一个中等规模的Hadoop机群(共计1.6PB存储)用于存储和提供物理数据,以支持紧凑型μ子螺旋型磁谱仪(CompactMuonSolenoid,CMS)实验的计算。这需要一类能够以几Gbps的速度下载数据,并以更高的速度处理数据的文件系统的支持。
18.VisibleMeasures
将Hadoop作为可扩展数据流水线的一个组件,最终用于VisibleSuite等产品。使用Hadoop汇总、存储和分析与网络视频观众收看行为相关的数据流。目前的网格包括超过128个CPU核心,超过100TB的存储,并计划大幅扩容。
国内Hadoop的应用现状
Hadoop在国内的应用主要以互联网公司为主,下面主要介绍大规模使用Hadoop或研究Hadoop的公司。
1.百度
百度在2006年就开始关注Hadoop并开始调研和使用,在2012年其总的集群规模达到近十个,单集群超过2800台机器节点,Hadoop机器总数有上万台机器,总的存储容量超过100PB,已经使用的超过74PB,每天提交的作业数目有数千个之多,每天的输入数据量已经超过7500TB,输出超过1700TB。
百度的Hadoop集群为整个公司的数据团队、大搜索团队、社区产品团队、广告团队,以及LBS团体提供统一的计算和存储服务,主要应用包括:
数据挖掘与分析。
日志分析平台。
数据仓库系统。
推荐引擎系统。
用户行为分析系统。
同时百度在Hadoop的基础上还开发了自己的日志分析平台、数据仓库系统,以及统一的C++编程接口,并对Hadoop进行深度改造,开发了HadoopC++扩展HCE系统。
2.阿里巴巴
阿里巴巴的Hadoop集群截至2012年大约有3200台服务器,大约30?000物理CPU核心,总内存100TB,总的存储容量超过60PB,每天的作业数目超过150?000个,每天hivequery查询大于6000个,每天扫描数据量约为7.5PB,每天扫描文件数约为4亿,存储利用率大约为80%,CPU利用率平均为65%,峰值可以达到80%。阿里巴巴的Hadoop集群拥有150个用户组、4500个集群用户,为淘宝、天猫、一淘、聚划算、CBU、支付宝提供底层的基础计算和存储服务,主要应用包括:
数据平台系统。
搜索支撑。
广告系统。
数据魔方。
量子统计。
淘数据。
推荐引擎系统。
搜索排行榜。
为了便于开发,其还开发了WebIDE继承开发环境,使用的相关系统包括:Hive、Pig、Mahout、Hbase等。
3.腾讯
腾讯也是使用Hadoop最早的中国互联网公司之一,截至2012年年底,腾讯的Hadoop集群机器总量超过5000台,最大单集群约为2000个节点,并利用Hadoop-Hive构建了自己的数据仓库系统TDW,同时还开发了自己的TDW-IDE基础开发环境。腾讯的Hadoop为腾讯各个产品线提供基础云计算和云存储服务,其支持以下产品:
腾讯社交广告平台。
搜搜(SOSO)。
拍拍网。
腾讯微博。
腾讯罗盘。
QQ会员。
腾讯游戏支撑。
QQ空间。
朋友网。
腾讯开放平台。
财付通。
手机QQ。
QQ音乐。
4.奇虎360
奇虎360主要使用Hadoop-HBase作为其搜索引擎so.com的底层网页存储架构系统,360搜索的网页可到千亿记录,数据量在PB级别。截至2012年年底,其HBase集群规模超过300节点,region个数大于10万个,使用的平台版本如下。
HBase版本:facebook0.89-fb。
HDFS版本:facebookHadoop-20。
奇虎360在Hadoop-HBase方面的工作主要为了优化减少HBase集群的启停时间,并优化减少RS异常退出后的恢复时间。
5.华为
华为公司也是Hadoop主要做出贡献的公司之一,排在Google和Cisco的前面,华为对Hadoop的HA方案,以及HBase领域有深入研究,并已经向业界推出了自己的基于Hadoop的大数据解决方案。
6.中国移动
中国移动于2010年5月正式推出大云BigCloud1.0,集群节点达到了1024。中国移动的大云基于Hadoop的MapReduce实现了分布式计算,并利用了HDFS来实现分布式存储,并开发了基于Hadoop的数据仓库系统HugeTable,并行数据挖掘工具集BC-PDM,以及并行数据抽取转化BC-ETL,对象存储系统BC-ONestd等系统,并开源了自己的BC-Hadoop版本。
中国移动主要在电信领域应用Hadoop,其规划的应用领域包括:
经分KPI集中运算。
经分系统ETL/DM。
结算系统。
信令系统。
云计算资源池系统。
物联网应用系统。
E-mail。
IDC服务等。
7.盘古搜索
盘古搜索(目前已和即刻搜索合并为中国搜索)主要使用Hadoop集群作为搜索引擎的基础架构支撑系统,截至2013年年初,集群中机器数量总计超过380台,存储总量总计3.66PB,主要包括的应用如下。
网页存储。
网页解析。
建索引。
Pagerank计算。
日志统计分析。
推荐引擎等。
即刻搜索(人民搜索)
即刻搜索(目前已与盘古搜索合并为中国搜索)也使用Hadoop作为其搜索引擎的支撑系统,截至2013年,其Hadoop集群规模总计超过500台节点,配置为双路6核心CPU,48G内存,11×2T存储,集群总容量超过10PB,使用率在78%左右,每天处理读取的数据量约为500TB,峰值大于1P,平均约为300TB。
即刻搜索在搜索引擎中使用sstable格式存储网页并直接将sstable文件存储在HDFS上面,主要使用HadoopPipes编程接口进行后续处理,也使用Streaming接口处理数据,主要的应用包括:
网页存储。
解析。
建索引。
推荐引擎。
end
欢迎分享,转载请注明来源:夏雨云
评论列表(0条)