在高清监控摄像头数量与AI渗透率不断递增的情况下,由摄像头采集的图像、视频流数据,需要更强大的分析引擎对其进行分析、处理和训练。
以北京地铁站为例,北京1000多个地铁站中平均每站都有上百个摄像头,平均每个地铁站每天流通8到10万人较为常见。保守预估每个相机每天看见1万个人,再假设对比库中有1万个目标(对于公安数据库来说并不大),这个相机每天要回答的问题就是一亿零一万个!
显然,在当前各类安防项目中,依靠纯嵌入式智能DVR和NVR均无法满足严苛的计算要求。
面对万亿级AI安防市场,在技术落地成花的十字路口,所有的安防企业高管们都会面对一个终极命题:AI安防究竟需要一款怎样强大的服务器?
谈到安防服务器,X86无处不在,一直以来,它都是包括安防在内等多个行业的“宠儿”。
“眼下安防市场很多的管理平台,譬如流媒体服务器、转发服务器、主控服务器基本基于X86架构建设,它的最大优势是比较容易开发、上手比较快,大多工程师更擅长在X86架构上做研发。”
华泰科捷CEO傅剑辉告诉雷锋网,考虑到它表现不俗的性价比,X86服务器一直都是我们采购的首选。
由此,过去多年来,X86服务器也获得了全球顶尖服务器供货商的青睐。
遗憾的是,各科成绩均“达标”的 X86服务器,在如今大热的AI浪潮面前,却遇到了一些“偏科”难题。
傅剑辉透露,从安防用户实际使用角度考量,目前X86服务器应用在安防行业主要存在三大问题:
一、CPU负责逻辑运算的单元并不多,在多任务处理时效率低下。面对海量视频信息,传统X86服务器单纯以CPU为核心的数据中心部署已经不能很好地满足并行灵活计算、多变环境的计算需求,很难在安防企业级服务器市场有惊艳的表现。
“以前的视频数据只需存在后台,做少量分析即可,也就是说存储足够大就行;今天,很多客户都希望我们能够实时处理这些海量视频信息并反馈结果,而这就意味着系统需要同时做解码、做视频结构化、做识别、搜索等等,X86明显就不够用了。”
换句话说,X86可以类比手机里的功能机,它能够满足单一的通信处理需求,而AI融入的安防市场,更需要一台强大的智能手机,配备更强大的性能以适配 游戏 、图片处理等个性需求。
二、在行业出现算力不够的大背景下,很多厂商打出X86服务器加上若干GPU卡的组合拳,而这种为了单纯解决算力而“拼凑”出的方案大大增加了服务器的功耗和用户成本。
从行业采用情况看,如果涉及人脸识别等AI项目时,大部分厂商会采用GPU作为人像数据结构化的处理单元,特别是在X86服务器集群中,GPU更是成为唯一选择。
在某种程度上,GPU的确解决了部分算力不足的问题,却也存在两个致命硬伤。
一是功耗大,需依托X86架构服务器运行,不适用于更为广泛的AI方案开发; 二是成本高昂,比如采用GPU方案,折算单路人脸识别成本在万元以上,相较其他千元级,甚至是百元级的方案,毫无成本优势可言,这两个致命短板,也让很多企业不得不寻求新的方案。
三、由于X86更多采用的是较为开放的LinuX系统,而非封闭的AIX系统,在稳定性和可维护性上略显不足。
“未来的市场必定是数据规模和计算能力的角逐。”
浪潮商用机器有限公司产品部张琪告诉雷锋网,随着越来越多新应用的出现,传统的X86计算架构会遇到很多瓶颈,包括数据瓶颈(处理器的计算单元以多快的速度获取和交换数据)、计算瓶颈(单位空间内能集成多少计算能力)、延迟瓶颈、通信瓶颈。
就像设计时速30码的道路难以承载均速100码的车辆通行一样,很短时间内就可造成道路拥堵甚至瘫痪。
今天来看,面对大计算、智能化场景,谁能够最先解决算力问题,又能够更好降低功耗与成本,谁就能在AI浪潮下引领鳌头。
在张琪看来,基于POWER9的高性能服务器能够很好满足AI安防时代下的高智能需求。
从AI安防实际场景所需出发,浪潮商用机器有限公司近期推出了基于POWER9服务器,搭载UltraVision视频智能分析系统的AI视觉分析智能分析解决方案(UltraVision on Power)。
AI视觉分析解决方案可以看作一个超级高效的AI大脑,它软硬结合,能够实时、准确、智能、节能地完成包括安防在内各个行业所需的复杂性数据处理工作。
“硬”,体现在POWER9架构上,它能够提供强大的图像视频的计算处理能力。相比其他处理器,POWER9支持了PCIe4.0、NVlink2.0等新一代I/O协议,能够在AI等应用中展示出更好的应用表现。
具体来看,相比X86,其单节点视频处理路数提升近3倍,达3.8倍提升深度学习框架AI模型训练效率,1.8倍更好的加速数据库性能,IO能力提升了近5倍。
另外,执行视频和图像编解码,查询搜索任务时,整机可提供单精度56TFlops和双精度28TFlops超强算力,和比X86服务器相比,单块GPU即可提供比纯CPU服务器高30倍的推理能力。
值得一提的是,该方案独有的CAPI技术,可以将延迟降低至1/36,全面加速图像处理,同时功耗降低高达30%。
1.8倍、3.8倍、3倍、5倍、30倍,看起来不大的几个数字对于安防行业来说,都是庞大数量级的提升。
这几个数字的变化,能够将各类犯罪和严重的暴力事件的防控手段从事后介入提前到事前或事中,大大减少安全事件的发生,实现公共安全从被动防御到主动防御的业务转变。
除了POWER9提供的超强算力硬核外,在软件层面,该方案还有高重UltraVision视频智能分析技术加持,如目标检测(PD)、行人重识别(RE-ID)等多项计算机视觉技术,提升目标识别准确率高达94%。
毋庸置疑,软硬结合的AI视觉分析解决方案在实际落地过程中,能够实实在在地为用户解决AI时代下的高算力与低功耗问题。
除此之外,相比其他热门方案,该方案还有两大优势不得不提。
其一、独有的利旧能力降低客户成本。
通常来说,一般的AI视频系统想要实现某些功能必须接入具备AI技术的感知摄像头,该方案在部署过程中不需要更换原有摄像头,只需要旁路接入视频采集端,即可实现AI系统;
另外,该方案还可以兼容不同品牌、不同制式的任何摄像头;可以不改变客户原服务器等硬件架构的情况下直接部署,有效降低客户部署成本。
其二、就浪潮商用机器公司本身来说,依托其在服务器领域的引领地位,拥有强大的定制化落地能力,缩短交付周期从月到天。
该方案无论是面对大数据处理、机器学习这样的AI应用,还是软件定义存储、内存数据库这一类的开源应用都会有比较好的性能表现。
毫无疑问,专为AI、云计算、大数据等新兴应用而生的AI视觉分析解决方案在客户面对严苛业务挑战时,提供了更多元化的选择。
依托这款高性能产品,用户可以更快地部署各类智能应用,缩短安防AI应用的技术迭代周期。
与此同时,性能卓越的浪潮商用机器服务器的应用不仅限于安防行业,在互联网、金融等对安全性要求高的领域,其也可以施展拳脚。
安防之外,整个 社会 正在向规模化、自动化、智能化转型升级。其中,智能化的应用方向涵盖四大方向:前端化、云端化、平台化和行业化。
在这个升级过程中,新的平台需要有新的能力做新的认知,新的认知催生新的需求和应用。
对于包括浪潮在内的 科技 公司来说,这是一次巨大的机会,同时也是一个不小的挑战,路漫漫其修远兮,必须上下而求索。雷锋网雷锋网雷锋网
问题一:选购IA服务器时应考察的主要配置参数有哪些?CPU和内存:CPU的类型、主频和数量在相当程度上决定着服务器的性能服务器应采用专用的ECC校验内存,并且应当与不同的CPU搭配使用。
芯片组与主板:即使采用相同的芯片组,不同的主板设计也会对服务器性能产生重要影响。
网卡:服务器应当连接在传输速率最快的端口上,并最少配置一块千兆网卡。对于某些有特殊应用的服务器(如FTP、文件服务器或视频点播服务器),还应当配置两块千兆网卡。
硬盘和RAID卡:硬盘的读取/写入速率决定着服务器的处理速度和响应速率。除了在入门级服务器上可采用IDE硬盘外,通常都应采用传输速率更高、扩展性更好的SCSI硬盘。对于一些不能轻易中止运行的服务器而言,还应当采用热插拔硬盘,以保证服务器的不停机维护和扩容。
冗余:磁盘冗余采用两块或多块硬盘来实现磁盘阵列网卡、电源、风扇等部件冗余可以保证部分硬件损坏之后,服务器仍然能够正常运行。
热插拔:是指带电进行硬盘或板卡的插拔操作,实现故障恢复和系统扩容。 同时,在选择IA服务器时通常需要考虑可管理性、可用性、可扩展性、安全性以及可靠性等几方面的性能指标。
问题二:64位服务器覆盖的应用范围?
从应用类型来看,大致可分为主域服务器、数据库服务器、Web服务器、FTP服务器和邮件服务器、高性能计算集群系统几类。 而目前,主流的服务器处理器有:英特尔安腾处理器、英特尔至强处理器和AMD公司的Opteron处理器,这些处理器是近几年推出的新型64位服务器。笔者就以上的几种应用,讨论一下服务器在不同的应用当中,对服务器子系统的不同要求进行简单概述:
主域控制器 网络、用户、计算机的管理中心,提供安全的网络工作环境。主域控制器的系统瓶颈是内存、网络、CPU、内存配置。
文件服务器 文件服务器作为网络的数据存储仓库,其性能要求是在网络上的用户和服务器磁盘子系统之间快速传递数据。
数据库服务器 数据库引擎包括DB2、SQL Server、Oracle、Sybase等。数据库服务器一般需要使用多处理器的系统,以SQL Server为例,SQL Server能够充分利用SMP技术来执行多线程任务,通过使用多个CPU,对数据库进行并行操作来提高吞吐量。另外,SQL Server对L2缓存的点击率达到90%,所以L2缓存越大越好。内存和磁盘子系统对于数据库服务器来说也是至关重要的部分。
Web服务器 Web服务器用来响应Web请求,其性能是由网站内容来决定的。如果Web站点是静态的,系统瓶颈依次是:网络、内存、CPU如果Web服务器主要进行密集计算(例如动态产生Web页),系统瓶颈依次是:内存、CPU、磁盘、网络,因为这些网站使用连接数据库的动态内容产生交易和查询,这都需要额外的CPU资源,更要有足够的内存来缓存和处理动态页面。
高性能计算用的集群系统 一般在4节点以上,节点机使用基于安腾、AMD 64技术的Opteron系统,这种集群系统的性能主要取决于厂商的技术实力、集群系统的设计、针对应用的调优等方面。
问题三:多核时代,处理器内核越多越好吗?
二大芯片巨头英特尔、AMD公司于2005年底推出多核处理器,目前,不管是双核、还是即将成为2007年主流四核处理器或是将来的八核、十六核处理器,英特尔、AMD之间激烈的竞争,促使处理器市场新品越来越多。在性能上、在功耗节能方面还是其它服务器配件方面,都极大地促进了产业的发展。
而对于大部分用户来讲,服务器在应用层次方面,仍旧是不变的。唯一需要考虑的就是用户自身的发展对于服务器的性能是否能够满足。现今,对于一款四核高性能服务器,其采购成本远远高于现今主流的双核服务器,如果双核服务器就能够满足您的需求,同时也能够为将来的3~5年发展预留足够的空间,那么就没必要选择价格昂贵的四核服务器。
综合以上:对于单核/双核/多核综合交叉时代,选购服务器应该把目光放在自身需求上面,以本身应用需求、资金投入为因素,选购最合适的服务器产品。
欢迎分享,转载请注明来源:夏雨云
评论列表(0条)