华瑞指数云发布下一代软件定义存储产品:IOPS提升达30倍,时延降低90%
- +1 你赞过了
【雷竞技须安全稳定 DIY硬件频道】在数字化、智能化驱动下,数据资产对于企业更加重要,同时数据量级的快速增长也给存储系统带来了更大的压力。以自动驾驶、人工智能、数字化营销、数字工厂等为代表的数据驱动型业务形态,由于数据规模巨大、业务负载复杂多样、处理性能要求高,对于存储的读写性能、可扩展性、可靠性等提出了考验。当前的SDS产品虽然能够解决海量数据、大吞吐量、大并发量的问题,但IO效率低、时延高等一系列“致命伤”也不容忽视。正因为这些“痛点”,一些企业的核心业务、真正的商业化应用仍旧是在集中式存储,SDS则会作为“第二存储”来负责相对边缘的业务,或者完成开发测试。
为了改变当前SDS的困境,解决SDS低IOPS、高时延两大关键问题,让海量数据在分布式IT架构间高效流转,华瑞指数云推出全自研极速分布式块存储产品ExponTech WDS。华瑞指数云CTO曹羽中提到,WDS是基于WiDE引擎(无量引擎)打造的第一款产品,相对SDS 1.0产品IOPS提升最高达30倍,时延降低幅度达90%。
WDS利用了WiDE引擎的极速硬盘快存储服务层,中层的元数据服务层、双栈网络,底层高性能复合池,能够满足企业核心数据库、关键业务虚拟化和容器化,以及HPDA等场景对极高性能、极低时延和稳定可靠存储能力的需求,可广泛应用于金融、运营商、医疗、能源、交通、制造等行业,为企业关键应用提供持续卓越的数据存储服务能力。
WDS能够充分发挥各种硬件的性能,那么传统SDS 1.0产品为什么不可以?华瑞指数云存储首席架构师于强提到,传统SDS 1.0存在以下6大关键问题,让其难以在部输高性能硬件后发挥出于WDS相同的能力。第一,采用线程模型,多线程公用资源争抢严重,大量使用线程池,锁争抢严重。第二,在HDD时代诞生的架构设计,网络支持TCP,无法发挥高速硬件设备的优势。第三,架构依赖内核,大量使用了内核驱动参与调度,数据复制效率低。第四,没有精细化控制CPU使用,跨CPU核心访问极多,更几乎不感知NUMA。第五,IO路径与内存管理,内存频繁存在拷贝,IO路径极长,端到端时延非常大。第六,传统分布式存储元数据与数据路径耦合,架构演进性差,缺少数据智能流动和数据视角。
针对这些问题,华瑞指数云也探索出了相应的解决方案。第一,WDS利用WiDE引擎实现了全自研框架,用于华瑞指数云自研的Astrapi极速IO栈,实现全栈无锁架构。于强介绍到,Astrapi极速IO栈将IO分发到不同的高速管道,每一条管道都会绑定一个CPU核,实现了无干扰并行处理。整个IO栈处理带来极低的时延,只有20-40微秒。因此,WDS不仅可以将高性能NVMe SSD跑满,还可以发挥SCM性能,带来更高IOPS、更低时延。
第二,华瑞指数云自研框架提供的大冶内存管理机制,支持全栈零拷贝,可以实现IO路径端到端没有任何拷贝发生,大幅降低时延。
第三,实现了高性能的网络模块,支持RDMA/TCP双栈网络,并且用户可以在两种网络上随意切换、交叉访问。
第四、WDS在前后端集成了英特尔SPDK组件来实现性能在快速存储场景进一步的加速和提升。
第五,于强还谈到,WDS采用了WiDE副本池中自研的一套极速复制协议状态机,基于变种Paxos实现,能够保证三副本在任何时间的强一致性,并利用Astrapi极速IO栈实现整个恢复过程中对业务影响极小,保证业务长期、高性能、稳定可靠的体验。
另外,华为指数云还推出了多维度存储可组合式架构,容量和性能模型可组合、跨介质池可组合、云上云下资源可组合、存储SLA可组合、数据IO模型可组合。从而,企业可以充分利用硬件资源,做到硬件资源的透明化管理。并且,WDS和WiDE实现全部柔性化部署,结合可组合式架构,就可以在最小资源消耗+最大性能体验的前提下实现融合部署,进而带来绿色、低碳、高效的体验。
在可靠性方面,WDS也有多重保障:支持副本一致性校验、智能磁盘亚健康检测、智能网络亚健康检测、多级可靠性故障域级别、双活容灾实现、数据跨物理池流动。
高IOPS和低时延的WDS
重点来了,WDS的性能。在华瑞指数云和英特尔联合测试,WDS取得了亮眼表现。在3服务器节点(每节点4块,总共12块SCM SSD硬盘)集群规模下,集群峰值IOPS高达691万,时延438微秒,单卷 IOPS高达259万,时延低至390微秒。MySQL数据库测试场景,在大压力下端到端时延稳定在5毫秒内,支持高达20000TPS。
于强表示,WDS和WiDE实现了全部的柔性化部署,结合可组合式架构,就可以最小资源消耗+最大性能体验,实现最优部署形态,这是非常大的优势。同时,可组合式架构的能力也给用户带来了绿色、低碳、高效的体验,能够给用户带来资源消耗和性能体验二者兼得的完美组合。并且WDS在可靠性方面有非常出色的表现。WDS有智能网络亚健康检测能力,通过检测识别网络的时延异常、丢包错包来自动隔离处理网络的故障,或者指导用户及时做修复处理。面对突发故障,WDS也实现了双活容灾能力,我们跨地域实现了副本同步,保证业务连续稳定的运行。
发布会前夕,华瑞指数云联合英特尔发布了《WiDE分布式引擎与英特尔新一代平台联合解决方案技术白皮书》。在发布会上,英特尔云解决方案架构师张庆峰表示,“本次和ExponTech WDS方案联合验证过程中,使用的另一个特性是RDMA功能,测试搭建了RoCEv2网络,用了英特尔100GE网卡E810和交换机联合联合适配,最终使得存储性能充分发挥出来,更惊喜的发现,网络在这里面没有成为任何瓶颈。未来英特尔希望在存储领域可以跟合作伙伴一起作出更多更好的产品和方案。”
在发布会现场,华瑞指数云也准备了两套测试环境,采用了同一型号及配置,均为NVMe SSD以及25G网络的6台服务器,分别为ExponTech WDS以及主流的Ceph提供3个测试节点,针对单卷单队列、单节点单卷、单节点多卷、两节点多卷、三节点多卷等应用场景进行4k随机读写性能测试。
通过测试,WDS在性能、时延等方面相较代表SDS 1.0的Ceph均有大幅升级。在单卷单队列测试中,WDS的4k随机写入达到13496.28 IOPS,时延仅72.9微秒,而Ceph的性能为492.88 IOPS,时延高达2021.44微秒。所以,WDS提供了达到Ceph约27倍的随机写入性能,时延却只有后者的4%左右。读取方面,WDS的性能是Ceph的5倍左右,延时约为Ceph的20%。
对于WDS和Ceph读写时延的差异,为何WDS读取时延高于写入,而Ceph的读取时延则低于写入,华瑞指数云存储首席架构师于强表示,WDS能够充分将硬件性能发挥出来,在NVMe SSD场景中由于硬件的原因读取和写入的性能存在差距。时延方面,WDS软件的时延约40微秒,网络约10微秒,而剩余的时延则是来自SSD。相比之下,Ceph并没有完全发挥存储的性能,其软件栈是系统的瓶颈所在,其读取IO路径要比写入短,与硬件没有正相关性。
回到现场测试,在单节点单卷峰值性能对比测试中,WDS的4k随机写入约46.9万IOPS,时延为300.88微秒;Ceph的性能为4.5万IOPS,时延为2851.47。4k随机读取测试中,WDS的读取性能为103.6万IOPS,时延573.29微秒;Ceph的性能为4.5万IOPS,时延位2861.36微秒。
在三节点多卷峰值性能测试中,WDS的4k随机写入约123.4万IOPS,时延为309.12微秒;Ceph的性能为9.8万IOPS,时延为19587.95。4k随机读取测试中,WDS的读取性能为272.6万IOPS,时延561.16微秒;Ceph的性能为44.4万IOPS,时延位4321.51微秒。WDS的4k随机读写性能已经接近硬件网卡的极限性能,随机写IPOS是Ceph的12倍,时延只有Ceph的2%;随机读性能是Ceph的6倍,时延只有Ceph的13%。
还有一点值得关注,WDS不仅拥有接近集中式高端全闪存储的性能表现,还具备性能的线性扩展能力,硬件能力越好,集群节点数越多,WDS就越能线性扩展出相应的性能水准。例如通过华瑞指数云现场的测试结果来看,Ceph在由单卷增加到5卷进行测试时,其写入性能增长大概只有一倍,读取性能提升了4倍,同时时延也大幅增长,其性能的扩展并非线性。并且在测试中,Ceph由双节点增加至三节点时,其写入性能的变化很小。而WDS的读写性能,通过测试来不仅呈现线性扩展,同时还能够有更低更稳定的时延,在单卷到多卷的测试中,其时延都很稳定。
ExponTech WiDE引擎以及WDS整合了SDS和集中式高端全闪存储的优势,能够企业需要高IOPS和极低时延的核心数据,需要高吞吐和成本敏感的海量数据,这也正是华瑞指数云的出发点,让分布式软件定义存储产品覆盖企业的核心业务、全业务。华瑞指数云CTO曹羽中分享未来企业信息存储系统的特征时提到以下趋势:集中式架构走向分布式架构为主,机械硬盘为主走向半导体介质为主,有分散采购不同存储系统演进为基于融合的统一架构的存储平台底座,由“软硬件耦合,硬件封闭盒子”走向完全软件定义,并形成一个开放的平台生态。
洞悉行业发展趋势的同时,曹羽中表示华瑞指数云投入大量时间探索和研发新一代分布式存储架构,公司愿景是希望将下一代软件定义存储WiDE引擎打造为,未来面向数字化,数字经济的引擎,提供一套分布式存储软件就足以助力企业打造一套用以支撑所有业务的数据底座,无需不同种类的存储产品、无需专属的存储硬件,只需要标准服务器就能以统一数据底座,打造以数据为中心的下一代IT基础设施,使用完全软件定义的方式,与混合多云的IT环境完美匹配,向上能支撑企业的混合负载。
最新资讯
热门视频
新品评测