中文
首页/案例/某运营商|分布式数据库访问层研发

某运营商|分布式数据库访问层研发

业务挑战

        近年来,该运营商业务快速发展,数据量持续增长,单体式或集中式数据库架构已难以满足数据的查询和存储需求,因此急需一种能解决海量数据存储与计算的技术解决方案。

        经过充分调研和深入评估后,该运营商确定以架构领先、功能完善的开源框架 ShardingSphere 为基础,以该运营商自身业务系统及国产数据库为依托,开发信创数据库中间件产品,开展国产数据库集群性能提升的研究和相关技术验证,实现业务无感知的数据迁移,同时能够可以通过动态增加数据库节点数提升业务系统整体性能及可用性。该技术研究方向具有较大的兼容性和灵活性,成果可以独立部署,适配场景通用,且不会对已经购买的国产数据库产品和应用系统技术栈产生影响。

解决方案

        本项目基于对开源内核 ShardingSphere 的二次开发,以增强数据分片、分布式事务、高可用、读写分离能力,并将开源内核重新封装为数据增强引擎,支撑国产数据库适配工作,并满足海量数据查询和存储需求;同时构建包含资源管理、集群管理及监控诊断模块的可视化管控操作平台,提升数据库运维管理能力。

222.png

1. 自研分布式数据库统一接入平台

        以开源项目 ShardingSphere 为基础,开发分布式数据库统一接入平台,实现信创数据库语法兼容、数据分片、高可用、读写分离、弹性伸缩等功能。

         信创数据库语法兼容:深入剖析主流信创数据库的语法体系,全面梳理其独特语法结构、内置函数以及各类语法特性。基于 ShardingSphere 的 SQL 解析模块,实施深度定制化扩展。当系统接收到客户端 SQL 语句时,迅速启动智能识别机制,精准判断是否为信创数据库特定语法。一旦确认,随即通过精心设计的解析逻辑,将其无损转换为 ShardingSphere 可直接处理的标准 SQL 形式。同时,构建详尽的语法映射表,清晰确立信创数据库语法元素与标准 SQL 或 ShardingSphere 支持语法之间的对应关系,确保在解析过程中严格依据映射表执行精准转换,实现无缝对接。

         数据分片:依托 ShardingSphere 成熟的分片策略,紧密围绕业务实际需求,展开精细化定制配置。以业务主键、时间范围等关键业务要素为依据,进行科学合理的分片规划。精心编写分片规则文件,精确界定数据在不同物理数据库节点间的分布逻辑,实现业务数据在多个数据库间的均匀、高效分布。充分利用 ShardingSphere 的自动分片算法,在数据插入瞬间,自动、快速判断数据应存储的最优分片位置,确保数据存储的高效性与均衡性。

         高可用:借助 ShardingSphere 对数据库主从架构的深度支持,合理规划并配置多个从库,构建强大的数据冗余体系。当主库遭遇故障时,系统能够瞬间触发自动切换机制,无缝切换至从库,确保业务系统持续稳定运行。同时,配置实时心跳检测机制,定期向各个数据库节点发送心跳探测包,根据节点实时响应情况,动态监测其运行状态。深度融合分布式事务管理技术,在高可用切换过程中,严格保障数据一致性。当主从切换发生时,系统能够妥善处理正在进行的事务,杜绝数据丢失、数据不一致等问题,确保数据的完整性与准确性。

         读写分离:在 ShardingSphere 配置中,明确划分读库与写库职责。将读操作精准路由至从库,有效分流主库压力,提升系统整体读写性能。精心配置负载均衡策略,针对读请求进行智能、合理分配。可根据实际业务场景,灵活选择轮询、随机或基于从库负载情况的动态分配等方式。对于实时性要求极高的读操作,提供灵活可配置选项,允许其直接从主库读取数据,确保数据的及时性与准确性,满足业务对实时数据的严苛需求。

         弹性伸缩:当需要对数据库节点进行扩展或收缩时,可通过 ShardingSphere 的管理接口,便捷实现动态配置。例如,在添加新数据库节点时,系统能够依据预设的分片策略,自动、高效完成数据迁移,确保数据分布的合理性。开发自动化脚本,与云平台的弹性计算功能深度集成,实现数据库节点的自动化扩展与收缩。根据系统实时负载情况,智能触发脚本,自动执行节点的添加或删除操作。在伸缩过程中,充分运用 ShardingSphere 的一致性哈希算法等先进技术,确保数据分布始终保持合理状态,同时严格保障数据的一致性与完整性,为业务系统的稳定运行提供坚实保障。

2. 对接多种信创数据库

        分布式数据库统一接入平台在架构设计上具备高度的兼容性,下层能够无缝对接多种不同类型的信创数据库,而上层则为各类应用提供统一的数据库访问接口,极大地简化了应用开发过程中与不同数据库交互的复杂性,使应用程序能够专注于业务逻辑的实现,无需过多关注底层数据库的差异,有力地推动了信创生态中应用与数据库的高效协同发展。

3. 兼容多种技术架构

        该运营商旗下所涵盖的业务广泛且繁杂,包含数十个重要业务系统。这些系统在长期的运营过程中不断迭代升级,架构与技术选型不尽相同。从技术框架来看,不同年代开发的系统,分别运用了当时主流的技术框架,各框架在接口调用、数据传输等方面的规范也截然不同;数据交互方式因业务功能需求而异,实时交互、批量处理等多种方式并存。分布式数据库统一接入平台在架构设计上具备高度的兼容性,适应各个业务系统的技术栈差异,确保信创改造工作在不影响现有业务正常运转的前提下,高效、稳定地开展。

4. 开源产品上二次开发

        分布式数据库统一接入平台针对 ShardingSphere 进行了深度定制,使其能够完美支持多种信创数据库,通过分片策略,实现了数据的高效存储与访问,有效提升了系统的处理能力和响应速度。平台具备数据库节点弹性伸缩能力,通过监控数据库负载、动态调整资源分配以及智能的节点增减策略,确保在高并发、海量数据场景下依然能够稳定运行。

功能亮点

        1. 数据库适配:支持用可插拔方式适配多类型信创数据库。

        2. 突破集中式系统性能瓶颈:通过水平分片的方式提升信创数据库单机性能瓶颈。

        3. 解耦信创数据库厂商绑定:通过分布式数据平台对接多种信创数据库,避免单一信创数据库的厂商绑定。

客户收益

        1. 构建信创数据库中间件平台。

        2. 完成国产商业数据库适配。

        3. 基于信创数据库中间件,实现了国产数据库分片能力。

        4. 基于信创数据库中间件,实现了国产数据库分布式事务能力。

        5. 基于信创数据库中间件,实现了国产数据库高可用能力。

        6. 基于信创数据库中间件,实现国产数据库的在线弹性伸缩。

        7. 基于信创数据库中间件,实现了国产数据库读写分离能力。

        8. 基于信创数据库中间件,实现了国产数据库图形化高效管理。

分享文章
wechat qrcode

扫码关注
微信公众号

某股份制商业银行|分布式核心系统加密升级改造
某大型交通央企|信创数据库替换
即刻免费体验新一代数据库增强引擎
400-900-2818 GitHub
产品
数据即服务
数据安全平台
双轨并行数据总线
客户案例
案例
关注我们
合作伙伴:中国信通院重庆大学ShardingSphere
Privacy PolicyTerms Of UseDisclaimerCookie PolicyDo Not Sell My Personal Information
wechat qrcode

扫码关注
微信公众号