阿里云数据库产品事业部自主研发的OLTP数据库存储引擎X-Engine,已经成功应用在阿里集团内部的核心业务系统,包括交易历史库、钉钉历史库等,不仅大幅降低了业务成本,同时作为双十一大促的关键数据库技术,成功承受了数百倍平时流量的冲击。
X-Engine的诞生源于阿里内部业务挑战。早在2010年,阿里内部大规模部署了MySQL数据库,然而,业务量的爆炸式增长使数据库面临巨大压力。因此,设计一个新的存储引擎,以提高性能、降低成本,成为了解决问题的关键。
X-Engine采用全新架构,既可以无缝对接兼容MySQL,又使用分层存储架构。这一设计旨在应对大规模海量数据存储,提供高并发事务处理能力和降低存储成本。通过将数据划分为多个层次,并针对每个层次数据的访问特点,设计对应的存储结构,写入合适的存储设备,实现了数据访问的高效处理。
X-Engine以LSM-Tree作为分层存储的架构基础,并进行重新设计。热数据层和数据更新使用内存存储,通过内存数据库技术(Lock-Free index structure/append only)提高事务处理的性能。这一创新设计使得X-Engine在大规模数据存储和事务处理方面具有显著优势。
随着硬件体系的变革,如多核(众核)CPU、新的处理器架构(Cache/NUMA)、各种异构计算设备(GPU/FPGA)等,数据库软件也需要进行相应的变革。X-Engine正是这一变革的产物,它成功适应了现代硬件体系,充分发挥了硬件性能,为我国数据库技术的发展提供了有力支持。
总之,X-Engine作为阿里云数据库产品事业部自主研发的OLTP数据库存储引擎,成功应对了内部业务挑战,为大规模海量数据存储和事务处理提供了高效解决方案。这一创新成果不仅提升了数据库性能,降低了成本,还对我国数据库技术的发展产生了积极影响。