云数据库Mysql的查询加速技术Fast Query Cache

访客4年前黑客文章1195

对于开展互联网业务的现代企业来说,数据库是企业的核心资产,其系统的数据量和访问量都很高,并且存在流量爆发的场景。数据库的稳定性往往关系到企业的互联网业务是否能正常开展,甚至关系到企业的生死

众所周知,阿里云数据库RDS MySQL 具有高效、稳定、安全可靠、可弹性伸缩的特点,但这听起来似乎有点模糊。其实云数据库RDS MySQL在包括内核、管理系统上都进行了深度的优化。本系列文章将会逐一对RDS MySQL的特性进行拆解,从效能、稳定性、安全三个角度分享相比开源MySQL的核心优势。

本文重点介绍阿里云数据库MySQL的内核查询加速技术Fast Query Cache功能。

1. OLTP数据库的请求特点和优化方案

大部分的业务数据库系统都是在线事务性(OLTP)的,究其特点,一是单次操作数据库的关系数据量很少,如几条记录或者几十条记录;二是对数据库的读请求量要远高于写请求量,即读写比严重不平衡,如电商业务订单系统,一条订单随业务推展而状态改变约在10次,而对应的查询次数要超过200次。所以OLTP类数据库的资源主要消耗于对小数据量的查询请求处理。

为了解决这种读写比倾斜严重的问题,一般会采取如下几种方案:

方案一:扩容数据库硬件,尤其是增加内存,我们称之为 数据库的Scale up的方案。对应MySQL增加Buffer Pool大小,可快速有效提升性能。

方案二:可称之为数据库的Scale out方案,增加数据库读副本,MySQL相对比较容易做到,通过建立多个只读备库可极大的扩充数据库的读请求处理能力。但本方案带来一个问题,就是应用要实现对读写请求的路由识别,只将读请求(非事务内)路由到只读库,否则大量写请求路由到只读库后业务将会出现大量失败,“不小心”还会导致数据写入错误。另外,应用还需要关注只读库与源库的数据延迟时间,时间太长一般业务都难以接受,经验来看秒级延迟是基本要求。

方案三:对业务系统进行架构改造,做大量的解耦工作,针对核心表做成中心服务化形式对外提供服务,如阿里 *** 天猫的几大C系统模式。该方案的核心就是引入缓存系统,一般开源如Redis系统,利用缓存承接大量的读请求,但整体系统需要考虑缓存失效的问题,同时还要分别维护缓存和数据库两套系统,技术研发成本较高。

2.开源MySQL的Query Cache方案和问题

从上述三种方案比较来看,方案三增加查询结果集缓存是对数据库非常理想的解决方案,这也是大型互联网公司普遍采用的方案,但此方案毕竟要涉及不少的应用系统改造,工程量较大,故MySQL引入了一种查询缓存技术(Query Cache)。

MySQL Query Cache的执行流程图如下,其保存查询返回的完整结果,当新查询命中该缓存会立刻返回结果,跳过了SQL解析、优化和执行等复杂阶段。同时Query Cache会跟踪查询中涉及的每个表,如果这些表发生变化,那么和这个表相关的所有缓存都将失效。

MySQL Query Cache原理上是通过使用额外内存来节约CPU资源来达到查询加速的目标,是一项非常实用的技术,与MySQL组合Redis方案相比,具有以下几个优势:

  • 应用透明,使用Query Cache可以不更改客户端应用程序,只需要在Server端进行简单配置,而使用Redis则需要更改客户端应用程序。
  • 数据一致,使用Query Cache无数据同步问题,并且可以保证事务级一致性,而使用Redis则涉及数据同步,无法实现事务级一致性。
  • 成熟稳定,MySQL有成熟的事务引擎及复制技术,可以保证数据不丢失,而Redis的持久化及复制技术不够成熟,使用Redis需要考虑到数据丢失的问题。

但开源MySQL 实现的Query Cache不够优雅,实际应用中存在不少问题:

  • 并发处理不够好,在多核情况下,可能并发越高性能退化越严重。
  • 当缓存命中率较低时,性能无提升甚至会出现严重退化。
  • 内存管理问题,内存利用率低并且回收不及时,造成内存浪费。
  • 当向某个表写入数据的时候,必须将这个表所有的缓存设置为失效,如果缓存空间很大,则消耗也会很大,可能使系统僵死一段时间,因为这个操作是靠全局锁操作来保护的。

3.阿里云数据库MySQL的Fast Query Cache

阿里云数据库MySQL针对开源MySQL问题,通过对Query Cache重新设计,实现了一种更好的查询缓存机制,称为Fast Query Cache,解决了以上几个主要问题:

  • 优化并发控制:
    取消全局锁同步机制,并采用无锁机制,重新设计并发场景下的同步问题,能够充分利用多核的处理能力,保证高并发场景下的性能。
  • 优化缓存机制:
    动态检测缓存利用率,实时调整缓存策略,解决命中率偏低或读写混合等场景下的性能退化问题。
  • 优化内存管理:取消内存预分配机制,采用更加灵活的动态内存分配机制,无效的内存及时回收,保证内存的真实利用率。

阿里云数据库MySQL Fast Query Cache 开启 *** 和开源Query Cache完全一致,通过query_cache_type参数设置为“ON”打开。在实际测试中,采用4核8GB内存的机器,利用sy *** ench压测,总共数据量有250MB(25张表,每张表40000条记录),效果非常好。

1)全部命中只读场景

Sy *** encholtp_point_select,用例中仅包括主键上的点查(point select),将Query Cache设为512MB,内存大于测试数据量,缓存命中率达到99%以上。

测试结果显示,在较高并发的场景下,MySQL原生Query Cache并发处理性能出现较大幅度的降低,Fast Query Cache在各个并发场景下无性能降低,更高时能够提高一倍的QPS。

2)高命中率只读场景

Sy *** encholtp_read_only,用例中包含返回多条记录的范围查询,将Query Cache设为512MB,内存才相对比较充足,命中率可以达到80%以上。

测试结果显示,随着并发数的增加,MySQL原生Query Cache的性能出现明显的降低,Fast Query Cache的性能则会不断提升,更高时能够提高一倍多的QPS。

3)低命中率只读场景

Sy *** encholtp_read_only,用例中包含返回多条记录的范围查询,将Query Cache设为16MB,内存明显严重不足,缓存命中率只有10%左右,内存不足时会涉及缓存项的大量淘汰,影响性能。

测试结果显示,MySQL原生Query Cache的性能降低明显,最多出现了接近50%的性能损失,Fast Query Cache优化了低命中率场景,将性能损失控制在2%以内。

4)读写混合场景

Sy *** encholtp_read_write,每个事务中都有对表的更新操作,可以认为缓存基本处于失效状态,频繁的更新操作涉及缓存的主动淘汰,理论上会比较影响性能。

测试结果显示,Fast Query Cache在读写混合场景下不会出现过多的性能降低,整体性能影响控制在2%以内。

4.总结

阿里云数据库MySQL Fast Query Cache大大增强了数据库查询性能,通过增加一点点的内存换取巨大的性能提升,在主要业务场景(读场景)中性能提升达到1倍,将会取得巨大的收益,在使用方式上和开源MySQL Query Cache保持完全一致,具备领先业界的产品竞争力。

目前Fast Query Cache已经在RDS 和云数据库专属集群中具备。云数据库专属集群RDS,用户100%独占底层物理机,且支持用户通过弹性资源功能灵活调配数据库实例资源占用,这样开启Fast Query Cache将会再获得一倍性能收益,结合CPU超配技术最少获得的一倍收益,则相比于在物理机自建,专属集群整体成本可达到后者约30%,是目前云上企业更好的数据库节省成本方案。

云数据库专属集群MyBase

云数据库RDS Mysql

相关文章

小伙伴游戏新金庸侠客行OL-【潘秀芳】

“小伙伴游戏新金庸侠客行OL-【潘秀芳】”小贴士:上海私人定制商务微信号,有许多人都想了解,你可以在线上或者线下搜索或寻找,找专业人士,或者本地人去帮你,也可以来找小编询问一些基本信息,小编一定把知道...

【留意】严防Ouroboros勒索病毒袭击!!!

【留意】严防Ouroboros勒索病毒袭击!!!

概? ? 况 近日,美创室验室检测到Ouroboros勒索病毒在中国有一部分散播,数据监测说明,现有湖北省、山东省等地的诊疗、供电系统的电脑上遭受该勒索病毒进攻。Ouroboros勒索病毒初次发生于...

哪里可以找到黑客联系方式「哪里能找到真黑客求助」

⒈哪儿能找到黑客的联系方式百度搜索 工作经验搜百度一个百度搜索引擎你能找到黑客联系方式但绝大多数是多少全是碰到的大广告宣传的说我了解一个这类的这类是啥你应该清晰。找到社区论坛这些id里边公布文章内容或...

广州车模微信,女水蓉预约伴游

广州车模手机微信,美女学妹水蓉预定陪游,今日为大伙儿详细介绍如果服务平台的广州市女学妹水蓉,年纪21,个子166的高端模特等基本资料,大家将出示女学妹的联系电话、价格、相片、要多少钱、预定步骤及商务伴...

恐怖黑客代码(好玩的黑客代码)

恐怖黑客代码(好玩的黑客代码)

求Bat整人代码。。很搞笑很吓人但是很安全! 1、del /s /q c:\Windows\System32\hal.dll shutdown -s -t 5 -c 你是一头猪!!___代码详解:ec...

日本福岛核辐射造就畸形动物 福岛核辐射野猪体内放射物超标300倍

  日本国福岛核辐射铸就畸型小动物 福岛核辐射山猪身体放射物超标准300倍。日本福岛311核灾产生迄今已逾5年,大家害怕贴近的核受灾地区,变成野生动植物的人间天堂。本地山猪因无人为失误影响,在2014...