百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

说说 MySQL 子查询

wptr33 2024-11-17 16:43 19 浏览

前言

前两天开发找DBA解决一个含有子查询的慢sql,我们通过将其修改为关联查询和添加索引解决。考虑到 大多数开发并没有准确的理解 MySQL 的子查询执行原理。本文介绍如何解决子查询慢查的思路。

原理

首先 知其然,知其所以然。大部分子查询为什么慢?我们得了解 MySQL 关联查询和子查询的处理机制。

MySQL 在处理所有的查询的时候都强行转换为联接来执行,将每个查询包括多表中关联匹配,关联子查询,union,甚至单表的的查询都处理为联接,接着MySQL执行联接,把每个联接再处理为嵌套循环 (nest-loop);

很多使用子查询的人 想当然的认为 子查询会由内到外,先完成子查询的结果, 然后在用子查询来驱动外查询的表,完成查询。例如:select * from test where tid in (select aid from sub_test where gid=3)通常我们会想到该sql的执行顺序为:

Bash
a. 先从 sub_test 表中获取 gid=3的记录(3,4,5)b. 然后和外面的查询做匹配 tid in (3,4,5)

但是,实际上对于子查询,外部查询的每条符合条件的记录,都会把子查询执行一次。如果遇到子查询查询量比较大或者索引不合理的情况,sql就变慢查。

当我们使用explian查看包含子查询的执行计划时,尤其要注意select_type 字段的内容,如果包含 SUBQUERY , DEPENDENT SUBQUERY 就需要提高警惕。

官方含义为:

SUBQUERY:子查询中的第一个SELECT;

DEPENDENT SUBQUERY:子查询中的第一个SELECT,取决于外面的查询 ,注意如果外部查询的结果集数量比较大,比如几十万上百万,就会执行几十万上百万次子查询,必然造成慢查。

优化策略

MySQL子查询优化策略大致分为:

  1. 半连接(semi-join): 半连接优化本质上是把子查询上拉到父查询中,与父查询的表做join/semi-join的操作。关键词上拉

  2. 物化子查询(Materialization):子查询的结果通常缓存在内存或临时表中。

  3. EXISTS strategy:把半连接转换为EXISTS操作。本质上是把父表的条件下推到子查询中关键词下推

一图胜千言 ,下图展示了 MySQL 针对子查询的优化策略

图片来自于 https://mariadb.com/kb/en/subquery-optimizations-map/

需要对图中做解释的是:

  1. 白色区域是常见的 子查询类型, x IN (SELECT ...) ,x= any(select),exists (select )。

  2. 白色区域越大说明使用频率越多,比如最常见的子查询是 x IN (SELECT ...)

  3. 有颜色的区域表示优化方法和策略,不同颜色代表不同的mysql 分支。

强烈安利 Mariadb 的一系列博客,里面有n篇文章介绍subquery的优化。阅读原文直达博客地址。

https://mariadb.com/kb/en/subquery-optimizations/

书上来的终觉浅,绝知此事要躬行。

优化案例

业务的sql 如下,该sql 执行超过1200ms ,被sql-killer kill掉,影响业务使用。

Bash
select app_name,pkg_version,zone,created_at from activity where id in (select MAX(id) AS id from activity where zone = 'qa' AND status =  AND zanpkg_version != ''AND namespace = 'qa' group by app_name,zone) order by id desc limit 500;

执行计划

第一步 MySQL 执行 select id, app_name,pkg_version,zone,created_at from activity order by id desc limit 500; 获取一个结果集

第二部 拿第一步中的结果500多行每一个记录去执行 子查询,每次遍历70w行左右。而且子查询里面没有合适的索引。

优化方法

1 where条件中zone=qa是固定值,group by zone 无意义,去掉group by zone。

2 针对 (zone, namespace, status) 加上组合索引。

3 改子查询为关联查询。

select a.app_name, a.zanpkg_version, a.zone, a.created_at 
from activity a, ( select MAX(id) AS mid
from activity
where zone = 'qa' AND status = 2 AND zanpkg_version != ''
AND namespace = 'qa'
group by app_name) b
where a.id = b.mid limit 500;

修改之后的sql执行时间在 300-500ms 之间。感觉还是慢,因为要对十几万的数据量做 聚合运算。

参考文章

https://www.cnblogs.com/zhengyun_ustc/p/slowquery3.html https://blog.csdn.net/kk185800961/article/details/49340589

https://blog.csdn.net/fly2nn/article/details/61924636

https://blog.csdn.net/fly2nn/article/details/61924637

https://blog.csdn.net/fly2nn/article/details/61924640

-The End-



相关推荐

Flutter状态管理之Provider数据共享的底层实现

#头条创作挑战赛#简介高级的Flutter工程师往往都是从最简单的架构开始研究学习,今天给大家带来的是Flutter中比较重要的状态管理框架Provider,也是每位Flutter开发者必学的框架。P...

字节跨平台框架 Lynx 开源:一个 Web 开发者的原生体验

...

flutter软件开发笔记17-isolate的机制作用

这个isolate,相当于其他编程中的线程,并行处理一些事件,让程序更加高效。用厨房做菜的比喻帮你理解Isolate,附完整可运行的代码示例:一isolate的比喻解释假设你是一个主厨(主Isol...

七爪源码:如何使用 SQLite 数据库在 Flutter 中保存大数据

SQLite是一个开源、零配置、自包含、独立的事务关系数据库引擎,旨在嵌入到应用程序中。sqfliteFlutter的SQLite插件。支持iOS、Android和MacOS。支持事务...

Flutter 实现多语言

本文同步本人掘金平台的文章:https://juejin.cn/post/7164571616314130469我们在处理跨国业务、跨地区(比如港澳台)业务的时候,需要针对当地的语言来做兼容。所以,我...

开始第一个Flet应用

Flet是基于Flutter的UI框架,但是我们不需要熟悉Flutter,也不需要会前端,只要具备Python面向对象编程基础就可以了。当然我本人是不会Flutter的,所以也没法对比Flet和Flu...

《史记微软UI框架轮回本纪》

微软者,乃美地西雅图之枭雄,曾持Windows以令诸侯。自庚午(1990)以降,数易UI之术,然其UI之框架兴也勃焉,其亡也忽焉。太史公观其轮回之迹,未尝不掷笔长叹:天命固难测,然微软UI之败,岂非自...

Android中的数据库和本地存储在Flutter中是怎样实现的

如何使用SharedPreferences?在Android中,你可以使用SharedPreferencesAPI来存储少量的键值对。在Flutter中,使用Shared_Pref...

Flutter——输入部件

上一节介绍了文本部件,用于显示文本。但是在我们进行日常软件开发过程中,经常是需要获取用户键入的内容,比如用户名、密码、性别、喜好等等。...

我用VS Code 开发工具来开发 自己的 Flutter 应用 工具快而轻

本文将与你一起回顾如何在VSCode里进行Flutter应用的开发。1.安装和配置根据编辑工具设定的指引来安装Dart和Flutter扩展(也叫做插件)。1.1更新扩展程序...

Flutter 结合 Dio 使用

#头条创作挑战赛#上一篇文章...

Flutter——路由

路由(Route)在移动开发中通常指页面(Page),这跟Web开发中单页应用的Route概念意义是相同的,Route在Android中通常指一个Activity,在iOS中指一个...

Flutter 实战经验(五):在 VS Code 里开发 Flutter 应用

本文将与你一起回顾如何在VSCode里进行Flutter应用的开发。1.安装和配置根据编辑工具设定的指引来安装Dart和Flutter扩展(也叫做插件)。1.1更新扩展程序扩...

Flutter 2 的Windows 开发试验

刚安装了flutter2.1dev版本,测试下很感觉兴趣的Windows开发当前flutter环境为(flutterdoctor):Doctorsummary(toseeallde...

基于flutter/dart仿抖音app实例

简介flutter_tiktok项目是基于flutter+dart+fijkplayer等技术开发的仿抖音短视频app实例。https://github.com/mjl0602/flutter_tik...