百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

面试官:怎么优化sql? 面试题sql优化

wptr33 2024-12-29 06:23 21 浏览


在面试的环节中,面试官问到:你是如何设计你的表结构的,画一下E-R图?接着又继续深挖,如果有慢查询,你是如何优化你的sql的?

今天,我就来和大家讲讲要怎么回答这道问题。首先,我们要稳住不要慌,自己是自己亲手做的项目,第一个问题应该都不大,第二个问题就需要在面试之前做好充分的准备啦…

在回答问题之前先要了解查询的流程:查询是由一系列的子任务组成的,包括从客户端,到服务器,然后在服务器上进行解析,生成执行计划,执行,并返回结果给客户端。其中“执行”可以认为是整个生命周期中最重要的阶段,这其中包括了大量为了检索数据到存储引擎的调用以及调用后的数据处理,包括排序、分组。为了完成这些任务,查询需要在不同的地方花费时间,包括网络,CPU计算,生成统计信息和执行计划、锁等待操作。进行一些不必要的额外操作时或者某些重复执行某些额外操作会消耗大量的时间。

查询性能低下最基本的原因是访问的数据太多。某些查询可能不可避免地需要筛选大量的数据,大部分性能低下的查询都可以通过减少访问的数据量的方式进行优化。对于低效的查询,可以通过以下两个步骤来分析:

  • 确认应用程序是否在检索大量超过需要的数据。
  • 确认MySQL服务器是否在分析大量超过需要的数据行。


上面的都是理论,在实践中,MySQL的优化主要涉及SQL语句及索引的优化、数据表结构的优化这三个方面。

SQL语句的优化:

1、少用子查询

尽量少用子查询,因为子查询会产生临时表;除非像count(*)临时表很小的。

2、少用SELECT *

每次看到SELECT *都需要用怀疑的眼光审视,是否真的需要返回全部的列?取出全部的列,会让优化器无法完成索引覆盖扫描这类优化,还会为服务器带来额外的I/O、内存和CPU的消耗。

3、查询必要的记录

一个常见的错误是常常会误以为MySQL只会返回需要的数据,实际上MySQL却是先返回全部结果集再进行计算,建议在查询后面加上LIMIT。

4、不要重复查询相同的数据

不断执行相同的查询,然后每次都会返回完全相同的数据。可以采用的方案是初次查询的时候将这个数据缓存起来,需要的时候从缓存中取出,这样性能显然会更好。

5、COUNT查询优化

COUNT()聚合函数的作用:统计某一个列值的数量,也可以统计行数。需要注意的是统计列值时要求列值是非空的(不统计NULL),COUNT()查询尽可能少的行。

举个例子:如果我们直接查 id>100 的记录,涉及到的有两千多万行记录扫描。但是由于COUNT()特性,我们可以用 count() - (id<100)的做法,这样扫描的行就只有100行了。

6、Where子句中,where表之间的连接必须写在其他Where条件之前,那些可以过滤掉最大数量记录的条件必须写在Where子句的末尾.HAVING最后。

7、用EXISTS替代IN、用NOT EXISTS替代NOT IN。

8、避免在索引列上使用计算。

9、避免在索引列上使用IS NULL和IS NOT NULL。

10、对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引。

11、应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索引而进行全表扫描。

12、应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。

索引优化

1、关联查询优化

确保ON 或则USING 子句的列上有索引。创建索引时就要考虑关联的顺序,当表A和表B用列c关联的时候,如果优化器关联顺序是B、A,就只需要在表A上建立索引,没用的索引会占用存储。

2、GROUP BY 和 DISTINCT优化

GROUP BY 和 DISTINCT的优化最有效的就是使用索引。所有对于分组的列一定要建立索引。比如:

select product, count(*) from orders group by product;

这样的一个查询,对product要建立索引。

3、LIMIT分页优化

进行分页操作时,通常都会通过偏移量来查询某些数据。然后再加上解释的order by,性能一般都不错。对于order by的列 一定要加上索引。但是对于limit 10000,10 这样检索目标10条记录必须先先查询前面的10000条记录。代价很高,这种时候优化最简单办法就是使用覆盖索引。

注意索引失效的情况,1)以“%”开头的LIKE语句,模糊匹配2)OR语句前后没有同时使用索引3)数据类型出现隐式转化(如varchar不加单引号的话可能会自动转换为int型)

数据库优化

选择优化数据类型的几条建议:

  • 更小的通常更好,尽量使用可以正确存储数据的最小数据类型,因为占用更少的磁盘、内存和CPU缓存。
  • 简单最好,选择整数而不是字符串,选择MySQL内建的类型而不是字符串来存储时间和日期,使用整数来存储IP地址。
  • 尽量避免NULL,很多表都包含可为NULL的列,这是因为NULL是列的默认值,需要指定列为NOT NULL。
  • 整数类型数据一般用int,对于布尔类型的数据用tinyint,但是整数计算一般是使用64位的BIGINT整数。
  • 在需要对小数进行精确计算时,比如说存储财务数据才使用DECIMAL(浮点存储的float和double类型计算不精确),但是DECIMAL计算的代价很高,可以考虑使用BIGINT代替DECIMAL,将小数的位数乘以相应的倍数即可。
  • varchar和char
  • 当需要存储可变长的字符串用varchar,比使用char存储更节省空间,varchar使用1或者2个额外的字节来记录长度。至于用char来存储适用于下列几种情况,一是需要存储很短的字符串时(存储只有Y和N的值时),二是所有的值接近固定长度(存储MD5值),三是经常需要变更的值。
  • BIT
  • 在MySQL5.0之前,BIT是TINYINT的同义词,在MySQL5.0以及更新的版本,是一个完全不同的数据类型。BIT类型的新行为:(1)可以使用BIT列在一列中存储一个或者多个true/false值。MySQL把BIT当做字符串类型,而不是数字类型。当检索BIT(1)的值时,结果是一个包含二进制0或者1的字符串,而不是ASCII的“0”或“1”。
  • SET
  • 如果需要保存很多的true/false值,可以考虑合并这些列到一个SET数据类型,它在MySQL内部是一系列打包的位的集合来表示的。
  • 使用枚举代替常用的字符串类型,因为MySQL在存储枚举时非常紧凑,MySQL把每个枚举的值保存为整数,并且在表的.firm文件中保存“数字-字符串”映射关系的“查找表”。
  • DATATIME存储的范围更广,保存的值从1001年到9999年,精确到秒,与时区无关,使用8个字节的存储空间,使用一种可排序、无歧义的格式显示时间,TIMESTAMP类型保存了从1970年1月1日午夜以来的秒数,使用4个字节的存储空间,只能表示从1970年到2038年,依赖于时区,空间效率更高,推荐使用TIMESTAMP
  • 对于BOLB和TEXT类型他们都是为了存储很大的数据而设计的字符串,分别采用二进制和字符串方式存储。
  • 不能有太多的列
  • 单个查询最好在12个表以内做关联
  • 当遇到未知值的时候不要害怕使用NULL
  • 在实际的应用中需要混用范式和反范式,使用部分范式化的schema、缓存表、以及其他的技巧,最常见的反范式化数据的方法是复制或者缓存,在不同的表中存储相同的特定列。
  • 修改.frm文件来加快ALTER TABLE 操作的速度
  • 选取最适用的字段属性,尽可能减少定义字段宽度,尽量把字段设置NOTNULL,例如’省份’、’性别’最好适用ENUM
  • 使用连接(JOIN)来代替子查询
  • 用联合(UNION)来代替手动创建的临时表
  • 锁定表、优化事务处理

相关推荐

Python自动化脚本应用与示例(python办公自动化脚本)

Python是编写自动化脚本的绝佳选择,因其语法简洁、库丰富且跨平台兼容性强。以下是Python自动化脚本的常见应用场景及示例,帮助你快速上手:一、常见自动化场景文件与目录操作...

Python文件操作常用库高级应用教程

本文是在前面《Python文件操作常用库使用教程》的基础上,进一步学习Python文件操作库的高级应用。一、高级文件系统监控1.1watchdog库-实时文件系统监控安装与基本使用:...

Python办公自动化系列篇之六:文件系统与操作系统任务

作为高效办公自动化领域的主流编程语言,Python凭借其优雅的语法结构、完善的技术生态及成熟的第三方工具库集合,已成为企业数字化转型过程中提升运营效率的理想选择。该语言在结构化数据处理、自动化文档生成...

14《Python 办公自动化教程》os 模块操作文件与文件夹

在日常工作中,我们经常会和文件、文件夹打交道,比如将服务器上指定目录下文件进行归档,或将爬虫爬取的数据根据时间创建对应的文件夹/文件,如果这些还依靠手动来进行操作,无疑是费时费力的,这时候Pyt...

python中os模块详解(python os.path模块)

os模块是Python标准库中的一个模块,它提供了与操作系统交互的方法。使用os模块可以方便地执行许多常见的系统任务,如文件和目录操作、进程管理、环境变量管理等。下面是os模块中一些常用的函数和方法:...

21-Python-文件操作(python文件的操作步骤)

在Python中,文件操作是非常重要的一部分,它允许我们读取、写入和修改文件。下面将详细讲解Python文件操作的各个方面,并给出相应的示例。1-打开文件...

轻松玩转Python文件操作:移动、删除

哈喽,大家好,我是木头左!Python文件操作基础在处理计算机文件时,经常需要执行如移动和删除等基本操作。Python提供了一些内置的库来帮助完成这些任务,其中最常用的就是os模块和shutil模块。...

Python 初学者练习:删除文件和文件夹

在本教程中,你将学习如何在Python中删除文件和文件夹。使用os.remove()函数删除文件...

引人遐想,用 Python 获取你想要的“某个人”摄像头照片

仅用来学习,希望给你们有提供到学习上的作用。1.安装库需要安装python3.5以上版本,在官网下载即可。然后安装库opencv-python,安装方式为打开终端输入命令行。...

Python如何使用临时文件和目录(python目录下文件)

在某些项目中,有时候会有大量的临时数据,比如各种日志,这时候我们要做数据分析,并把最后的结果储存起来,这些大量的临时数据如果常驻内存,将消耗大量内存资源,我们可以使用临时文件,存储这些临时数据。使用标...

Linux 下海量文件删除方法效率对比,最慢的竟然是 rm

Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...

Python 开发工程师必会的 5 个系统命令操作库

当我们需要编写自动化脚本、部署工具、监控程序时,熟练操作系统命令几乎是必备技能。今天就来聊聊我在实际项目中高频使用的5个系统命令操作库,这些可都是能让你效率翻倍的"瑞士军刀"。一...

Python常用文件操作库使用详解(python文件操作选项)

Python生态系统提供了丰富的文件操作库,可以处理各种复杂的文件操作需求。本教程将介绍Python中最常用的文件操作库及其实际应用。一、标准库核心模块1.1os模块-操作系统接口主要功能...

11. 文件与IO操作(文件io和网络io)

本章深入探讨Go语言文件处理与IO操作的核心技术,结合高性能实践与安全规范,提供企业级解决方案。11.1文件读写11.1.1基础操作...

Python os模块的20个应用实例(python中 import os模块用法)

在Python中,...