百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

MySQL的日志 - general log

wptr33 2025-03-04 14:22 17 浏览

关注我「程序猿集锦」,获取更多分享资料。

  • 前言
  • general log
  • 如何开启 general log
  • general log的参数
  • general log开启示例
  • 通过命令暂时开启
  • 通过配置文件永久开启
  • 关闭general log
  • 清理general log文件
  • 总结
  • 前言

    在前面的文章中我们介绍了slow query log慢查询日志、binlog二进制日志、relaylog中继日志、redolog重做日志、undolog回滚日志。今天我们来了解一下general log一般日志,有时候也叫做普通日志。

    general log

    在默认情况下,MySQL是不会打开general log的,这个log里面会记录MySQL所有的SQL语句,不管是查询语句,还是DML语句,还是DDL语句,还是DCL语句,这些语句统统都会被记录在general log文件中。就连我们连接和断开MySQL数据库的这些语句。

    MySQL会把它收到的所有SQL语句按照接收的顺序依次记录在general log中。我们需要注意的是,这里接受的SQL语句的顺序,并不等于SQL语句就是按照这个接受的顺序来执行,因为有的时候,一些SQL可能需要等待其他锁被释放后才会被真正的执行,SQL语句的执行顺序是和binlog中的顺序是相匹配的。

    假如我们执行一个select查询语句,在binlog中不会记录这样的SQL语句,但是在general log中就会记录这个select查询语句。

    General log默认不开启的原因有两个:

  • 日志将会非常大,对磁盘是一个很大的压力。因为所有的操作都会被记录下来。
  • 对MySQL数据的性能有一定的影响。
  • 所以,我们一般不会开启这个general log记录的功能,只有在排查某些错误的时候,才会临时打开一下,等到debug完成之后,再把它关闭。

    如何开启 general log

    如果在配置文件中永久开启:

    [mysqld]
    general_log=1
    general_log_file=mysql_general_log.log
    log_output=/var/lib/mysql

    在SQL命令行中临时开启:

    mysql> show variables like 'general_log'; -- 查看日志是否开启
    +---------------+-------+
    | Variable_name | Value |
    +---------------+-------+
    | general_log   | OFF   |
    +---------------+-------+
    1 row in set (0.02 sec)
    
    mysql>
    mysql> show variables like 'general_log_file'; -- 看看日志文件保存位置
    +------------------+-------------------------+
    | Variable_name    | Value                   |
    +------------------+-------------------------+
    | general_log_file | /var/lib/mysql/test.log |
    +------------------+-------------------------+
    1 row in set (0.02 sec)
    
    mysql>
    mysql> show variables like 'log_output'; -- 看看日志输出类型 table或file
    +---------------+------------+
    | Variable_name | Value      |
    +---------------+------------+
    | log_output    | FILE,TABLE |
    +---------------+------------+
    1 row in set (0.01 sec)

    general log的参数

    general log的参数主要有以下几个:

  • genral_log:用于控制是否开启general log。等于0表示关闭,等于1表示开启。默认是0
  • general_log_file:general log日志的文件名是什么,如果不配置这个参数的话,默认会以MySQL服务器的hostname作为general log日志的文件名称,具体文件为:.log,general log日志的存放路径。如果不指定,则默认放在datadir参数所指定的目录下。也可以在这个参数中指定具体的路径+名称。
  • log_output:general log输出的方式,是输出表中,还是保存到文件中。这个参数的取值范围为:table,或者file。默认是保存到file文件中。这个参数是和慢查询日志是共用的,慢查询的日志是记录在表中还是只记录在文件中,也是用这个参数来控制。如果配置为table,就会把慢查询日志和general log日志都写在mysql.geneal_log表中。如果这个参数配置为table,file则表示即写入表中,也写入日志文件中,两个地方都写入日志。
  • 在开启了general log的前提下,如果在某个session连接中,不想让此次操作的所有SQL被记录在general log中,则可以在session中执行set session sql_log_off=on就可以关闭当前session的操作被记录在general log中。

    general log开启示例

    接下里我们会针对开启general log做两个实验:

    1. 在命令行中,通过命令暂时开启。这种开启方式,在MySQL实例被重启的以后,会失效。
    2. 在配置文件中,配置参数开启。这种开启方式,永久生效,即便MySQL实例重启后,仍然有效。

    通过命令暂时开启

    我们来开启general log感受一下,下面我们登录到MySQL的命令行窗口,使用set global general_log=on;命令来开启。开启过程如下所示:

    mysql> set session general_log=on; -- 这是一个全局参数,不能只针对当前session启用。
    ERROR 1229 (HY000): Variable 'general_log' is a GLOBAL variable and should be set with SET GLOBAL
    mysql> set global general_log=on; -- 对全局开启general log
    Query OK, 0 rows affected (0.03 sec)

    因为我的log_output参数配置的是FILE,TABLE,所以我的general log会记录在两个地方,一个是general log日志文件,一个是表中。日志保持方式的参数配置如下所示:

    mysql> show variables like 'log_output';
    +---------------+------------+
    | Variable_name | Value      |
    +---------------+------------+
    | log_output    | FILE,TABLE |
    +---------------+------------+
    1 row in set (0.02 sec)

    查看general log文件中的日志,当log_output参数有FILE的时候,general log日志文件的目录默认在datadir目录下面。前面我们开启general log的时候,因为没有显示的去指定general log日志的文件目录和文件名称,所以它默认是存放在datadir目录下,文件名称为<主机名称>.log。我可以看到在datadir目录下面如下日志:

    root@test:/var/lib/mysql# pwd
    /var/lib/mysql
    root@test:/var/lib/mysql# ls -lstr *.log
    8 -rw-r----- 1 mysql mysql 6293 Jan 13 15:40 test-slow.log
    4 -rw-r----- 1 mysql mysql 2589 Jan 13 15:50 test.log
    root@test:/var/lib/mysql# hostname
    test.mysql
    root@test:/var/lib/mysql#

    我们来看下这个日志文件中的内容是什么,具体如下所示,可以看出所有的查询语句都会被记录在general log日志中。即便是查询语句也会被记录在里面。

    上面我们看了general log日志文件中的内容,我们的配置还要去记录日志到表中,具体是记录在mysql.general_log表中。我们看下这个表中记录的内容。使用下面的SQL语句来查看表中的内容。

    select 
    	event_time,user_host,thread_id,server_id,command_type,
    	convert(argument using utf8mb4) as sql_text 
    from general_log limit 100;

    通过配置文件永久开启

    上面我们是通过set命令参数来开启的general log,下面我们采用在配置文件中配置general log日志文件参数的方式来开启。在使用配置文件来开启之前,我们先把前面我们使用set命令开启的操作给修改回去,然后再去修改配置文件来开启general log日志文件。先用下面的命令改回去。

    mysql> set global general_log=off;
    Query OK, 0 rows affected (0.02 sec)

    改回去之后,我们再去看下日志文件中的内容。

    我们在my.cnf配置文件中配置的具体参数如下,为了测试,我把general log日志文件路径和名称都修改一下。看下效果如何。修改完成如下参数后,重启MySQL服务。

    [mysqld]
    # 一般日志的开启
    general_log=1
    general_log_file=/tmp/mysql_general_log.log

    这里顺便说一下,我的MySQL实例是用docker启动的一个容器镜像。用docker启动MySQL示例,兼职不要太方便,把参数配置文件挂载到本地,随便怎么修改参数文件,然后直接一个docker restart <容器名称或容器id>,直接搞定。在以后介绍一下关于docker的一些基本使用。

    重启MySQL示例之后,啥都不做,直接去MySQL的/tmp下面看是否有mysql_general_log.log文件生成。检查结果如下,可以看到已经有general log文件生成。

    root@test:/tmp# pwd
    /tmp
    root@test:/tmp# ls
    mysql_general_log.log
    root@test:/tmp# more mysql_general_log.log
    mysqld, Version: 5.7.24-log (MySQL Community Server (GPL)). started with:
    Tcp port: 0  Unix socket: /var/run/mysqld/mysqld.sock
    Time                 Id Command    Argument
    root@test:/tmp#

    接下来,我们来执行一些SQL,看下日志是否可以正常记录在/tmp/mysql_general_log.log文件中,验证过程如下所示:

    去看下mysql.genenal_log表中是否也会正常记录,检查结果如下:

    关闭general log

    在关闭general log的是,我们只要把对应的配置在配置文件中删除或使用#注释掉,重启MySQL示例就可以了。如果不想重启MySQL数据实例,在修改完配置文件之后,在登录到MySQL命令行中,执行set global general_log=off;命令就可以马上关闭general log记录的功能,因为我们已经修改过配置文件,所以即便是MySQL重启之后,general log也不会开启了。

    如果我们只是通过set命令的方式去开启的,没有去修改配置文件。那么我们只需使用set命令的方式关闭即可了,不用去动配置文件了。在真正的debug错误的时候,推荐使用这种set命令的方式去临时开启和关闭general log日志,而不用去修改my.cnf配置文件。

    清理general log文件

    开启general log之后,日志文件会增长得很快,如果我们需要清理历史的general log文件,我们该怎么做?

  • 如果是记录在文件中,使用cp命令,把general log日志文件备份一下(如果你确定这些历史的general log不在需要,那么可以不执行备份的这一步操作),然后使用管道命令把文件内容清空。操作大致如下:
  • cp mysql_general_log.log mysql_general_log.log.bak
    echo "" > mysql_general_log.log

    注意:切记不要直接删除这个日志文件,否则这个文件不会自动生成,除非你重启MySQL数据实例。如果删除后,即便是你手动创建一个一样名称的日志文件,MySQL也不会把general日志记录进去。所以,我们只能在MySQL自己生成的文件中进行编辑,删除里面的内容。

    对于我们备份生产的文件mysql_general_log.log.bak,如果有必要留存,就拷贝到其他服务器或者其他归档存储中。如果没有必要留存,那么直接rm删除这个bak的log文件就可以了。

  • 如果是记录在表中。先试用create table xx as select命令备份个表(如果你确认不需要历史的general log,那么你可以不执行备份操作)。然后,执行truncate命令删除表中数据。操作大致如下:
  • create table mysql.general_log_bak as select * from mysql.general_log;
    truncate table mysql.general_log;

    对于我们创建的备份表mysql.general_log_bak,如果日志内容有必要留存,那么把这个表使用mysqldump备份出来然后归档存放,如果没有必要留存,那么直接drop删除这个bak的表就可以了。

    总结

    一般情况我们不会开启general log日志,因为它的增长速度太快了。磁盘很快就会被占用完了。所以一般只有在需要debug一些特别难找的bug的时候,才会使用set global general_log=on开启,在生产我们需要的debug日志以后,就直接使用set global general_log=off关闭了。这里面的日志记录很详细,在排查一下比较隐蔽的问题的时候,还是可以提供很多有用的信息的。

    MySQL的general log就分享到这里了。后面我会分享关于MySQL的最后一个日志:error错误日志。

    相关推荐

    redis的八种使用场景

    前言:redis是我们工作开发中,经常要打交道的,下面对redis的使用场景做总结介绍也是对redis举报的功能做梳理。缓存Redis最常见的用途是作为缓存,用于加速应用程序的响应速度。...

    基于Redis的3种分布式ID生成策略

    在分布式系统设计中,全局唯一ID是一个基础而关键的组件。随着业务规模扩大和系统架构向微服务演进,传统的单机自增ID已无法满足需求。高并发、高可用的分布式ID生成方案成为构建可靠分布式系统的必要条件。R...

    基于OpenWrt系统路由器的模式切换与网页设计

    摘要:目前商用WiFi路由器已应用到多个领域,商家通过给用户提供一个稳定免费WiFi热点达到吸引客户、提升服务的目标。传统路由器自带的Luci界面提供了工厂模式的Web界面,用户可通过该界面配置路...

    这篇文章教你看明白 nginx-ingress 控制器

    主机nginx一般nginx做主机反向代理(网关)有以下配置...

    如何用redis实现注册中心

    一句话总结使用Redis实现注册中心:服务注册...

    爱可可老师24小时热门分享(2020.5.10)

    No1.看自己以前写的代码是种什么体验?No2.DooM-chip!国外网友SylvainLefebvre自制的无CPU、无操作码、无指令计数器...No3.我认为CS学位可以更好,如...

    Apportable:拯救程序员,IOS一秒变安卓

    摘要:还在为了跨平台使用cocos2d-x吗,拯救objc程序员的奇葩来了,ApportableSDK:FreeAndroidsupportforcocos2d-iPhone。App...

    JAVA实现超买超卖方案汇总,那个最适合你,一篇文章彻底讲透

    以下是几种Java实现超买超卖问题的核心解决方案及代码示例,针对高并发场景下的库存扣减问题:方案一:Redis原子操作+Lua脚本(推荐)//使用Redis+Lua保证原子性publicbo...

    3月26日更新 快速施法自动施法可独立设置

    2016年3月26日DOTA2有一个79.6MB的更新主要是针对自动施法和快速施法的调整本来内容不多不少朋友都有自动施法和快速施法的困扰英文更新日志一些视觉BUG修复就不翻译了主要翻译自动施...

    Redis 是如何提供服务的

    在刚刚接触Redis的时候,最想要知道的是一个’setnameJhon’命令到达Redis服务器的时候,它是如何返回’OK’的?里面命令处理的流程如何,具体细节怎么样?你一定有问过自己...

    lua _G、_VERSION使用

    到这里我们已经把lua基础库中的函数介绍完了,除了函数外基础库中还有两个常量,一个是_G,另一个是_VERSION。_G是基础库本身,指向自己,这个变量很有意思,可以无限引用自己,最后得到的还是自己,...

    China&#39;s top diplomat to chair third China-Pacific Island countries foreign ministers&#39; meeting

    BEIJING,May21(Xinhua)--ChineseForeignMinisterWangYi,alsoamemberofthePoliticalBureau...

    移动工作交流工具Lua推出Insights数据分析产品

    Lua是一个适用于各种职业人士的移动交流平台,它在今天推出了一项叫做Insights的全新功能。Insights是一个数据平台,客户可以在上面实时看到员工之间的交流情况,并分析这些情况对公司发展的影响...

    Redis 7新武器:用Redis Stack实现向量搜索的极限压测

    当传统关系型数据库还在为向量相似度搜索的性能挣扎时,Redis7的RedisStack...

    Nginx/OpenResty详解,Nginx Lua编程,重定向与内部子请求

    重定向与内部子请求Nginx的rewrite指令不仅可以在Nginx内部的server、location之间进行跳转,还可以进行外部链接的重定向。通过ngx_lua模块的Lua函数除了能实现Nginx...