百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

别小看tail 命令,它难倒了技术总监

wptr33 2025-06-13 17:21 6 浏览

我把自己以往的文章汇总成为了 Github ,欢迎各位大佬 star

https://github.com/crisxuan/bestJavaer

tail命令能够看到日志的滚动,非常方便。于是xjjdog想,既然我们能够用这个命令,看到所有的日志,那能不能使用tail命令,做日志收集呢?

想象归想象,如果你想要一个快速的实时日志收集工具,那tail确实是个非常棒的工具。它比什么flume、logstatsh,比什么filebeat之类的,快捷的多。事实上,在工具缺乏的旧年代,我就曾经这么干过,而且它工作的很好。

下面是一段使用Java语言书写的代码。我们可以按行读取日志,然后使用自己喜欢的语言,做任何事情。

import java.io.BufferedReader;
import java.io.InputStreamReader;

public class TailReader {
    public static void main(String[] args) throws Exception {
        ProcessBuilder ps = new ProcessBuilder("tail", "-f", "/tmp/tail0");
        //把错误输出也打印
        ps.redirectErrorStream(true);
        Process process = ps.start();

        //持续读取tail的输出
        try (BufferedReader in = new BufferedReader(new InputStreamReader(process.getInputStream()))) {
            String line;
            while ((line = in.readLine()) != null) {
                setLogToKafka(line);
                //注意这里不要产生异常,否则会打断while循环
            }
        }
    }

    //模拟发送到kafka,我们这里只简单的打印出来
    static void setLogToKafka(String line) {
        System.out.println(line);
    }
}
复制代码

主要的思想,就是使用Java的Process启动一个子tail进程,一直监控着文件的输出。然后把标准输出和标准错误流,全部定向到BufferedReader中。接下来,你能做你想要做的任何事。

这有一定的风险,假如tail命令被杀掉了,我们的Java程序就失去了作用。

程序很简单,但xjjdog在这里讨论的却不是这个简单的收集程序,而是tail命令的一些有趣的特性,你可以从中一窥一些日志收集工具对文件的特殊处理。

你知道tail -f和tail -F的区别么?

在回答这个问题之前,我们先回忆一下,Java常用的日志框架,对日志的处理。

<configuration>
  <appender name="FILE" class="ch.qos.logback.core.rolling.RollingFileAppender">
    <!-- Support multiple-JVM writing to the same log file -->
    <prudent>true</prudent>
    <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
      <fileNamePattern>logFile.%d{yyyy-MM-dd}.log</fileNamePattern>
      <maxHistory>30</maxHistory> 
      <totalSizeCap>3GB</totalSizeCap>
    </rollingPolicy>

    <encoder>
      <pattern>%-4relative [%thread] %-5level %logger{35} - %msg%n</pattern>
    </encoder>
  </appender> 

  <root level="DEBUG">
    <appender-ref ref="FILE" />
  </root>
</configuration>
复制代码

上面的配置,将在每晚凌晨的时候,滚动形成一个新的文件。

那这个滚动,是如何做的呢?我们可以收工模拟这个过程。

mv run.log run.2020-11-02.log
touch run.log
复制代码

测试一下

文件滚动,会生成新的文件,那tail命令还能跟踪到么?

我们来测试一下。

第一步,创建要监控的文件

touch /tmp/tail0
复制代码

第二步,启动我们的Java代码

第三步,生成一个不间断的流

watch -n 1  'echo `date` >> /tmp/tail0 '
复制代码

上面的命令每隔1秒钟,往我们的文件中打印一下当前的日期,可以看到Java端已经收到了这些数据。



第四步,模拟文件滚动

mv /tmp/tail0 /tmp/tail.bak
touch /tmp/tail0
复制代码

此时,我们可以看到,Java端此时已经接受不到数据了。

Why?

为了看到这是为什么,我们使用两个命令来看一下进程的一些状态。

首先,使用ps命令,查看当前的tail进程。

ps -ef|grep tail
  501 21374 21373   0  1:51PM ??         0:00.01 tail -f /tmp/tail0
复制代码

这正是我们的命令。

我们使用lsof命令去查看这个进程所关联的文件。

lsof -p 21374 | awk '{print $4 "\t"  $9}'
FD	NAME
cwd	/tmp/
txt	/usr/bin/tail
txt	/usr/lib/dyld
3r	/private/tmp/tail.bak
复制代码

我们看到tail进程所监控的文件,其实是tail.bak文件,已经和tail命令没什么关系了。

我们尝试像tail.bak输入一点内容。

echo "haha: xjjdog, i am from tail.bak" >> /tmp/tail.bak
复制代码

此时如我们所愿,Java进程有反应了,正常输出了这句话。

怎么办?

就如同我们问题中问的一样,把tail -f换成tail -F就可以了。

tail -f的意思是,根据文件描述符进行追踪。

tail -F的意思是,根据文件名进行追踪,它会有重试的动作。

所以,我们的日志收集程序,毫无疑问是根据日志名称追踪的,应该把f改成F。

End

既然知道了这些小区别,我们就对日常工作中遇到的一些灵异问题有了解释。

大家都知道rm命令,能够删除一个文件。如果有这个文件,正在被其他进程所使用,那这些文件你看起来像是删掉了,但它的内容却不释放。

 lsof | grep deleted
复制代码

上面这个命令,能够看到这些失控的文件。一般你kill掉相应的进程,这些句柄也就释放了。但你删除这些文件的本意,就是为了避免重启应用,这可真让人纠结。

 cat /dev/null > logpath
复制代码

所以我们在删除文件的时候,一般不会使用rm,而应该使用重定向符号。将万物皆空的/dev/null,发向它们。


作者:小姐姐味道
链接:
https://juejin.im/post/6891437856196460552


你好,我是 cxuan,一枚技术人。我一共写了六本 PDF

《Java 核心技术总结》
《HTTP 核心总结》
《程序员必知的基础知识》
《操作系统核心总结》
《Java 核心基础 2.0》
《Java 面试题总结》

现在我把百度链接给大家放出来了,大家可以点击下方的链接领取

链接: https://pan.baidu.com/s/1mYAeS9hIhdMFh2rF3FDk0A 密码: p9rs

相关推荐

Linux文件系统操作常用命令(linux文件内容操作命令)

在Linux系统中,有一些常用的文件系统操作命令,以下是这些命令的介绍和作用:#切换目录,其中./代表当前目录,../代表上一级目录cd#查看当前目录里的文件和文件夹ls#...

别小看tail 命令,它难倒了技术总监

我把自己以往的文章汇总成为了Github,欢迎各位大佬star...

lnav:基于 Linux 的高级控制台日志文件查看器

lnav是一款开源的控制台日志文件查看器,专为Linux和Unix-like系统设计。它通过自动检测日志文件的格式,提取时间戳、日志级别等关键信息,并将多个日志文件的内容按时间顺序合并显示,...

声明式与命令式代码(声明模式和命令模式)

编程范式中的术语和差异信不信由你,你可能已经以开发人员的身份使用了多种编程范例。因为没有什么比用编程理论招待朋友更有趣的了,所以这篇文章可以帮助您认识代码中的流行范例。命令式编程命令式编程是我们从As...

linux中的常用命令(linux常用命令和作用)

linux中的常用命令linux中的命令统称shell命令shell是一个命令行解释器,将用户命令解析为操作系统所能理解的指令,实现用户与操作系统的交互shell终端:我们平时输入命令,执行程序的那个...

提高工作效率的--Linux常用命令,能够决解95%以上的问题

点击上方关注,第一时间接受干货转发,点赞,收藏,不如一次关注评论区第一条注意查看回复:Linux命令获取linux常用命令大全pdf+Linux命令行大全pdf...

如何限制他人操作自己的电脑?(如何控制别人的电脑不让发现)

这段时间,小猪罗志祥正处于风口浪尖,具体是为啥?还不知道的小伙伴赶紧去补一下最近的娱乐圈八卦~简单来说,就是我们的小罗同事,以自己超强的体力,以及超强的时间管理能力,重新定义了「多人运动」的含义,重新...

最通俗易懂的命令模式讲解(命令模式百科)

我们先不讲什么是命令模式,先通过一个场景来引出命令模式,看看命令模式能解决什么样的问题。现在有一个渣男张三,他有还几个女朋友,你现在是不是还是单身狗,你就说你气不气?然后他需要每天分别叫几个女朋友起床...

互联网大厂后端必看!Spring Boot 中Runtime执行与停止命令?

你是否曾在使用SpringBoot开发项目时,遇到需要执行系统命令的场景?比如调用脚本进行文件处理,又或是启动外部程序?很多后端开发人员会使用Processexec=Runtime.get...

Linux 常用命令(linux常用的20个命令面试)

日志排查类操作命令...

Java字节码指令:if_icmpgt(0xA3)(java字节码使用的汇编语言)

if_icmpgt是Java字节码中的一条条件跳转指令,其全称是"IfIntegerCompareGreaterThan"。它用于比较两个整数值的大小。如果栈顶的第一个...

外贸干货|如何增加领英的曝光量和询盘

#跨境电商#...

golang执行linux命令(golang调用shell脚本)

需求需要通过openssl生成rsa秘钥,然后保存该秘钥。代码实例packagemainimport("io/ioutil""bytes"&...

LINUX磁盘挂载(linux磁盘挂载到windows)

1、使用root用户查看磁盘挂载情况:fdisk-l2、使用df查看当前磁盘挂载情况,根据和fdisk-l的结果进行对比,查看还有那些磁盘未使用3、挂载:mount磁盘挂载路径...

Linux命令学习——nl命令(linux ln命令的使用)

nl命令主要功能为每一个文件添加行号,每一个输入的文件添加行号后发送到标准输出。当没有文件或文件为-时,读取标准输入...