如何使用Popen同时写入stdout和日志文件？

Question

我正在使用Popen调用一个外壳脚本，它连续地将其stdout和stderr写入日志文件。有没有办法同时连续输出日志文件（到屏幕），或者让外壳脚本同时写入日志文件和stdout？

我主要想在Python中做这样的事情：

cat file 2>&1 | tee -a logfile #"cat file" will be replaced with some script

同样，这将stderr/stdout管道连接到tee，tee将其写入stdout和我的日志文件。

我知道如何用Python将stdout和stderr写入日志文件。我被困的地方是如何将这些复制回屏幕：

subprocess.Popen("cat file", shell=True, stdout=logfile, stderr=logfile)

当然，我可以这样做，但是没有tee和shell文件描述符重定向，有什么方法可以做到这一点吗

subprocess.Popen("cat file 2>&1 | tee -a logfile", shell=True)

Answer 1

为交互式应用程序逐字节写入终端

此方法立即写入它到达stdout的任何字节，这更密切地模拟了te的行为，尤其是对于交互式应用程序。

main.py

#!/usr/bin/env python3
import os
import subprocess
import sys
with subprocess.Popen(sys.argv[1:], stdout=subprocess.PIPE, stderr=subprocess.STDOUT) as proc, \
        open('logfile.txt', 'bw') as logfile:
    while True:
        byte = proc.stdout.read(1)
        if byte:
            sys.stdout.buffer.write(byte)
            sys.stdout.flush()
            logfile.write(byte)
            # logfile.flush()
        else:
            break
exit_status = proc.returncode

sleep.py

#!/usr/bin/env python3
import sys
import time
for i in range(10):
    print(i)
    sys.stdout.flush()
    time.sleep(1)

首先，我们可以进行非交互式的健全性检查：

./main.py ./sleep.py

我们看到它实时计数到标准输出。

接下来，对于交互式测试，您可以运行：

./main.py bash

然后，您键入的字符会在您键入时立即显示在终端上，这对于交互式应用程序非常重要。这是您跑步时发生的情况：

bash | tee logfile.txt

此外，如果希望输出立即显示在ouptut文件上，还可以添加：

logfile.flush()

但是tee不能做到这一点，我担心这会影响性能。您可以使用以下工具轻松测试这一点：

tail -f logfile.txt

相关问题：子进程命令的实时输出

在Ubuntu 18.04、Python 3.6.7上测试。

Answer 2

模拟：subprocess.call（"命令2

#!/usr/bin/env python2
from subprocess import Popen, PIPE, STDOUT

p = Popen("command", stdout=PIPE, stderr=STDOUT, bufsize=1)
with p.stdout, open('logfile', 'ab') as file:
    for line in iter(p.stdout.readline, b''):
        print line,  #NOTE: the comma prevents duplicate newlines (softspace hack)
        file.write(line)
p.wait()

要修复可能的缓冲问题（如果输出延迟），请参阅Python中的链接：从subprocess.communicate（）读取流输入。

这是Python 3版本：

#!/usr/bin/env python3
import sys
from subprocess import Popen, PIPE, STDOUT

with Popen("command", stdout=PIPE, stderr=STDOUT, bufsize=1) as p, \
     open('logfile', 'ab') as file:
    for line in p.stdout: # b'\n'-separated lines
        sys.stdout.buffer.write(line) # pass bytes as is
        file.write(line)

Answer 3

您可以使用管道从程序的标准输出读取数据，并将其写入您想要的所有位置：

import sys
import subprocess

logfile = open('logfile', 'w')
proc=subprocess.Popen(['cat', 'file'], stdout=subprocess.PIPE, stderr=subprocess.STDOUT)
for line in proc.stdout:
    sys.stdout.write(line)
    logfile.write(line)
proc.wait()

更新

在python 3中，universal\u newlines参数控制管道的使用方式。如果False，管道读取返回对象，可能需要解码（例如，行。解码（'utf-8'））以获取字符串。如果为True，python将为您解码

在3.3版中更改：当universal_newlines为True时，类使用编码locale.getpreferredencoding（False）而不是locale.getpreferredencoding（）。有关此更改的更多信息，请参阅io. TextIOWrapper类。