禁用输出缓冲

Question

在 Python 的解释器中是否默认为 sys.stdout 启用输出缓冲？

如果答案是肯定的，有什么方法可以禁用它？

目前的建议：

1. 使用-u 命令行开关
2. 将 sys.stdout 包装在每次写入后刷新的对象中
3. 设置PYTHONUNBUFFERED环境变量
4. sys.stdout = os.fdopen(sys.stdout.fileno(), 'w', 0)

有没有其他方法可以在执行期间以编程方式在sys/sys.stdout 中设置一些全局标志？

Answer 1

来自Magnus Lycka answer on a mailing list：

您可以跳过整个缓冲 使用“python -u”的python进程 （或#!/usr/bin/env python -u 等）或通过 设置环境变量 蟒蛇无缓冲。

您也可以将 sys.stdout 替换为 其他一些流，如包装器 每次调用后都会刷新。

class Unbuffered(object):
   def __init__(self, stream):
       self.stream = stream
   def write(self, data):
       self.stream.write(data)
       self.stream.flush()
   def writelines(self, datas):
       self.stream.writelines(datas)
       self.stream.flush()
   def __getattr__(self, attr):
       return getattr(self.stream, attr)

import sys
sys.stdout = Unbuffered(sys.stdout)
print 'Hello'

Answer 2

我宁愿将我的答案放在How to flush output of print function? 或Python's print function that flushes the buffer when it's called? 中，但由于它们被标记为与这个重复（我不同意），所以我会在这里回答。

从 Python 3.3 开始，print() 支持关键字参数“flush”（see documentation）：

print('Hello World!', flush=True)

Answer 3

# reopen stdout file descriptor with write mode
# and 0 as the buffer size (unbuffered)
import io, os, sys
try:
    # Python 3, open as binary, then wrap in a TextIOWrapper with write-through.
    sys.stdout = io.TextIOWrapper(open(sys.stdout.fileno(), 'wb', 0), write_through=True)
    # If flushing on newlines is sufficient, as of 3.7 you can instead just call:
    # sys.stdout.reconfigure(line_buffering=True)
except TypeError:
    # Python 2
    sys.stdout = os.fdopen(sys.stdout.fileno(), 'w', 0)

致谢：“Sebastian”，在 Python 邮件列表中的某处。

Answer 4

是的。

您可以在命令行中使用“-u”开关禁用它。

或者，您可以在每次写入时在 sys.stdout 上调用 .flush()（或用自动执行此操作的对象包装它）

Answer 5

这与 Cristóvão D. Sousa 的回答有关，但我还不能发表评论。

使用 Python 3 的 flush 关键字参数以始终具有无缓冲输出的直接方法是：

import functools
print = functools.partial(print, flush=True)

之后，print 总是会直接刷新输出（flush=False 除外）。

请注意，(a) 这只是部分回答了问题，因为它不会重定向所有输出。但我猜print 是在 python 中创建输出到stdout/stderr 的最常用方法，所以这两行可能涵盖了大部分用例。

注意 (b) 它只适用于您定义它的模块/脚本。这在编写模块时会很好，因为它不会与sys.stdout 混淆。

Python 2 不提供 flush 参数，但您可以模拟 Python 3 类型的 print 函数，如此处所述 https://stackoverflow.com/a/27991478/3734258。

Answer 6

def disable_stdout_buffering():
    # Appending to gc.garbage is a way to stop an object from being
    # destroyed.  If the old sys.stdout is ever collected, it will
    # close() stdout, which is not good.
    gc.garbage.append(sys.stdout)
    sys.stdout = os.fdopen(sys.stdout.fileno(), 'w', 0)

# Then this will give output in the correct order:
disable_stdout_buffering()
print "hello"
subprocess.call(["echo", "bye"])

不保存旧的sys.stdout，disable_stdout_buffering()就不是幂等的，多次调用会报这样的错误：

Traceback (most recent call last):
  File "test/buffering.py", line 17, in <module>
    print "hello"
IOError: [Errno 9] Bad file descriptor
close failed: [Errno 9] Bad file descriptor

另一种可能是：

def disable_stdout_buffering():
    fileno = sys.stdout.fileno()
    temp_fd = os.dup(fileno)
    sys.stdout.close()
    os.dup2(temp_fd, fileno)
    os.close(temp_fd)
    sys.stdout = os.fdopen(fileno, "w", 0)

（附加到 gc.garbage 并不是一个好主意，因为它是放置不可释放循环的地方，您可能需要检查这些。）

Answer 7

以下适用于 Python 2.6、2.7 和 3.2：

import os
import sys
buf_arg = 0
if sys.version_info[0] == 3:
    os.environ['PYTHONUNBUFFERED'] = '1'
    buf_arg = 1
sys.stdout = os.fdopen(sys.stdout.fileno(), 'a+', buf_arg)
sys.stderr = os.fdopen(sys.stderr.fileno(), 'a+', buf_arg)

Answer 8

是的，默认启用。你可以在调用 python 时在命令行中使用 -u 选项来禁用它。

Answer 9

在 Python 3 中，您可以对 print 函数进行猴子修补，以始终发送 flush=True：

_orig_print = print

def print(*args, **kwargs):
    _orig_print(*args, flush=True, **kwargs)

正如评论中指出的，您可以通过 functools.partial 将 flush 参数绑定到一个值来简化此操作：

print = functools.partial(print, flush=True)

Answer 10

您还可以使用stdbuf 实用程序运行 Python：

stdbuf -oL python <script>

Answer 11

您还可以使用 fcntl 即时更改文件标志。

fl = fcntl.fcntl(fd.fileno(), fcntl.F_GETFL)
fl |= os.O_SYNC # or os.O_DSYNC (if you don't care the file timestamp updates)
fcntl.fcntl(fd.fileno(), fcntl.F_SETFL, fl)

Answer 12

您可以创建一个无缓冲文件并将此文件分配给 sys.stdout。

import sys 
myFile= open( "a.log", "w", 0 ) 
sys.stdout= myFile

你不能神奇地改变系统提供的标准输出；因为它是由操作系统提供给你的 python 程序的。

Answer 13

可以仅用调用flush 的方法覆盖sys.stdout 的write 方法。建议的方法实现如下。

def write_flush(args, w=stdout.write):
    w(args)
    stdout.flush()

w 参数的默认值将保留原始write 方法引用。 write_flush 被定义后，原来的write 可能会被覆盖。

stdout.write = write_flush

代码假设stdout是这样导入的from sys import stdout。

Answer 14

获得无缓冲输出的一种方法是使用 sys.stderr 而不是 sys.stdout 或简单地调用 sys.stdout.flush() 以显式强制写入。

您可以通过以下方式轻松重定向打印的所有内容：

import sys; sys.stdout = sys.stderr
print "Hello World!"

或仅针对特定的print 语句进行重定向：

print >>sys.stderr, "Hello World!"

要重置标准输出，您可以这样做：

sys.stdout = sys.__stdout__

Answer 15

在不崩溃的情况下工作的变体（至少在 win32；python 2.7，ipython 0.12 上）然后随后调用（多次）：

def DisOutBuffering():
    if sys.stdout.name == '<stdout>':
        sys.stdout = os.fdopen(sys.stdout.fileno(), 'w', 0)

    if sys.stderr.name == '<stderr>':
        sys.stderr = os.fdopen(sys.stderr.fileno(), 'w', 0)

Answer 16

（我发表了一条评论，但它不知何故丢失了。所以，再次：）

1. 我注意到，CPython（至少在 Linux 上）的行为取决于输出的位置。如果它进入 tty，则在每个 '\n' 之后刷新输出
   如果它进入管道/进程，那么它会被缓冲，您可以使用基于 flush() 的解决方案或上面推荐的 -u 选项。

2. 与输出缓冲略有关系：
   如果您使用

   遍历输入中的行

   for line in sys.stdin:
   ...

然后 CPython 中的 for 实现将收集输入一段时间，然后为一堆输入行执行循环体。如果您的脚本要为每个输入行写入输出，这可能看起来像输出缓冲，但实际上是批处理，因此，flush() 等技术都无济于事。 有趣的是，您在 pypy 中没有这种行为。 为避免这种情况，您可以使用

while True: line=sys.stdin.readline()
...