Linux 服务器上的 Python 日志记录非常慢……但在 Linux 开发 VM 上却很快？答案

【问题标题】：Python logging extremely slow on Linux server... but fast on Linux development VM?Linux 服务器上的 Python 日志记录非常慢……但在 Linux 开发 VM 上却很快？
【发布时间】：2012-07-11 19:50:14
【问题描述】：

使用完全相同的代码，每次调用服务器上的记录器方法（例如 logger.debug）大约需要 50 毫秒，而在开发机器上则不到 1 毫秒。记录器正在输出到文件，并进行了一些格式化。

除了日志记录速度变慢之外，服务器速度是原来的两倍。

我正在 Windows 7 上的 VMWare 内运行的 Ubuntu 11.04 (Gnome) 上进行开发。服务器正在运行 Ubuntu Server 11.04（无 GUI，纯控制台）。日志模块是官方的“日志”模块（“import logging ... logger = logging.getLogger('mylogger')”）。

知道是什么原因造成的吗？实在是太郁闷了！

感谢您的帮助！

编辑：两台机器都为其版本返回“Python 2.7.1+”。两台机器都运行 64 位 Ubuntu。

服务器的硬盘配置是软件 RAID-1，而在开发计算机中只有一个驱动器。

EDIT2：接受了 Fabian 的回答，因为它是彻底的，虽然它并没有完全解决问题。

解决方案：写入控制台，句号，非常慢。我测试了将 X 写入文件，并将 X 写入控制台，控制台的速度大约慢了 100 倍。我不知道为什么会这样，但我只是从另一台计算机上运行了我使用 ssh 运行的程序，一切都解决了。

【问题讨论】：

你能把两个python的版本都发一下吗
您还可以检查两台机器上是否使用了完全相同的记录器。 logging_tree 包在那里很有用。
你可以尝试登录到标准输出而不是文件并检查速度是否改变。可能是硬盘问题。
可能是磁盘速度差异？
您可能想要实际分析您的代码 (docs.python.org/library/profile.html#module-cProfile)，以查看哪些函数运行速度明显变慢。

标签： python performance logging ubuntu console

【解决方案1】：

正如 cmets 中所述，一个可能的原因是开发 VM 和生产机器之间的磁盘速度差异。您在两个系统中是否有相同类型的驱动器，例如。 SSD、SATA 与 SCSI、主轴速度和缓存，等等？您的环境在 IO 方面完全不同。桌面 Windows 和 VMWare 将使用激进的磁盘缓存，而您的生产 Linux 机器可能会在安全方面出错并更频繁地等待数据提交到磁盘。也许 Windows 机器的驱动程序更适合它所拥有的磁盘类型，而服务器在没有优化的情况下运行？文件系统的差异也很显着，硬件的差异可能足以导致 IO 速度的显着差异。 CPU 和 RAM 速度也可能存在很大差异。如今的台式机通常更关注原始速度，而服务器硬件则更关注可靠性。您最了解自己的设置，因此您可以比较两个系统的硬件性能。

除此之外，您还可以通过以下方法了解实际情况：

首先，编写一个 MWE 来测试日志记录。您应该基于您的真实代码，并以类似的方式使用日志记录，但这里有一个小例子：

import logging

logging.basicConfig(filename="test.log", level=logging.DEBUG)
logger = logging.getLogger("testlogger")

for i in range(0, 1000000):
    logger.info("iteration: %d", i)

然后在您的开发和生产机器上运行 cProfile 下的脚本。请务必登录到与您的问题案例相同的文件系统，否则结果将不适用。

python -m cProfile testlogging.py

您将获得如下所示的输出：

57000501 function calls in 137.072 seconds

Ordered by: standard name

ncalls  tottime  percall  cumtime  percall filename:lineno(function)
    1    0.000    0.000    0.000    0.000 UserDict.py:4(__init__)
    1    0.000    0.000    0.000    0.000 __init__.py:1044(_fixupParents)
    1    0.000    0.000    0.000    0.000 __init__.py:1085(Logger)
    2    0.000    0.000    0.000    0.000 __init__.py:1100(__init__)
    1    0.000    0.000    0.000    0.000 __init__.py:1112(setLevel)
.....    .....    .....    .....    ..... ...............................

这应该让您了解导致生产机器运行缓慢的原因。需要特别注意的事项：

查找读取{method 'write' of 'file' objects} 和{method 'flush' of 'file' objects} 的行。这将告诉您 Python 花了多少时间写入文件并将数据刷新到磁盘——在本例中为日志文件。两台机器之间有显着差异吗？如果是这样，那肯定是 IO（磁盘）速度的差异。然后，您应该查看服务器的磁盘设置，看看是否可以采取任何措施来获得更好的磁盘性能。
查找第一个percall 列特别大的行。此列是函数中花费的总时间除以对该函数的调用次数。比较两台机器，您可能会发现造成差异的原因。
查找tottime 列特别大的行。此列是函数花费的总时间。再次对比两台机器，你可能会发现速度差异的一些原因。

如果您发现磁盘 IO 似乎是问题所在，您可以仅对文件进行原始写入进行额外测试。您可能会找到一个可以测试磁盘吞吐量的基准测试程序，但您也可以只编写一个简单的 C（或 Python）程序，将未格式化的数据写入文件，以确保它确实是纯磁盘性能，这就是区别。

最后一点：性能测试就像编程一样，是艺术、科学和工程的混合体，虽然您可以遵循一些模式和建议，但每个案例都需要一点创造力才能破解。所以尝试一些事情，确保你不要自欺欺人，玩得开心！祝你好运！

【讨论】：