【问题标题】:Long-lived ConnectionMultiplexer Logging长寿命连接多路复用器日志记录
【发布时间】:2019-03-26 15:00:40
【问题描述】:

我有一个监视服务,我正在使用StackExchange.Redis 为 Redis 编写它,并且正在订阅某些事件。我面临的问题是日志记录。它需要一个TextWriter。理想情况下,我希望将其分流到EventLog,因此我使用MemoryStream 支持StreamWriter,并在基于任务的计时器上使用StreamReader 转储到EventLog。

这个实现的问题是,在我的测试中,MemoryStream 泄漏严重,即使我在每次读取后使用MemoryStream.SetLength(int) 清除。 ConnectionMultipler.Connect() 方法只接受一个对象,我无法看到如何替换该对象,这意味着我还必须定期更新 ConnectionMultiplexer。

这听起来不好吗?我错过了什么吗?更简单的方法似乎是管理单个对象,但我没有看到如何控制它。这是一个用于演示的示例控制台应用程序。

class Program
{
    private static MemoryStream _loggingStream;
    private static StreamReader _reader;

    private static object _padlock = new object();

    static async Task Main(string[] args)
    {
        _loggingStream = new MemoryStream();
        _reader = new StreamReader(_loggingStream);

        var logWriter = new StreamWriter(_loggingStream);

        ThreadPool.QueueUserWorkItem(async state => await WriteLog());

        while (true)
        {
            Monitor.Enter(_padlock);

            try
            {
                await logWriter.WriteLineAsync("hello world " + DateTime.Now.ToLongTimeString());
                await logWriter.FlushAsync();
            }
            finally
            {
                Monitor.Exit(_padlock);
            }
        }
    }

    private static async Task WriteLog()
    {
        while (_loggingStream.Length == 0)
        {
            await Task.Delay(TimeSpan.FromMilliseconds(5));
        }

        string log;

        lock (_padlock)
        {
            _loggingStream.Position = 0;

            log = _reader.ReadToEnd();
            _reader.DiscardBufferedData();
            _loggingStream.SetLength(0);
        }

        Console.WriteLine(log);

        ThreadPool.QueueUserWorkItem(async state => await WriteLog());
    }
}

【问题讨论】:

  • 您正在记录异步调用 - 无法保证您的锁在被锁定的线程上被释放。您的Monitor 不安全,可能是许多问题的根源。我猜你忽略了编译器警告(错误?),你不能在异步调用周围使用 lock 并使用 Monitor 来规避它。
  • 您可以尝试在这种情况下使用SemaphoreSlim。
  • @xxbbcc 正确。我一直认为编译器如何处理 lock 导致使用 async/await 很痛苦,而不是 Monitor 不好。
  • @BercoviciAdrian 我已经重构为使用SemaphoreSlim,但不幸的是,这并不能解决我的实际问题。不过,如果它更线程安全,还是谢谢。
  • @Bigsby lock 被编译为 Monitor - 它们是一回事。您的大多数问题都来自于任务完成时在错误线程上使用的锁。您需要更改该部分 - SemaphoreSlim 是一个不错的选择,但请尝试查看是否可以在不锁定的情况下执行此操作。 (可能不可能。)

标签: c# memorystream stackexchange.redis


【解决方案1】:

问题不在于内存流。问题是Console.WriteLine。在MemoryStream 中写入/读取内容比在控制台中写入/读取内容要快很多。典型的 Windows 配置。您可能会在每次读取内存流时将其归零,但一旦您清除它,您就会放弃锁定,并且日志写入器开始旋转非常快。

在第一次迭代中,假设写日志的线程有 5ms 的时间来写一些日志。将其写入控制台需要超过 5ms,所以当控制台写入线程运行一次时,它的日志价值超过超过5ms,这将比写入前 5 毫秒的日志花费更长的时间......所以每次控制台写入线程完成写入日志的先前状态时,它会发现它有更多,并且写出来需要更长:是的,内存流正在消耗所有内存,但那是因为它需要内存来存储所有日志,而控制台写入线程正忙于消耗最后一次加载。

这里有一些数学,只是为了好玩:

d is rate at which logs are produced
c is how long it takes to consume a unit of logs
x(i) is the volume of logs produced during iteration i of the log-consumer
y(i) is how long it takes to consume the logs produced in iteration i

我们可以写一些很好的简单方程:

y(i) = c*x(i)     (time to consume logs is a linear function of volume)
x(i+1) = d*y(i)   (volume is a linear function of time between iterations)

适当地,我们可以确定日志量(与内存使用量成正比)如何随着每次迭代而变化

x(i+1) = d*c*x(i)

如果d*c > 1,那么x 会呈指数增长:对内存使用不利(尽管它仍然只能随时间线性增长,因为d 是限制因素(回想一下,我们关注的是每次迭代的成本,而不是时间) ))

如果我们考虑1/c(日志被消耗的速率),那么很明显这个条件在什么时候满足

d > 1/c (i.e. rate at which logs are produced is greater than the rate at which logs are consumed)

写入内存流比写入控制台便宜:d > 1/c,所以我们有一个基本问题,再怎么聪明也解决不了:你不能写这样的卷日志到控制台。

您可以在输出中看到这个问题,因为时间戳无法与时钟时间保持一致:它立即落后。删除Console.WriteLine 会使应用程序在我的机器上稳定在 10MB 左右。您还可以在内存使用中看到问题:它时不时地跳转,这是控制台编写器开始新迭代的(不频繁)事件,并将整个流(byte[])复制到char[]( ReadToEnd) 并最终生成 string:这并不重要,byte[] 可以立即释放,因为您有 2 个相同大小的对象来填补空缺。


顺便说一句,使用SetLength(0) 只会通过创建更多字节数组来掩盖问题,并且实际上可能增加了峰值内存使用量,因为它不会减少内存流的最大容量,并且意味着存在被丢弃的物品躺在周围等待垃圾收集。


正如在 cmets 中所讨论的,您不应该在线程之间访问监视器;您使用await 意味着当控制权返回到日志写入方法时,上下文将被保留,但不能保证您会得到相同的线程。

【讨论】:

  • 我完全没有想到这一点。我确实尝试设置一些等待时间,因为我很好奇这是否是排水率问题,但我仍然看到了爬升,尽管速度更慢。不过,如果 Console.WriteLine 是问题,那么为什么会随着时间的推移而增加。
  • @Bigsby 如果您注释掉Console.WriteLine,它的内存使用量是否仍会攀升至千兆字节?如果是这样,还有更多的东西在起作用,但在我的机器(Win 7,Framework 4.7)上肯定是这样。 (这将帮助你们中的很多人提供证据说明为什么怀疑内存流;我从头开始进行了这项调查,测试了各种事情,然后才发现Console.WriteLine 在lock 之外。就像以前一样前面在 cmets 中指出,表明存在泄漏是不够的:人们一直将正常的 GC 行为误认为是泄漏)
  • 在 Win 10、4.7.2 上,我悬停在 25 MB 左右,但确实悬停。所以是的,那是我的“泄漏”问题。我认为这是MemoryStream 的泄漏或某些内在原因是内存快照工具。通常,当您有一个不断上升的隔离增量并自行占用 99% 以上的内存使用量时,这就是内存没有正确释放,因此是泄漏。这不是泄漏,而是龟兔赛跑的资源利用竞赛。正如我所提到的,我已经对此进行了轻微的诊断,但没有测试Console.WriteLine,因为这对我来说从来都不是问题。
  • @Bigsby 我必须道歉,我完全误读了您之前的评论。很高兴你把它整理好了。
猜你喜欢
  • 1970-01-01
  • 2012-08-02
  • 2010-12-17
  • 2010-09-14
  • 2012-10-05
  • 1970-01-01
  • 2023-03-11
  • 2017-05-10
  • 2011-02-14
相关资源
最近更新 更多