线程安全 FIFO 队列/缓冲区

Question

我需要实现一种任务缓冲区。基本要求是：

• 在单个后台线程中处理任务
• 从多个线程接收任务
• 处理所有接收到的任务，即确保在收到停止信号后缓冲区中的缓冲任务已耗尽
• 必须保持每个线程接收的任务顺序

我正在考虑使用如下所示的队列来实现它。将不胜感激有关实施的反馈。还有其他更好的想法来实现这样的事情吗？

public class TestBuffer
{
    private readonly object queueLock = new object();
    private Queue<Task> queue = new Queue<Task>();
    private bool running = false;

    public TestBuffer()
    {
    }

    public void start()
    {
        Thread t = new Thread(new ThreadStart(run));
        t.Start();
    }

    private void run()
    {
        running = true;

        bool run = true;
        while(run)
        {
            Task task = null;
            // Lock queue before doing anything
            lock (queueLock)
            {
                // If the queue is currently empty and it is still running
                // we need to wait until we're told something changed
                if (queue.Count == 0 && running)
                {
                    Monitor.Wait(queueLock);
                }

                // Check there is something in the queue
                // Note - there might not be anything in the queue if we were waiting for something to change and the queue was stopped
                if (queue.Count > 0)
                {
                    task = queue.Dequeue();
                }
            }

            // If something was dequeued, handle it
            if (task != null)
            {
                handle(task);
            }

            // Lock the queue again and check whether we need to run again
            // Note - Make sure we drain the queue even if we are told to stop before it is emtpy
            lock (queueLock)
            {
                run = queue.Count > 0 || running;
            }
        }
    }

    public void enqueue(Task toEnqueue)
    {
        lock (queueLock)
        {
            queue.Enqueue(toEnqueue);
            Monitor.PulseAll(queueLock);
        }
    }

    public void stop()
    {
        lock (queueLock)
        {
            running = false;
            Monitor.PulseAll(queueLock);
        }
    }

    public void handle(Task dequeued)
    {
        dequeued.execute();
    }
}

Answer 1

您实际上可以使用开箱即用的BlockingCollection 来处理这个问题。

它被设计成有 1 个或多个生产者，以及 1 个或多个消费者。在您的情况下，您将有多个生产者和一个消费者。

当您收到停止信号时，使用该信号处理程序

• 信号生产者线程停止
• 在 BlockingCollection 实例上调用 CompleteAdding

消费者线程将继续运行，直到所有排队的项目都被移除并处理完毕，然后它会遇到 BlockingCollection 完成的条件。当线程遇到该条件时，它就会退出。

Answer 2

你应该想想ConcurrentQueue，实际上是先进先出。如果不合适，请尝试Thread-Safe Collections中的一些亲戚。使用这些可以避免一些风险。

Answer 3

我建议你看看TPL DataFlow。 BufferBlock 是您正在寻找的，但它提供的更多。

Answer 4

您可以为此在 .NET 3.5 上使用 Rx。它可能永远不会出现在 RC 中，但我相信它是稳定的*并且被许多生产系统使用。如果您不需要 Subject，您可能会发现 .NET 3.5 的原语（如并发集合），您可以使用 .NET Framework 4.0 之前未附带的原语。

Alternative to Rx (Reactive Extensions) for .net 3.5

* - Nit Picker 的角落：除了可能超出范围的高级时间窗口，但缓冲区（按计数和时间）、排序和调度程序都是稳定的。

Answer 5

看看我的线程安全 FIFO 队列的轻量级实现，它是一个使用线程池的非阻塞同步工具 - 在大多数情况下比创建自己的线程更好，并且比使用阻塞同步工具作为锁和互斥锁更好。 https://github.com/Gentlee/SerialQueue

用法：

var queue = new SerialQueue();
var result = await queue.Enqueue(() => /* code to synchronize */);