JAVA - 并发 - 多生产者/多消费者请求和响应队列

Question

我有 3 种类型的线程。主线程，工作者，客户端。 我也有 2 个队列，一个请求队列和一个响应队列。

主线程产生许多客户端。每个客户端都会请求一些东西，并且应该将其添加到主请求队列中。主程序将产生适当的工作人员，工作人员将处理请求。完成后，它会将 [result, calling thread #] 添加到响应队列中。每个客户端都会在请求后等待响应。我该怎么办？

我想我应该为队列使用并发链接队列。这个可以吗？ 客户端是否应该偷看直到找到它的线程 ID 和轮询？头部是否有可能在窥视和轮询之间改变？我不想添加锁，因为会有很多争用和延迟。

这必须是线程安全和并发的，并且没有任何死锁或饥饿。

Answer 1

我将有一个请求队列，然后为每个客户端创建一个单独的响应队列。作为发送给工作人员的请求的一部分，我会引用客户端的响应队列，这样客户端就不必通过单个响应队列连续peak()。

对请求和响应队列都使用BlockingQueues。在请求队列上放置更高的容量（即大于客户端线程的数量）以消除饥饿。响应队列的容量可以只有一个。使用put() 和take() 而不是peak() 和poll()。

顺序如下：

1. 客户端创建请求。

2. 客户端将其放入请求队列中，如果队列已满则阻塞。 （这就是你提高请求队列容量的原因。）

3. 客户端在它自己的响应队列上调用take()并阻塞，因为它是空的。

4. 工作线程产生，或已经产生并在空请求队列上阻塞。

5. 工作线程从请求队列中移除项目并对其进行处理。完成后，它会将其放入客户端的响应队列中（使用对请求中传递的响应队列的引用。）

6. 这会导致客户端解除阻止。客户端从其响应队列中移除响应并对其进行处理。