【发布时间】:2017-08-20 18:55:22
【问题描述】:
我正在处理 xml,我需要为每条记录发送一条消息,当我收到最后一条记录时,我关闭了 kafka 生产者,这里的问题是 kafka 生产者的发送方法是异步的,因此,有时当我关闭它的生产者java.lang.IllegalStateException: Cannot send after the producer is closed. 我在某处读过我可以让生产者保持打开状态。我的问题是:这意味着什么,或者是否有更好的解决方案。
---编辑---
<list>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
<element attr1="" att2="" attr3=""/>
...
</list>
想象以下场景:
- 我们读取标签并创建 kafka 生产者
- 我们读取每个元素的属性,生成一个 json 对象并使用 send 方法将其发送到 kafka。 - 当我们读取元素时,我们在生产者中调用 close 方法
问题元素的数量可能是 80k 因此,有时当我们调用 disconnect 方法时,它会继续以异步方式发送消息。所以我们需要先调用flush方法但是它会影响性能
【问题讨论】:
标签: java apache-kafka kafka-producer-api