AIOKafka：以前工作的代码现在在 send_and_wait 失败

Question

我使用 AIOKafka 已经有一段时间了，直到今天我都没有遇到任何问题。

当我尝试使用AIOKafkaProducer.send_and_wait 发送消息时，出现了奇怪的TypeError。我还将这个问题作为问题发布在 AIOKafka 的 github 存储库上，但看起来它们有点不活跃。也许这里有人可以帮助我。

代码如下：

import asyncio
from aiokafka import AIOKafkaConsumer, AIOKafkaProducer

loop = asyncio.get_event_loop()
producer = AIOKafkaProducer(loop=loop, bootstrap_servers="localhost:9092")

async def _initialize(prod, future):
    await prod.start()
    await prod.send_and_wait("main_topic", str.encode("hello!!"))

future = asyncio.Future()
task = asyncio.ensure_future(_initialize(producer, future))
loop.run_until_complete(task)
print("loop ended!")
loop.close()

这是我收到的错误消息：

yilmazali@yilmazali:~$ python3 aiokafkatest.py
Unexpected error in sender routine
Traceback (most recent call last):
  File "/usr/local/lib/python3.6/dist-packages/aiokafka/producer/producer.py", line 374, in _sender_routine
    task.result()
  File "/usr/local/lib/python3.6/dist-packages/aiokafka/producer/producer.py", line 418, in _send_produce_req
    response = yield from self.client.send(node_id, request)
  File "/usr/local/lib/python3.6/dist-packages/aiokafka/client.py", line 415, in send
    request, expect_response=expect_response)
  File "/usr/local/lib/python3.6/dist-packages/aiokafka/conn.py", line 165, in send
    message = header.encode() + request.encode()
  File "/usr/local/lib/python3.6/dist-packages/kafka/util.py", line 159, in __call__
    return self.method()(self.target(), *args, **kwargs)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/struct.py", line 42, in _encode_self
    [self.__dict__[name] for name in self.SCHEMA.names]
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 132, in encode
    for i, field in enumerate(self.fields)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 132, in <listcomp>
    for i, field in enumerate(self.fields)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 170, in encode
    [self.array_of.encode(item) for item in items]
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 170, in <listcomp>
    [self.array_of.encode(item) for item in items]
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 132, in encode
    for i, field in enumerate(self.fields)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 132, in <listcomp>
    for i, field in enumerate(self.fields)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 170, in encode
    [self.array_of.encode(item) for item in items]
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 170, in <listcomp>
    [self.array_of.encode(item) for item in items]
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 132, in encode
    for i, field in enumerate(self.fields)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 132, in <listcomp>
    for i, field in enumerate(self.fields)
  File "/usr/local/lib/python3.6/dist-packages/kafka/protocol/types.py", line 93, in encode
    return Int32.encode(len(value)) + value
TypeError: object of type '_io.BytesIO' has no len()

我没有更改我的 kafka 结构或库。我的卡夫卡经纪人看起来不错。我可以使用 shell 脚本生成/使用消息。

在过去的 2-3 个月里，我对 AIOKafka 没有任何问题，上面的代码运行良好。不知从何而来，这个错误出现了，我想知道问题是什么。

任何帮助将不胜感激。

致以最诚挚的问候，

阿里

--

更新：我们在朋友的电脑上运行了这段代码，它运行良好。我向外面宣传了我的 kafka，她用上面的代码成功地写信给我当地的 kafka 主题。两台机器上的 AIOKafka 库版本均为 0.4.0。两台机器上的 asyncio 版本也是 3.4.3。简而言之，问题不在于我的卡夫卡或图书馆。我的机器出了点问题，但上帝知道具体是什么原因造成的。

Answer 1

终于在我的机器上工作了。我只是卸载并安装了aiokafka 模块。

虽然我对这个解决方案不满意，我想更深入地探索问题的核心，但我很高兴我现在可以继续做我的工作。

希望这对遇到同样问题的陌生人有所帮助。

Answer 2

可能您已将 kafka-python 更新到高于 1.3.5 的版本。我这样做了，aiokafka 开始失败。我在 kafka-python 1.3.5 返回，看起来还可以