【问题标题】:How to process a .png or .jpg file in kafka? [duplicate]如何在 kafka 中处理 .png 或 .jpg 文件? [复制]
【发布时间】:2019-04-09 14:00:42
【问题描述】:

我启动了我的 zookeper 和 kafkaServer 并能够从生产者向消费者发送消息 但是我不知道如何处理图像并将其从生产者发送到消费者?

动物园管理员

./bin/zookeeper-server-start.sh config/zookeeper.properties

卡夫卡服务器

./bin/kafka-server-start.sh config/server.properties

创建了一个主题

./bin/kafka-topics.sh --create --zookeeper localhost:2181 --
replication-factor 1 --partitions 1 --topic img_process

【问题讨论】:

    标签: apache-kafka


    【解决方案1】:

    当您将消息存储到 Kafka 中时,您实际上只是存储了一个字节数组,所以是的,您可以通过 Kafka 传递图像,只需将图像读取为一个大字节数组并通过生产者发送。您可能希望在键或标头中存储其他元数据。

    话虽如此,您将收到一些相当大的消息。另一种方法是将图像存储在某个文件系统上(如果生产者和消费者位于不同的机器上,则为分布式文件系统),并将 URI(绝对文件名)作为消息的内容发送。就 Kafka 而言,这样做的好处是效率更高,但是您现在必须处理在两个不同的地方维护数据。另外,请注意,分布式文件系统有时会存在延迟,并且包含文件 URI 的 Kafka 消息可能在文件本身可供消费者使用之前可供消费者使用。

    【讨论】:

    • 那么我该如何进行呢?如果我需要使用大量图像进行大规模工作?
    猜你喜欢
    • 2019-09-22
    • 2019-08-29
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-10-20
    • 2019-10-24
    • 2020-12-16
    相关资源
    最近更新 更多