kafka对于消息体的大小默认为单条最大值是1M. 但是在我们应用场景中, 常常会出现一条消息大于1M, 如果不对kafka进行配置. 则会出现生产者无法将消息推送到kafka或消费者无法去消费kafka里面的数据, 这时我们就要对kafka进行以下配置:

kafka_2.11-0.9.0.0/config/server.properties

kafka支持大数据传输

Producer的参数中添加:max.request.size设置请求消息的大小    compression.type 启动压缩模式

kafka支持大数据传输

Consumer的参数配置:max.partision.fetch.bytes 每次从单个分区中拉取的消息最大尺寸

kafka支持大数据传输

相关文章:

  • 2022-02-27
  • 2021-09-27
  • 2021-12-10
  • 2021-07-04
  • 2021-12-03
  • 2021-11-20
  • 2022-03-04
猜你喜欢
  • 2021-06-16
  • 2021-05-17
  • 2021-12-10
  • 2022-01-15
  • 2022-12-23
  • 2021-11-24
  • 2022-02-16
相关资源
相似解决方案