Kafka注意事项

如果 会发生比较严重的数据倾斜,而且在压力较大的情况会导致数据丢失。所以跟kafka server YDB的总分片数为spark.executor.max.usedcores);

注:2个,表示每个进程会启动l数据丢失根本问题在于磁盘与网络是否繁忙!!!!!!

如果磁盘长时间使用率kafka retry机制无效

l如果我们先前采用的callback,一旦消息发送失败,我们没有处理异常的话,这个消息就丢了。

这个问题如何解决?

Kafka尽量独立集群,最低要求也一定要独立磁盘,并且写入限速

独立磁盘是解决问题的根本,磁盘很繁忙的情况下,2)send 里面的send函数里的Exception exception不是KAFKA配置要点

kafka的参数

Producter端增加如下参数

b)broker增加如下配置

KAFKA配置要点

KAFKA配置要点

KAFKA配置要点

相关文章:

  • 2021-06-06
  • 2022-12-23
  • 2021-12-05
  • 2022-03-07
  • 2021-04-26
  • 2021-10-14
  • 2021-11-23
  • 2021-12-23
猜你喜欢
  • 2021-11-23
  • 2021-12-03
  • 2021-12-03
  • 2022-01-27
  • 2021-07-30
  • 2021-06-06
相关资源
相似解决方案