怪异现象:数据量不大,且不是Reduce端OOM,是Map端OOM

 

Map Task运行的时候数据流中包含了非法字符例如:EOF、NOP等东西,导致BufferedReader读取和StreamDecoder解码出错,

进一步导致了OOM,需要剔除这些记录,可以通过length来限制。

 

PS:当然,这只是Map 端OOM出现的其中一种原因,仅供参考。

 

相关文章:

  • 2021-04-03
  • 2021-05-25
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-08-28
  • 2021-06-23
猜你喜欢
  • 2021-11-08
  • 2021-11-07
  • 2021-11-22
  • 2021-09-11
  • 2021-08-27
  • 2021-10-25
  • 2022-01-12
相关资源
相似解决方案