【问题标题】:what is the maximum no of store statement possible in pig script?猪脚本中可能的存储语句的最大数量是多少?
【发布时间】:2015-04-24 14:28:54
【问题描述】:

到目前为止,我在一个pig脚本中只使用了两个store语句。在一个pig脚本中使用多个store语句有什么限制吗?

 A = load 'page_views'; 
store A into 'tmp1' using PigStorage();
 B = load 'tmp1' using PigStorage();
 C = filter B by $0 is not null; 
store C into 'tmp2';
....
....
store D into 'tmp3';

【问题讨论】:

  • 请考虑提供有关您的特定用例的更多信息。

标签: hadoop apache-pig bigdata


【解决方案1】:

具有多个存储命令的脚本可能导致大量重复工作,但这在很大程度上取决于您如何使用 PIG。从技术上讲,单个脚本中没有最大数量的 store 语句。但是,如果您做错了,您可能会遇到一些性能问题。 Apache PIG Wiki 中有一篇关于性能的非常简洁的文章,您可能会发现有用的阅读材料。在多查询优化方面,还有an issue filed in Jira

【讨论】:

  • 感谢您的快速回复。发生什么样的重复?以及它将如何影响性能。考虑上述情况
  • 复制主要是关于使用不同进程处理同一数据流的不同部分。例如,存储中间结果可以防止你重复做同样的事情。但正如我之前所说,这因用例而异。阅读我提供的参考资料。
猜你喜欢
  • 2011-03-06
  • 2011-05-12
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2016-08-21
相关资源
最近更新 更多