【问题标题】:How to flatten a RDD<List>?如何展平 RDD<List>?
【发布时间】:2014-12-17 03:07:14
【问题描述】:

我是 Spark 的新手,我使用 Java 进行函数式编程,并将 Casandra 作为数据源。 作为地图任务的输出,我得到了一个字符串列表。

JavaRDD<List<String>> crows = sessions.map(new Function<Session, List<String>>() {});

我想从JavaRDD&lt;List&lt;String&gt;&gt; to JavaRDD&lt;String&gt; 类型转换变量 crows,即想要变平。 有人可以建议一种方法吗?

【问题讨论】:

  • flatmap 而不是 map?

标签: java apache-spark flatten


【解决方案1】:

根据@UniLocal,以下工作:

JavaRDD<String> crows = sessions.flatMap(new FlatMapFunction<Session, String>() {
    public Iterable<String>  call(T x) {
        List<String> someList = ...
        return someList;
    }
});

【讨论】:

猜你喜欢
  • 2019-11-28
  • 1970-01-01
  • 1970-01-01
  • 2019-11-20
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多