map() 和 flatMap() 的输出-有什么区别[重复]

Question

我对 spark（和编程）非常陌生，因此，如果您能帮助我了解这两个输出之间的区别，那就太好了。

map()
>>> data = ['1', '2', '3', '4', '5', 'one', 'two']
>>> distData = sc.parallelize(data)
>>> maping = distData.map(lambda x: x.split())
>>> maping.collect()
[['1'], ['2'], ['3'], ['4'], ['5'], ['one'], ['two']]                           
>>> for i in maping.take(100): print(i)
... 
['1']
['2']
['3']
['4']
['5']
['one']
['two']

FlatMap()

>>> maping = distData.flatMap(lambda x: x.split())
>>> maping.collect()
['1', '2', '3', '4', '5', 'one', 'two']
>>> for i in maping.take(100): print(i)
... 
1
2
3
4
5
one
two

Answer 1

map 函数是一对多转换，而flatMap 函数是一对零或多转换。

根据docs，

map(func)：返回一个新的分布式数据集，通过函数func传递源的每个元素。

flatMap(func)：和map类似，但是每个输入项可以映射到0 或更多输出项（因此 func 应该返回 Seq 而不是单个 项目）。

你可以说对于每个输入值，flatMap 输出一个 sequence，它可以有 0 个或多个元素被展平以形成输出 RDD。

请参阅此SO question，它演示了一个很好的用例。