【发布时间】:2017-11-06 13:50:24
【问题描述】:
您好,我有以下数据,想将其映射到第二个参数中的第一项。所以对于:
1 -> List((1,11))
1 -> List((1,1), (1,111))
我想要:
(1,11)
(1,1)
当此数据在 RDD 中时,我可以执行以下操作:
scala> val m = sc.parallelize(Seq(11 -> List((1,11)), 1 -> List((1,1),(1,111))))
m: org.apache.spark.rdd.RDD[(Int, List[(Int, Int)])] = ParallelCollectionRDD[198] at parallelize at <console>:47
scala> m.map(_._2.head).collect.foreach(println)
(1,11)
(1,1)
但是,当它位于 Map 对象中时(groupBy 的结果),我得到以下信息:
scala> val m = Map(11 -> List((1,11)), 1 -> List((1,1)))
m: scala.collection.immutable.Map[Int,List[(Int, Int)]] = Map(11 -> List((1,11)), 1 -> List((1,1), (1,111)))
scala> m.map(_._2.head)
res1: scala.collection.immutable.Map[Int,Int] = Map(1 -> 1)
当我映射到整个列表时,我得到了我期望的结果,但当我直接调用它时却没有
scala> m.map(_._2)
res2: scala.collection.immutable.Iterable[List[(Int, Int)]] = List(List((1,11)), List((1,1), (1,111)))
如果我执行以下任一操作,我也可以获得我想要的结果:
scala> m.map(_._2).map(_.head)
res4: scala.collection.immutable.Iterable[(Int, Int)] = List((1,11), (1,1))
scala> m.values.map(_.head)
res5: Iterable[(Int, Int)] = List((1,11), (1,1))
有人能解释一下这里发生了什么吗?
【问题讨论】:
-
你也可以通过
m.toSeq.map(_._2.head)得到想要的结果
标签: scala scala-collections implicit scala-implicits