【发布时间】:2018-06-05 18:46:16
【问题描述】:
我用 pyspark 配置了 eclipse
我正在使用最新版本的 SPARK 和 PYTHON。
当我尝试编写代码并运行时。我得到以下错误。
java.io.IOException: Cannot run program "python": CreateProcess error=2, The system cannot find the file specified
我写的代码如下
'''
Created on 23-Dec-2017
@author: lenovo
'''
from pyspark import SparkContext,SparkConf
from builtins import int
#from org.spark.com.PySparkDemo import data
from pyspark.sql import Row
from pyspark.sql.context import SQLContext
conf = SparkConf().setAppName("FileSystem").setMaster("local")
sc=SparkContext(conf=conf)
sqlContext=SQLContext(sc)
a = sc.textFile("C:/Users/lenovo/Desktop/file.txt")
b = a.map(lambda x:x.split(",")).map(lambda x:Row(id=int(x[0]),name=x[1],marks=int(x[2])))
c = sqlContext.createDataFrame(b)
c.show()
请推荐
【问题讨论】:
标签: python eclipse apache-spark pyspark pyspark-sql