【发布时间】:2021-05-02 01:18:32
【问题描述】:
我一直在努力寻找在 zeppelin notebook 中运行 spark 程序的问题的解决方案。不知道怎么回事
我正在使用 zeppelin zeppelin-0.7.3-bin-all 我已经创建了 AWS 胶水端点和端口转发。
关注这些链接对我没有任何帮助 https://gist.github.com/codspire/7b0955b9e67fe73f6118dad9539cbaa2 https://docs.aws.amazon.com/glue/latest/dg/dev-endpoint-tutorial-local-notebook.html
当我在 http://localhost:8080/ 中运行一段 spark 代码时
%pyspark
a=5*4
print("value = %i" % (a))
sc.version
得到以下错误
org.apache.thrift.transport.TTransportException 在 org.apache.thrift.transport.TIOStreamTransport.read(TIOStreamTransport.java:132) 在 org.apache.thrift.transport.TTransport.readAll(TTransport.java:86) 在 org.apache.thrift.protocol.TBinaryProtocol.readAll(TBinaryProtocol.java:429) 在 org.apache.thrift.protocol.TBinaryProtocol.readI32(TBinaryProtocol.java:318) 在 org.apache.thrift.protocol.TBinaryProtocol.readMessageBegin(TBinaryProtocol.java:219) 在 org.apache.thrift.TServiceClient.receiveBase(TServiceClient.java:69) 在 org.apache.zeppelin.interpreter.thrift.RemoteInterpreterService$Client.recv_interpret(RemoteInterpreterService.java:266) 在 org.apache.zeppelin.interpreter.thrift.RemoteInterpreterService$Client.interpret(RemoteInterpreterService.java:250) 在 org.apache.zeppelin.interpreter.remote.RemoteInterpreter.interpret(RemoteInterpreter.java:373) 在 org.apache.zeppelin.interpreter.LazyOpenInterpreter.interpret(LazyOpenInterpreter.java:97) 在 org.apache.zeppelin.notebook.Paragraph.jobRun(Paragraph.java:406) 在 org.apache.zeppelin.scheduler.Job.run(Job.java:175) 在 org.apache.zeppelin.scheduler.RemoteScheduler$JobRunner.run(RemoteScheduler.java:329) 在 java.util.concurrent.Executors$RunnableAdapter.call(未知 源)在 java.util.concurrent.FutureTask.run(未知源)在 java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.access$201(未知 来源)在 java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.run(未知 来源)在 java.util.concurrent.ThreadPoolExecutor.runWorker(未知 来源)在 java.util.concurrent.ThreadPoolExecutor$Worker.run(未知 来源)在 java.lang.Thread.run(未知来源)
请帮忙!
【问题讨论】:
标签: apache-spark pyspark aws-glue