【问题标题】:Python script using spark library at Bluemix在 Bluemix 上使用 spark 库的 Python 脚本
【发布时间】:2016-01-21 17:23:27
【问题描述】:
我正在尝试编写 python 脚本来调用 Bluemix 平台上的 spark 库。你介意建议流程吗?
我在 Bluemix 上创建了 Apache Spark 分析服务,并打开了一个 iPython Notebook。但是,我无法使用 !pip install <package> 安装新的 python 包
假设我已经解决了这个问题,我希望它像一个应用程序一样工作,我可以在后台连续运行它。有可能吗?
【问题讨论】:
标签:
python
apache-spark
ipython-notebook
ibm-cloud
【解决方案1】:
默认情况下,pip 安装到系统目录中。您无权这样做。相反,您需要包含 --user pip 选项才能仅为您的 apache spark 服务租户安装它。为了将来参考,请查看documentation for 3rd-party libraries。
re:“我可以在后台连续制作的应用程序”。好吧,在 IPython 笔记本中,您可以编写随心所欲地运行的代码。实际上,您可以关闭此类笔记本的浏览器页面,笔记本内核将继续在服务器端保持活动状态;您可以根据需要明确关闭内核或稍后重新打开笔记本页面。
【解决方案2】:
另外,你可以用另一种方式:
首先找到主目录:
print os.environ["HOME"]
然后将模块安装到这个目录:!pip install <package> -t 'your home directory'
追加目录路径:
import sys, os
sys.path.append("".join([os.environ["HOME"]]))
最后导入模块:import <package>