python3:无法打开文件‘notebook’:errno 2 没有此文件或目录

python3:无法打开文件‘notebook’:errno 2 没有此文件或目录

我在 Jupyter Notebook 中运行 spark 时遇到问题。我在 /.bashrc 中设置了以下变量

export SPARK_HOME=~/Development/Spark/spark-2.4.4-bin-hadoop2.7
export PATH=$SPARK_HOME/bin:$PATH

export PATH=~/anaconda3/bin:$PATH
export PATH=$PATH:~/.local/bin/
export PYTHONPATH=$SPARK_HOME/python:$PYTHONPATH

export PYSPARK_DRIVER_PYTON=ipython
export PYSPARK_DRIVER_PYTHON_OPTS='notebook' pyspark
export PYSPARK_PYTHON=python3

当我输入 pyspark 时,出现错误

python3:无法打开文件‘notebook’:errno 2 没有此文件或目录

对我来说,“jupyter notebook”就是在浏览器中打开一个笔记本。

我怎样才能解决这个问题?

答案1

总结检查环境变量PYSPARK_DRIVER_PYTHONPYSPARK_PYTHON未设置在spark-env.sh

在参加 Pyspark Udemy 课程之前,我使用一本书设置 Spark 后遇到了类似的问题。

在搜索 StackOverflow 并进行故障排除后,我发现我已经在 ~/.bashrc 和 spark-env.sh 中定义了环境变量PYSPARK_DRIVER_PYTHONPYSPARK_PYTHON如下所示。

~/.bashrc

export PYSPARK_PYTHON=~/anaconda3/bin/python
export PYSPARK_DRIVER_PYTHON=jupyter
export PYSPARK_DRIVER_PYTHON_OPTS=notebook

spark-env.sh

PYSPARK_PYTHON=python3
PYSPARK_DRIVER_PYTHON=python3

解决方案对我来说就是消除中的线条spark-env.sh。然后我可以通过运行pyspark命令来启动 jupyter notebook 并在笔记本中使用 pyspark。预计该jupyter notebook命令应该在浏览器中打开 jupyter notebook。

希望这可以帮助!

相关内容