当前位置: 首页 > 知识库问答 >
问题:

如何在Spark中设置驱动程序的python版本?

冷正青
2023-03-14

我使用的是Spark1.4.0-RC2,这样我就可以将Python3与spark一起使用了。如果我将exportpyspark_python=python3添加到我的.bashrc文件中,我就可以与Python3交互地运行spark。但是,如果我想在本地模式下运行一个独立程序,我会得到一个错误:

Exception: Python in worker has different version 3.4 than that in driver 2.7, PySpark cannot run with different minor versions

如何为驱动程序指定python的版本?设置export pyspark_driver_python=python3不工作。

共有1个答案

马权
2023-03-14

您需要确保要启动的独立项目是用Python3启动的。如果您是通过spark-submit提交独立程序,那么它应该可以正常工作,但是如果您是用python启动它,请确保使用python3启动应用程序。

此外,确保您已经在./conf/spark-env.sh中设置了环境变量(如果不存在,您可以使用spark-env.sh.template作为基础。)

 类似资料:
  • 嗨,我对硒很陌生。所以请原谅我的技术错误。我有一个适合IE的项目,但我也需要使用firefox进行测试。在IE中执行时,项目是否需要指向驱动程序(如IEDriver)的指针?

  • 我正在使用SeleniumWebDriver进行网站测试。现在我想在SeleniumWebDriver中设置TestNG。怎么可能呢?testng有JAR文件吗?

  • 当我将mysql jdbc驱动程序复制到JDK的\jre\lib\ext时,它执行得非常好。现在,我想通过指定环境变量的类路径来使用jdbc。但是,这样做之后,我的程序抛出异常: “java.sql.SQLException:找不到适合jdbc的驱动程序:mysql://localhost/books" 如何设置类路径?

  • 我是卡桑德拉和莫文的新手。我试图在eclipse中编写一个简单的java程序,它使用cassandra java驱动程序连接到我设置的cassandra节点。我找到了这个存储库https://github.com/datastax/java-driver但我不知道该怎么处理它。有谁能给我一步一步的说明来获取驱动程序并创建一个使用驱动程序的简单eclipse项目吗。

  • 我正在使用Selenium WebDrive,在Chrome浏览器中使用C#进行自动化。我需要检查我的网页是否被阻挡在某些地区(一些ip范围)。所以我必须在我的Chrome浏览器中设置一个代理。我尝试了下面的代码。代理正在设置,但我得到一个错误。有人能帮我吗? 运行此代码时,我在Chrome浏览器中收到以下消息:我试图启用代理选项,但“更改代理设置”选项被禁用。 *无法连接到代理服务器 代理服务器

  • 我试图在我的机器上运行以下代码(win XP 但是我得到的堆栈跟踪是 JAVAlang.IllegalStateException:驱动程序可执行文件的路径必须由webdriver设置。即驱动系统属性;在org。openqa。硒。遥远的服务司机服务。findExecutable(DriverService.java:105)位于org。openqa。硒。即InternetExplorerDrive