pip uninstall databricks-connect
import os
# replace with the path of the downloaded jar
os.environ['PYSPARK_SUBMIT_ARGS'] = '--jars pyspark-shell'
# replace and with your Databricks cluster hostname and token
os.environ['DBC_HOST'] = ''
os.environ['DBC_TOKEN'] = ''
在上面的代码中,
pip install databricks-connect
如果您使用的是Jupyter笔记本,则需要重启内核才能使环境变量生效。
现在,您的Pyspark应该可以与Databricks集群进行通信了。
上一篇:安装databricks-connect后Pyspark不工作
下一篇:安装DataBricks时出现“AttributeError:module'lib'hasnoattribute'X509_V_FLAG_CB_ISSUER_CHECK”的错误。