FAQ-Spark用cluster模式报错找不到文件
更新时间: 2024-03-11 02:49:33
阅读 845
FAQ-Spark用cluster模式报错找不到文件
问题描述/异常栈
Spark cluster模式报错找不到文件
解决方案
spark.yarn.dist.archives | (none) | Comma separated list of archives to be extracted into the working directory of each executor. |
spark.yarn.dist.files | (none) | Comma-separated list of files to be placed in the working directory of each executor. |
问题原因
使用cluster模式之后,driver运行在yarn上面,如果driver需要价值的文件没有被携带到yarn上面去会报错,文件找不到参考如下参数,携带文件。
作者:林帅
文档反馈
以上内容对您是否有帮助?