由于某种原因,我无法创建 Dataproc Spark 集群。我运行:
gcloud dataproc \
--region us-west1 clusters create my-test1 \
--project some_project \
--scopes 'https://www.googleapis.com/auth/cloud-platform' \
--bucket my-bucket \
--zone us-west1-b \
--single-node \
--master-machine-type n1-highmem-16 \
--master-boot-disk-size 500 \
--image-version 1.3 \
--initialization-actions \
'gs://dataproc-initialization-actions/connectors/connectors.sh',\
'gs://dataproc-initialization-actions/zeppelin/zeppelin.sh'\
--metadata 'gcs-connector-version=1.9.4'
但得到
+ VM_CONNECTORS_DIR=/usr/lib/hadoop/lib
+ declare -A MIN_CONNECTOR_VERSIONS
+ MIN_CONNECTOR_VERSIONS=(["bigquery"]="0.11.0" ["gcs"]="1.7.0")
++ /usr/share/google/get_metadata_value attributes/bigquery-connector-version
++ true
+ BIGQUERY_CONNECTOR_VERSION=
++ /usr/share/google/get_metadata_value attributes/gcs-connector-version
+ GCS_CONNECTOR_VERSION=1.9.4
+ [[ -z '' ]]
+ [[ -z 1.9.4 ]]
+ [[ -z '' ]]
+ [[ 1.9.4 = \1\.\7\.\0 ]]
+ [[ '' = \0\.\1\1\.\0 ]]
+ update_connector bigquery ''
+ local name=bigquery
+ local version=
+ [[ -n '' ]]
+ update_connector gcs 1.9.4
+ local name=gcs
+ local version=1.9.4
+ [[ -n 1.9.4 ]]
+ validate_version gcs 1.9.4
+ local name=gcs
+ local version=1.9.4
+ local min_valid_version=1.7.0
++ min_version 1.7.0 1.9.4
++ echo -e '1.7.0\n1.9.4'
++ sort -r -t. -n -k1,1 -k2,2 -k3,3
++ tail -n1
+ [[ 1.7.0 != \1\.\7\.\0 ]]
+ rm -f /usr/lib/hadoop/lib/gcs-connector-1.9.0-hadoop2.jar
++ gsutil ls 'gs://hadoop-lib/gcs/gcs-connector-*1.9.4*.jar'
++ grep hadoop2
AccessDeniedException: 403 7**********[email protected] does not have storage.objects.list access to hadoop-lib.
+ local path=
++ echo ''
++ wc -w
+ local path_count=0
+ [[ 0 != 1 ]]
+ echo -e 'ERROR: Only one gcs connector path should be listed for 1.9.4 version, but listed 0 paths:\n'
ERROR: Only one gcs connector path should be listed for 1.9.4 version, but listed 0 paths:
我检查了服务用户是否分配了“存储对象查看器”角色以及“编辑者”角色。
您知道如何在 Google Cloud Dataproc 上创建带有 GCS 连接器的 Spark 集群吗?
答案1
这里的问题是,这gs://hadoop-lib
不是一个公共存储桶,这就是为什么您无法访问它。遗憾的是,这个脚本不能按原样使用,或者至少文档中没有指定这一点。
我通过更新脚本并使用我有权访问的存储桶来存储然后从初始化脚本中检索连接器来解决了这个问题。