GCP 中的 Apache Hive 配置——毫无头绪?

GCP 中的 Apache Hive 配置——毫无头绪?

我尝试使用 Google Cloud Platform 上的以下链接在 GCP 中配置 Apache Hive 集群。

https://cloud.google.com/solutions/using-apache-hive-on-cloud-dataproc

我已经建立了一个项目,并且有整整一年的可用积分。本页中提到的脚本使用 Google Shell 来配置集群,而不是使用 GCP UI。

问题就在这里,我执行了上述所有步骤,正当我准备使用以下命令创建集群时,“它失败了”!!

gcloud dataproc clusters create hive-cluster. \
    --scopes sql-admin \
    --image-version 1.3 \
    --initialization-actions gs://dataproc-initialization-actions/cloud-sql-proxy/cloud-sql-proxy.sh \
    --properties hive:hive.metastore.warehouse.dir=gs://$PROJECT-warehouse/datasets \
    --metadata "hive-metastore-instance=$PROJECT:$REGION:hive-metastore"

我得到的错误是“‘CPUS’ 配额不足。请求 12.0,可用 8.0。”

现在问题来了。如果我使用 GCP UI - dataproc 创建集群,我就可以配置 CPU。但对于 Hive 来说,该选项有其自身的局限性。

因此我不得不通过 shell 以编程方式启动集群。现在我不知道如何解决这个问题,除非我亲自打开 google bucket 上可用的每个 shell 脚本并找到这些值的设置位置。

有人能帮忙吗?也许我应该换个角度看待这个问题...

答案1

如果您的问题仅与配额问题有关,则有一个简单的解决方案,只需请求增加 CPU 配额。

  1. 前往您的配额页面在 Google Cloud 控制台中。

  2. 在配额页面中,选择要更改的配额。

  3. 单击页面顶部的编辑配额按钮。

  4. 在本例中,选中要编辑的服务的复选框“计算引擎 API”和度量“中央处理器”

  5. 填写您的姓名、电子邮件和电话号码,然后单击下一步。

  6. 输入增加配额的请求,然后单击“下一步”。

  7. 提交您的请求。

  8. 您将在提出请求后的 24 到 48 小时内收到 Compute Engine 团队的回复。

相关内容