☰

我无法在命令行中运行 hive

tag-icon • tag-icon hadoop
我无法在命令行中运行 hive
  • Hive 3.1.2
  • Hadoop 3.2.1

当我在命令行中运行 hive 时，它​​会告诉我以下错误消息：

which: no hbase in (/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin)
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/home/hadoop/apache-hive-3.1.2-bin/lib/log4j-slf4j-impl-2.10.0.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in [jar:file:/home/hadoop/hadoop3/share/hadoop/common/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
SLF4J: Actual binding is of type [org.apache.logging.slf4j.Log4jLoggerFactory]
Exception in thread "main" java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V
        at org.apache.hadoop.conf.Configuration.set(Configuration.java:1357)
        at org.apache.hadoop.conf.Configuration.set(Configuration.java:1338)
        at org.apache.hadoop.mapred.JobConf.setJar(JobConf.java:536)
        at org.apache.hadoop.mapred.JobConf.setJarByClass(JobConf.java:554)
        at org.apache.hadoop.mapred.JobConf.<init>(JobConf.java:448)
        at org.apache.hadoop.hive.conf.HiveConf.initialize(HiveConf.java:5141)
        at org.apache.hadoop.hive.conf.HiveConf.<init>(HiveConf.java:5099)
        at org.apache.hadoop.hive.common.LogUtils.initHiveLog4jCommon(LogUtils.java:97)
        at org.apache.hadoop.hive.common.LogUtils.initHiveLog4j(LogUtils.java:81)
        at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:699)
        at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:683)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:498)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:323)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:236)

我应该怎么办？

答案1

这似乎是由 Hadoop 在 2019 年中更新其 Guava 依赖项引发的：HADOOP-15960。该变化在 3.0.4、3.1.3 和 3.2.1 中出现。

Hive 不仅在 中提供了自己的不兼容 Guava 版本，lib/guava-*.jar还在 中提供了自己的不兼容 Guava 版本lib/hive-exec-*.jar，该版本重新打包了大量外部库。由于 Hive 在没有 的情况下无法工作hive-exec，因此我们不能直接删除它并从 Hadoop 获取 Guava JAR。

hive-exec的“fat jar”格式至少从 2011 年起就一直存在问题，但到目前为止他们还没有采取太多措施：

hive-exec他们最终合并了 Guava 的阴影更改（但不是其他库？）HIVE-22126，但修复版本是4.0.0，尚未发布。

目前，我们的选择似乎有以下两种：

  • 使用 Hadoop 3.0.3、3.2.0 或 3.1.2，即 HADOOP-15960 之前的最新版本。但请注意先前的 Guava 版本存在已知漏洞：CVE-2018-10237。
  • 从源代码构建 Hive 主干。

答案2

rm /home/hadoop/apache-hive-3.1.2-bin/lib/log4j-slf4j-impl-2.10.0.jar

因为类冲突移除了一个线程，但是还有另外一个问题 java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava / lang / String; Ljava / lang / Object; )V

相关内容