在Hbase上运行mapreduce时发生KERBEROS错误

Question

我是Kerberos的新手，遇到以下错误。

Exception in thread "main" java.io.IOException: Can't get Master Kerberos principal for use as renewer
    at org.apache.hadoop.mapreduce.security.TokenCache.obtainTokensForNamenodesInternal(TokenCache.java:116)
    at org.apache.hadoop.mapreduce.security.TokenCache.obtainTokensForNamenodesInternal(TokenCache.java:100)
    at org.apache.hadoop.mapreduce.security.TokenCache.obtainTokensForNamenodes(TokenCache.java:80)
    at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:370)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1295)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1292)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1614)
    at org.apache.hadoop.mapreduce.Job.submit(Job.java:1292)
    at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1313)
    at SampleUploader.main(SampleUploader.java:113)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:212)

运行以下代码时会出现此错误（可在GitHub中获得：https://github.com/ddraj/hbase-trunk-mttr/blob/master/hbase-examples/src/main/java/org/apache/hadoop/hbase/mapreduce/sampleuploader.java）

conf.set("hadoop.security.authentication", "kerberos");
conf.set("dfs.namenode.kerberos.principal","hdfs/[e-mail]");
UserGroupInformation.setConfiguration(conf);
System.out.println(UserGroupInformation.getLoginUser()+"***********");

我正在使用CDH5.2.6

我可以像这样获得登录用户：

System.out.println(UserGroupInformation.getLoginUser()+"***********");

Answer 1

这个错误通常意味着它所说的意思（它找不到特定的Kerberos主体用于某些操作）。然而，解决这个错误的细节非常糟糕。通常归结为这三件事：

1. 您使用的是.jaas文件，而其中的主体是错误的，或者您没有在应该使用的时候使用.jaas文件。确保在java调用中使用“-djava.security.auth.login.config=[.jaas file]”。
2. 某些与Hadoop相关的配置文件中的某些已经定义的主体是错误的，或者Kerberos不知道。这可能是因为主体的任何部分都是错误的（验证用户、主机和领域），或者是因为没有人拥有当前真实用户的Kerberos票证授予票证（使用kinit或在应用程序中执行此操作。）
3. 您需要在一些与Hadoop相关的配置文件中定义一个属性。有可能您还不知道该属性，而且--这是可怕的部分--还有可能您甚至不知道配置文件本身。例如,在HBase 0.98.x中导出快照需要一个yarn-site.xml文件；需要在那里定义两个主体。我不知道为什么，因为HBase参考文献中没有提到yarn，所以我没有使用yarn，也没有安装yarn。

不幸的是，我在努力使HBase与Kerberos兼容时，至少浪费了一半的时间，而#3却要为此负责。我已经停止计算实际的小时数，因为它只是让我感到沮丧。希望这篇文章能帮助其他人不要浪费时间。