SparkSQL访问Hive遇到的问题及解决方法是什么

这篇文章给大家介绍SparkSQL访问Hive遇到的问题及解决方法是什么,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。

创新互联建站是专业的友好网站建设公司,友好接单;提供网站建设、网站制作,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行友好网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!

需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中

测试代码

SparkSQL访问Hive遇到的问题及解决方法是什么

报错

SparkSQL访问Hive遇到的问题及解决方法是什么

查看源码

SparkSQL访问Hive遇到的问题及解决方法是什么

解决方法

将$HIVE_HOME/lib下的spark-hive_2.11-2.4.2.jar与spark-hive-thriftserver_2.11-2.4.2.jar添加到project中

继续报错

SparkSQL访问Hive遇到的问题及解决方法是什么

查看源码

SparkSQL访问Hive遇到的问题及解决方法是什么

进入ConfVars

SparkSQL访问Hive遇到的问题及解决方法是什么

发现ConfVars中定义的变量并没有METASTORE_CLIENT_SOCKET_LIFETIME,而HiveConf.java来自于hive-exec-1.1.0-cdh6.7.0.jar,即证明hive1.1.0中并没有假如该参数。

解决方法

将hive依赖换为1.2.1

SparkSQL访问Hive遇到的问题及解决方法是什么

继续报错

SparkSQL访问Hive遇到的问题及解决方法是什么

解决方法

这是因为远端没有启动hive造成的,启动hive时需要配置metastore。

关于SparkSQL访问Hive遇到的问题及解决方法是什么就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


分享标题:SparkSQL访问Hive遇到的问题及解决方法是什么
网站URL:http://myzitong.com/article/joeiop.html