Dbeaver连接Hive数据库操作指导
创始人
2024-05-27 07:45:50
0

背景:由于工作需要,当前分析研究的数据基于Hadoop的Hive数据库中,且Hadoop服务端无权限进行操作且使用安全模式,在研究了Dbeaver、Squirrel和Hue三种连接Hive的工具,在无法绕开useKey认证的情况下,只能使用DBeaver工具进行远程连接。
【Hadoop环境】:Hive版本:3.1.0 KrbClient版本:1.17
【JDK版本】:1.8.0_181

一、 配置 Windows 的 kerberos 认证

注:由于当前Hadoop服务算使用FusionInsight安全模式需要使用kerberos进行认证,如果使用 FusionInsight非安全模式进行对接不需要使用 kerberos认证。

  1. 前置条件:已完成 FusionInsight HD V100R002C70SPC200 的安装,包含 KrbServer 组件。
  2. 配置kerberos认证
    步骤 1 下载并安装 MIT Kerberos
    下载网址:http://web.mit.edu/kerberos/dist/。
    版本与操作系统位数保持一致,本文版本 kfw-4.1-amd64.msi。
    安装路径:C:\Program Files\MIT\Kerberos(默认路径)
    步骤 2同步客户端机器的时间
    与 FusionInsight HD 集群的时间一致,时间差要小于 5 分钟。
    步骤 3 设置 Kerberos 的配置文件
    登录FusionInsight服务端页面,点击右上角“用户名”->“下载认证凭据”后保存至本地解压,获取krb5.confuser.keytab文件。
    C盘创建文件目录ecotesting/Fiber/conf文件夹目录(目录创建可自定义,但需记住文件的绝对路径,如C:/ ecotesting/Fiber/conf),将krb5.confuser.keytab文件负责到当前conf文件夹下。
    复制krb5.conf文件,修改文件后缀为.ini,保存文件为krb5.ini(注意,在windows中设置显示文件后缀,不然文件可能保存为krb5.ini.txt文件)。
    将krb5.ini文件复制到如下目录中:“C:\Program Files\MIT\Kerberos”、“C:\Windows”、“C:\ProgramData\MIT\Kerberos5”。其中“C:\ProgramData\MIT\Kerberos5”为系统隐藏文件夹,直接输入路径可进入。
    步骤 4 设置 Kerberos 票据的缓存文件和环境变量
    创建存放票据的目录,例如“C:\temp”。设置 Windows 的系统环境变量,变量名为“KRB5CCNAME”,变量值为“C:\temp\krb5cache”;变量名为“KRB5_CONFIG”,变量值为“C:/ ecotesting/Fiber/conf/krb5.ini”。配置完成后,重启机器。
    在这里插入图片描述

步骤 5 在 Windows 上进行认证
(1)使用客户端进行认证
打开 MIT Kerberos,单击“get Ticket”,在弹出的 MIT Kerberos: Get Ticket 窗口中,Pricipal 输入用户名(如:sxappopt@HADOOP.COM),Password 输入密码,单击“OK”。
在这里插入图片描述
在这里插入图片描述
(2)通过命令行进行认证
打开windows命令行窗口,进入到MIT安装目录(如: C:\Program Files\MIT\Kerberos\bin),使用keytab文件进行认证,并查看认证信息是否正确以及认证缓存文件是否生成。
认证命令:kinit –kt keytabPath principle(keytabPath为keytab文件所在路径,principle为认证用户名)
如:kinit –kt C:/ ecotesting/Fiber/conf/user.keytab gzdsj_ruixin
在这里插入图片描述

二、 安装Dbeaver客户端

  • 下载并安装 DBeaver
    由于本地jdk版本为1.8.0_181,考虑到版本兼容性,下载DBeaver版本为21.1.1版本。PS:勿安装最新版本22.3.4版
  • 在windows hosts文件中添加集群的ip和域名
    登录FusionInsight服务端页面,选择主页—集群—集群名,右击选择“下载客户端”,然后选择“仅下载配置文件”,下载至本地后解压,复制hosts至本地“C:\Windows\System32\drivers\etc”进行替换。
  • 创建Zookeeper认证文件
    C:\ecotesting\Fiber\conf目录下新建 jaas.conf 文件,配置认证的用户和密码。文件内容如下:
Client {com.sun.security.auth.module.Krb5LoginModule requireduseKeyTab=truekeyTab="C:\\ecotesting\\Fiber\\conf\\user.keytab"principal="gzdsj_ruixin"useTicketCache=falsestoreKey=truedebug=true;
};注意: 其中keyTab参数以及principal参数为对应的认证用户名以及认证文件路径。
  • 修改DBeaver配置文件dbeaver.ini文件
    指定Dbeaver使用的JDK虚拟机,添加(注意,参数和值之间需要换行)
-vm
C:\Program Files\Java\jdk1.8.0_181\bin

添加认证配置信息:

-Djava.security.auth.login.config=C:\\ecotesting\\Fiber\\conf\\jaas.conf
-Dzookeeper.sasl.clientconfig=Client
-Dzookeeper.auth.type=kerberos
-Dzookeeper.server.principal=zookeeper/hadoop.hadoop.com
  • 重启DBeaver.
    修改dbeaver.ini后需要重启DBeaver才生效。
  • 获取org.apache.hive.jdbc.HiveDriver驱动依赖jar包
    在Linux中Hive客户端安装路径下获取HiveDriver驱动依赖jar包。进入/opt/client/Hive/Beeline/目录下,下载lib文件夹至DBeaver安装路径(默认为C:\Program Files\Dbeaver)下。

三、 使用自定义JDBC对接Hive

  • 进入DBeaver界面,菜单选择Database->DriverManager,在弹出的对话框中点击 New.
    在这里插入图片描述
  • 新建的连接名字为FI-hive-test,连接信息如下,完成后点击OK
    在这里插入图片描述
说明:- org.apache.hive.jdbc.HiveDriver
2.jdbc:hive2://172.16.4.121:24002,172.16.4.122:24002,172.16.4.123:24002/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2;sasl.qop=auth-conf;auth=KERBEROS;principal=hive/hadoop.hadoop.com@HADOOP.COM 
(具体信息可Linux中的Hive客户端通过beeline连接成功打印的日志中截取复制使用)- Hadoop- 点Add File在下载好的hive客户端lib中把所有jar包加进去
  • 菜单栏选择File->New->Database Connection.点击 Next.
    在这里插入图片描述
  • 选择FI-hive-test点击NEXT
    在这里插入图片描述
  • 点击Finish
    在这里插入图片描述
  • 右键选择FI-hive-test点击Edit Connection
    在这里插入图片描述
  • 点击Test connection
    在这里插入图片描述

相关内容

热门资讯

EPRINT集团(01884)... EPRINT集团(01884)公布,公司的间接全资附属公司保诺时网上印刷有限公司(保诺时)已于202...
Mastercard 经济研究... (转自:观点网)观点网 香港报道:5月15日,Mastercard 经济研究所的《2025 年度旅游...
北京海淀旧书市集首开 “国家安... 转自:千龙网千龙网讯(记者 刘美君)5月15日,“旧书新知・读书育人” 高校旧书市集暨2025中关村...
阿特斯(688472.SH):... 格隆汇5月15日丨阿特斯(688472.SH)公布,CSIQ2025年第二季度预计总收入在19亿至2...
通辽市开鲁县:“就业红娘”助力... 转自:草原云5月14日,在通辽市现春食品加工有限责任公司工作,员工郭亚楠正在将新鲜出炉的面包装箱。郭...
唯科科技:潜在技术储备涉及PE... 格隆汇5月15日|唯科科技(301196.SZ)发布投资者关系活动记录表,公司高度关注并积极推动在人...
广州南站发生持水果刀伤人案,1... 转自:北京日报客户端来源:@广州铁路公安处
今夜,鲍威尔会说什么?   来源:华尔街见闻  今晚20:40,鲍威尔将在一场活动上致开幕词。有分析认为,这次演讲的核心将是...
匠心才情,上海美术学院毕业生续... 转自:上观新闻5月14日至6月26日,“云上一公里”2025上海美术学院毕业作品展在上海大学上海美术...
光威复材:低空经济发展将持续为... 证券日报网讯光威复材5月15日在互动平台回答投资者提问时表示,公司乐见碳纤维供需格局的不断改善,公司...
调研速递|[公司名称暂未提及]... 5月15日,[公司名称暂未提及]通过全景网“投资者关系互动平台”(https://ir.p5w.ne...
阿里Q4财报:淘天88VIP会... 【环球网财经综合报道】5月15日,阿里巴巴集团发布2025财年Q4及全年财报。淘天集团营收同比大幅增...
调研速递|金现代接受众多投资者... 2025年5月15日,金现代信息产业股份有限公司举办了2025年山东辖区上市公司投资者网上集体接待日...
凤凰航运:定期对公司内部控制情... 证券日报网讯凤凰航运5月15日在互动平台回答投资者提问时表示,公司采取了以下整改措施:(1)优化存货...
犯罪老师出狱后又办教培机构?当... 转自:中国青年报5月15日,广西壮族自治区柳州市鱼峰区教育局发布辟谣声明。近日,网上出现“犯罪老师在...
ST香雪:子公司TAEST19... ST香雪5月15日公告,子公司香雪生命科学技术(广东)有限公司收到国家药品监督管理局签发的《药物临床...
唐德华同志在北京逝世 编辑 | 董鑫据新华社报道,最高人民法院原副院长、党组成员唐德华同志因病于2025年5月5日在北京逝...
老板必修课来了!单仁牛商《销售...   在数字化浪潮与行业竞争白热化的双重挑战下,传统销售模式正面临转型阵痛。客户决策链路缩短、需求愈发...
法国前总统萨科齐获准假释并摘下... 转自:央视当地时间5月15日,总台记者从巴黎检方处获悉,法国前总统萨科齐已获得有条件假释,并于14日...
以案释法 | 负债累累,他将手... 债务危机并非犯罪借口,职务便利更绝非“救命稻草”!个人应坚守职业底线,公私界限分明,债务困境须以合法...