在CentOS7的Hadoop集群上安装hive

news/2024/5/21 18:05:55

官网下载地址
阿里镜像
CentOS Linux release 7.9.2009 (Core)
JDK版本:1.8.0_401
Hadoop版本:3.4.0
MySQL版本:8.3.0
Hive版本:3.1.3
JDK安装
MySQL安装
Hadoop配置
提前配置
ssh免密
MySQL远程登录

下载hive并配置环境变量,服务器端和客户端分别在hive中添加hadoop环境变量,创建各自的配置文件。初始化hive前,clone2作为MySQL服务器开启远程登录,在这之前配置ssh免密,再之前关闭hive服务器和MySQL服务器的防火墙。

初始化hive前,启动hive客户端、hive服务器端、MySQL服务器hadoop集群

初始化hive前,在MySQL手动创建myhive库

slf4j多重绑定会报警,但不会阻碍运行

准备
第一步:下载tar包,使用xftp传输到主机并解压
第二步:添加环境变量

点击查看代码

[root@clone1 apache-hive-3.1.3-bin]# vim /etc/profile...前文省略...
#Java
export JAVA_HOME=/root/jdk1.8.0_401
export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:JAVA_HOME/lib/dt.jar
export PATH=$PATH:$JAVA_HOME/bin
#Hadoop
export HADOOP_HOME=/root/hadoop-3.4.0
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HADOOP_HOME/libexec
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root
#Hive
export HIVE_HOME=/root/apache-hive-3.1.3-bin
export PATH=$PATH:$HIVE_HOME/bin[root@clone1 apache-hive-3.1.3-bin]# source /etc/profile
第二步:找到或下载mysql-connector-java-8.3.0.jar并复制到$HIVE_HONE/lib下,然后分发给clone1

配置
clone1
第三步:
cd /root/apache*/conf

cp hive-env.sh.template hive-env.sh

vim hive-env.sh

Hadoop

export HADOOP_HOME=/root/hadoop-3.4.0

第四步:

点击查看代码
<configuration>
<property><name>hive.metastore.warehouse.dir</name><value>/user/hive_remote/warehouse</value></property><property><name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://clone2:3306/myhive?createDatabaseIfNoExist=true&amp;useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8</value></property><property><name>javax.jdo.option.ConnectionDriverName</name><value>com.mysql.cj.jdbc.Driver</value></property><property><name>javax.jdo.option.ConnectionUserName</name><value>root</value></property><property><name>javax.jdo.option.ConnectionPassword</name><value>Peng!3!4</value></property><property><name>hive.metastore.schema.verification</name><value>false</value></property><property><name>datanucleus.schema.autoCreateAll</name><value>true</value></property></configuration>
~                 ```
</details>
第五步:使用MySQL作为hive的元数据库
bin/schematool -dbType mysql -initSchemamaster
第三步:
cp /root/apache-hive-3.1.3-bin/lib/jline-2.12.jar  /root/hadoop-3.4.0/share/hadoop/yarn/lib/jlb
第四步:
cd /root/apache*/confcp hive-env.sh.template hive-env.shvim hive-env.sh`#Hadoop
export HADOOP_HOME=/root/hadoop-3.4.0`
第五步:
<details>
<summary>点击查看代码</summary>

hive.metastore.warehouse.dir

/user/hive_remote/warehouse

hive.metastore.local

false

hive.metastore.uris

thrift://clone1:9083

~ ```

启动
clone1
第六步:启动服务器服务后挂起
bin/hive --service metastore &
master
第六步:启动客户端
hive

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hjln.cn/news/27066.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

树的递归遍历

数据结构 树--递归遍历/****************************************************************************** function name :BinaryTree_CountNode* function : 计算一颗二叉树的所有节点的数量,可以采用递归实现* parameter :* @root…

二叉树(数据结构)——利用“递归”思想实现相关算法问题

题目一//计算一颗二叉树的所有节点的数量,可以采用递归实现 int BinaryTree_CountNode(Tnode_t *root) {int n1,n2; //n1用于记录左子树的节点,n2用于记录右子树的节点//递归函数先提前写好终止条件if (NULL == root){return 0;}//假设采用后序遍历来计算二叉树的节点数量n1 =…

sqlilabs通关04-挑战篇:less54-

通过 SQL 注入工具 sqlilabs 的挑战 54 到 57,使用不同的闭合符号进行注入尝试,并成功获取数据库版本、表名、列名和数据记录。less54 ​​提示的大致意思是:如果你不能在十次内注入成功,那么,表名、列名、数据就会刷新。需要先在url中传递id参数进行注入尝试,然后获得密…

关于tomcat在idea上的中文编码问题

关于tomcat在idea上的中文编码问题;在国内,无论是新手还是有一定码龄的开发人员,汉字编码问题一直都是绕不开的魔咒,本文主要对tomcat在jetbrain系列产品idea上的乱码问题提供解决经验。一、问题引入 在国内,无论是新手还是有一定码龄的开发人员,汉字编码问题一直都是绕不…

Python批处理:文件操作

一、为什么要使用python处理文件 文件处理管理可分为两种,一种是可视化、手动化,学习成本低,处理数量有限。另一种是编程化、自动化,有一定学习成本,可以基于逻辑处理。计算机的常项是对既定规则的发挥,这个发挥作用于"批量"这个层面。 二、相对路径与绝对路径…

开源相机管理库Aravis例程学习(六)——camera-features

本文针对官方例程中的:04-camera-features做简单的讲解目录简介例程代码函数说明arv_camera_get_integerarv_camera_get_string 简介 本文针对官方例程中的:04-camera-features做简单的讲解。并介绍其中调用的arv_camera_get_integer,arv_camera_get_string。 aravis版本:0…

sqlilabs通关02-中级篇:less23-37

less23:注释符绕过 先看代码 ​​可以看到对字符进行替换,将 #号和--替换成了空通过sql语句,可以知道闭合符号是单引号然后就可以开始尝试了,由于这关是get,直接修改url的参数即可 ?id=1 #正常访问 #绕过 ?id=1 and 1=1 ?id=1 and sleep(3)%20 and%20 1=1 #说明可以使…

中国39个行业产业链全景图

找了很久的各个行业产业链,今天终于发现这个整理得非常好的39个行业产业链全景图。主要行业基本都在里面了,每个行业上下游产业都包括哪些一张图你就看明白了! 新能源汽车产业链全景 机器人产业链全景图 房地产产业链全景图 稀土产业链全景图 电子竞技产业链全景图 钛白粉产…