Hive 1.2.1安装部署

忘是亡心i 2022-08-09 15:49 203阅读 0赞

**Hive安装  (hadoop2.6.0  hive 1.2.1)**

官网地址： [http://hive.apache.org/downloads.html][http_hive.apache.org_downloads.html]

**三种模式**

内嵌模式：元数据保持在内嵌的derby模式，只允许一个会话连接

本地独立模式：在本地安装Mysql，吧元数据放到mySql内

远程模式：元数据放置在远程的Mysql数据库

**1、内嵌模式：**

(1)、修改/home/lin/hadoop/apache-hive-1.2.1-bin/bin/hive-config.sh

添加java环境变量：

export JAVA_HOME=/usr/soft/jdk1.7.0_79 
        
         
          
         export HADOOP_HOME=/home/lin/hadoop/hadoop-2.6.1
        
         
        
         
          
         export HIVE_HOME=/home/lin/hadoop/apache-hive-1.2.1-bin

(2)、编辑hive-site.xml (/home/lin/hadoop/apache-hive-1.2.1-bin/conf/hive-default.xml.template复制为hive-site.xml)

修改以下参数：

hive.metastore.warehouse.dir  hdfs 上的指定目录

hive.exec.scratchdir  hdfs上的临时文件目录

<property>     <name>hive.metastore.warehouse.dir</name>     <value>/user/hive/warehouse</value>   </property> <property>     <name>hive.exec.scratchdir</name>     <value>/tmp/hive</value>   </property> <property>     <name>hive.server2.logging.operation.log.location</name>     <value>/tmp/hive/operation_logs</value>     <description>Top level directory where operation logs are stored if logging functionality is enabled</description>   </property> <property>     <name>hive.exec.local.scratchdir</name>     <value>/tmp/hive</value>     <description>Local scratch space for Hive jobs</description>   </property> <property>     <name>hive.downloaded.resources.dir</name>     <value>/tmp/hive/resources</value>     <description>Temporary local directory for added resources in the remote file system.</description>   </property>

(3)、配置hive的log4j:  conf下   cp hive-log4j.properties.template  hive-log4j.properties

#log4j.appender.EventCounter=org.apache.hadoop.hive.shims.HiveEventCounter
    
         
          
           
          log4j.appender.EventCounter=org.apache.hadoop.log.metrics.EventCounter

否则会有警告：

WARN conf.HiveConf: HiveConf of name hive.metastore.local does not exist  
WARNING: org.apache.hadoop.metrics.jvm.EventCounter is deprecated. Please use org.apache.hadoop.log.metrics.EventCounter in all the log4j.properties files.

(4)、启动hive bin/hive

启动时候遇到错误：

\[ERROR\] Terminal initialization failed; falling back to unsupported

java.lang.IncompatibleClassChangeError: Found class jline.Terminal, but interface was expected

at jline.TerminalFactory.create(TerminalFactory.java:101)

at jline.TerminalFactory.get(TerminalFactory.java:158)

at jline.console.ConsoleReader.<init>(ConsoleReader.java:229)

at jline.console.ConsoleReader.<init>(ConsoleReader.java:221)

at jline.console.ConsoleReader.<init>(ConsoleReader.java:209)

at org.apache.hadoop.hive.cli.CliDriver.setupConsoleReader(CliDriver.java:787)

at org.apache.hadoop.hive.cli.CliDriver.executeDriver(CliDriver.java:721)

at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:681)

at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:621)

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:606)

at org.apache.hadoop.util.RunJar.run(RunJar.java:221)

at org.apache.hadoop.util.RunJar.main(RunJar.java:136)

发现是 jline 有问题，最后找到，原来hadoop里面的是jline0.0.94  hive里面的是jline2.12

把/home/lin/hadoop/apache-hive-1.2.1-bin/lib 里面的jline2.12替换了hadoop 中 /home/lin/hadoop/hadoop-2.6.1/share/hadoop/yarn/lib的jline0.0.94 就可以成功了！

![Image 1][]

--------------------

**2、独立模式**

在mysql中为hive建立账号，并授予足够的权限，例如hive账号，授予all privileges

用上述账号登陆mysql，创建数据库，比如名字叫hive，用于存放hive的元数据

在本地安装MySQL客户端

配置hive-site.xml，指出使用本地mysql数据库，以及连接协议，账号，口令等

把mysql-connector-java.jar 复制到 hive的lib目录下

启动hive能进入shell表示成功

(1)、安装mysql并启动服务

联网安装： sudo apt-get install cmake  sudo apt-get install libncurses5-dev 
         
          
           
          1. sudo  apt-get install mysql-server
         
          
         
          
           
          2. sudo  apt-get isntall mysql-client
         
          
         
          
           
          3.  sudo apt-get install libmysqlclient-dev
         
          查看是否安装成功:    sudo netstat -tap | grep mysql  通过上述命令检查之后，如果看到有mysql 的socket处于 listen 状态则表示安装成功。 登陆mysql数据库      　　 mysql -u root -p  创建数据库： 1) 建库：create database hivedb; 　
     2) 建用户，赋权：grant all privileges on *.* to hivedb@"%" identified by "hivedb" with grant option; 　                          3) 删除数据库：drop database hivedb; 　　 
     查看mysql版本 mysqladmin -u root -p version 查看数据库:  show databases; 查看当前字符集: show variables like 'character%'; 停止mysql:  sudo service mysql stop  
         
          
          
           启动mysql:
          
            sudo service mysql start
         
          ************************************************************** 启动mysql: 使用命令试试是否能连上mysql    telnet 192.168.0.166 3306  若拒绝连接 编辑 sudo vim /etc/mysql/my.cnf 注释掉
        
         
         
          #bind-address = 127.0.0.1
        
         
        
         
         
          即可
        
         
        
         
         
          **************************************************************
         
          
        
         离线安装： 下载地址：http://dev.mysql.com/downloads/mysql/ 选择相关版本。 离线安装自行百度!

(2)、在内嵌模式下继续配置hive

加上驱动和数据库地址

<property>
        
         
         
            <name>javax.jdo.option.ConnectionDriverName</name> 
         
            <value>com.mysql.jdbc.Driver</value> 
         
            <description>Driver class name for a JDBC metastore</description> 
         
          </property> 
        
         
        
         
         
          <property> 
         
            <name>javax.jdo.option.ConnectionURL</name> 
         
            <value>jdbc:mysql://192.168.0.166:3306/hive?createDatabaseIfNotExist=true</value> 
         
            <description>JDBC connect string for a JDBC metastore</description> 
         
          </property> 
        
         
        
         
         
          <property> 
         
            <name>javax.jdo.option.ConnectionUserName</name> 
         
            <value>hive</value> 
         
            <description>username to use against metastore database</description> 
         
          </property> 
         
          <property> 
         
            <name>javax.jdo.option.ConnectionPassword</name> 
         
            <value>hive</value> 
         
            <description>password to use against metastore database</description> 
         
          </property>

(2)、拷贝数据驱动jar

拷贝mysql-connector-java-5.1.24-bin 到 /home/lin/hadoop/apache-hive-1.2.1-bin/lib

(4)、进入hive

若是报错：

NestedThrowables:

java.sql.SQLException: Unable to open a test connection to the given database. J                                                                                        DBC url = jdbc:mysql://192.168.0.166:3306/hivedb?createDatabaseIfNotExist=true,                                                                                         username = hivedb. Terminating connection pool (set lazyInit to true if you expe                                                                                        ct to start your database after your app). Original Exception: ------

com.mysql.jdbc.exceptions.jdbc4.CommunicationsException: Communications link fai                                                                                        lure

The last packet sent successfully to the server was 0 milliseconds ago. The driv                                                                                        er has not received any packets from the server.

at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)

at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstruct                                                                                        orAccessorImpl.java:57)

解决方法：

先使用命令试试是否能连上mysql    telnet 192.168.0.166 3306 若拒绝连接 编辑 sudo vim /etc/mysql/my.cnf 注释掉
      
       
       
        #bind-address = 127.0.0.1
      
       
      
       
       
        重启mysql即可
      
       
      
       
       
        即可

错误：

ERROR 1045 (28000): Access denied for user 'hive'@'localhost' (using password: YES)

解决办法：

删除数据库中的空白账户（匿名账户），依次执行以下两条指命，这一步是解决这个问题的核心步骤  
DELETE FROM \`mysql\`.\`user\` WHERE \`user\`='';  
FLUSH PRIVILEGES;

3、远程模式

在独立模式的基础上

添加：

<name>hive.metastore.local</name>

<description>controls whether to connect to remove metastore server or open a new metastore server in Hive Client JVM</description>

</property>

[http_hive.apache.org_downloads.html]: http://hive.apache.org/downloads.html
[Image 1]: