hive UDF函数中读取mysql配置文件最佳实践

上代码:

<properties>

<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>

<hive.version>1.1.0</hive.version>

<hadoop.version>2.6.0</hadoop.version>

<mysql.version>5.1.34</mysql.version>

</properties>

<dependencies>

<dependency>

<groupId>org.apache.hive</groupId>

<artifactId>hive-exec</artifactId>

<version>${hive.version}</version>

</dependency>

<dependency>

<groupId>org.apache.hadoop</groupId>

<artifactId>hadoop-common</artifactId>

<version>${hadoop.version}</version>

<exclusions>

<exclusion>

<groupId>jdk.tools</groupId>

<artifactId>jdk.tools</artifactId>

</exclusion>

</exclusions>

</dependency>

<dependency>

<groupId>mysql</groupId>

<artifactId>mysql-connector-java</artifactId>

<version>${mysql.version}</version>

</dependency>

</dependencies>

java代码:

import java.io.IOException;

import java.net.URI;

import java.sql.Connection;

import java.sql.DriverManager;

import java.sql.ResultSet;

import java.sql.SQLException;

import java.sql.Statement;

import java.util.Properties;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.hive.ql.exec.UDF;


public class GetNextTradeDate extends UDF{


public String evaluate (){

Properties p=null;

try {

p = getPro();

} catch (Exception e1) {

e1.printStackTrace();

}

String DB_URL=p.getProperty("DB_URL");

String JDBC_DRIVER=p.getProperty("JDBC_DRIVER");

String USER=p.getProperty("USER");

String PASS=p.getProperty("PASS");

Connection conn = null;

        Statement stmt = null;

        String init_date = "";

        try{

            Class.forName(JDBC_DRIVER);

            conn = DriverManager.getConnection(DB_URL,USER,PASS);

            stmt = conn.createStatement();

            String sql = "SELECT date FROM xxx.xxx limit 1";

            ResultSet rs = stmt.executeQuery(sql);

            while(rs.next()){

            init_date= rs.getString("date");

            }

            rs.close();

            stmt.close();

            conn.close();

        }catch(SQLException se){

            se.printStackTrace();

        }catch(Exception e){

            e.printStackTrace();

        }finally{

            try{

                if(stmt!=null) stmt.close();

            }catch(SQLException se2){

            }

            try{

                if(conn!=null) conn.close();

            }catch(SQLException se){

                se.printStackTrace();

            }

        }

        return init_date;

    }

private Properties getPro() throws Exception{

        String dsf= "/user/xxx/mysql-for-hive.properties";

        Configuration conf = new Configuration();

        FileSystem fs = FileSystem.get(URI.create(dsf),conf);

        FSDataInputStream inputStream = fs.open(new Path(dsf));

        Properties p = new Properties();

      try {

      p.load(inputStream);

      } catch (IOException e) {

      e.printStackTrace();

      }

return p;

}

}

将上述代码导出为jar包。

配置文件mysql-for-hive.properties内容如下:

JDBC_DRIVER=com.mysql.jdbc.Driver

DB_URL=jdbc:mysql://192.168.xxx.xxx:3306/xxx

USER=xxxx

PASS=xxxx


这种是创建永久UDF函数,需要把jar包和配置文件上传hdfs;

hdfs dfs -put -p getNextTradeDate.jar /user/xxx

hdfs dfs -put -p mysql-for-hive.properties /user/xxx

创建函数

CREATE FUNCTION getNextTradeDate AS 'com.xxx.xxx.xxx.GetNextTradeDate' USING JAR 'hdfs://xxxx:8020/user/xxxx/getNextTradeDate.jar';

删除函数

drop function getNextTradeDate;

测试函数:

select getNextTradeDate() tradeDate from xxxx.xxxx;

创建临时函数略有不同,临时函数当前session有效:

如果你的临时函数没有输入,只有输出,会被hive优化为本地执行,不需要集群,这时候读取配置文件就可以读本地,add file后,直接用getResourceAsStream读本地文件即可,不再采用从集群中读取配置文件的方式。

读入配置文件的语句修改如下:

InputStream inputStream = this.getClass().getClassLoader().getResourceAsStream("./mysql-for-hive.properties");

然后再Properties p = new Properties();  p.load(inputStream); .........

打jar包上传,然后打开hive,输入:

add file /home/mysql-for-hive.properties;

add jar /home/getNextTradeDate.jar;

create temporary function getNextTradeDate as "com.xxx.xxx.xxx.GetNextTradeDate";

select getNextTradeDate() tradeDate from xxxx.xxxx;

有结果的话就测试成功。

删除临时函数

drop temporary function getNextTradeDate;

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,117评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,963评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,897评论 0 240
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,805评论 0 203
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,208评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,535评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,797评论 2 311
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,493评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,215评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,477评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,988评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,325评论 2 252
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,971评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,807评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,544评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,455评论 2 266