数据源连接池数配置对执行sql的影响

1 背景

        目前java应用很少使用jdbc直接连接数据库执行sql了,且数据库连接是创建、关闭比较耗时的资源,池技术的引用数据源中是不可避免的。

使用数据库连接池会提高应用的性能,但是如果配置失误的话反而会适得其反,甚至引起应用的宕机。

       前些日子发现有些明明很简单的sql,很简单,单次执行很快,但是有些时候执行时间却是数倍的变化。

2 设定与准备

   设立单独的测试数据库,使用公司云主机

   一条sql,执行时间是68ms左右

   使用druid连接池进行测试,配置:初始连接数、最小连接数、最大连接数

   使用newFixedThreadPool连接池模拟并发情况

   监控指标:连接池活动的连接、空闲的连接,获取连接的时间、sql执行时间、执行总时间,线程等待数据源等待的线程(ps:获取改数量或影响连接池的性能,这里暂不考虑)

3 程序结果与解读

程序:

```

public class ConnectTest {

public static ThreadLocal timelocal =new ThreadLocal<>();

    @Test

public void test_druidConnectPool()throws SQLException {

final MyDruidDataSource dataSource =new MyDruidDataSource();

        Properties dbProperties =new Properties();

        dbProperties.put("druid.initialSize", "3");

        dbProperties.put("druid.minIdle", "3");

        dbProperties.put("druid.maxActive", "15");

        dbProperties.put("druid.maxWait", "5000");

        dbProperties.put("druid.timeBetweenEvictionRunsMillis", "90000");

        dbProperties.put("druid.minEvictableIdleTimeMillis", "1800000");

        dbProperties.put("druid.testOnBorrow", "false");

        dbProperties.put("druid.testOnReturn", "false");

        dbProperties.put("druid.testWhileIdle", "true");

        dbProperties.put("druid.name", "true");

        dbProperties.put("druid.url", "jdbc:mysql:///sieve?zeroDateTimeBehavior=convertToNull");

        dbProperties.put("druid.username", "");

        dbProperties.put("druid.password", "");

        dbProperties.put("druid.driverClassName", "com.mysql.jdbc.Driver");

        dataSource.setConnectProperties(dbProperties);

        try {

dataSource.init();

        }catch (SQLException e) {

e.printStackTrace();

        }

// 监控线程

        ScheduledExecutorService cron= Executors.newScheduledThreadPool(1);

        cron.scheduleAtFixedRate(new Runnable(){

@Override

public void run() {

System.out.println(dataSource);

//                System.out.println(dataSource.getWaitThreadCount());

            }

},0,500, TimeUnit.MILLISECONDS);

//        // 增加链接线程

//        ScheduledExecutorService cron1= Executors.newScheduledThreadPool(1);

//        cron1.scheduleAtFixedRate(new Runnable(){

//

//            @Override

//            public void run() {

//                System.out.println(dataSource);

//                int i = dataSource.getMaxActive();

//                dataSource.setMaxActive(i+1);

//            }

//        },0,1500, TimeUnit.MILLISECONDS);

        int count =10000;

        final CountDownLatch latch =new CountDownLatch(count);

        ExecutorService executorService =  Executors.newFixedThreadPool(15);

        for (int i =0; i < count; i++) {

final int index = i;

            executorService.submit(new Runnable() {

@Override

public void run() {

try {

ConnectTest.ExceTime time =new ConnectTest.ExceTime();

                        timelocal.set(time);

                        time.setIndex(index);

//                      exceSqlQuery(dataSource, "SELECT * FROM sieve.po_detail limit 1;");

                        exceSqlUpdate(dataSource, "");

                    }catch (Throwable e) {

e.printStackTrace();

                    }

latch.countDown();

                }

});

        }

try {

latch.await();

        }catch (InterruptedException e) {

e.printStackTrace();

        }

try {

Thread.sleep(5000);

        }catch (InterruptedException e) {

e.printStackTrace();

        }

}

public void exceSqlUpdate(MyDruidDataSource dataSource, String sql) {

Connection con =null;

        PreparedStatement ps =null;

        try {

con = dataSource.getConnection(timelocal);

            ps = con.prepareStatement(sql);

            timelocal.get().setStartSqlTime(new java.util.Date().getTime());

            ps.execute(sql);

            timelocal.get().setEndSqlTime(new java.util.Date().getTime());

        }catch (Exception e) {

e.printStackTrace();

        }finally {

if (ps !=null) {

try {

ps.close();

                }catch (SQLException e) {

e.printStackTrace();

                }

}

if (con !=null) {

try {

con.close();

                }catch (SQLException e) {

e.printStackTrace();

                }

}

}

timelocal.get().calculationTime();

        timelocal.remove();

    }

static class ExceTime {

private int index;

        private long getConTime;

        private long startSqlTime;

        private long endSqlTime;

        public int getIndex() {

return index;

        }

public void setIndex(int index) {

this.index = index;

        }

public long getGetConTime() {

return getConTime;

        }

public void setGetConTime(long getConTime) {

this.getConTime = getConTime;

        }

public long getStartSqlTime() {

return startSqlTime;

        }

public void setStartSqlTime(long startSqlTime) {

this.startSqlTime = startSqlTime;

        }

public long getEndSqlTime() {

return endSqlTime;

        }

public void setEndSqlTime(long endSqlTime) {

this.endSqlTime = endSqlTime;

        }

public void calculationTime(){

System.out.println("编号:"+index+",获取con与开始sql距离:" + (startSqlTime - getConTime) +", sql执行时间:" + (endSqlTime - startSqlTime)

+",总时间:"+(endSqlTime - getConTime));

        }

}

public void exceSqlQuery(MyDruidDataSource dataSource, String sql) {

Connection con =null;

        PreparedStatement ps =null;

        try {

con = dataSource.getConnection();

            ps = con.prepareStatement(sql);

            ResultSet resultSet = ps.executeQuery(sql);

            analysisResultSet(resultSet);

        }catch (Exception e) {

e.printStackTrace();

        }finally {

if (ps !=null) {

try {

ps.close();

                }catch (SQLException e) {

e.printStackTrace();

                }

}

if (con !=null) {

try {

con.close();

                }catch (SQLException e) {

e.printStackTrace();

                }

}

}

}

private void analysisResultSet(ResultSet resultSet)throws SQLException {

List> objectList =new ArrayList<>();

        //获得ResultSetMeataData对象

        ResultSetMetaData rsmd =null;

        rsmd = resultSet.getMetaData();

        int total_rows = rsmd.getColumnCount();

        while (resultSet.next()) {

List list =new ArrayList<>();

            //判断数据类型&获取value

            for (int i =0; i < total_rows; i++) {

String columnName = rsmd.getColumnLabel(i +1);

                try {

list.add(resultSet.getObject(columnName));

                }catch (Exception e) {

e.printStackTrace();

                }

}

objectList.add(list);

        }

System.out.println(Arrays.deepToString(objectList.toArray()));

    }

}

```

```

public class MyDruidDataSourceextends DruidDataSource {

public DruidPooledConnection getConnection(ThreadLocal local)throws SQLException {

local.get().setGetConTime(new Date().getTime());

        DruidPooledConnection connection =super.getConnection();

        return connection;

    }

}

```

a:

配置

初始连接数=3、最小连接数=3、最大连接数=15   并发线程=15 任务量=10000

结果

             执行总时间:4分10s  

            获取连接平均时间:300ms左右,有少量600ms+   

            机器性能:cpu使用增加1%- 2%  负载略有增加

总结

并发15对于连接池是3来说,是有一定获取压力的,获取对执行sql有一定影响,时间影响为4倍

附件



b:

配置

初始连接数=3、最小连接数=3、最大连接数=3   并发线程=50 任务量=10000

结果

执行总时间:4分10s  

获取连接平均时间:1s+,有少量2s+,峰值5s+

机器性能:cpu使用增加1%- 2%  负载略有增加,与a持平

总结

并发量50对于连接池数量为3来说,压力巨大,获取对执行sql有巨大压力,时间影响为10+倍

附件


c:

配置

初始连接数=3、最小连接数=3、最大连接数=15   并发线程=15 任务量=10000

结果

执行总时间:1分2s  

获取连接平均时间:1ms,在开始500次执行的过程中有少量200ms,当连接数=并发数时=15时,获取连接不需要耗费时间。

机器性能:cpu使用增加4.7%-5.3%,负载略有增加,与a相比增加5倍cpu使用率。

总结

连接池的连接动态增加会影响sql的执行总时间,推荐:初始数=最小数=最大连接数。

当连接数=并发数时=15时,获取连接不需要耗费时间。

当连接数增加时,意味着数据库会执行更多的任务,cpu使用率、负载都会升高。

附件


4 总结

 可以看到,数据库连接池的设置会sql的执行、数据库的性能都是有很到影响的,过小会增加获取连接的开销、过大会影响数据库的cpu使用率。

当然影响数据库性能的因素还有很多,流量也是一个很重要的方便,过大的流量也会使db宕机,连接池也是对sql流量的一种限流措施。qps与db性能要综合考虑。

如果流量不大的话,并发=连接数可以达到qps的最大。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 160,108评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,699评论 1 296
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,812评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,236评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,583评论 3 288
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,739评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,957评论 2 315
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,704评论 0 204
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,447评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,643评论 2 249
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,133评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,486评论 3 256
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,151评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,108评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,889评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,782评论 2 277
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,681评论 2 272

推荐阅读更多精彩内容

  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,296评论 18 399
  • 本文包括传统JDBC的缺点连接池原理自定义连接池开源数据库连接池DBCP连接池C3P0连接池Tomcat内置连接池...
    廖少少阅读 16,608评论 0 37
  • 一、事务 事务就是一个事情,组成这个事情可能有多个单元,要求这些单元,要么全都成功,要么全都不成功。在开发中,有事...
    野狗子嗷嗷嗷阅读 2,759评论 0 6
  • 一. Java基础部分.................................................
    wy_sure阅读 3,731评论 0 11
  • 新婚夜被渣皇帝放鸽子,堂堂嫡女还被路边捡来的小养女逆袭成为女主,一介皇后还被冷宫虐待最后上吊致死…… 冷眼睥睨,看...
    酷听听书阅读 119评论 0 0