如何使用流式查询并对比普通查询进行MySQL性能测试

这篇文章主要讲解了“如何使用流式查询并对比普通查询进行MySQL性能测试”，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习“如何使用流式查询并对比普通查询进行MySQL性能测试”吧！

创新互联公司从2013年开始，先为荔湾等服务建站，荔湾等地企业，进行企业商务咨询服务。为荔湾企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

一、前言

程序访问 MySQL 数据库时，当查询出来的数据量特别大时，数据库驱动把加载到的数据全部加载到内存里，就有可能会导致内存溢出（OOM）。

其实在 MySQL 数据库中提供了流式查询，允许把符合条件的数据分批一部分一部分地加载到内存中，可以有效避免OOM

二、JDBC实现流式查询

使用JDBC的 PreparedStatement/Statement 的 setFetchSize 方法设置为 Integer.MIN_VALUE 或者使用方法 Statement.enableStreamingResults() 可以实现流式查询，在执行 ResultSet.next() 方法时，会通过数据库连接一条一条的返回，这样也不会大量占用客户端的内存。

public int execute(String sql, boolean isStreamQuery) throws SQLException {
    Connection conn = null;
    PreparedStatement stmt = null;
    ResultSet rs = null;
    int count = 0;
    try {
        //获取数据库连接
        conn = getConnection();
        if (isStreamQuery) {
            //设置流式查询参数
            stmt = conn.prepareStatement(sql, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY);
            stmt.setFetchSize(Integer.MIN_VALUE);
        } else {
            //普通查询
            stmt = conn.prepareStatement(sql);
        }

        //执行查询获取结果
        rs = stmt.executeQuery();
        //遍历结果
        while(rs.next()){
            System.out.println(rs.getString(1));
            count++;
        }
    } catch (SQLException e) {
        e.printStackTrace();
    } finally {
        close(stmt, rs, conn);
    }
    return count;
}

PS：上面的例子中通过参数 isStreamQuery 来切换流式查询与普通查询，用于下面做测试对比。

三、性能测试

创建了一张测试表 my_test 进行测试，总数据量为 27w 条，分别使用以下4个测试用例进行测试：

大数据量普通查询(27w条)
大数据量流式查询(27w条)
小数据量普通查询(10条)
小数据量流式查询(10条)

3.1. 测试大数据量普通查询

@Test
public void testCommonBigData() throws SQLException {
    String sql = "select * from my_test";
    testExecute(sql, false);
}

3.1.1. 查询耗时

27w 数据量用时 38 秒

如何使用流式查询并对比普通查询进行MySQL性能测试

3.1.2. 内存占用情况

使用将近 1G 内存

如何使用流式查询并对比普通查询进行MySQL性能测试

3.2. 测试大数据量流式查询

@Test
public void testStreamBigData() throws SQLException {
    String sql = "select * from my_test";
    testExecute(sql, true);
}

3.2.1. 查询耗时

27w 数据量用时 37 秒

如何使用流式查询并对比普通查询进行MySQL性能测试

3.2.2. 内存占用情况

由于是分批获取，所以内存在30-270m波动

如何使用流式查询并对比普通查询进行MySQL性能测试

3.3. 测试小数据量普通查询

@Test
public void testCommonSmallData() throws SQLException {
    String sql = "select * from my_test limit 100000, 10";
    testExecute(sql, false);
}

3.3.1. 查询耗时

10 条数据量用时 1 秒

如何使用流式查询并对比普通查询进行MySQL性能测试

3.4. 测试小数据量流式查询

@Test
public void testStreamSmallData() throws SQLException {
    String sql = "select * from my_test limit 100000, 10";
    testExecute(sql, true);
}