怎么在MySQL中使用流式查询避免数据OOM-创新互联

本篇文章为大家展示了怎么在MySQL中使用流式查询避免数据OOM,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

成都创新互联成立以来不断整合自身及行业资源、不断突破观念以使企业策略得到完善和成熟,建立了一套“以技术为基点,以客户需求中心、市场为导向”的快速反应体系。对公司的主营项目,如中高端企业网站企划 / 设计、行业 / 企业门户设计推广、行业门户平台运营、成都App制作、手机网站开发、微信网站制作、软件开发、服务器托管雅安等实行标准化操作,让客户可以直观的预知到从成都创新互联可以获得的服务效果。

JDBC实现流式查询

使用JDBC的PreparedStatement/StatementsetFetchSize方法设置为Integer.MIN_VALUE或者使用方法Statement.enableStreamingResults()可以实现流式查询,在执行ResultSet.next()方法时,会通过数据库连接一条一条的返回,这样也不会大量占用客户端的内存。

public int execute(String sql, boolean isStreamQuery) throws SQLException {
 Connection conn = null;
 PreparedStatement stmt = null;
 ResultSet rs = null;
 int count = 0;
 try {
  //获取数据库连接
  conn = getConnection();
  if (isStreamQuery) {
   //设置流式查询参数
   stmt = conn.prepareStatement(sql, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY);
   stmt.setFetchSize(Integer.MIN_VALUE);
  } else {
   //普通查询
   stmt = conn.prepareStatement(sql);
  }

  //执行查询获取结果
  rs = stmt.executeQuery();
  //遍历结果
  while(rs.next()){
   System.out.println(rs.getString(1));
   count++;
  }
 } catch (SQLException e) {
  e.printStackTrace();
 } finally {
  close(stmt, rs, conn);
 }
 return count;
}

「PS」:上面的例子中通过参数isStreamQuery来切换「流式查询」「普通查询」,用于下面做测试对比。

性能测试

创建了一张测试表my_test进行测试,总数据量为27w条,分别使用以下4个测试用例进行测试:

  • 大数据量普通查询(27w条)

  • 大数据量流式查询(27w条)

  • 小数据量普通查询(10条)

  • 小数据量流式查询(10条)

3.1. 测试大数据量普通查询

@Test
public void testCommonBigData() throws SQLException {
 String sql = "select * from my_test";
 testExecute(sql, false);
}

3.1.1. 查询耗时

27w 数据量用时 38 秒

怎么在MySQL中使用流式查询避免数据OOM

3.1.2. 内存占用情况

使用将近 1G 内存

怎么在MySQL中使用流式查询避免数据OOM

3.2. 测试大数据量流式查询

@Test
public void testStreamBigData() throws SQLException {
 String sql = "select * from my_test";
 testExecute(sql, true);
}

3.2.1. 查询耗时

27w 数据量用时 37 秒

怎么在MySQL中使用流式查询避免数据OOM

3.2.2. 内存占用情况

由于是分批获取,所以内存在30-270m波动

怎么在MySQL中使用流式查询避免数据OOM

3.3. 测试小数据量普通查询

@Test
public void testCommonSmallData() throws SQLException {
 String sql = "select * from my_test limit 100000, 10";
 testExecute(sql, false);
}

3.3.1. 查询耗时

10 条数据量用时 1 秒

怎么在MySQL中使用流式查询避免数据OOM

3.4. 测试小数据量流式查询

@Test
public void testStreamSmallData() throws SQLException {
 String sql = "select * from my_test limit 100000, 10";
 testExecute(sql, true);
}

3.4.1. 查询耗时

10 条数据量用时 1 秒

怎么在MySQL中使用流式查询避免数据OOM

上述内容就是怎么在MySQL中使用流式查询避免数据OOM,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注创新互联行业资讯频道。


网页名称:怎么在MySQL中使用流式查询避免数据OOM-创新互联
URL地址:http://myzitong.com/article/dpgsoj.html