当前位置: 首页 > 面试题库 >

使用MySQL流式传输大型结果集

谭兴学
2023-03-14
问题内容

我正在开发一个使用大型MySQL表的spring应用程序。加载大表时,我得到一个OutOfMemoryException,因为驱动程序试图将整个表加载到应用程序内存中。

我尝试使用

statement.setFetchSize(Integer.MIN_VALUE);

但是然后我打开的每个ResultSet都挂了close();
在网上查看时,我发现发生这种情况是因为它尝试在关闭ResultSet之前尝试加载所有未读的行,但事实并非如此,因为我这样做是:

ResultSet existingRecords = getTableData(tablename);
try {
    while (existingRecords.next()) {
        // ...
    }
} finally {
    existingRecords.close(); // this line is hanging, and there was no exception in the try clause
}

小表(3行)也会发生挂起,如果我不关闭RecordSet(在一种方法中发生),则会connection.close()挂起。

挂起的堆栈跟踪:

SocketInputStream.socketRead0(FileDescriptor,byte [],int,int,int)行:不可用[本机方法]
SocketInputStream.read(byte [],int,int)行:129
ReadAheadInputStream.fill(int)行:113
ReadAheadInputStream。 readFromUnderlyingStreamIfNecessary(byte
[],int,int)行:160
ReadAheadInputStream.read(byte [],int,int)行:188
MysqlIO.readFully(InputStream,byte [],int,int)行:2428
MysqlIO.reuseAndReadPacket(Buffer ,int)行:2882
MysqlIO.reuseAndReadPacket(Buffer)行:2871
MysqlIO.checkErrorPacket(int)行:3414
MysqlIO.checkErrorPacket()行:910
MysqlIO.nextRow(Field [],int,boolean,int,boolean,boolean,布尔值,缓冲区)行:1405
RowDataDynamic.nextRecord()行:413
RowDataDynamic.next()行:392 RowDataDynamic.close()行:170
JDBC4ResultSet(ResultSetImpl).realClose(boolean)行:7473
JDBC4ResultSet(ResultSetImpl).close()行:881 DelegatingResultSet.close ()行:152
DelegatingResultSet.close()行:152
DelegatingPreparedStatement(DelegatingStatement).close()行:163
(这是我的课程)Database.close()行:84


问题答案:

不要关闭ResultSet两次。

显然,当关闭a时,Statement它尝试关闭相应的ResultSet,如您在堆栈跟踪的这两行中所见:

DelegatingResultSet.close()行:152
DelegatingPreparedStatement(DelegatingStatement).close()行:163

我原以为挂断电话了,ResultSet.close()但实际上是挂断Statement.close()电话的地方ResultSet.close()。由于ResultSet已经关闭,因此它刚刚挂起。

我们用替换了所有ResultSet.close()results.getStatement().close()并删除了所有Statement.close(),现在问题已解决。



 类似资料:
  • 我有一个包含1600万条记录的MySql表,由于一些迁移工作,我正在读取整个MySql表。 以下代码用于在MySql中流式传输大型结果集 但这是一次流式传输一个结果,这是否意味着我们每行都命中MySql服务器 在使用流时,我们可以设置如下语句:setFetchSize(1000); 我想减少到服务器的往返次数,同时流式传输大型 ResultSet

  • MySQL JDBC 连接器定义了两种提取模式: < li >默认的一次获取整个结果集 < li >流,当语句fetchSize设置为整数时。最小值 根据文档,流将单独获取每一行,一次一行。 > 使用流时,每一行都在单独的数据库往返中获取,这是真的吗? MySQL服务器是预先预取结果集,还是一次遍历服务器端游标的一行?

  • 问题内容: 我有一个200MB的文件,想通过下载提供给用户。但是,由于我们希望用户仅下载一次此文件,因此我们这样做: 强制下载。但是,这意味着整个文件必须加载到内存中,这通常不起作用。我们如何以每块kb的速度将文件流式传输给他们? 问题答案: 尝试这样的事情

  • 根据我的阅读,我认为使用MySQL JDBC驱动程序在MySQL中流式传输< code>ResultSet的方法是这两个命令: 我的问题是,专家能否澄清使用上述代码流式传输ResultSet是否会将一行返回给客户端,然后去服务器获取下一行,依此类推(效率非常低),或者它是否足够智能,可以像一样进行缓冲流式传输?如果它进行缓冲流式传输,如何设置缓冲区大小? 编辑:来自文档: 前向只读结果集与整数获取

  • 问题内容: 我有包含1600万条记录的MySql表,由于某些迁移工作,我正在读取整个Mysql表。 以下代码用于在MySql中流式传输大型ResultSet 但这一次一次流式传输一个结果,这是否意味着我们在每一行都命中了MySql服务器 在使用流式传输时,我们可以设置以下语句吗?setFetchSize(1000); 我想减少流式传输大型ResultSet时往返服务器的次数 问题答案: 我将假定您

  • 我使用的是spring data mongodb,我想使用光标进行聚合操作。 MongoTemplate.stream()得到一个查询,所以我尝试创建聚合实例,使用ggregation.toDbObject()将其转换为DbObject,使用DbObject创建BasicQuery,然后调用stream()方法。 这返回一个空光标。 调试spring数据mongodb代码显示MongoTempla