默认情况下,MySQL
ResultSets会从服务器上完全检索,然后才能完成任何工作。在巨大的结果集的情况下,这变得不可用。我实际上想从服务器一个接一个地检索行。
在Java中,按照此处的说明(在“ ResultSet”下),我创建如下语句:
stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY,
java.sql.ResultSet.CONCUR_READ_ONLY);
stmt.setFetchSize(Integer.MIN_VALUE);
这在Java中效果很好。我的问题是:有没有办法在python中做同样的事情?
我尝试做的一件事是将查询一次限制为1000行,如下所示:
start_row = 0
while True:
cursor = conn.cursor()
cursor.execute("SELECT item FROM items LIMIT %d,1000" % start_row)
rows = cursor.fetchall()
if not rows:
break
start_row += 1000
# Do something with rows...
但是,start_row越高,速度似乎越慢。
不,使用fetchone()
代替fetchall()
不会改变任何东西。
我用来重现此问题的简单代码如下所示:
import MySQLdb
conn = MySQLdb.connect(user="user", passwd="password", db="mydb")
cur = conn.cursor()
print "Executing query"
cur.execute("SELECT * FROM bigtable");
print "Starting loop"
row = cur.fetchone()
while row is not None:
print ", ".join([str(c) for c in row])
row = cur.fetchone()
cur.close()
conn.close()
在约700,000行的表上,此代码可以快速运行。但是在大约9,000,000行的表上,它会显示“正在执行查询”,然后挂起很长时间。这就是为什么如果我使用fetchone()
或都没有区别的原因fetchall()
。
我认为您必须连接传递cursorclass = MySQLdb.cursors.SSCursor
:
MySQLdb.connect(user="user",
passwd="password",
db="mydb",
cursorclass = MySQLdb.cursors.SSCursor
)
即使您不使用,默认光标也会一次获取所有数据fetchall
。
编辑:SSCursor
或支持服务器端结果集的任何其他游标类-检查上的模块文档MySQLdb.cursors
。
问题内容: 我需要一次最多读取N行来读取一个大文件,直到EOF。在Python中最有效的方法是什么?就像是: 问题答案: 一种解决方案是列表理解和分片运算符: 在这之后是行的元组。但是,这会将整个文件加载到内存中。如果您不希望这样做(即文件可能真的很大),则可以使用生成器表达式和itertools包中的另一种解决方案: 是一个生成器对象,它为您提供文件的每一行,并且可以在这样的循环中使用: 两种解
问题内容: 我正在使用内部联接从2个表中查询一些数据。 这是查询, 现在,我只想要每个user_id的第一行。 像这样, 我应该为此使用什么查询? 问题答案: 这应该可以解决问题:
我使用Vaadin版本8.6.4的Java,我有一个在树网格上表示的数据集。到目前为止,我无法获得应用于任何行或任何单元格的样式名称。有什么方法或技巧可以获得vadin中单元格/行的实际样式吗?样式列表的添加方式如下代码所示。 我还想在创建网格之前,通过覆盖网格类的实习生方法,为所有单元格设置一个id。之后,我应该能够在客户端启动一个Javascript函数,通过id搜索单元格的样式。但是所有这些
问题内容: 我想获取不同idfeedback的行ID 结果 所需结果 问题答案: 试试这个:
问题内容: 我需要列表的最后9个数字,而且我敢肯定有一种切片方法,但是我似乎无法理解。我可以这样获得前9个: 问题答案: 您可以在切片运算符中使用负整数。这是使用python CLI解释器的示例: 重要的是
问题内容: 这个SQL Server片段的PLSQL(Oracle)等效项是什么? 在C#中,您可以调用myCommand.ExecuteScalar()来检索新行的ID。 如何在Oracle中插入新行,并让JDBC获得新ID的副本? 编辑: BalusC提供了一个很好的起点。由于某种原因,JDBC不喜欢命名参数绑定。这给出了“错误设置或注册的参数” SQLException。为什么会这样呢? 问