当前位置: 首页 > 面试题库 >

使用Django将数千条记录插入SQLite表的有效方法是什么?

楚知
2023-03-14
问题内容

我必须使用Django的ORM将8000多个记录插入SQLite数据库。此操作需要作为cronjob大约每分钟运行一次。
目前,我正在使用for循环遍历所有项目,然后将它们一个接一个地插入。
例:

for item in items:
    entry = Entry(a1=item.a1, a2=item.a2)
    entry.save()

什么是有效的方法?

编辑:两种插入方法之间的一点比较。

没有commit_manually装饰器(11245个记录):

nox@noxdevel marinetraffic]$ time python manage.py insrec             

real    1m50.288s
user    0m6.710s
sys     0m23.445s

使用commit_manually装饰器(11245条记录):

[nox@noxdevel marinetraffic]$ time python manage.py insrec                

real    0m18.464s
user    0m5.433s
sys     0m10.163s

注意:除了将脚本插入数据库(下载ZIP文件,从ZIP存档中提取XML文件,解析XML文件)之外,测试脚本还执行其他一些操作,因此执行所需的时间不一定代表插入所需的时间。记录。


问题答案:

django.db.transaction.commit_manually

http://docs.djangoproject.com/en/dev/topics/db/transactions/#django-db-transaction-commit-manually

因此,它将类似于:

from django.db import transaction

@transaction.commit_manually
def viewfunc(request):
    ...
    for item in items:
        entry = Entry(a1=item.a1, a2=item.a2)
        entry.save()
    transaction.commit()

只会提交一次,而不是每个save()。

在django 1.3中,引入了上下文管理器。因此,现在你可以以类似的方式使用transaction.commit_on_success():

from django.db import transaction

def viewfunc(request):
    ...
    with transaction.commit_on_success():
        for item in items:
            entry = Entry(a1=item.a1, a2=item.a2)
            entry.save()

在django 1.4中,bulk_create添加了它,使你可以创建模型对象的列表,然后一次提交所有对象。

注意使用批量创建时,不会调用save方法。

>>> Entry.objects.bulk_create([
...     Entry(headline="Django 1.0 Released"),
...     Entry(headline="Django 1.1 Announced"),
...     Entry(headline="Breaking: Django is awesome")
... ])

在django 1.6中,引入了transaction.atomic,旨在取代现在的遗留函数commit_on_success和commit_manually。

从atom的django 文档中:

原子既可以用作装饰器:

from django.db import transaction

@transaction.atomic
def viewfunc(request):
    # This code executes inside a transaction.
    do_stuff()

并作为上下文管理器:

from django.db import transaction

def viewfunc(request):
    # This code executes in autocommit mode (Django's default).
    do_stuff()

    with transaction.atomic():
        # This code executes inside a transaction.
        do_more_stuff()


 类似资料:
  • 问题内容: 我在MySQL中用一个表创建了一个数据库: 我尝试使用Java插入记录: 输出似乎成功返回: 但是,当我从MySQL中选择时,插入的记录为空: 为什么插入空白记录? 问题答案: 不,这是行不通的(不适用于真实数据): 更改为: 使用该sql创建一个PreparedStatment,并使用索引插入值:

  • 我试图使用spring rest API并将结果存储到一个临时表中。以下是我的尝试。我对java和spring很陌生,请原谅我的错误。我的staging表名为“greetingsstaging”。我是spring开发的新手,请帮助理解这个问题。我正在使用JPA和spring。 这是主要应用程序。 这是我的服务。 这是存储库界面。 这是我的pojo课。 我收到以下例外。 在类路径资源中定义名称为“请

  • 问题内容: 我想在表中添加可变数量的记录(天) 我已经看到了一个很好的解决方案: 但是可悲的是,这在UDF中不起作用(因为#temp和SET ROWCOUNT)。知道如何实现吗? 目前,我正在使用WHILE和表变量来完成此操作,但是就性能而言,这并不是一个好的解决方案。 问题答案: 这是我正在使用的方法,并且对于我的目的和使用SQL 2000来说效果最佳。因为就我而言,它位于UDF中,所以我不能使

  • 问题内容: 我在使用方法时遇到问题。现在,当我摆脱其他问题时,通过应用程序工作时不会出现异常,但对象未放入数据库中。 我的实体类: 我的道课: 我的xml上下文: 和: 有人知道我想念什么吗? 问题答案: 您是否有特定的例外情况?知道这是什么会有所帮助。 这些建议您应该尝试在后面添加并更改注释 您还应该检查是否通过以下行启用了事务注释: 在您的.xml配置中

  • 问题内容: 我想知道使用Node.js将大量插入Mongodb(尽管可能是任何其他数据库)的正确方法是什么 我以下面的代码为例,尽管我相信它是底层的,因为db.close()可以在所有异步collection.insert调用完成之前运行。 问题答案: 如果您的MongoDB服务器是2.6或更高版本,最好利用写命令 Bulk API 来执行大容量插入操作,这些操作只是服务器顶部的抽象,以便于构建大

  • 每当我运行我的Python代码时,我都希望它在MYSQL中截断表,然后插入所有行。我尝试执行一个TRUNCATE语句,然后执行一个INSERT INTO语句,但代码执行完毕后,我只看到其中的最后一条记录。这就是我的代码看起来的样子。 我希望它是这样的,一旦我执行了代码,它会截断表中已经存在的任何数据一次,然后再次插入所有行。insert into语句工作得很好,如果没有truncate语句,它将执