如何使用insert_many安全地忽略重复的键错误

Question

当将insert_many与pymongo一起使用时，我需要忽略重复的插入，其中重复是基于索引的。我已经看到有关stackoverflow的问题，但是我没有看到有用的答案。

这是我的代码段：

try:
    results = mongo_connection[db][collection].insert_many(documents, ordered=False, bypass_document_validation=True)
except pymongo.errors.BulkWriteError as e:
    logger.error(e)

我希望insert_many忽略重复项而不抛出异常（这会填满我的错误日志）。另外，是否可以使用一个单独的异常处理程序，这样我就可以忽略这些错误。我想念“ w
= 0” …

谢谢

Answer 1

您可以通过检查产生的错误来解决此问题BulkWriteError。这实际上是一个具有多个属性的“对象”。有趣的部分在details：

import pymongo
from bson.json_util import dumps
from pymongo import MongoClient
client = MongoClient()
db = client.test

collection = db.duptest

docs = [{ '_id': 1 }, { '_id': 1 },{ '_id': 2 }]


try:
  result = collection.insert_many(docs,ordered=False)

except pymongo.errors.BulkWriteError as e:
  print e.details['writeErrors']

首次运行时，这将列出以下错误e.details['writeErrors']：

[
  { 
    'index': 1,
    'code': 11000, 
    'errmsg': u'E11000 duplicate key error collection: test.duptest index: _id_ dup key: { : 1 }', 
    'op': {'_id': 1}
  }
]

在第二次运行中，您会看到三个错误，因为所有项目都存在：

[
  {
    "index": 0,
    "code": 11000,
    "errmsg": "E11000 duplicate key error collection: test.duptest index: _id_ dup key: { : 1 }", 
    "op": {"_id": 1}
   }, 
   {
     "index": 1,
     "code": 11000,
     "errmsg": "E11000 duplicate key error collection: test.duptest index: _id_ dup key: { : 1 }",
     "op": {"_id": 1}
   },
   {
     "index": 2,
     "code": 11000,
     "errmsg": "E11000 duplicate key error collection: test.duptest index: _id_ dup key: { : 2 }",
     "op": {"_id": 2}
   }
]

因此，您所需要做的就是过滤数组中的条目，"code": 11000然后在其中有其他内容时仅“恐慌”

panic = filter(lambda x: x['code'] != 11000, e.details['writeErrors'])

if len(panic) > 0:
  print "really panic"

这为您提供了一种机制，可以忽略重复的键错误，但是当然要注意一些实际存在的问题。