python database is locked_解决SQLite database is locked

公孙令秋
2023-12-01

前些时候,同事在站点服务端使用SQlite存储一些临时数据,但是在多人并发的时候Sqlite会抛出异常:The database file is locked , database is locked,而且这个是在客户生产环境下提示出来的,开发环境很难重现,同事实在没辙,竟然想发动所有研发同事通过操作软件重现问题,我只能呵呵了。既然是Sqlite的原因,直接写个小程序测试下sqlite不就行了,而且就算重现了,难不成要改Sqlite源码...

Sqlite的特点:

简单(simple):SQLite是一个非常轻量级自包含(lightweight and self-contained)的DBMS:一个头文件,一个动态库文件,你就拥有了关系数据库的所有功能了。简单,是SQLite最明显的哲学。它提供的API少而简单。只需要一个DLL文件,你的程序马上就拥有了一个功能强大的数据库引擎,这是一件很美妙的事。

小巧(small):我用VS 2005在Windows下编译的3.6.11,Release版为368K,用时不到20秒——而编译MySQL时,要花上几分钟。而当我插入10000条int数据时,内存开销660K,磁盘开销92K。

事务(transaction):事务是现代商业数据处理系统最基本的要求,而Access,不论是在可执行文件大小(看了一下Access2003的可执行文件大小为6.32M,两者不是一个量级),还是事务特性,都是不能和SQLite 相比的。

并发性(Concurrency):由于SQLite通过OS的文件锁来实现库级锁,粒度很大,但是,它通过一些复杂特殊的处理(具体可以参见分析系列),尽量的提升了读写的并发度。如果你还有担心,你可以看看这篇文章:http://www.dbanotes.net/database/sqlite_cms.html。

SQL92:SQLite支持绝大部分的标准SQL语句,你只需要几百K的空间,就可以换来需要上百兆的通用DBMS几乎所有操作了。

方便(Convenience):如果你的程序要使用SQLite,只需要将拷贝你的程序目录即可。

开源(Opensource):这是它最强大的地方。开源,意味着你可以品读它的源码,你可以随时修改它,加入你自己的特性,而这一切完全免费的。开源,是一种精神

SQLite只支持库级锁,库级锁意味着什么?——意味着同时只能允许一个写操作,也就是说,即事务T1在A表插入一条数据,事务T2在B表中插入一条数据,这两个操作不能同时进行,即使你的机器有100个CPU,也无法同时进行,而只能顺序进行。表级都不能并行,更别说元组级了——这就是库级锁。但是,SQLite尽量延迟申请X锁,直到数据块真正写盘时才申请X锁,这是非常巧妙而有效的。

上面的介绍可以看出Sqlite其实是一个客户端嵌入数据库,在高并发的服务器上是无法适用的,同事百度后,发现连接串中加入 "Journal Mode=WAL;"可以缓解并发压力,可是客户生产环境仍然出现“database is locked”错误。

测试程序如下:

static void Main(string[] args)

{for (int i = 0; i < 140; i++)

{

ParameterizedThreadStart pStart= newParameterizedThreadStart(ClientTest.Excute);

Thread td= newThread(pStart);

td.Start(1012 +i);

}

Console.Read();

}classClientTest

{public static voidExcute(Object id)

{bool flag = true;while (true)

{if(flag)

{string sql = "update asr_info set asr_check = 1 where id = '" + id.ToString() + "'";

Sqlite.ExecuteSql(sql);

flag= false;

}else{string sql = "update asr_info set asr_check = 0 where id = '" + id.ToString() + "'";

Sqlite.ExecuteSql(sql);

flag= true;

}

}

}

}

测试发现,在i5 2.5Ghz 四核的机器上,跑了不到半分钟,大概执行了500条Update语句,Sqlite就报错,提示“ database is locked”,但是在差一点的机器上很难重现,这也就解释了开发机上难重现而在客户服务器上报错的现象。

解决办法:

private static readonly object obj = new object();private static int ExecuteNonQuery(stringStrSQL, CommandType CmdType, SQLiteParameter[] SQLiteParams)

{

SQLiteConnection SQLiteConn= newSQLiteConnection(strConn);

SQLiteCommand SQLiteCmd=SQLiteCommandConstructor(SQLiteConn, StrSQL, CmdType, SQLiteParams);if (SQLiteConn.State !=ConnectionState.Open)

{

SQLiteConn.Open();

}

Monitor.Enter(obj);int result =SQLiteCmd.ExecuteNonQuery();

Monitor.Exit(obj);//aaa++;//Console.WriteLine(aaa);

SQLiteCmd.Dispose();

SQLiteConn.Close();returnresult;

}

事实证明Sqlite不支持并发执行写入操作,即使是不同的表,只支持库级锁,而且这个Sqlite本身没有实现,必须自己实现这个库级锁。

 类似资料: