当前位置: 首页 > 编程笔记 >

Python多进程同步Lock、Semaphore、Event实例

宓博实
2023-03-14
本文向大家介绍Python多进程同步Lock、Semaphore、Event实例,包括了Python多进程同步Lock、Semaphore、Event实例的使用技巧和注意事项,需要的朋友参考一下

同步的方法基本与多线程相同。

1) Lock

当多个进程需要访问共享资源的时候,Lock可以用来避免访问的冲突。


import multiprocessing

import sys

def worker_with(lock, f):     with lock:         fs = open(f,"a+")         fs.write('Lock acquired via with\n')         fs.close()         def worker_no_with(lock, f):     lock.acquire()     try:         fs = open(f,"a+")         fs.write('Lock acquired directly\n')         fs.close()     finally:         lock.release()

if __name__ == "__main__":

    f = "file.txt"       lock = multiprocessing.Lock()     w = multiprocessing.Process(target=worker_with, args=(lock, f))     nw = multiprocessing.Process(target=worker_no_with, args=(lock, f))

    w.start()     nw.start()

    w.join()     nw.join()

在上面的例子中,如果两个进程没有使用lock来同步,则他们对同一个文件的写操作可能会出现混乱。

2)Semaphore

Semaphore用来控制对共享资源的访问数量,例如池的最大连接数。


import multiprocessing

import time

def worker(s,i):     s.acquire()     print(multiprocessing.current_process().name + " acquire")     time.sleep(i)     print(multiprocessing.current_process().name + " release")     s.release()

if __name__ == "__main__":       s = multiprocessing.Semaphore(2)     for i in range(5):         p = multiprocessing.Process(target=worker, args=(s,i*2))         p.start()

上面的实例中使用semaphore限制了最多有2个进程同时执行。

3)Event

Event用来实现进程间同步通信。


import multiprocessing

import time

def wait_for_event(e):     """Wait for the event to be set before doing anything"""     print ('wait_for_event: starting')     e.wait()     print ('wait_for_event: e.is_set()->' + str(e.is_set()))

def wait_for_event_timeout(e, t):     """Wait t seconds and then timeout"""     print ('wait_for_event_timeout: starting')     e.wait(t)     print ('wait_for_event_timeout: e.is_set()->' + str(e.is_set()))

if __name__ == '__main__':     e = multiprocessing.Event()     w1 = multiprocessing.Process(name='block',                                  target=wait_for_event,                                  args=(e,))     w1.start()

    w2 = multiprocessing.Process(name='non-block',                                  target=wait_for_event_timeout,                                  args=(e, 2))     w2.start()

    time.sleep(3)     e.set()     print ('main: event is set')     #the output is: #wait_for_event_timeout: starting #wait_for_event: starting #wait_for_event_timeout: e.is_set()->False #main: event is set #wait_for_event: e.is_set()->True

 类似资料:
  • 1-工序A N-过程B 我有1个A进程和N个B进程。进程将A数组的元素写入共享变量x。然后所有N个B个进程都必须读取数据并将其存储到本地数组中。当所有的N B进程都存储它时,那么一个进程最终可以将数组的下一个元素分配给变量x。 我如何使用信号量来同步它?最后一个读取数据的进程B应该向写信号量发出信号,以便A进程写入下一个元素。我怎样才能知道每个B进程何时读取数据?

  • 我试图使用popen启动一个子进程,该子进程一个接一个地调用两个命令(带有多个参数)。第二个命令依赖于第一个命令的运行,因此我希望使用一个子进程同时运行这两个命令,而不是生成两个进程并等待第一个。 但是我遇到了一些问题,因为我不知道如何给出两个命令输入,或者如何将命令作为一个对象分开。 另外,如果可能的话,我会尽量避免将shell设置为true。 这基本上就是我要做的:

  • 如何使同一进程的多个实例在不相互干扰的情况下并排运行? 我有一个业务流程模型,其中一个基本工作流需要决定需要启动哪个其他工作流。这个基流将在被评估时发送一些信号,这些信号将启动其他子进程。在这些子进程的执行过程中,有些子进程需要等待其他子进程完成。因此,我目前使用中间抛出和捕捉信号来实现某种同步机制。问题是,每当某个信号被发送时,侦听该信号的所有进程都将继续独立于它们运行的实例。我希望只有当这些子

  • 1、进程同步的基本概念 多道程序环境下,进程是并发执行的,不同进程间存在着不同的相互制约关系。为了协调进程之间的相互制约关系,达到资源共享和进程协作,避免进程之间的冲突,引入了进程同步的概念。 (1) 临界资源 多个进程可以共享系统中的各种资源,但其中许多资源一次只能为一个进程所使用,我们把一次只允许一个进程使用的资源成为临界资源。 对临界资源的访问,必须互斥的进行。每个进程中,访问临界资源的那段

  • PHP代码中可以很方便地创建一个锁,用来实现数据同步。Lock类支持5种锁的类型 锁类型 说明 SWOOLE_FILELOCK 文件锁 SWOOLE_RWLOCK 读写锁 SWOOLE_SEM 信号量 SWOOLE_MUTEX 互斥锁 SWOOLE_SPINLOCK 自旋锁 !> 请勿在onReceive等回调函数中创建锁,否则内存会持续增长,造成内存泄漏。 使用示例 $lock = new Sw

  • 本文向大家介绍python多进程操作实例,包括了python多进程操作实例的使用技巧和注意事项,需要的朋友参考一下 由于CPython实现中的GIL的限制,python中的多线程其实并不是真正的多线程,如果想要充分地使用多核CPU的资源,在python中大部分情况我们需要使用多进程。 这也许就是python中多进程类库如此简洁好用的原因所在。在python中可以向多线程一样简单地使用多进程。 一、