Python多进程原理与用法分析
作者:喷跑的豆子 发布时间:2023-11-30 15:26:11
标签:Python,多进程
本文实例讲述了Python多进程原理与用法。分享给大家供大家参考,具体如下:
进程是程序在计算机上的一次执行活动。当你运行一个程序,你就启动了一个进程。显然,程序是死的(静态的),进程是活的(动态的)。进程可以分为系统进程和用户进程。凡是用于完成操作系统的各种功能的进程就是系统进程,它们就是处于运行状态下的操作系统本身;所有由你启动的进程都是用户进程。进程是操作系统进行资源分配的单位。
开启一个进程
import multiprocessing,time,os
def runtask():
time.sleep(2)
print("开启一个进程:%s"%os.getpid())
if __name__ == "__main__":
p = multiprocessing.Process(target=runtask,)
p.start()
进程队列
import multiprocessing
def runtask():
q.put([42,"python"])
if __name__ == "__main__":
q = multiprocessing.Queue()
p = multiprocessing.Process(target=runtask,)
p.start()
print(q.get()) # 打印结果:[42,"python"]
pipe管道
返回两个连接对象。代表管道的两端,默认双向通信。
import multiprocessing
def runtask():
conn.send("abc")
conn.close()
if __name__ == "__main__":
conn,pconn = multiprocessing.Pipe()
p = multiprocessing.Process()
p.start()
print(pconn.recv()) # 打印结果:"abc"
Value、Array
共享内存有两个结构,一个是Value,一个是Array,这两个结构内部都实现了锁机制,因此进程是安全的。
import multiprocess
def runtask():
d.value = 50
for index in range(len(a)):
a[index]+=10
if __name__ == "__main__":
# 下面的字符"d"、"i"似乎是固定的,换成其他将会报错。求大神解释
d = Value("d",20)
a = Array("i",range(10))
p = multiprocessing.Process(target=runtask,)
p.start()
p.join() # 等待进程执行完毕
print(d.value,a[:]) # 打印结果: 50.0 [10, 11, 12, 13, 14, 15, 16, 17, 18, 19]
Manager
Python实现多进程之间通信除了Queue(队列)、Pipe(管道)和Value-Array之外,还提供了更高层次的封装。Manager支持的类型非常多,如:list, dict, Namespace, Lock, RLock, Semaphore, BoundedSemaphore, Condition, Event, Queue, Value 和 Array 用法如下:
import multiprocessing
def runtask():
d["name"] = "laowang"
l.reverse()
if __name__ == "__main__":
with multiprocessing.Manager() as manager:
d = manager.dict()
l = manager.list(range(10))
p = multiprocessing.Process(target=runtask,)
p.start()
p.join() # 等待进程执行完毕
print(d,l) # 打印结果:{'name': 'laowang'} [9, 8, 7, 6, 5, 4, 3, 2, 1, 0]
进程池Pool
Pool 是进程池,进程池能够管理一定的进程,当有空闲进程时,则利用空闲进程完成任务,直到所有任务完成为止
import multiprocessing
def runtask():
pass
def callBackTask(arg): # 回调函数必须要有一个形参,否则将报错
print("执行回调函数",arg)
if __name__ == "__main__":
pool = multiprocessing.Pool(5) # 设置进程池最大同时执行进程数
for index in range(20):
pool.apply_async(func=runtask,callback=callBackTask) # 并行的,有回调方法
# pool.apply(func=runtask,) # 串行的,无回调函数
pool.close() # 关闭进程池
pool.join() # #调用join之前,先调用close函数,否则会出错。执行完close后不会有新的进程加入到pool,join函数等待所有子进程结束
执行结果:apply方法效果为一个进行接一个进程的执行,而apply_async是同时有5个进程在执行。
希望本文所述对大家Python程序设计有所帮助。
来源:https://blog.csdn.net/y472360651/article/details/73522180


猜你喜欢
- Explain工具介绍使用Explain关键字可以模拟优化器执行SQL语句,分析你的查询语句或是结构的性能瓶颈。在select语句之前增加e
- 即使你没听说过“ * 六度分隔理论”,也很可能听过“凯文 • 贝肯 (Kevin Bacon)的六度分隔值游戏”。在这两个游戏中,目标都是
- 当你准备全面进军web标准时,有时候你是不是被表格的弄得焦头烂额呢?比如,原来使用“非法”的nobr现在要用什么来代替呢?今天,就让我来一个
- 对于大的数据库,将数据装载到一个没有 FULLTEXT 索引的表中,然后再使用 ALTER TABLE (或 CRE
- 一、TensorBoardTensorBoard 一般都是作为 TensorFlow 的可视化工具,与 TensorFlow 深度集成,它能
- 在我们日常接触到的Python中,狭义的缺失值一般指DataFrame中的NaN。广义的话,可以分为三种。缺失值:在Pandas中的缺失值有
- python txt中的文件,逐行读取并且每行赋值给变量最近想做自动化,想到可能会用到很多账号密码,所以想到了用参数化,但是一个用户,一个密
- mysql中in条件使用字符串场景当sql使用in作为条件时,使用一个参数满足查询条件,直接传入字符串无法满足条件。select id,na
- 一、前言最近经常碰到开发误删除误更新数据,这不,他们又给我找了个麻烦,我们来看下整个过程。二、过程由于开发需要在生产环节中修复数据,需要执行
- 初学Python,遇到需要将mat文件转为csv文件,看了很多博客,最后找到了解决办法,代码如下:#方法1from pandas impor
- 阅读上一篇:网马解密大讲堂——网马解密中级篇(Eval篇) 一.Document.write 函数简介:在Microsoft JScript
- <% If Err.Number <> 0 Th
- 介绍最近在研究目标检测方面的小东西,需要到对桌面进行实时捕捉画面,获取画面后再检测,达到实时桌面目标检测的目的,所以写了一段小代码来实现该功
- python除法负数商的取整方式与C++不同python:5 / -2 = -3若想和C++行为相同,可以使用 int(operator.t
- 内容摘要:当我们不想让某IP服务我们的网站时,我们就要写段程序来限制IP地址。asp中如何对ip进行过滤限制?本文介绍了一种方法,这个函数只
- 使用pytorch的dataloader报错:RuntimeError: stack expects each tensor to be e
- 一、数据库介绍1、为什么要学习数据库通常,我们存储数据,直接用本地文件即可,但是,本地文件不利于存放海量数据,也不利于用程序对文件的数据进行
- 安装需要的包1 第一步:全文检索不同于特定字段的模糊查询,使用全文检索的效率更高,并且能够对于中文进行分词处理。haystack:全文检索的
- 路漫漫其修远兮,吾将上下而求索,又到了周末,我继续带各位看官学习回顾Mysql知识。上次说到了流程控制函数,那就从流程控制函数来继续学习吧!
- asp正则表达式检测字符串是否是数字及字母。<% '函数:CheckString(strng) '