Python程序中的进程操作-开启多进程(multiprocess.process)
Python从入门到放弃完整教程目录:https://www.cnblogs.com/nickchen121/p/10718112.html
之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。
一、multiprocess模块
仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。
二、multiprocess.process模块
process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。
三、process模块介绍
Process(\\\[group \\\[, target \\\[, name \\\[, args \\\[, kwargs\\\]\\\]\\\]\\\]\\\])
,由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)
强调:
- 需要使用关键字的方式来指定参数
- args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
- group参数未使用,值始终为None
- target表示调用对象,即子进程要执行的任务
- args表示调用对象的位置参数元组,
args=(1,2,\'egon\',)
- kwargs表示调用对象的字典,
kwargs={\'name\':\'egon\',\'age\':18}
- name为子进程的名称
3.1 方法介绍
-
p.start()
:启动进程,并调用该子进程中的p.run() -
p.run()
:进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法 -
p.terminate()
:强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁 -
p.is_alive()
:如果p仍然运行,返回True -
p.join(\\\[timeout\\\])
:主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
3.2 属性介绍
-
p.daemon
:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()
之前设置 -
p.name
:进程的名称 -
p.pid
:进程的pid -
p.exitcode
:进程在运行时为None、如果为–N,表示被信号N结束(了解即可) -
p.authkey
:进程的身份验证键,默认是由os.urandom()
随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)
3.3 在windows中使用process模块的注意事项
在Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if \_\_name\_\_ ==\'\_\_main\_\_\'
判断保护起来,import 的时候,就不会递归运行了。
四、使用process模块创建进程
在一个python进程中开启子进程,start方法和并发效果。
4.1 在Python中启动的第一个子进程
import time
from multiprocessing import Process
def f(name):
print(\'hello\', name)
print(\'我是子进程\')
if __name__ == \'__main__\':
p = Process(target=f, args=(\'bob\',))
p.start()
time.sleep(1)
print(\'执行主进程的内容了\')
4.2 join方法
import time
from multiprocessing import Process
def f(name):
print(\'hello\', name)
time.sleep(1)
print(\'我是子进程\')
if __name__ == \'__main__\':
p = Process(target=f, args=(\'bob\',))
p.start()
# p.join()
print(\'我是父进程\')
4.3 查看主进程和子进程的进程号
import os
from multiprocessing import Process
def f(x):
print(\'子进程id :\',os.getpid(),\'父进程id :\',os.getppid())
return x*x
if __name__ == \'__main__\':
print(\'主进程id :\', os.getpid())
p_lst = []
for i in range(5):
p = Process(target=f, args=(i,))
p.start()
进阶,多个进程同时运行(注意,子进程的执行顺序不是根据启动顺序决定的)
4.4 多个进程同时运行
import time
from multiprocessing import Process
def f(name):
print(\'hello\', name)
time.sleep(1)
if __name__ == \'__main__\':
p_lst = []
for i in range(5):
p = Process(target=f, args=(\'bob\',))
p.start()
p_lst.append(p)
4.5 多个进程同时运行,再谈join方法(1)
import time
from multiprocessing import Process
def f(name):
print(\'hello\', name)
time.sleep(1)
if __name__ == \'__main__\':
p_lst = []
for i in range(5):
p = Process(target=f, args=(\'bob\',))
p.start()
p_lst.append(p)
p.join()
# [p.join() for p in p_lst]
print(\'父进程在执行\')
4.6 多个进程同时运行,再谈join方法(2)
import time
from multiprocessing import Process
def f(name):
print(\'hello\', name)
time.sleep(1)
if __name__ == \'__main__\':
p_lst = []
for i in range(5):
p = Process(target=f, args=(\'bob\',))
p.start()
p_lst.append(p)
# [p.join() for p in p_lst]
print(\'父进程在执行\')
除了上面这些开启进程的方法,还有一种以继承Process类的形式开启进程的方式
4.7 通过继承Process类开启进程
import os
from multiprocessing import Process
class MyProcess(Process):
def __init__(self,name):
super().__init__()
self.name=name
def run(self):
print(os.getpid())
print(\'%s 正在和女主播聊天\' %self.name)
p1=MyProcess(\'wupeiqi\')
p2=MyProcess(\'yuanhao\')
p3=MyProcess(\'nezha\')
p1.start() # start会自动调用run
p2.start()
# p2.run()
p3.start()
p1.join()
p2.join()
p3.join()
print(\'主线程\')
进程之间的数据隔离问题
4.8 进程之间的数据隔离问题
from multiprocessing import Process
def work():
global n
n=0
print(\'子进程内: \',n)
if __name__ == \'__main__\':
n = 100
p=Process(target=work)
p.start()
print(\'主进程内: \',n)
五、守护进程
会随着主进程的结束而结束。
主进程创建守护进程
其一:守护进程会在主进程代码执行结束后就终止
其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止。
5.1 守护进程的启动
import os
import time
from multiprocessing import Process
class Myprocess(Process):
def __init__(self,person):
super().__init__()
self.person = person
def run(self):
print(os.getpid(),self.name)
print(\'%s正在和女主播聊天\' %self.person)
p=Myprocess(\'哪吒\')
p.daemon=True # 一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
p.start()
time.sleep(10) # 在sleep时查看进程id对应的进程ps -ef|grep id
print(\'主\')
5.2 主进程代码执行结束守护进程立即结束
from multiprocessing import Process
def foo():
print(123)
time.sleep(1)
print("end123")
def bar():
print(456)
time.sleep(3)
print("end456")
p1=Process(target=foo)
p2=Process(target=bar)
p1.daemon=True
p1.start()
p2.start()
time.sleep(0.1)
print("main-------") # 打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止.
六、socket聊天并发实例
6.1 使用多进程实现socket聊天并发-server端
from socket import *
from multiprocessing import Process
server=socket(AF_INET,SOCK_STREAM)
server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
server.bind((\'127.0.0.1\',8080))
server.listen(5)
def talk(conn,client_addr):
while True:
try:
msg=conn.recv(1024)
if not msg:break
conn.send(msg.upper())
except Exception:
break
if __name__ == \'__main__\': # windows下start进程一定要写到这下面
while True:
conn,client_addr=server.accept()
p=Process(target=talk,args=(conn,client_addr))
p.start()
6.2 使用多进程实现socket聊天并发-client端
from socket import *
client=socket(AF_INET,SOCK_STREAM)
client.connect((\'127.0.0.1\',8080))
while True:
msg=input(\'>>: \').strip()
if not msg:continue
client.send(msg.encode(\'utf-8\'))
msg=client.recv(1024)
print(msg.decode(\'utf-8\'))
七、多进程中的其他方法
7.1 进程对象的其他方法:terminate和is_alive
from multiprocessing import Process
import time
import random
class Myprocess(Process):
def __init__(self,person):
self.name=person
super().__init__()
def run(self):
print(\'%s正在和网红脸聊天\' %self.name)
time.sleep(random.randrange(1,5))
print(\'%s还在和网红脸聊天\' %self.name)
p1=Myprocess(\'哪吒\')
p1.start()
p1.terminate()#关闭进程,不会立即关闭,所以is_alive立刻查看的结果可能还是存活
print(p1.is_alive()) #结果为True
print(\'开始\')
print(p1.is_alive()) #结果为False
7.2 进程对象的其他属性:pid和name
class Myprocess(Process):
def __init__(self,person):
self.name=person # name属性是Process中的属性,标示进程的名字
super().__init__() # 执行父类的初始化方法会覆盖name属性
# self.name = person # 在这里设置就可以修改进程名字了
# self.person = person # 如果不想覆盖进程名,就修改属性名称就可以了
def run(self):
print(\'%s正在和网红脸聊天\' %self.name)
# print(\'%s正在和网红脸聊天\' %self.person)
time.sleep(random.randrange(1,5))
print(\'%s正在和网红脸聊天\' %self.name)
# print(\'%s正在和网红脸聊天\' %self.person)
p1=Myprocess(\'哪吒\')
p1.start()
print(p1.pid) #可以查看子进程的进程id