Python基于进程池实现多进程过程解析
程序员文章站
2022-07-01 12:51:08
1、注意:pool必须在 if __name__ == '__main__' 下面运行,不然会报错2、多进程内出现错误会直接跳过该进程,并且默认不会打印错误信息3、if__name__下面的数据需要通...
1、注意:pool必须在 if __name__ == '__main__' 下面运行,不然会报错
2、多进程内出现错误会直接跳过该进程,并且默认不会打印错误信息
3、if__name__下面的数据需要通过参数传入主函数里面,不然主函数获取不到该数据值而报错。
4、若不通过传参形式传入数据,可以定义全局变量。但是全局变量的值不能在多进程里面进行修改。
代码如下
from multiprocessing import pool # 进程池,用于多进程 import os # 用于获取当前执行的文件名 import time import traceback # 用于捕获异常 import sys # 用于捕获异常 def main_func(i): # 多进程运行的函数 try: # 多进程中发生异常是不会打印错误信息,并且当前进程会直接跳过,所以异常需要自行捕获 rand_time = random.randint(1, 3) # 随机产生1~3的整数 time.sleep(rand_time ) print(i) except: current_filename = str(os.path.basename(sys.argv[0]))[:-3] # 获取当前文件名称 cur_err_filname = current_filename + '_error.txt' error_info = sys.exc_info() # 打印异常 with open(f'{cur_err_filname }', 'a') as f: error_str = f'{i}:error occurred,{time.strftime("%y-%m-%d %h:%m:%s")}:\n {error_info[0]}: {error_info[1]}' # 记录当前进程特征值,错误发生时间 ,错误类型,错误概述 print(error_str, file=f) # 通过打印方式写入文件 traceback.print_tb(error_info[2], file=f) # 错误细节描述(包括bug的代码位置) f.write(f"{'=' * 50}\n") # 分行 if __name__ == '__main__': # 必须在此语句下面运行,不然会报错 pool = pool(5) # 定义进程数量 for i in range(20): pool.apply_async(main_func, (i, )) # 调用函数执行多进程 pool.close() # 关闭进程池 pool.join() # 阻塞进程,此两部不能少,保证多进程正常运行
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。