欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Python--多任务(多进程,多线程,协程)

程序员文章站 2024-03-19 19:09:40
...

1.单核CPU实现“多任务”:(注意:这里的多任务假的,是轮训执行多个任务一段时间)

1)时间片轮转

2)优先级调度算法

**2.并行:**真的多任务执行(CPU核数>=任务数);即在某个时刻点上,有多个程序同时运行在多个CPU上

**3.并发:**假的多任务执行(CPU核数<任务数);即一段时间内,有多个程序在同一个CPU上运行

4.多线程执行的顺序不确定

5.没运行的程序是程序,运行的程序就是进程

6.进程/线程:

1)子进程把主进程所有的资源复制一份,子进程拥有主进程的所有资源,代码是共享的

2)进程耗费的资源大,线程占用的资源少

3)代码—》进程—》主线程—》多个子线程

4)进程是系统资源分配的单位,线程是系统调度的单位

5)一般进程不能共享

6)通过进程之间的通信实现共享(通过socket,文件,队列Queue实现)

a.队列实现:

创建多个子进程,将队列的引用(即变量)当做实参进行传递到进程里面

7)进程池Pool

a.先创建一部分进程,来了大量任务>进程数,通过排队调度实现重复利用

b.如果定义的最大进程池数大于创建进程数,不会出现阻塞,但是只是开启最大进程池的数量,剩余的进程处于等待调度,主进程可以先结束,进程池后结束,可以通过po.join()阻塞等待进程池中的子进程执行完后主进程执行完,图例:
Python--多任务(多进程,多线程,协程)
Python--多任务(多进程,多线程,协程)
Python--多任务(多进程,多线程,协程)
Python--多任务(多进程,多线程,协程)

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 多进程--实现文件夹拷贝.py
import os
import multiprocessing

def copy_file(q,file_name,old_folder_name,new_folder_name):
    """完成文件的复制"""
    # print("=====>模拟copy文件:从%s---->到%s 文件名:%s" % (old_folder_name,new_folder_name,file_name))
    old_f = open(old_folder_name + "/" + file_name,"rb")
    content = old_f.read()
    old_f.close()

    new_f = open(new_folder_name + "/" + file_name,"wb")
    new_f.write(content)
    new_f.close()

    # 如果拷贝完了文件,那么就想队列中写入一个消息,表示已经完成
    q.put(file_name)

def main():
    # 1.获取用户要copy的文件夹的名字
    old_folder_name = input("请输入要copy的文件夹的名字:")

    # 2.创建一个新的文件夹
    try:
        new_folder_name = input("请输入要copy的文件夹的名字:")
        os.mkdir(new_folder_name)
    except Exception as e:
        pass

    # 3.获取文件的所有的待copy的文件名字 listdir()
    file_names = os.listdir(old_folder_name)
    # print(file_names)

    # 4.创建进程池
    po = multiprocessing.Pool(5)

    # 5.创建一个队列
    q = multiprocessing.Manager().Queue()

    # 6.向进程池中添加copy文件的任务
    for file_name in file_names:
        po.apply_async(copy_file,args=(q,file_name,old_folder_name,new_folder_name))

    po.close()

    # po.join()
    all_file_num = len(file_names) # 获取所以文件的个数
    copy_ok_num = 0
    while True:
        file_name = q.get()
        # print("已完成%s" % file_name)
        copy_ok_num += 1
        print("\r拷贝的进度为:%.2f %%" % (copy_ok_num*100/all_file_num),end='')
        if copy_ok_num >= all_file_num:
            break
    print()

if __name__ == "__main__":
    main()

7.多任务–协程

a.迭代器:

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 迭代器-demo2.py
'''
遇到问题没人解答?小编创建了一个Python学习交流QQ群:579817333 
寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和PDF电子书!
'''
import time
from collections import Iterable
from collections import Iterator
class Classmate(object):
    def __init__(self):
        self.names = list()
        self.current_num = 0

    def add(self,name):
        self.names.append(name)

    def __iter__(self):
        """如果想要一个对象称为一个可以迭代的对象,即可以使用for,那么必须实现__iter__方法"""
        return self

    def __next__(self):
        if self.current_num < len(self.names):
            ret = self.names[self.current_num]
            self.current_num += 1
            return ret
        else:
            raise StopIteration

if __name__ == '__main__':
    classmate = Classmate()
    classmate.add('老王')
    classmate.add('王二')
    classmate.add('张三')

    # print("判断classmate是否是可以迭代的对象:",isinstance(classmate,Iterable))
    # classmate_iterator = iter(classmate)
    # print("判断classmate_iterator是否是迭代器:",isinstance(classmate_iterator,Iterator))
    # print(next(classmate_iterator))

    for item in classmate:
        print(item)
        time.sleep(1)
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 迭代器--斐波那契数列.py

class Fibonacci(object):
    def __init__(self,all_num):
        self.all_num = all_num
        self.current_num = 0
        self.a = 0
        self.b = 1

    def __iter__(self):
        return self

    def __next__(self):
        if self.current_num < self.all_num:
            ret = self.a

            self.a,self.b = self.b,self.a+self.b
            self.current_num += 1

            return ret
        else:
            raise StopIteration

if __name__ == "__main__":
    fibo = Fibonacci(10)
    for num in fibo:
        print(num)

b.生成器==特殊的迭代器

'''
遇到问题没人解答?小编创建了一个Python学习交流QQ群:579817333 
寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和PDF电子书!
'''
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 迭代器--斐波那契数列.py

def create_num(all_num):
    # a = 0
    # b = 1
    a, b = 0, 1
    current_num = 0
    while current_num < all_num:
        yield a
        a, b = b, a+b
        current_num += 1

if __name__ == "__main__":
    # 如果在调用create_num的时候,发现这个函数有yield,那么此时,不是调用函数,而是创建一个生成器对象
    obj = create_num(10)
    for num in obj:
        print(num)
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 迭代器--斐波那契数列--研究.py

def create_num(all_num):
    # a = 0
    # b = 1
    a, b = 0, 1
    current_num = 0
    while current_num < all_num:
        yield a
        a, b = b, a+b
        current_num += 1

if __name__ == "__main__":
    obj = create_num(50)
    # 如果在调用create_num的时候,发现这个函数有yield,那么此时,不是调用函数,而是创建一个生成器对象
    while True:
        try:
            ret = next(obj)
            print(ret)
        except Exception as ret:
            break
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 迭代器--斐波那契数列--研究.py
'''
遇到问题没人解答?小编创建了一个Python学习交流QQ群:579817333 
寻找有志同道合的小伙伴,互帮互助,群里还有不错的视频学习教程和PDF电子书!
'''
def create_num(all_num):
    # a = 0
    # b = 1
    a, b = 0, 1
    current_num = 0
    while current_num < all_num:
        ret = yield a
        print(">>>>ret>>>>",ret)
        a, b = b, a+b
        current_num += 1

if __name__ == "__main__":
    obj = create_num(10)
    # 如果在调用create_num的时候,发现这个函数有yield,那么此时,不是调用函数,而是创建一个生成器对象
    ret = next(obj)
    print(ret)

    ret = obj.send("hahahaha")
    print(ret)

协程:

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @File  : 多任务yield-demo1.py
import time

def task_1():
    while True:
        print('-----1-----')
        time.sleep(0.1)
        yield

def task_2():
    while True:
        print('-----2-----')
        time.sleep(0.1)
        yield

def main():
    t1 = task_1()
    t2 = task_2()
    while True:
        next(t1)
        next(t2)

if __name__ == "__main__":
    main()

简单总结:

1.进程是资源分配的单位

2.线程是操作系统调度的单位

3.进程切换需要的资源很大,效率最低

4.线程切换需要的资源一般,效率一般(当然了在不考虑GIL的情况下)

5.协程切换任务资源很小,效率高

6.多进程、多线程根据CPU核数不一样可能是并行的,但是协程是在一个线程中,所以是并发

相关标签: python