开发者社区 问答 正文

爬虫中多进程爬虫的流程是什么?

爬虫中多进程爬虫的流程是什么?

展开
收起
游客5n3d3br4o5qn4 2021-11-18 23:10:14 508 分享 版权
1 条回答
写回答
取消 提交回答
  • multiprocessing p = multiprocessing.Process(trage=func,args=(,)) p.daemon = True #设置为守护进程,主线程结束,子进程结束 p.start() from multiprocessing import JoinableQueue q = JoinableQueue() q.join() # 让主进程阻塞,等待队列任务计数,计数为0队列任务结束, q.put() # 计数+1 q.get() # 计数不会-1 q.task_done() # get和task_done一起使用才会减一

    2021-11-18 23:10:39
    赞同 展开评论