Python多进程抓取全国邮政编码和长途区号

由于Python设计的限制(就是咱们常用的CPython)最多只能用满1个CPU核心。Python提供了非常好用的多进程包multiprocessing，你只需要定义一个函数，Python会替你完成其他所有事情。借助这个包，可以轻松完成从单进程到并发执行的转换。使用进程池可以让你跑满多核CPU，而且使用方法非常简单。

Show You The Code：

import multiprocessing
import time
def func(msg):
 for i in xrange(3):
 print msg
 time.sleep(1)
 return "done " + msg
if __name__ == "__main__":
 pool = multiprocessing.Pool(processes=4)
 result = []
 for i in xrange(10):
 msg = "hello %d" %(i)
 result.append(pool.apply_async(func, (msg, )))
 pool.close()
 pool.join()
 for res in result:
 print res.get()
 print "Sub-process(es) done."

processes=4是最多并发进程数量，使用Pool，还需要关注每个进程的执行结果。下面以多进程抓取全国邮政编码和长途区号为例。目标站点：http://www.ip138.com

from multiprocessing.dummy import Pool as ThreadPool

Pool类中的map方法，与内置的map函数用法行为基本一致，它会使进程阻塞直到返回结果。虽然第二个参数是一个迭代器，但在实际使用中，必须在整个队列都就绪后，程序才会运行子进程。map函数用法如下：

map(func, iterable[, chunksize=None])

获取文本内容：