Scrapy-Twisted源码解析

匿名 (未验证) 提交于 2019-12-03 00:43:02
from twisted.internet import defer from twisted.web.client import getPage from twisted.internet import reactor   def download(*args,**kwargs):     print(args,kwargs)  def stop(*args,**kwargs):     reactor.stop()  @defer.inlineCallbacks def task(url):     v = getPage(url.encode(utf-8))     v.addBoth(download)     yield v  if __name__ == __main__:     url_list = [         "http://www.baidu.com",         "http://www.bing.com",         "http://dig.chouti.com",     ]     _active = set()     for url in url_list:         d = task(url)         _active.add(d)      dd = defer.DeferredList(_active)     dd.addBoth(stop)     reactor.run()

原文:https://www.cnblogs.com/benchdog/p/9348359.html

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!