WebMagic 报错:java.lang.IllegalArgumentException:Already closed!checkInit

拈花ヽ惹草 提交于 2020-02-21 04:49:19

项目没有将所有的url都放在一起爬取,在for循环按一个一个url中去爬取启动spider网站,后来发现在第一个url顺利爬取完后,第二个url开始就报错:

后来发现是SeleniumDownloader 实在循环外启动的,导致webDriverPool的stat还是2,不能重新执行。

ps.

webDriverPool是在 SeleniumDownloader 中的checkInit中创建的。

	private void checkInit() {
		if (webDriverPool == null) {
			synchronized (this) {
				webDriverPool = new WebDriverPool(poolSize);
			}
		}
	}

 

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!