爬虫--百度图片

懵懂的女人 提交于 2020-03-21 07:36:28

baidu_images:

  1、首先百度图片的cookie是一个静态的,所以我们只需要发送一次请求就可以得到这个cookiele

  2、打开开发者工具,不断刷新页面,得到一个具体的url,然后分析url中的参数(这里面的参数一定要好好分析,因为这里面的有些字段是不需要的)

  3、分析完成之后,就是对页面数据的一些操作了(先不要想着一次性拿到所有的数据)

    1、首先先分析首页的url,拿到这里面的有用的数据(数据一般是你在请求的时候,就已经存在乐的,这时候就可以直接通过json反序列化得到后代中preview的数据)

    2、然后在来利用for循环来对不同的页面进行一个循环遍历,从而得到所有的数据

  4、当你拿完所有的数据之后,就是对所有的代码的一个整理,封装

 

总结:

  由于这里的cookie是静态的所以就不会产生那种cookie需要更新的情况,但是为了以防万一,你可以在抓取指定数据之后,自行来对cookie进行一次更新,避免产生不必要的错误

 

 

代码链接:https://github.com/1213William/baidu_images_spider

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!