网站建设资讯

NEWS

网站建设资讯

scrapy框架怎么python爬虫中找寻下一页

这篇文章主要介绍了scrapy框架怎么python爬虫中找寻下一页,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。

网站建设哪家好,找成都创新互联!专注于网页设计、网站建设、微信开发、小程序制作、集团企业网站建设等服务项目。为回馈新老客户创新互联还提供了鲁山免费建站欢迎大家使用!

实现自动翻页一般有两种方法:

在当前页面中找到下一页的地址;

自己根据URL的变化规律构造所有页面地址。

一般情况下我们使用第一种方法,第二种方法适用于页面的下一页地址为JS加载的情况。

scrapy框架怎么python爬虫中找寻下一页 

观察页面的网页源码后可以得到,直接拼接URL即可得到下一页的链接。

scrapy框架怎么python爬虫中找寻下一页 

再次运行结果,打开douban.csv。是不是发现所有的影片信息都获取到了,250个一个不多一个不少

scrapy框架怎么python爬虫中找寻下一页 

最后,利用Excel的筛选功能你可以筛选任意符合你要求的影片。(PS:Excel可以直接打开csv进行操作)

感谢你能够认真阅读完这篇文章,希望小编分享scrapy框架怎么python爬虫中找寻下一页内容对大家有帮助,同时也希望大家多多支持创新互联,关注创新互联行业资讯频道,遇到问题就找创新互联,详细的解决方法等着你来学习!


当前名称:scrapy框架怎么python爬虫中找寻下一页
转载源于:http://cdweb.net/article/ihhpeo.html