相关阅读
相关 爬虫日记(91)：Scrapy的ScrapyAgent类
从前面的HTTP11DownloadHandler类分析可知，它是调用ScrapyAgent类来处理具体的HTTP或HTTPS的协议来下载网页数据。如下调用过程： 
喜欢ヅ旅行相关 爬虫日记(76)：Scrapy的命令行源码分析二
列举目录scrapy\\commands里命令 从代码里可以看到，先会从scrapy\\commands里得到所有命令，这些命令是scrapy最基本的操作，包含爬虫的创建、运
相关 爬虫日记(76)：Scrapy的命令行源码分析
前面已经分析怎么样获取环境变量、全局设置和项目设置的参数获取，接着下来就是分析怎么样得到scrapy工程命令行里所有支持的命令，以及判断命令行里输入的命令是否合法，合法之后又是
相关 爬虫日记(70)：Scrapy的SitemapSpider使用
在开发爬虫的过程中，经常会遇到整个网站内容进行下载，比如像头条的APP类似的需求，它需要统计全世界上所有的新闻网站，看看这些网站出现什么内容是热点，这样把所有热点放到一起，再推
相关 爬虫日记(69)：Scrapy的CrawlSpider使用
在开发爬虫的过程中，经常会遇到非常规则的网站，只需要一条或几条规则就可以把整个网站的内容收集到了。对于这样的网站，我们就可以采用更加简单的方法，就是采用CrawlSpider类
相关 爬虫日记(67)：Scrapy的XMLFeedSpider使用
在前面我们使用一般的方式来抓取过新闻，那是基于普通的urllib和beautifulsoup组件来实现的，需要写比较多的代码。由于RSS是一种标准格式，这样我们就可以使用标准类
刺骨的言语ヽ痛彻心扉相关 爬虫日记(62)：Scrapy的合约测试
在开发爬虫的过程中，经常遇到这种情况，比如几个星期之前编写的爬虫可以完美运行，突然有一天经理看不到数据了，这时就把你叫到他的办公室，开始对你训话了。你会有一肚子的不满，因为这段
相关 爬虫日记(89)：Scrapy的DownloadHandlers类
前面分析了下载器的整个源码，理解了下载器的工作过程，在那里经常会遇到一个类，就是DownloadHandlers类，这个类主要用来对不同的下载协议进行管理的，比如文件协议和ht
相关 爬虫日记(78)：Scrapy的命令运行入口点
前面经历了从安装程序转到scrapy程序运行，再从scrapy程序开始读取配置参数，再到命令行里处理参数，这样就把前期的工程准备好了，接着就来到了最后的阶段，运行爬虫了。这个阶
红太狼相关 爬虫日记(77)：Scrapy的命令合法的判断
前面已经从三个地方准备好所有可以运行的命令，接着下来就是需要根据命令行的输入内容来判断命令是否合法，参数个数是否合法，参数内容是否合法了。我们分析这一段代码，学会处理命令行参数
╰+攻爆jí腚メ
还没有评论，来说两句吧...