多应用+插件架构,代码干净,二开方便,首家独创一键云编译技术,文档视频完善,免费商用码云13.8K 广告
参考[徐阿衡](http://www.shuang0420.com/2016/06/12/%E7%88%AC%E8%99%AB%E6%80%BB%E7%BB%93-%E4%BA%8C-scrapy/)的博客中爬虫开发的内容。徐阿衡毕业于卡耐基梅隆大学,现就职于顺丰科技。 [TOC] 这篇博客写了有一段时间了,由于Scrapy版本更新,博客中有些代码要更新一下。 [TOC] 我的机器配置: `$uname -a` `Linux a-All-Series 4.15.0-33-generic #36~16.04.1-Ubuntu SMP Wed Aug 15 17:21:05 UTC 2018 x86_64 x86_64 x86_64 GNU/Linux ` [TOC] 安装`python-scrapy`,结果很多坑,这里就不表有多少坑了。 [TOC] 看[Scrapy官方文档](https://doc.scrapy.org/en/latest/intro/install.html),里面有这么一句话: `Don’t use the python-scrapy package provided by Ubuntu, they are typically too old and slow to catch up with latest Scrapy.` 就是说,ubuntu不要安装`python-scrapy`,我好悔啊...... [TOC] 官方文档说,如果有安装`anaconda`(刚好我有安装),可以用`conda`安装: `conda install -c conda-forge scrapy` 执行完后,`scrapy`就安装好了,是不是很简单。 检查一下`scrapy`的版本。是`v1.5.1`版本。 ` import scrapy` `scrapy.__version__` `u'1.5.1'`