参考[徐阿衡](http://www.shuang0420.com/2016/06/12/%E7%88%AC%E8%99%AB%E6%80%BB%E7%BB%93-%E4%BA%8C-scrapy/)的博客中爬虫开发的内容。徐阿衡毕业于卡耐基梅隆大学,现就职于顺丰科技。
[TOC]
这篇博客写了有一段时间了,由于Scrapy版本更新,博客中有些代码要更新一下。
[TOC]
我的机器配置:
`$uname -a`
`Linux a-All-Series 4.15.0-33-generic #36~16.04.1-Ubuntu SMP Wed Aug 15 17:21:05 UTC 2018 x86_64 x86_64 x86_64 GNU/Linux
`
[TOC]
安装`python-scrapy`,结果很多坑,这里就不表有多少坑了。
[TOC]
看[Scrapy官方文档](https://doc.scrapy.org/en/latest/intro/install.html),里面有这么一句话:
`Don’t use the python-scrapy package provided by Ubuntu, they are typically too old and slow to catch up with latest Scrapy.`
就是说,ubuntu不要安装`python-scrapy`,我好悔啊......
[TOC]
官方文档说,如果有安装`anaconda`(刚好我有安装),可以用`conda`安装:
`conda install -c conda-forge scrapy`
执行完后,`scrapy`就安装好了,是不是很简单。
检查一下`scrapy`的版本。是`v1.5.1`版本。
` import scrapy`
`scrapy.__version__`
`u'1.5.1'`