龙空技术网

python高级爬虫框架Scrapy在Mac、Ubuntu系统下安装教程

互联网奇点 228

前言:

当前同学们对“ubuntu上安装scrapy”都比较重视,咱们都需要知道一些“ubuntu上安装scrapy”的相关内容。那么小编也在网络上搜集了一些关于“ubuntu上安装scrapy””的相关知识,希望看官们能喜欢,你们快快来学习一下吧!

使用虚拟环境(推荐)TL; DR:我们建议在所有平台上的虚拟环境中安装Scrapy。Python包可以全局安装(也称为系统范围),也可以安装在用户空间中。我们不建议安装scrapy系统。相反,我们建议您在所谓的“虚拟环境”(virtualenv)中安装scrapy。Virtualenvs允许您不与已安装的Python系统包冲突(这可能会破坏您的一些系统工具和脚本),并且仍然通常使用pip(没有sudo和喜欢)安装包。要开始使用虚拟环境,请参阅virtualenv安装说明。要全局安装它(全局安装它实际上有帮助),它应该是运行的问题:sudo pip install virtualenv注意

如果你使用Linux或OS X,virtualenvwrapper是一个创建virtualenvs的便利工具。

一旦你创建了virtualenv,就可以在其中安装scrapypip,就像任何其他Python包一样。(有关您可能需要事先安装的非Python依赖项,请参阅下面的特定于平台的指南)。

可以创建Python virtualenvs以默认使用Python 2,或默认使用Python 3。

如果你想用Python 3安装scrapy,请在Python 3 virtualenv中安装scrapy。如果你想用Python 2安装scrapy,请在Python 2 virtualenv中安装scrapy。Ubuntu 14.04或以上

Scrapy目前正在使用最新版本的lxml,twisted和pyOpenSSL进行测试,并且与最近的Ubuntu发行版兼容。但它也应该支持旧版本的Ubuntu,比如Ubuntu 14.04,尽管可能存在TLS连接问题。

不要使用python-scrapyUbuntu提供的软件包,它们通常太旧而且速度慢,无法赶上最新的Scrapy。

要在Ubuntu(或基于Ubuntu)系统上安装scrapy,您需要安装这些依赖项:

sudo apt-get install python-dev python-pip libxml2-dev libxslt1-dev zliblg-dev libffi-dev libssl-dev

python-dev,zlib1g-dev,libxml2-dev和libxslt1-dev所需要的lxmllibssl-dev并且libffi-dev是必需的cryptography

如果你想在Python 3上安装scrapy,你还需要Python 3开发头文件:

sudo apt-get install python3 python3-dev

在virtualenv中,你可以pip在之后安装Scrapy:

pip install scrapy

Mac

构建Scrapy的依赖项需要存在C编译器和开发头。在OS X上,这通常由Apple的Xcode开发工具提供。要安装Xcode命令行工具,请打开终端窗口并运行:

xcode-select --install

有一个已知问题阻止pip更新系统包。必须解决这个问题才能成功安装Scrapy及其依赖项。以下是一些建议的解决方案

(推荐) 不要使用系统python,安装一个不与系统其他部分冲突的新版本。以下是使用自制软件包管理器的方法:按照中的说明安装自制软件更新您的PATH变量以声明在系统软件包之前应该使用自制软件包(如果您使用zsh作为默认shell,则更.bashrc改为:).zshrcecho "export PATH=/user/local/bin:/usr/local/sbin:$PATH" >> ~/.bashrc重新加载.bashrc以确保发生了更改:source ~/.bashrc安装python:brew install python最新版本的python已pip与它们捆绑在一起,因此您无需单独安装它。如果不是这样,请升级python:brew update;brew upgrade python(可选)在隔离的python环境中安装Scrapy。此方法是上述OS X问题的解决方法,但它是管理依赖关系的总体良好实践,可以补充第一种方法。virtualenv是一个可以用来在python中创建虚拟环境的工具。我们建议您阅读等教程,以便开始使用。

在完成任何这些变通办法之后,您应该能够安装Scrapy:

pip install scrapy

点击关注发私信(基础视频),即可获取下载链接:

标签: #ubuntu上安装scrapy