作为一种便捷地收集网上信息并从中抽取出可用信息的方式，网络爬虫技术变得越来越有用。使用Python这样的简单编程语言，你可以使用少量编程技能就可以爬取复杂的网站。

如果手机上显示代码错乱，请分享到QQ或者其他地方，用电脑查看！！！

python能干的东西有很多，这里不再过多叙述，直接重点干货。

什么是Requests

Requests是用python语言基于urllib编写的，采用的是Apache2 Licensed开源协议的HTTP库

如果你看过上篇文章关于urllib库的使用，你会发现，其实urllib还是非常不方便的，而Requests它会比urllib更加方便，可以节约我们大量的工作。（用了requests之后，你基本都不愿意用urllib了）一句话，requests是python实现的最简单易用的HTTP库，建议爬虫使用requests库。

默认安装好python之后，是没有安装requests模块的，需要单独通过pip安装

requests功能详解

总体功能的一个演示

import requestsresponse = requests.get("")print(type(response))print(response.status_code)print(type(response.text))print(response.text)print(response.cookies)print(response.content)print(response.content.decode("utf-8"))

我们可以看出response使用起来确实非常方便，这里有个问题需要注意一下：

很多情况下的网站如果直接response.text会出现乱码的问题，所以这个使用response.content

这样返回的数据格式其实是二进制格式，然后通过decode()转换为utf-8，这样就解决了通过response.text直接返回显示乱码的问题.

请求发出后，Requests 会基于 HTTP 头部对响应的编码作出有根据的推测。当你访问 response.text 之时，Requests 会使用其推测的文本编码。你可以找出 Requests 使用了什么编码，并且能够使用 r.encoding 属性来改变它.如：

response =requests.get("")response.encoding="utf-8"print(response.text)

不管是通过response.content.decode("utf-8)的方式还是通过response.encoding="utf-8"的方式都可以避免乱码的问题发生

各种请求方式

requests里提供个各种请求方式

import requestsrequests.post("")requests.put("")requests.delete("")requests.head("")requests.options("")

请求

基本GET请求

import requestsresponse = requests.get(' print(response.text)

带参数的GET请求，例子1

import requestsresponse = requests.get(" print(response.text)

如果我们想要在URL查询字符串传递数据，通常我们会通过httpbin.org/get?key=val方式传递。Requests模块允许使用params关键字传递参数，以一个字典来传递这些参数，例子如下：

import requestsdata = { "name":"zhaofan", "age":22}response = requests.get("",params=data)print(response.url)print(response.text)

上述两种的结果是相同的，通过params参数传递一个字典内容，从而直接构造url

注意：第二种方式通过字典的方式的时候，如果字典中的参数为None则不会添加到url上

解析json

import requestsimport jsonresponse = requests.get("")print(type(response.text))print(response.json())print(json.loads(response.text))print(type(response.json()))

从结果可以看出requests里面集成的json其实就是执行了json.loads()方法，两者的结果是一样的

获取二进制数据

在上面提到了response.content，这样获取的数据是二进制数据，同样的这个方法也可以用于下载图片以及

视频资源

添加headers

和前面我们将urllib模块的时候一样，我们同样可以定制headers的信息，如当我们直接通过requests请求知乎网站的时候，默认是无法访问的

import requestsresponse =requests.get(" print(response.text)

这样会得到如下的错误

因为访问知乎需要头部信息，这个时候我们在谷歌浏览器里输入chrome://version,就可以看到用户代理，将用户代理添加到头部信息

import requestsheaders = { "User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"}response =requests.get("",headers=headers)print(response.text)

这样就可以正常的访问知乎了

基本POST请求

通过在发送post请求时添加一个data参数，这个data参数可以通过字典构造成，这样

对于发送post请求就非常方便

import requestsdata = { "name":"zhaofan", "age":23}response = requests.post("",data=data)print(response.text)

同样的在发送post请求的时候也可以和发送get请求一样通过headers参数传递一个字典类型的数据

响应

我们可以通过response获得很多属性，例子如下

import requestsresponse = requests.get("")print(type(response.status_code),response.status_code)print(type(response.headers),response.headers)print(type(response.cookies),response.cookies)print(type(response.url),response.url)print(type(response.history),response.history)

结果如下：

状态码判断

Requests还附带了一个内置的状态码查询对象

主要有如下内容：

100: ('continue',),

101: ('switching_protocols',),

102: ('processing',),

103: ('checkpoint',),

122: ('uri_too_long', 'request_uri_too_long'),

200: ('ok', 'okay', 'all_ok', 'all_okay', 'all_good', '\o/', '✓'),

201: ('created',),

202: ('accepted',),

203: ('non_authoritative_info', 'non_authoritative_information'),

204: ('no_content',),

205: ('reset_content', 'reset'),

206: ('partial_content', 'partial'),

207: ('multi_status', 'multiple_status', 'multi_stati', 'multiple_stati'),

208: ('already_reported',),

226: ('im_used',),

Redirection.

300: ('multiple_choices',),

301: ('moved_permanently', 'moved', '\o-'),

302: ('found',),

303: ('see_other', 'other'),

304: ('not_modified',),

305: ('use_proxy',),

306: ('switch_proxy',),

307: ('temporary_redirect', 'temporary_moved', 'temporary'),

308: ('permanent_redirect',

'resume_incomplete', 'resume',), # These 2 to be removed in 3.0

Client Error.

400: ('bad_request', 'bad'),

401: ('unauthorized',),

402: ('payment_required', 'payment'),

403: ('forbidden',),

404: ('not_found', '-o-'),

405: ('method_not_allowed', 'not_allowed'),

406: ('not_acceptable',),

407: ('proxy_authentication_required', 'proxy_auth', 'proxy_authentication'),

408: ('request_timeout', 'timeout'),

409: ('conflict',),

410: ('gone',),

411: ('length_required',),

412: ('precondition_failed', 'precondition'),

413: ('request_entity_too_large',),

414: ('request_uri_too_large',),

415: ('unsupported_media_type', 'unsupported_media', 'media_type'),

416: ('requested_range_not_satisfiable', 'requested_range', 'range_not_satisfiable'),

417: ('expectation_failed',),

418: ('im_a_teapot', 'teapot', 'i_am_a_teapot'),

421: ('misdirected_request',),

422: ('unprocessable_entity', 'unprocessable'),

423: ('locked',),

424: ('failed_dependency', 'dependency'),

425: ('unordered_collection', 'unordered'),

426: ('upgrade_required', 'upgrade'),

428: ('precondition_required', 'precondition'),

429: ('too_many_requests', 'too_many'),

431: ('header_fields_too_large', 'fields_too_large'),

444: ('no_response', 'none'),

449: ('retry_with', 'retry'),

450: ('blocked_by_windows_parental_controls', 'parental_controls'),

451: ('unavailable_for_legal_reasons', 'legal_reasons'),

499: ('client_closed_request',),

Server Error.

500: ('internal_server_error', 'server_error', '/o\', '✗'),

501: ('not_implemented',),

502: ('bad_gateway',),

503: ('service_unavailable', 'unavailable'),

504: ('gateway_timeout',),

505: ('http_version_not_supported', 'http_version'),

506: ('variant_also_negotiates',),

507: ('insufficient_storage',),

509: ('bandwidth_limit_exceeded', 'bandwidth'),

510: ('not_extended',),

511: ('network_authentication_required', 'network_auth', 'network_authentication'),

通过下面例子测试：（不过通常还是通过状态码判断更方便）

import requestsresponse= requests.get(" if response.status_code == requests.codes.ok:  print("访问成功")

requests高级用法

文件上传

实现方法和其他参数类似，也是构造一个字典然后通过files参数传递

import requestsfiles= {"files":open("git.jpeg","rb")}response = requests.post(" print(response.text)

结果如下：

获取cookie

import requestsresponse = requests.get("")print(response.cookies)for key,value in response.cookies.items(): print(key+"="+value)

会话维持

cookie的一个作用就是可以用于模拟登陆，做会话维持

import requestss = requests.Session()s.get("")response = s.get("")print(response.text)

这是正确的写法，而下面的写法则是错误的

import requestsrequests.get("")response = requests.get(" print(response.text)

因为这种方式是两次requests请求之间是独立的，而第一次则是通过创建一个session对象，两次请求都通过这个对象访问

证书验证

现在的很多网站都是https的方式访问，所以这个时候就涉及到证书的问题

import requestsresponse = requests.get("https:/ print(response.status_code)

默认的12306网站的证书是不合法的，这样就会提示如下错误

为了避免这种情况的发生可以通过verify=False

但是这样是可以访问到页面，但是会提示：

InsecureRequestWarning: Unverified HTTPS request is being made. Adding certificate verification is strongly advised. See: InsecureRequestWarning)

解决方法为：

import requestsfrom requests.packages import urllib3urllib3.disable_warnings()response = requests.get(" print(response.status_code)

这样就不会提示警告信息，当然也可以通过cert参数放入证书路径

代理设置

import requestsproxies= { "http":"", "https":""}response = requests.get("",proxies=proxies)print(response.text)

如果代理需要设置账户名和密码,只需要将字典更改为如下：

proxies = {

"http":""

}

如果你的代理是通过sokces这种方式则需要pip install "requests[socks]"

proxies= {

"http":"socks5://127.0.0.1:9999",

"https":"sockes5://127.0.0.1:8888"

}

超时设置

通过timeout参数可以设置超时的时间

认证设置

如果碰到需要认证的网站可以通过requests.auth模块实现

import requestsfrom requests.auth import HTTPBasicAuthresponse = requests.get("",auth=HTTPBasicAuth("user","123"))print(response.status_code)

当然这里还有一种方式

import requestsresponse = requests.get(" print(response.status_code)

异常处理

关于reqeusts的异常在这里可以看到详细内容：

所有的异常都是在requests.excepitons中

从源码我们可以看出RequestException继承IOError,

HTTPError，ConnectionError,Timeout继承RequestionException

ProxyError，SSLError继承ConnectionError

ReadTimeout继承Timeout异常

这里列举了一些常用的异常继承关系，详细的可以看：

通过下面的例子进行简单的演示

import requestsfrom requests.exceptions import ReadTimeout,ConnectionError,RequestExceptiontry: response = requests.get("",timout=0.1) print(response.status_code)except ReadTimeout: print("timeout")except ConnectionError: print("connection Error")except RequestException: print("error")

其实最后测试可以发现，首先被捕捉的异常是timeout,当把网络断掉的haul就会捕捉到ConnectionError，如果前面异常都没有捕捉到，最后也可以通过RequestExctption捕捉到。

什么是正则表达式

正则表达式是对字符串操作的一种逻辑公式，就是事先定义好的一些特定字符、及这些特定字符的组合，组成 个“规则字符”，这个“规则字符” 来表达对字符的种过滤逻辑。

正则并不是python独有的，其他语言也都有正则

python中的正则，封装了re模块

python正则的详细讲解

常用的匹配模式

\w 匹配字母数字及下划线\W 匹配f非字母数字下划线\s 匹配任意空白字符，等价于[\t\n\r\f]\S 匹配任意非空字符\d 匹配任意数字\D 匹配任意非数字\A 匹配字符串开始\Z 匹配字符串结束，如果存在换行，只匹配换行前的结束字符串\z 匹配字符串结束\G 匹配最后匹配完成的位置\n 匹配一个换行符\t 匹配一个制表符^ 匹配字符串的开头$ 匹配字符串的末尾. 匹配任意字符，除了换行符，re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符[....] 用来表示一组字符，单独列出：[amk]匹配a,m或k[^...] 不在[]中的字符：[^abc]匹配除了a,b,c之外的字符* 匹配0个或多个的表达式+ 匹配1个或者多个的表达式? 匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式{n} 精确匹配n前面的表示{m,m} 匹配n到m次由前面的正则表达式定义片段，贪婪模式a|b 匹配a或者b() 匹配括号内的表达式，也表示一个组

re.match()

尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match（）就会返回None

语法格式：

re.match(pattern,string,flags=0)

最常规的匹配

import recontent= "hello 123 4567 World_This is a regex Demo"result = re.match('^hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$',content)print(result)print(result.group())print(result.span())

结果如下：

result.group()获取匹配的结果

result.span()获去匹配字符串的长度范围

泛匹配

其实相对来说上面的方式并不是非常方便，其实可以将上述的正则规则进行更改

import recontent= "hello 123 4567 World_This is a regex Demo"result = re.match("^hello.*Demo$",content)print(result)print(result.group())print(result.span())

这段代码的结果和上面常规匹配的结果是一样的，但是写起来会方便很多

匹配目标

如果为了匹配字符串中具体的目标，则需要通过（）括起来，例子如下：

import recontent= "hello 1234567 World_This is a regex Demo"result = re.match('^hello\s(\d+)\sWorld.*Demo$',content)print(result)print(result.group())print(result.group(1))print(result.span())

结果如下：

这里需要说一下的是通过re.group()获得结果后，如果正则表达式中有括号，则re.group(1)获取的就是第一个括号中匹配的结果

贪婪匹配

先看下面代码：

import recontent= "hello 1234567 World_This is a regex Demo"result= re.match('^hello.*(\d+).*Demo',content)print(result)print(result.group(1))

这段代码的结果是

从结果中可以看出只匹配到了7，并没有匹配到1234567，出现这种情况的原因是前面的.* 给匹配掉了， .*在这里会尽可能的匹配多的内容，也就是我们所说的贪婪匹配，

如果我们想要匹配到1234567则需要将正则表达式改为：

result= re.match('^he.*?(\d+).*Demo',content)

这样结果就可以匹配到1234567

匹配模式

很多时候匹配的内容是存在换行的问题的，这个时候的就需要用到匹配模式re.S来匹配换行的内容

import recontent = """hello 123456 world_thismy name is zhaofan"""result =re.match('^he.*?(\d+).*?zhaofan$',content,re.S)print(result)print(result.group())print(result.group(1))

结果如下

转义

当我们要匹配的内容中存在特殊字符的时候，就需要用到转移符号\,例子如下：

import recontent= "price is $5.00"result = re.match('price is \$5\.00',content)print(result)print(result.group())

对上面的一个小结：

尽量使用泛匹配，使用括号得到匹配目标，尽量使用非贪婪模式，有换行符就用re.S

强调re.match是从字符串的起始位置匹配一个模式

re.search

re.search扫描整个字符串返回第一个成功匹配的结果

import recontent = "extra things hello 123455 world_this is a Re Extra things"result = re.search("hello.*?(\d+).*?Re",content)print(result)print(result.group())print(result.group(1))

结果如下：

其实这个时候我们就不需要在写^以及$，因为search是扫描整个字符串

注意：所以为了匹配方便，我们会更多的用search，不用match,match必须匹配头部，所以很多时候不是特别方便

匹配演练

例子1：

import rehtml = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul></div>'''result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>',html,re.S)print(result)print(result.groups())print(result.group(1))print(result.group(2))

结果为：

re.findall

搜索字符串，以列表的形式返回全部能匹配的子串

代码例子如下：

import rehtml = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul></div>'''results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)print(results)print(type(results))for result in results: print(result) print(result[0], result[1], result[2])

结果如下：

例子2：

import rehtml = '''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction"> 经典老歌列表 </p> <ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7"> <a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li> <li data-view="4" class="active"> <a href="/3.mp3" singer="齐秦">往事随风</a> </li> <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5"> <a href="/6.mp3" singer="邓丽君">但愿人长久</a> </li> </ul></div>'''results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html,re.S)print(results)for result in results: print(result[1])

结果如下：

其实这里我们就可以看出

\s*? 这种用法其实就是为了解决有的有换行，有的没有换行的问题

(<a.*?>)? 这种用法是因为html中有的有a标签，有的没有的，？表示匹配一个或0个，正好可以用于匹配

re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串

re.sub(正则表达式，替换成的字符串，原字符串)

例子1

import recontent = "Extra things hello 123455 World_this is a regex Demo extra things"content = re.sub('\d+','',content)print(content)

结果会将数字替换为为空：

例子2,在有些情况下我们替换字符的时候，还想获取我们匹配的字符串，然后在后面添加一些内容，可以通过下面方式实现：

import recontent = "Extra things hello 123455 World_this is a regex Demo extra things"content = re.sub('(\d+)',r'\1 7890',content)print(content)

结果如下：

这里需要注意的一个问题是\1是获取第一个匹配的结果，为了防止转义字符的问题，我们需要在前面加上r

re.compile

将正则表达式编译成正则表达式对象，方便复用该正则表达式

import recontent= """hello 12345 world_thisfan"""pattern =re.compile("hello.*fan",re.S)result = re.match(pattern,content)print(result)print(result.group())

正则的一个整体联系

获取豆瓣网书籍的页面的书籍信息，通过正则实现

import requestsimport recontent = requests.get('').textpattern = re.compile('<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)results = re.findall(pattern, content)print(results)for result in results: url,name,author,date = result author = re.sub('\s','',author) date = re.sub('\s','',date) print(url,name,author,date)

结果如下



以上是全部内容，只是善于分享，不足之处请包涵！爬虫基本的原理就是，获取源码，进而获取网页内容。一般来说，只要你给一个入口，通过分析，可以找到无限个其他相关的你需要的资源，进而进行爬取。

我也写了很多其他的非常简单的入门级的爬虫详细教程，关注后，点击我的头像，就可以查看到。

欢迎大家一起留言讨论和交流，谢谢！